意大利禁ChatGPT 對OpenAI公司立案調查

意大利私隱監管機構3月31日突然宣布，即日起禁止該國民眾使用人工智能（AI）聊天機械人ChatGPT，並表示已對ChatGPT的開發商OpenAI公司展開調查。意國當局批評，ChatGPT不尊重用戶數據，且未能驗證用戶年齡。此項禁令開西方先例。

ChatGPT自2022年11月發布後迅速掀起熱潮。網上圖片

意大利數據保護局表示，從即日起禁止使用ChatGPT，並限制開發這一平台的美國OpenAI公司處理意大利用戶資訊。同時數據保護局開始就ChatGPT軟件，對OpenAI公司立案調查。該機構稱，沒有任何法律依據顯示，為了「訓練」平台背後的演算法而大規模收集及存儲個人數據是合理的。

ChatGPT CEO Sam Altman。Twitter圖片

該機構並表示，儘管根據OpenAI發布的條款，ChatGPT是供13歲以上的用戶使用，但該軟件並沒有年齡核實系統來驗證用戶年齡。數據保護局又說，3月20日ChatGPT平台出現了用戶對話數據和付款服務支付訊息丟失的情況。此外，平台未有就收集處理用戶訊息發布通知。數據保護局稱，頒發的禁令已暫時限制ChatGPT使用意大利用戶的個人數據。

ChatGPT由美國初創公司OpenAI創建，得到科技巨擘微軟的支持，自2022年11月底發布以來，迅速掀起一股熱潮，促使競爭對手也爭相推進類似產品。ChatGPT可以回答問題、編寫代碼、寫論文，或甚至可以通過困難的考試。然而，ChatGPT自推出後也引發一些爭議，教師擔心學生會利用它來作弊，政策制定官員則擔心錯誤訊息的傳播。

據悉，意大利當局允許OpenAI可在未來20天內回應，該公司在限期前可通過其在歐洲的代表，向意大利數據保護局通報該公司因應意國當局要求而採取的措施，否則將被處以最高2000萬歐羅（約1.7億港元）或相當於公司全球年營業額4%的罰款。

3月底，歐洲刑警發出警告，稱犯罪分子可能會利用ChatGPT「大幅加快對未知領域的研究程序」，包括草擬詐欺犯案計劃，或是查詢「如何闖入民宅、犯下恐怖行動、網路犯罪與兒童性侵案」的資訊。

AP圖片

OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。

新版ChatGPT語音十分逼真

據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。

而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。

用戶或會「感情依賴」

OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」

專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。

OpenAI未來將研究用戶對AI工具的「情感依賴」

OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。

用戶過度信任AI  或會導致出錯而不自知

報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。

示意圖