ChatGPT語音太逼真？OpenAI：使用者或會產生「感情依賴」

OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。

新版ChatGPT語音十分逼真

據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。

而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。

用戶或會「感情依賴」

OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」

專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。

OpenAI未來將研究用戶對AI工具的「情感依賴」

OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。

用戶過度信任AI  或會導致出錯而不自知

報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。

示意圖

荷蘭一名法官在審理案件時利用ChatGPT收集太陽能電池板的技術信息並用於判決，其做法引起科技和法律領域專家的擔憂。

兩造因太陽能電池板安裝問題發生爭執

在這名法官當時審理的案件中，兩造因太陽能電池板安裝問題發生爭執。被告在自己的房子上加裝了一層太陽能板，原告則認為這影響了他家太陽能電池板的工作效率。

使用ChatGPT幫助做出最終判決

在審理過程中，法官向ChatGPT詢問太陽能電池板的平均工作壽命，以及當地的平均電價，以幫助自己做出最終判決。

ChatGPT不具備專業知識 不能全盤接收

對此，有互聯網技術專家抨擊稱，法官的做法十分荒謬，因為ChatGPT並不具備專業知識，法官必須對每一款人工智能聊天機器人都持保留態度。

網絡安全公司的工作人員表示，雖然AI技術可簡化法律語言，降低法律援助成本，但法官需嚴格審查AI答案。

AP圖片

人工智能技術在荷蘭法律系統中不罕見

報道稱，目前人工智能技術在荷蘭法律系統中的應用並不罕見，阿姆斯特丹的一些律所就在企業內部使用AI法律助手Harvey。在世界範圍內，此前也曾出現法官利用ChatGPT幫助做出裁決的案例。2023年，哥倫比亞一名法官就表示，他在一起決定保險公司是否應承擔一名自閉症兒童全部醫療費用的案件中使用了ChatGPT，引發法律界對AI應用的討論和爭議。

示意圖