大視野
開發人工智能ChatGPT的OpenAI公司出現人事變動。首席執行官阿爾特曼辭職離任。
首席執行官阿爾特曼 (右) 辭職離任
OpenAI的聲明提及董事會質疑阿爾特曼，指他同董事會的溝通過程中不坦誠，有礙董事會執行職務。阿爾特曼在社交平台未有回應對他的不坦誠指控。
阿爾特曼 (右)
由於阿爾特曼近年經常成功獲取大筆融資，有部分評論認為，阿爾特曼突然離職，顯示他與OpenAI標榜人工智能發展為人類福祉的目標可能出現背馳。有西方分析亦估計，雙方在道德取態上可能有分歧。
AP圖片
OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。
新版ChatGPT語音十分逼真
據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。
#OpenAI is worried that people might start to rely on #ChatGPT too much for companionship, potentially leading to “dependence,” because of its new human-sounding voice mode.... https://t.co/sjBz082gvf
— Andy O'Donoghue (@ADODonoghue) August 11, 2024
而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。
用戶或會「感情依賴」
OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」
OpenAI Says ChatGPT Could Cause Emotional Dependence: Expert https://t.co/aNyIC8ovyO
— Creater Economy Exchange (@Creatoreconomyx) August 10, 2024
專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。
OpenAI未來將研究用戶對AI工具的「情感依賴」
OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。
OpenAI recently published a report which suggests ChatGPT users who rely on the new Voice Mode may form emotional bonds with the AI chatbot. #OpenAI #ChatGPT #ChatGPTVoiceMode #GPT4ohttps://t.co/lUw8CHhNsY
— Express Technology (@ExpressTechie) August 10, 2024
用戶過度信任AI 或會導致出錯而不自知
報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。
示意圖
