ChatGPT語音太逼真？OpenAI：使用者或會產生「感情依賴」

OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。

新版ChatGPT語音十分逼真

據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。

而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。

用戶或會「感情依賴」

OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」

專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。

OpenAI未來將研究用戶對AI工具的「情感依賴」

OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。

用戶過度信任AI  或會導致出錯而不自知

報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。

示意圖

美國人工智能公司OpenAI最新推出的GPT-4o模型自星期二（3月26日）發布以來，迅速點燃全球創作熱潮。用戶紛紛測試其全新的圖像生成功能，特別是將照片轉換為日本動畫大師宮崎駿創立的吉卜力工作室風格，以及創作精美四格漫畫的能力，讓各大社交平台被這些充滿創意的AI作品充斥。

畫風獨特，技術升級
GPT-4o內置的圖像生成功能被OpenAI稱為「迄今最先進的圖像生成器」，代替了此前的DALL-E 3，成為ChatGPT默認的圖像生成工具。據《華爾街日報》報導，這項功能經過了長達一年的人工培訓，研究人員精心標註訓練數據，指出AI生成圖像中的錯誤，如文字拼寫錯誤、畫錯的手部和臉部等問題。

新模型最顯著的技術進步是「多物體綁定」能力，GPT-4o現在可以同時處理10-20個物體的場景，準確呈現文字，並能根據聊天歷史進行多次迭代，這些都是相較於DALL-E 3的重大改進。

網民用GPT-4o將網絡迷因圖生成吉卜力風格圖像。網上圖片

網民用GPT-4o將網絡迷因圖生成吉卜力風格圖像。網上圖片

雞蛋六隻，糖呢就兩茶匙，仲有啲橙皮添。

2024巴黎奧運選手變身吉卜力人物。網上圖片

2024巴黎奧運選手變身吉卜力人物。網上圖片

政治人物畫風突變可愛。

政治人物畫風突變可愛。

吉卜力風格走紅全球
GPT-4o的圖像生成功能引起關注的主要原因是其驚人的吉卜力風格模仿能力。Studio Ghibli以手繪動畫、細緻背景和富有情感的故事聞名，其代表作包括《千與千尋》和《龍貓》等經典。

用戶只需上傳照片並添加吉卜力風格的提示，如「將這張照片轉換為吉卜力風格」，即可獲得具有柔和色調、夢幻背景和動畫感的圖像。不僅是個人照片，許多網民還將經典迷因、名人照片甚至寵物照片轉換成吉卜力風格，這些作品以其精緻的細節和獨特的美學風格迅速在社交媒體上傳播。

吉卜力風格的《星球大戰》經典場景。網上圖片

《鐵達尼號》Jack與Rose變身吉卜力動畫角色。網上圖片

《星際啟示錄》

《魔戒》

四格漫畫創作大爆發
除了吉卜力風格外，GPT-4o也展現了創作四格漫畫的卓越能力。用戶只需描述四個面板中的角色、對話和情節，系統就能生成一個完整的漫畫故事。《紐約時報》報導，這項功能允許用戶「根據詳細、復雜和不尋常的指令」生成圖像，而此前的DALL-E 3無法可靠地處理如此廣泛的概念。

OpenAI的CEO Sam Altman在X平台頭像也是吉卜力風。

社交媒體效應
這股熱潮迅速風靡Instagram、X（前Twitter）和Reddit等社交平台，標籤如#GhibliStyle和#AIGhibli開始流行。就連OpenAI的CEO Sam Altman也加入了這一潮流，將自己的X平台頭像換成了吉卜力風格的自畫像，並幽默地評論道：「我花了十年時間致力於開發超級智能來治癒癌症，結果一覺醒來收到數百條消息：『看，我把你變成了吉卜力風格』」。

如何創建吉卜力風格圖片
目前，GPT-4o的圖像生成功能僅對ChatGPT Plus、Pro和Team訂閱用戶開放，但也有替代方案。用戶可以使用Grok或Gemini等免費AI工具創建類似效果的圖像。以下是使用ChatGPT創建吉卜力風格圖像的步驟：

版權與倫理討論
隨著這一趨勢的走紅，也引發了關於AI圖像生成工具使用版權創意材料的倫理問題。吉卜力工作室創始人宮崎駿本人曾對AI在動畫行業中的應用表示懷疑。OpenAI在其技術文檔中表示，新工具將採取「保守方法」來模仿各種創作者的藝術風格，並實施了一種機制，當用戶嘗試以特定藝術家的風格生成圖像時會被激活。然而，他們也指出「更廣泛的工作室風格是允許的」，這為用戶創建和分享吉卜力風格的同人藝術提供了空間。