ChatGPT虛構6案例 紐約律師信以為真引用或面臨停牌

ChatGPT 害執業30年的資深律師也中招！美國紐約一名律師使用AI聊天機器人ChatGPT搜集資料並作為案例呈交法官，結果被發現其援引的6宗案例以及文章內容都是虛構的。律師承認自己沒有核實信息並為此道歉，雖然沒有先例，不過該律師恐面臨停牌處分。事件引發了法律界對於人工智能工具在法律研究中適當使用的討論，以及做出相關措施來以防止類似情況發生。

AP圖片

據美國有線電視新聞網（CNN）28日報道，男乘客馬塔對哥倫比亞航空公司提起訴訟，稱自己2019年搭乘該公司航班飛往紐約市途中，空服人員疏忽導致他膝蓋被客艙內推車撞傷。

馬塔的代理律師是已有30多年從業經歷的紐約市律師施瓦茨（Steven Schwarz）。為支持馬塔訴求，施瓦茨向法官凱文·卡斯特爾提交了多個所謂類似案例及其判決結果。

示意圖

今年4月，哥倫比亞航空公司的律師致信法官，質疑施瓦茨所提交案例信息的真實性。據美國《紐約時報》報道，律師之一巴尼諾說，他的律師行的律師精通航空法律，看出那些信息不實。他說，他們當時隱約感覺那些信息來自ChatGPT。

被ChatGPT騙了 律師後悔

施瓦茨本月25日在宣誓書中承認，曾依賴ChatGPT搜索資料，結果證明來源不可靠。他表示「非常後悔使用生成式AI來補充法律研究」，他強調自己無意欺騙法庭或航空公司，又稱以前從未這樣做過。他是第一次用ChatGPT協助辦案，「沒有意識到內容偽造的可能性」。

AP圖片

據悉，施瓦茨詢問ChatGPT案例的真實性，ChatGPT再三確定這些案例為真實，且在「可信的法律數據庫」中可以查找到。

施瓦茨在書面表示「深表懊悔」，願意承擔相關責任，承諾今後「沒有完全核實」就不會使用聊天機器人提供的信息。

法官卡斯特爾本月4日在一份書面文件中寫道，那6個案例的判決結果、引語等都是假的，該情況「史無前例」。他下令6月8日就處罰施瓦茨舉行聽証會。施瓦茨目前面臨何種懲罰尚未明確，最嚴重的情形可能是被停牌。

資料圖片

OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。

新版ChatGPT語音十分逼真

據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。

而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。

用戶或會「感情依賴」

OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」

專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。

OpenAI未來將研究用戶對AI工具的「情感依賴」

OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。

用戶過度信任AI  或會導致出錯而不自知

報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。

示意圖