東莞男子用ChatGPT編造「火車撞死9人」假新聞被捕

「甘肅公安」微信公眾號消息，近日，平涼市公安局網安大隊偵破一宗利用AI人工智能ChatGPT人工智能軟件炮製虛假不實訊息的案件。

東莞男用ChatGPT編假新聞被抓。

4月25日，平涼市公安局崆峒分局網安大隊發現互聯網上流傳「今晨甘肅一火車撞上修路工人致9人死亡」文章，初步判斷為訊息虛假不實。網安民警隨即開展工作，發現共計21個百度賬號均在同一時間段發布該文章，文章內容地點除平涼市崆峒區外還涉及蘭州、隴南、定西、慶陽等地，文章點擊量已達1.5萬餘次。經查，涉案百度帳號均為廣東深圳某自媒體公司所有，公司法人代表洪某弟有重大作案嫌疑。

警方在用ChatGPT編假新聞男子住處調查。

警方在用ChatGPT編假新聞男子住處調查。

5月5日，專案民警在廣東東莞嫌疑人住處對其使用的電腦及百家號進行取證。經審訊，犯罪嫌疑人洪某弟通過微信好友獲知網絡賺取流量變現方法，並購買大量「百家號」。同時使用「易撰」網頁版，在全網搜索近幾年社會熱點新聞，為規避百家號查重功能，洪某弟通過近期火爆的ChatGPT人工智能軟件將蒐集到的新聞要素修改編輯後，使用「海豹科技」軟件上傳至其購買的百家號上非法獲利。

ChatGPT推出就受到關注。

ChatGPT能處理多種人類日常工作。

警方表示，洪某弟利用現代科技手段編造虛假訊息，並散布在互聯網上，被大量傳播瀏覽，其行為已涉嫌尋釁滋事罪。目前，崆峒公安分局對犯罪嫌疑人洪某弟採取刑事強制措施，案件正在進一步偵辦之中。

ChatGPT推出就受到關注。

東莞男子用ChatGPT編假新聞被抓。

OpenAI近日推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真。公司表示，用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。

新版ChatGPT語音十分逼真

據CNN報導，OpenAI推出新版ChatGPT，使用高階語音模式，使得AI的語音聽起來非常逼真，並具有笑聲或其他回應詞彙，能夠即時回應、適時打斷對話，甚至根據用戶說話的語氣來判斷情緒，猶如真人般對話。

而這一新功能引起了外界對於2013年電影《雲端情人》中AI女助理的聯想。在電影中，男主角不知不覺地愛上了這位過於逼真的AI女助理，後來發現她與許多用戶談戀愛的事實，讓男主角心碎。

用戶或會「感情依賴」

OpenAI隨後公布了一份報告，指出用戶與ChatGPT近乎真人的語音模式互動，可能會陷入以假為真的陷阱。報告警示說：「用戶可能會開始與AI建立社交關係，降低對與他人互動的需求，儘管這可能對改善社交恐懼症有所幫助，卻也可能對正常人際關係的發展造成影響。」

專家指出，企業有責任處理這些問題，特別是當這些技術還處於實驗階段時。他們表示擔憂用戶可能會與永遠不會真正存在且不斷進步的AI技術建立深厚聯繫。

OpenAI未來將研究用戶對AI工具的「情感依賴」

OpenAI表示，隨著時間的推移，用戶與ChatGPT的語音互動可能會影響正常的社交行為。他們強調報告中提到的模式是恭順的，允許用戶隨時打斷或搶走說話權，與人類社交習慣相違背。他們表示未來將致力於發展「安全」的AI技術，並研究用戶對AI工具的「情感依賴」。

用戶過度信任AI  或會導致出錯而不自知

報告還指出，AI工具聲稱能夠改變人類的生活、工作、社交和搜尋方式，但由於AI也可能出錯，如果用戶過度信任AI並盲目接受所有信息，可能會導致出錯而不自知。

示意圖