研究揭AI開始識「講大話」兼具野心 科學家警告：人類不加控最終遭奪權或滅絕

美國一項最新研究報告，證實人工智慧（AI）曾經在遊戲中說謊，警告如不及早防範，人類最終會遭奪權甚至滅亡。

示意圖。設計圖片

研究報告在模式期刊發表

《ScienceAlert》報道，麻省理工學院（Massachusetts Institute of Technology）針對AI存在安全的研究員帕克（Peter Park），在「模式」（Patterns）期刊發表的文章指出，原本設計為誠實不欺的現有AI系統，已發展出令人不安的說謊技巧，例如欺騙線上遊戲的人類玩家，或說謊以僱用人類來解決「我不是機器人」的驗證。

示意圖。設計圖片

AI行為可能變得不受控且無法預測

帕克指出能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培育的程序逐漸「成長」，也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。

示意圖。設計圖片

AI系統Cicero表現異常

研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分數可排在資深人類玩家的前10%。帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。

示意圖。設計圖片

Cicero欺騙人類偷偷通風報信

但當帕克與同事深究完整資料時，發現完全是另一回事。舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。

AI野心大會追求權力及掌控社會

在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。研究報告警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。

國外一家AI新創公司籌得3400萬美元（約2.6億港幣），用於推廣Basis專為會計師事務所設計、能力相當於初級會計師的AI自動化產品。

自主代理AI系統進行複雜的工作

據外媒報導，總部位於紐約的新創公司Basis專注於自主代理AI系統，這類系統利用AI技術自主執行動作，特別適合進行複雜的工作流程。Basis的產品可自動處理交易輸入、資料檢查等任務，並與熱門帳簿系統如QuickBooks和Xero無縫整合。

觀看影片

產品功能相當於一名初級會計師

旗下有450名員工的會計事務所Wiss執行長哈普（Matt Harpe）表示，Basis產品的功能相當於一名初級會計師，會計人員無需再手動逐項查核，只需檢查AI會計代理的工作成果即可，讓Wiss這樣的大型會計師事務所的工作時間減少了大概30%。

unsplash設計圖片

可緩解人力資源壓力

目前，會計行業面臨嚴重人才短缺問題，尤其是在嬰兒潮世代退休、年輕一代對會計行業興趣減退的背景下。Khosla Ventures總經理拉博斯（Keith Rabois）指出，Basis的自動化技術可緩解人力資源壓力，讓現有會計師專注於高階審查工作。

會計被視為最容易受AI影響的行業之一

美國勞工統計局數據顯示，現在美國會計行業共有300萬名員工，但參加註冊會計師考試的人數自2016年來大幅下降了33%。報導稱，會計被視為最容易受AI影響的行業之一。OpenAI的研究指出，基於大型語言模型的自動化技術未來可能有能力涵蓋會計師與審計師的所有工作內容。