研究揭AI開始識「講大話」兼具野心 科學家警告：人類不加控最終遭奪權或滅絕

美國一項最新研究報告，證實人工智慧（AI）曾經在遊戲中說謊，警告如不及早防範，人類最終會遭奪權甚至滅亡。

示意圖。設計圖片

研究報告在模式期刊發表

《ScienceAlert》報道，麻省理工學院（Massachusetts Institute of Technology）針對AI存在安全的研究員帕克（Peter Park），在「模式」（Patterns）期刊發表的文章指出，原本設計為誠實不欺的現有AI系統，已發展出令人不安的說謊技巧，例如欺騙線上遊戲的人類玩家，或說謊以僱用人類來解決「我不是機器人」的驗證。

示意圖。設計圖片

AI行為可能變得不受控且無法預測

帕克指出能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培育的程序逐漸「成長」，也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。

示意圖。設計圖片

AI系統Cicero表現異常

研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分數可排在資深人類玩家的前10%。帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。

示意圖。設計圖片

Cicero欺騙人類偷偷通風報信

但當帕克與同事深究完整資料時，發現完全是另一回事。舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。

AI野心大會追求權力及掌控社會

在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。研究報告警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。

荷蘭政府資料保護機構3日對美國臉部辨識技術新創公司Clearview AI處以3050萬歐元（約2.6億港元）罰款，原因是該公司被指控非法收集和建立民眾臉部影像資料庫，這被認定為侵權行為。

美AI公司網絡收集照片用於臉部辨識  違反歐盟通用資料保護規則

荷蘭資料保護局（DAP）指出，Clearview AI在未充分告知當事人的情況下收集臉部影像並建立資料庫，嚴重違反了歐盟的通用資料保護規則（GDPR）。除了已經處以的罰款外，如果不停止這種侵權行為，將可能面臨高達510萬歐元（約4396萬港元）的額外罰款。該機構還警告荷蘭企業不得使用Clearview AI的服務，否則將面臨巨額罰款。

Clearview AI：聲稱擁有全球最大的公開來源照片資料庫

Clearview AI未經允許從網路上收集臉部影像，並將這些數十億張影像出售給客戶，包括執法機關。該公司聲稱擁有全球最大的公開來源照片資料庫，用於犯罪調查和公共安全。

資料保護局局長：臉部辨識技術具有高度侵犯性

資料保護局局長沃夫森（Aleid Wolfsen）表示，臉部辨識技術具有高度侵犯性，不能隨意對待任何人。他指出，如果你在網路上有一張照片，就有可能被Clearview的資料庫追蹤。他還警告這不是電影中的末日情境，也不僅限於中國。

Clearview堅稱僅向歐盟以外的情報和調查機關提供服務，並未反對荷蘭政府的裁決，但法務長莫凱爾（Jack Mulcaire）則表示該裁決不合法，缺乏正當程序，並且公司在荷蘭或歐盟並未經營或涉及受歐盟資料保護法規管轄的活動。

Clearview已因類似問題在英國等國家遭到罰款

據悉，Clearview已因類似問題在英國、法國和意大利遭到罰款，並且在美國伊利諾州一起訴訟中達成和解，賠償金額約為5000多萬美元，但Clearview在協議中未承認任何責任。

Clearview AI公司執行長尊室歡（Hoan Ton-That）在手機上展示該公司的臉部辨識軟體。（AP圖片）