亞馬遜無人超市被曝光猛料 AI竟是上千名廉價勞工人眼遠程監控

電商巨頭亞馬遜宣佈停用零售支付技術「Just Walk Out」，有外媒爆料稱該項技術實際上是廉價勞動力打造的假AI。

疫情催生的AI技術

「Just Walk Out」是電商巨頭亞馬遜（Amazon）在疫情期間引入的自動結賬系統，顧客只需要提前在亞馬遜平台上註冊，在超市挑選完商品即可直接拿走。貨架上的攝像頭用於捕捉並識別客人拿了哪些貨物。選購完畢後，「Just Walk Out」的AI系統就已計算好了商品和貨款，直接從客人帳戶扣錢。

觀看影片

意外狀況導致AI無法識別

然而，該項技術卻被外媒爆料，所謂的AI竟只是靠人眼識別。由於在選購過程中，客人有時並沒有把物品擺回原位，或是隨手把貨物丟下，導致AI無法識別。

AP圖片

上千印度工人遠程識別

為解決這個問題，亞馬遜配備了一大批遠端團隊，看著攝像頭連接的監控螢幕，用人眼來進行購物後的驗貨。「Just Walk Out」系統在亞馬遜美國的40多家零售店上架後，幾年下來遠程團隊聘用的印度工人竟多達1000人。

AP圖片

據知情人士透露，2022年的一份報告顯示，在這1000多名遠端團隊的印度工人裡，至少有700人負責每天高強度查看監控攝像頭，確定購物者貨物的核驗和記帳。

亞馬遜堅稱此舉並無問題

對於外界關於「Just Walk Out」系統的議論，亞馬遜的發言人表示，每個AI系統都需要人工進行修正，這並沒有什麼問題，「像許多AI系統一樣，我們的機器學習模式也在改進和反覆運算，在辨識圖像方面和演算法方面也越來越先進。我們會繼續改進Just Walk Out系統。」

美國一項最新研究報告，證實人工智慧（AI）曾經在遊戲中說謊，警告如不及早防範，人類最終會遭奪權甚至滅亡。

示意圖。設計圖片

研究報告在模式期刊發表

《ScienceAlert》報道，麻省理工學院（Massachusetts Institute of Technology）針對AI存在安全的研究員帕克（Peter Park），在「模式」（Patterns）期刊發表的文章指出，原本設計為誠實不欺的現有AI系統，已發展出令人不安的說謊技巧，例如欺騙線上遊戲的人類玩家，或說謊以僱用人類來解決「我不是機器人」的驗證。

示意圖。設計圖片

AI行為可能變得不受控且無法預測

帕克指出能深度學習的AI系統不像傳統軟體那樣由「編寫」而成，而是透過類似選擇性培育的程序逐漸「成長」，也就是說，AI的行為在訓練背景下看似可預測、可控制，但有可能轉眼就變得不受控制且無法預測。

示意圖。設計圖片

AI系統Cicero表現異常

研究始於科技公司Meta的AI系統Cicero，這套系統最初設計目的是玩一款名為「外交」（Diplomacy）的戰略遊戲，獲勝關鍵是結盟。根據2022年發表在「科學」（Science）期刊的報告，Cicero在遊戲中表現優異，所獲分數可排在資深人類玩家的前10%。帕克當時很懷疑Meta對Cicero在遊戲裡大勝的熱切描述。Meta聲稱Cicero「在很大程度上誠實且有幫助」，且「絕不會蓄意在背後搞鬼」。

示意圖。設計圖片

Cicero欺騙人類偷偷通風報信

但當帕克與同事深究完整資料時，發現完全是另一回事。舉例來說，在遊戲中扮演法國的Cicero與人類玩家扮演的德國合謀，欺騙並入侵同為人類玩家扮演的英格蘭。Cicero承諾會保護英格蘭，卻偷偷向德國通風報信。

AI野心大會追求權力及掌控社會

在另一個引人注意的案例中，科技公司OpenAI的Chat GPT-4系統謊稱自己是一個視力受損的人，在零工平台TaskRabbit上聘用一個人類替它通過「我不是機器人」驗證任務。研究報告警告，在最糟糕的情況下，具有超凡智慧的AI可能會追求權力及掌控社會，如果符合AI「不為人知的目標」，人類可能慘遭奪權、甚至滅絕。