美國國防部五角大樓爆炸、濃煙滾滾的造假照片5月22日在網上瘋傳,美股聞訊一度下跌,這可能是人工智能生成圖片影響市場的首例,引發各界進一步探討AI生成恐為人類社會帶來的問題。
五角大樓爆炸假照片。網圖
許多觀察家認為,這張疑為AI生成的照片經由多個帳號散布出去,迫使美國國防部出面澄清五角大樓並未發生爆炸。
點擊看圖輯
五角大樓爆炸假照片在Twitter上瘋傳。Twitter圖片
五角大樓傳出爆炸?美國國防部發言人說:「我們可以證實這是假消息。」
美國國防部發言人說:「我們可以證實這是假消息,五角大樓並未遭到攻擊。」
維珍尼亞州阿靈頓消防局也在社交媒體回應說,五角大樓附近並未發生爆炸或意外事件。
五角大樓爆炸假照片在Twitter上瘋傳。Twitter圖片
在此之前,近期在網上造成轟動的造假照片還包括美國前總統特朗普遭逮捕,以及教宗方濟各身穿一件很潮的白色長版羽絨外套等。
據悉,最早發放五角大樓爆炸假照片的推文,來自先前散播過假消息、力挺特朗普的極右陰謀論組織「匿名者Q」(QAnon)宣傳帳號。
五角大樓傳出爆炸?美國國防部發言人說:「我們可以證實這是假消息。」
這張假照片瞬間在Twitter上被大量轉發,包括俄羅斯新聞媒體RT和金融新聞網站ZeroHedge等,都接連分享這幅五角大樓爆炸圖,一度引發金融市場恐慌,導致美股短暫下跌,標準普爾500指數亦一度下跌0.29%,隨後止跌回升。
生成式AI技術能使業餘人士在無須使用Photoshop等專業軟件的情況下,在短時間內生成令人信以為真的照片。
此前網上流傳特朗普被捕的假照片。網圖
曾轉發這幅假照片的Twitter網頁OSINTdafender,有超過36萬名追隨者,事後就散布不實消息致歉,指出今次事件是這些人工生成圖像可以十分容易用來操控資訊空間的例子,這在將來非常危險。
美國傳媒報道,許多擁有「藍剔」認證的Twitter帳號都分享了這張符合所有AI合成影像特徵的照片,其中包括一個訛稱與彭博新聞有關的帳號。
報道說,億萬富豪馬斯克入主Twitter後,用戶只要付費即可獲得「藍剔」認證,但「藍剔」如今已無法被用來證實用戶的真實身分。
五角大樓爆炸假照片瘋傳。
荷蘭政府資料保護機構3日對美國臉部辨識技術新創公司Clearview AI處以3050萬歐元(約2.6億港元)罰款,原因是該公司被指控非法收集和建立民眾臉部影像資料庫,這被認定為侵權行為。
美AI公司網絡收集照片用於臉部辨識 違反歐盟通用資料保護規則
荷蘭資料保護局(DAP)指出,Clearview AI在未充分告知當事人的情況下收集臉部影像並建立資料庫,嚴重違反了歐盟的通用資料保護規則(GDPR)。除了已經處以的罰款外,如果不停止這種侵權行為,將可能面臨高達510萬歐元(約4396萬港元)的額外罰款。該機構還警告荷蘭企業不得使用Clearview AI的服務,否則將面臨巨額罰款。
Clearview AI:聲稱擁有全球最大的公開來源照片資料庫
Clearview AI未經允許從網路上收集臉部影像,並將這些數十億張影像出售給客戶,包括執法機關。該公司聲稱擁有全球最大的公開來源照片資料庫,用於犯罪調查和公共安全。
資料保護局局長:臉部辨識技術具有高度侵犯性
資料保護局局長沃夫森(Aleid Wolfsen)表示,臉部辨識技術具有高度侵犯性,不能隨意對待任何人。他指出,如果你在網路上有一張照片,就有可能被Clearview的資料庫追蹤。他還警告這不是電影中的末日情境,也不僅限於中國。
Clearview堅稱僅向歐盟以外的情報和調查機關提供服務,並未反對荷蘭政府的裁決,但法務長莫凱爾(Jack Mulcaire)則表示該裁決不合法,缺乏正當程序,並且公司在荷蘭或歐盟並未經營或涉及受歐盟資料保護法規管轄的活動。
Clearview已因類似問題在英國等國家遭到罰款
據悉,Clearview已因類似問題在英國、法國和意大利遭到罰款,並且在美國伊利諾州一起訴訟中達成和解,賠償金額約為5000多萬美元,但Clearview在協議中未承認任何責任。
Clearview AI公司執行長尊室歡(Hoan Ton-That)在手機上展示該公司的臉部辨識軟體。(AP圖片)