西藏日喀則市定日縣7日發生規模6.8地震後,造成重大人員傷亡和財產損失,救援行動仍持續進行。不過,近日網絡上卻瘋傳一張有小男孩被重壓在倒塌的建築物下的相片,引發大量網友轉發,紛紛留言關注男孩的生命安全。
圖片中,一名戴著帽子的小男孩被壓在廢墟下面,全身佈滿了灰塵,還張著無辜的大眼睛,引發不少人擔憂其生命安全「有小孩被壓還不趕緊搶救」、「心都碎了」。
不過,經過媒體查證後,卻發現其實畫面是由AI產生的。
根據《央視新聞》報導,畫面中的小男孩左手為6根手指,經聯繫到該位上載相片的網友,對方也提供原始版的AI生成視頻。短視頻截圖顯示,這段視頻首度出現的時間是在2024年11月18日,並非此次西藏地震期間發布。
何先生告訴記者,自己創作這段AI圖片和視頻的起因,是看到加沙戰爭地區的孩子家園遭到破壞、流離失所,希望通過視頻傳遞和平願望。但他沒有想到,自己發佈在短視頻平台上的素材遭到他人盜用,並和西藏地震進行了關聯。
何先生說:「我不是為了拿它來宣傳、造謠,但這個網絡搬運內容的事情很惡劣。」現在他在所有平台把作品的下載功能都關閉了,就是為了防止別人盜走視頻。
記者注意到,實際上這些圖片存在諸多不合理地方,也被平台標注「疑似使用了AI生成技術,請謹慎識別」的提示,但仍被不少網友轉發。
地震救援現場牽動著全社會,而沒想到,何先生去年11月發佈的視頻被人移花接木,將此次地震相關的信息肆意拼湊,這種用災難博取流量的行為,令人憤慨。
有法律人士則提醒,用假圖連結到真實事件的行為,違背社會公序良俗,有擾亂社會秩序之嫌,恐將面臨法律處罰。
中國慈善聯合會法律顧問張凌霄說,自媒體是盜用了別人的AI製品,在抗震救災突發事件當中來博取眼球,吸引流量,構成治安管理處罰,嚴重的會構成犯罪。同時因為它利用了救災的心理,是違反社會的公序良俗和道德最基本的要求。
律師張曉玲則稱,根據相關法律法規,編造虛假的險情、疫情、災情、警情,在信息網絡或者其他媒體上傳播,或者明知是上述虛假信息,故意在信息網絡或者其他媒體上傳播,嚴重擾亂社會秩序的,處三年以下有期徒刑、拘役或者管制;造成嚴重後果的,處三年以上七年以下有期徒刑。
央視記者也試著用了一款剪輯軟件,只用30秒就生成了一則所謂的「地震報道」。
記者在一款用戶量龐大的剪輯軟件中,使用其提供的AI視頻生成功能,輸入一句關於小女孩在地震中被救出的文字描述,不到30秒鐘,軟件就生成了一段20秒左右的視頻,並提供畫外音解說。視頻中並未標注「AI生成」字樣,軟件也沒有要求用戶添加這樣的標識。
而在引發大量關注的「被壓廢墟的小男孩」圖片和視頻中,何先生也告訴記者,AI軟件沒有強制要求標注「AI生成」字樣,是自己在視頻上方添加了水印,但後來被盜用者刪掉了水印。
有人工智能研究者表示,目前亟須建立統一的規範要求,避免AI以假亂真。
毛拍手
** 博客文章文責自負,不代表本公司立場 **