或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

馬斯克圍繞移民和言論自由等問題向歐洲主流政治投下的「炸彈」，給各國政府帶來了「麻煩」。

馬斯克。AP資料圖片

美國候任總統特朗普的政治盟友、特斯拉CEO馬斯克近期就歐洲政治問題上發表了一系列煽動性社交媒體帖子，包括在德國選舉前支持極右翼政黨、指責英國首相默許强奸行爲、譴責意大利法官以及抨擊歐盟委員會。

內地《華爾街見聞》引述《華爾街日報》報道，馬斯克發布的帖子已經演變成一場外交難題，並讓一些歐洲主流政黨措手不及。目前距離特朗普的就職典禮只有幾周時間，許多歐洲領導人一直謹慎對待公開批評馬斯克的問題，擔心這會損害與特朗普的關係，並促使馬斯克加大對他們的攻擊力度。

然而，馬斯克向他在社交平台X上發布的一系列帖子，正在主導這些歐洲國家的輿論走向。歐洲民調支持度較低的政客擔心，馬斯克可能會利用X平台在經濟增長疲軟、主流政治信任度下降和政治不穩定加劇的背景下，動員不滿的選民。

英國首相都成炮轟對象

法國總統馬克龍在周一就表示表示：「十年前，如果有人告訴我們，世界上最大的社交媒體公司之一的老闆會支持一場新的國際反動運動（reactionary movement），並直接干預選舉，包括在德國的選舉，誰能想到？」

分析認爲，馬斯克直言不諱的外交作風，突顯出美國盟友國家在應對特朗普政府時面臨的挑戰。上次特朗普主政時，各國政府不得不應對特朗普不可預測的深夜社交媒體聲明。而現在，他們還必須應對馬斯克的言論。

英國首相施紀賢。AP圖片

英國首相施紀賢周一召開新聞發布會，原計劃討論英國過度緊張的醫療體系，但他花費了大量時間反駁馬斯克關於他在十多年前擔任英國首席檢察官時，處理兒童强奸犯案件的帖子。施紀賢表示，他「不會將這個問題個人化到馬斯克或其他任何人身上」，但他也花了幾分鐘時間爲自己辯護，並譴責那些「盡可能廣泛地散布謊言和錯誤信息」的人，作出了「越界」行爲。

在施紀賢召開新聞發布會之前，馬斯克已將一條信息固定在他的X主頁頂部：「美國應該解放英國人民，擺脫他們的暴政政府。」施紀賢拒絕對此發表評論。

馬斯克還多次呼籲釋放極右翼活動家湯米•羅賓遜，後者因在英國法院藐視法庭而被監禁。馬斯克上周末與右翼改革党領導人奈傑爾•法拉奇發生爭執，原因是法拉奇表示不會支持羅賓遜加入改革黨。

歐洲政治家和商界人士經常對美國政治發表意見，例如經常批評特朗普，但這幾乎沒有人對美國選民産生影響。然而，政壇人士擔心，馬斯克可能會利用他的X平台作爲一個强有力的工具，爲他支持的政黨進行宣傳，從而改變政局。

對極右翼德國選擇黨的支持最受關注

在德國，一些政壇人士擔心，馬斯克的個人觀點可能最終會影響明年2月的選舉。去年，馬斯克稱德國總理朔爾茨爲「傻瓜」，最近幾周他又支持德國極右翼的德國選擇黨（AfD）。他本周將在X上與AfD聯合主席魏德爾進行直播聊天，並在德國一家知名報紙上發表專欄文章，稱該黨是「這個國家最後的希望之光」。

媒體報道，AfD比歐洲其他反建制、反移民政黨更爲右翼。德國國內情報機構已將AfD的部分地區分部列爲極端主義組織。該黨的選舉綱領草案表示，應取消對俄羅斯的制裁，使德國的外交和能源政策擺脫美國影響，並讓德國退出歐盟。該党一些領導人批評德國的納粹大屠殺紀念文化。

AfD高級議員萊夫-埃里克•霍爾姆表示，馬斯克的支持「是對我們在德國每天都面臨的負面宣傳的一種積極反擊」，並且「可能會改變局勢」。

特朗普的前戰略師史蒂夫•班農曾試圖在2019年歐盟議會選舉前建立一個右翼政黨網絡，但影響有限。歐洲外交關係委員會高級政策研究員何塞•伊格納西奧•托雷布蘭卡表示，馬斯克專注於歐洲國內選舉，並擁有一家社交媒體公司，可能會更成功。他說：「他認爲自己是美國民主從進步派手中拯救出來的救世主。他認爲這不應止步於美國，也應繼續擴展到歐洲。」

馬斯克未必能如願推動政治議程

然而，馬斯克仍面臨一些阻礙。例如，在英國，根據YouGov民意調查，只有26%的人對馬斯克持正面看法，這與施紀賢的支持率相同。此外，根據英國通信監管機構Ofcom的數據，X的日均活躍用戶已從2022年5月的1030萬下降到2024年5月的860萬。X自己的數據顯示，自2023年10月以來，歐盟活躍用戶數量下降了約500萬。

歐盟委員會表示，正在考慮將針對X的現有調查擴大到包括馬斯克與德國AfD的直播活動。

歐盟委員會發言人托馬斯•雷尼爾周一對記者表示：「你可以自由表達你的觀點，但這其中存在某些限制。」馬斯克此前曾表示，他將對歐盟針對X的任何調查結果提起訴訟。根據歐盟《數字服務法》，歐盟委員會可處以全球收入6%的罰款。

此外，一些歐洲官員猜測，特朗普與馬斯克之間的關係可能在執政過程中變得過於不穩定。

AP資料圖片

相比之下，意大利總理梅洛尼是馬斯克少數幾位欣賞的西歐領導人之一。自梅洛尼於2022年底上台以來，兩人已多次會面。這位意大利右翼領導人比大多數歐洲政客更認同馬斯克關於移民、出生率下降和「覺醒文化」的觀點。