或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

前幾日，當Meta宣布爲特朗普的就職典禮捐款100萬美元，大部分人隱約覺得朱克伯格已向特朗普投降。1月7日，隨著Meta宣布將終止其第三方事實核查員機制，這個問號也不存在了。

朱克伯格。AP資料圖片

《衛報》報導，Meta正隨著美國的政治風向逐漸右傾。週二上午，Meta解散了Facebook與Instagram的第三方事實核查計劃。此外，該公司也計劃在其社群平台上推薦更多政治內容。

朱克伯格在Instagram上的一段影片中表示：「最近的選舉感覺像是一個文化轉捩點，我們必須再次優先考慮言論自由，事實核查員已經過於政治化且有偏見。」在Threads上的一篇貼文中，朱克伯格還承諾將减少「審查錯誤」，也就是减少對用戶內容進行不必要或不公平的删除或限制。

美國保守派人士曾批評Meta針對保守派內容進行審查或限制。朱克伯格表示，此次調整一定程度上受到特朗普在2024年美國總統選舉中獲勝等政治因素影響。

AP資料圖片

究竟什麽是事實核查呢？

對於網絡上的一些謠言，爲了避免傳播，Meta花錢請了第三方機構，來核查這些內容的真實性。如果發現是謠言，就會打上標簽，提醒其他人注意，也不允許它病毒式傳播。

AP圖片

這個制度的設計初衷是好的，美國的主流媒體也一直在做這件事。

但是從2016年開始，如果看美國主流媒體的話，大家就會知道，事實核查最多的一個人其實是特朗普。這對於特朗普來說是一件很不開心的事，他可能會被質疑、被禁止在社交媒體上發言等等。特朗普的賬號一度被朱克伯格封禁，這也最終導致兩人矛盾的公開化。

取消事實核查，除了投特朗普所好，還有一個原因是避免監管。

特朗普是公開反對事實核查的，他認爲社交媒體就是一個平台，大家可以暢所欲言，如果你要核查，那就是一個出版機構。對於社交媒體來說，如果接受出版監管，和媒體就沒啥兩樣了。

在去海湖莊園見特朗普之前，朱克伯格曾公開說特朗普是一個「壞蛋」，直到11月份，他發現自己今年做錯了最重要的一道選擇題。

當然，做錯了題並不重要，重要的是能否及時改正。朱克伯格在態度以及行動上，迅速彌補了這個失誤。

在朱克伯格宣佈將終止第三方事實核查計劃後，法新社同日報道稱，特朗普和馬斯克分別就此發聲。

報道稱，特朗普表示，Meta在內容審核政策上的突然轉變，包括結束在美國的事實核查，「可能」是受到他對Meta首席執行官朱克伯格威脅的影響。

報道稱，特朗普在佛羅里達州海湖莊園接受記者採訪時，對Meta這一舉措表示滿意。當被問及是否會認爲這是Meta對他威脅朱克伯格的回應時，他回答道，「可能是，是的。」

AP資料圖片

同日，馬斯克「讚揚」了朱克伯格的决定。馬斯克在其社交平台X上寫道：「這很酷。」

AP資料圖片

據悉，Meta終止其第三方事實核查計劃後，將轉而採用用戶撰寫的社區注釋模式。該計劃將首先在美國實施，取代此前由獨立第三方進行的事實核查服務。Meta公司表示，此舉是爲了减少由於核查員的偏見和過多內容被核查帶來的問題。

另外，Meta稱會解除對移民及性別等主流討論議題的限制，但會繼續針對散布仇恨和煽動暴力的言論，亦會著重處理恐怖主義、兒童性剝削及毒品等，嚴重違法的內容。

AP資料圖片

不過，有不少專家警告，這次决定可能令社交平台日後出現更多，快速散播的虛假資訊，和針對少數社群的仇恨言論。

事實上，朱克伯格做的遠遠超過大家的想像。

最近，Meta董事會增加了幾個新的董事，其中有一個大家非常熟悉，就是達納懷特（Dana White），中國小夥伴稱他「白大拿」。此人是特朗普最好的朋友之一，也是終極格鬥冠軍的總裁。兩人的關係可以追溯到2001年，當時白大拿在特朗普位於新澤西州大西洋城的賭場舉辦了一場格鬥比賽。

Dana White。AP資料圖片

白大拿是特朗普的真兄弟。不管是特朗普處於大選低谷，還是競選成功後，一個重要的節目就是去終極格鬥賽場。

而終極格鬥、橄欖球這種男性荷爾蒙爆棚的比賽，也是今年特朗普的一個競選策略，他們的目標就是吸引年輕男性。

在2016、2020、2024年連續三次的共和黨提名大會上，白大拿都是登台演講的嘉賓之一。可見他在特朗普心目中的分量。

朱克伯格說，他喜歡格鬥，Meta把這樣一個人選進董事會，也可以挖掘體育商業機會。

這些是不是胡扯並不重要，重要的是，朱克伯格用行動，向特朗普表達了誠摯的歉意，白大拿進入董事會後，他也將進一步向特朗普靠攏。

事情發展到這裏，向特朗普跪低成爲事實。