或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

當地時間11月13日，法國總統馬克龍在一場有關歐洲競爭力的小組會議上發表講話，警告歐洲有可能因美國當選總統特朗普的經濟政策而分裂，同時陷入與美國和中國的「貿易戰」。馬克龍更特別提到，美國可能透過對華徵收高關稅來迫使歐洲和中國脫鉤。

據彭博社報道，馬克龍表示，下屆美國政府「將繼續非常有力地保護市場，冒著拆解歐美之間價值鏈的風險」，我們顯然正在進入一個『關稅戰』的世界。」

馬克龍警告說，美國可能透過對華徵收高關稅來迫使歐洲和中國脫鉤。(AP資料圖片)

特朗普先前提出對所有來自國外的商品徵收10%至20%關稅，這可能影響到歐洲依賴出口的產業和國家，如汽車和化學品。歐美的「爭執清單」包括拜登政府提供的「綠色補貼」、鋼鋁稅，以及波音和空中巴士之間的長期競爭。

先前歐盟在法國等國的「慫恿」下，對中國製造的電動車發起反補貼調查，這加劇了歐洲與中國之間的貿易緊張。此後，中國對原產於歐盟的進口相關白蘭地實施臨時反傾銷措施，這被認為是針對法國干邑白蘭地的反制措施。

與歐洲央行前行長、意大利前總理馬里奧（Mario Draghi）一起發表講話時，馬克龍說：「馬里奧提出的一個觀點對我來說非常重要，那就是要知道我們將如何陷入與中國的『貿易戰』，因為可能發生的一件事是，每個人都可能被徵收關稅。」

他補充說，美國可以通過「對中國徵收非常高的關稅」，迫使歐洲人更快地與中國人分開（脫鉤），但同時又告訴歐洲人——如果你更自滿，我們就會對你徵收關稅」，「到那時，歐洲人之間就會有分裂的風險，這取決於行業利益和不同國家的利益，其中一些國家非常依賴中國市場。」馬克龍說：「其他更依賴美國市場的國家，則會更快地屈服於美國聯邦政府可能施加的壓力」。

事實上，歐盟針對中國電動車加徵關稅，歐洲國家之間已產生分歧，德國及其汽車製造商強烈批評此舉措，其他一些國家也紛表反對。

德國總理朔爾茨也曾稱，產能過剩和以低於市場價格銷售商品的國家將繼續威脅歐洲。(AP資料圖片)

在馬克龍發表講話的同一日，德國總理朔爾茨也「隔空」警告稱，產能過剩和以低於市場價格銷售商品的國家將繼續威脅歐洲。朔爾茨在柏林舉行的一場鋼鐵業活動上表示，美國一直在通過大規模補貼計劃，將工業生產帶回美國。同時，他們正在用高進口關稅封鎖國內市場。

馬克龍在當地時間11月7日曾在匈牙利布達佩斯出席第五屆歐洲政治共同體領導人會議發表講話時稱，歐洲不能再當世界的「食草動物」 ，至少要成為「雜食動物」，以免成為食肉動物們的「腹中餐」。

馬克龍說，歐盟內部的職責不是去評論特朗普當選好或不好，問題是歐盟是否準備好捍衛歐洲人的利益。

據愛麗舍宮當天發布的演講原文，馬克龍說，對歐洲而言，特朗普再次當選美國總統是一個「歷史性的時刻」，「我向他（特朗普）表示了祝賀，但本質上，我認為我們在歐盟內部的職責不是去評論特朗普的當選，或評判這好或不好。」他說，「問題是：我們是否準備好捍衛歐洲人的利益？」

馬克龍稱，歐洲本身有能力書寫歷史，卻沒能充分體認到自己是一支「獨立的力量」，「我們認為應該將我們的地緣政治委託給美國，將我們的成長債務委託給我們的中國客戶，將我們的技術創新委託給美國企業。」，但他說，「這不是最好的主意。」

馬克龍還比喻：「世界由食草動物和食肉動物組成。如果我們決定繼續做食草動物，那麼食肉動物將獲勝，而我們將成為它們的市場。」

《政客新聞網》歐洲版10月31日報道，布魯塞爾方面正忙於制定特朗普再度入主白宮後的應對策略，包括若美國發動全面貿易戰，歐盟將如何反擊，以及美國撤回對烏克蘭軍事支持的潛在後果。一名不願透露姓名的歐盟官員說：「我們需要避免'貿易戰'和來自中美雙方的衝擊……我們已經遭受很多衝擊了。」