或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

烏克蘭軍隊「逃兵」現象加劇，不僅烏檢察機關立案數量創下紀錄，還有烏議員估計，弃離職守人數可能高達20萬，占現役35萬人的近六成，引發外媒關注。對此，烏總理什梅加爾提出，將率先將有逃稅前科者徵召入伍，但遭質疑此舉將參戰衛國等同於懲罰。

AP資料圖片

據統計，今年前10個月擅離職守或當了逃兵的烏克蘭士兵數量比戰爭前兩年的總和還要多，這凸顯出隨著俄羅斯在烏克蘭東部占領更多烏領土，基輔在補充前綫兵員方面所面臨的窘迫局面。

在今年1月至10月間，烏克蘭檢察官總計對約6萬起士兵弃離職守的行為進行了立案，幾乎是2022年和2023年立案總數的近兩倍。如果罪名成立，這些人或將面臨長達12年的監禁。

10月下旬一個最為典型的案例是，烏克蘭123旅的數百名步兵放弃了他們在東部城鎮Vuhledar的陣地。他們逃回到了家鄉所在的尼古拉耶夫，一些人在那裏舉行了罕見的公開抗議，要求在上前綫前獲得更多武器和訓練。

AP資料圖片

「我們到達Vuhledar時手中只有自動步槍。他們說會有150輛坦克，但實際上那裏只有20輛......沒有任何東西能掩護我們，」一名123旅不願透露姓名的軍官表示。

據地方當局稱，123旅的一些逃兵後來返回了前綫，其他人則躲了起來，還有一些人目前正處於審前拘留。

與此同時，雖然烏克蘭明令禁止達到服兵役年齡的成年男性離開烏克蘭，但一些人正利用被派往盟國海外訓練營的機會「開溜」。一位不願透露姓名的波蘭安全官員表示，平均每月約有12個烏克蘭士兵從波蘭的軍事訓練中潜逃。波蘭國防部已將有關逃兵的問題轉交給了烏克蘭當局。

烏克蘭議員安娜•斯科羅霍德在上周的講話中也間接證實了上述數字。斯科羅霍德表示，烏克蘭官員的管理不善和錯誤决策是導致戰場士氣低落的重要因素。「我不會告訴你逃兵和擅離職守人員的確切數目，但可以肯定的是，人數超過10萬人。」

毫無疑問，今年以來逃兵的激增已進一步加劇了烏克蘭本已嚴峻的戰場局勢。自今年夏天以來，俄羅斯軍隊正以比2022年戰事爆發初期以來任何時候都快的速度占領更多烏克蘭領土。

一些軍事分析家表示，烏克蘭無法讓後方的士兵趕赴前綫，也無法讓疲憊不堪的前綫部隊休息，這導致了人員傷亡，並嚇跑了原本可能被徵召入伍的士兵。

AP資料圖片

據上述123旅的軍官透露，在持續了近三年的戰事中，他的部隊沒有進行過一次輪換。通常，輪換時間應為四周一次，在此期間，士兵們會返回基地休息，與新兵一起訓練，並修理損壞的裝備。

媒體采訪的米科拉耶夫州和扎波羅熱州的數十名烏軍士兵也贊同這名軍官的觀點，他們表示，他們感到疲憊、沮喪，並且精神健康問題嚴重。他們指出，雖然身為烏克蘭人不希望自己的國家屈服，但許多人也沒有做好戰鬥的準備。

目前，烏克蘭武裝部隊總人數約為100萬人，不過前綫現役人員只有約35萬人。烏克蘭總參謀部的一名官員表示，大部分放弃職守的軍人都是對長期服役感到疲憊不堪的戰鬥人員，包括步兵和突擊兵。

而由於逃兵人數衆多，執法部門幾乎無法控制。為了鼓勵士兵重返崗位，烏克蘭議會於11月21日投票削弱了相關懲罰規定，允許撤銷對後來重返部隊的初犯者的指控。烏克蘭議會國防委員會議員Vadym Ivchenko表示，大約有20%的逃兵最終會回到部隊。

烏克蘭當局目前正計劃在未來三個月內再招募約16萬名士兵。但鑒於徵兵官在烏克蘭的名聲很差，且逃兵現象日益嚴重，其能否完成這一目標還不得而知。包括美國和英國在內的烏克蘭盟友近來已敦促烏克蘭當局將徵兵年齡從25歲降低至18歲，以便招募更多男性。

一名美國官員上周稱，顯而易見的事實是，烏克蘭目前無法動員或訓練足够的士兵來彌補戰場損失，同時又無法跟上俄羅斯不斷增長的軍隊。

而隨著俄羅斯在東部戰綫快速推進，分析人士警告稱，烏克蘭正在失去越來越多的領土，而且可能無法很快收復。

華盛頓智庫戰爭研究所估計，俄羅斯在2024年占領的烏克蘭領土面積為2700平方公里，而去年僅為465平方公里。烏克蘭東部平坦的地形在某些地區為俄軍推進提供了幫助，而烏克蘭缺乏防禦工事也加劇了戰爭天平的傾斜。