或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

2024年美國大選，特朗普和共和黨不僅橫掃7個搖擺州，還拿下國會參議院控制權。據美《國會山莊報》截至11月11日預測數據，共和黨將獲得218個席位，再成功拿下眾議院控制權。有法媒指出，如果共和黨在眾議院的勝利最後得到確認，美國和世界將面臨「在野黨沒有制衡能力的超極權力白宮主人」。除非有共和黨人倒戈，否則特朗普的所有政策都將順利得到兩院支持。

美國國會眾議院共435個席位，兩黨均需獲得218席才能獲得眾議院控制權。內媒《觀察者網》引述美聯社較早前統計數據，截至當地時間11日，共和黨在已決出的選舉中以214比204領先民主黨10個席次，意味共和黨只需贏得眾議院剩餘17場未決競選中的4場。

外媒分析指，若共和黨眾議院獲最後勝利，取得國會參眾兩院控制權，美國和世界將面臨「在野黨沒有制衡能力的超極權力白宮主人」。AP資料圖片

美聯社和彭博社等美媒指出，隨著美西各州逐步清點選票，共和黨正一步步接近保住眾議院多數席次。在科羅拉多州第8選區，民主黨眾議員Yadira Caraveo 10日已在社交媒體X發布了一份敗選聲明，「這不是我們所希望的結果。但工作還沒結束，我期待著回到華盛頓完成本屆任期，並將繼續為本選區的選民發出獨立的聲音」。

在華盛頓州第四選區，共和黨將在一場尚未宣布勝負的競選中獲得席位，因為這是一場黨內之爭，現任共和黨議員Dan Newhouse 11日已發表獲勝聲明。

在阿拉斯加州大區，目前估計總數的80%左右已清點完畢，現任民主黨眾議員瑪麗·佩爾托拉已落後共和黨對手Nick Begich逾萬票。

在加州，共和黨在至少四個選​​區中處於領先地位，但這些選區競爭激烈，仍難分勝負。由於加州向所有登記選民發送郵寄選票並允許投出無效選票的選民進行申訴，因此計票過程比大多數州都要慢，預計最終選舉結果可能還要等上幾天才能公佈。

特朗普邀共和黨現任紐約議員Elise Stefanik擔任美國常駐聯合國代表，若提名獲確認，共和黨將在紐約失去一個席位。AP圖片

值得一提的是，特朗普已邀請共和黨現任紐約議員Elise Stefanik擔任美國常駐聯合國代表。如果她的提名得到確認，共和黨將在紐約失去一個席位。

早在國會議員選舉結果出爐前，就有多家媒體擔憂，特朗普即將成為「美國史上最有權勢的總統之一」和「超級權力總統」（all-powerful president），或在美國擁有「幾乎絕對權力」。

美國有線電視新聞網（CNN）稱，在特朗普的第二任期，幾乎沒有政治和法律限制可以制約特朗普。如果共和黨贏得眾議院的控制權，特朗普預計將以不容挑戰的權威來壟斷權力，「屆時他將國會視為一個橡皮圖章，而不是一個獨立的、平等的部門」。

西班牙《國家報》分析認為，共和黨人的全面勝利，也為特朗普帶來了「前所未有的」行政、立法和司法權力集中。最高法院目前有6名保守派法官，其中3名法官由特朗普親自任命。

多家媒體擔憂，特朗普即將成為「美國史上最有權勢的總統之一」和「超級權力總統」（all-powerful president），或在美國擁有「幾乎絕對權力」。AP圖片

今年8月，落敗的民主黨總統候選人賀錦麗就曾警告說，如果特朗普在11月獲勝，他將成為「全權掌控、全面壟斷」（all-powerful, all-encompassing）的領導者。

美國大選年除選出新總統外，參眾兩院也同時改選，選出新的國會議員，組成第119屆國會。據選舉規則，美國國會參議員任期6年，每兩年需要改選三分之一的參議員席次。參議員可連任，沒有連選限制。

本屆國會選舉，參議院一共有34個席次將進行重選。和參議院不同的是，眾議院每兩年就必須進行全面選舉。因此，眾議院435個議席將在今年大選中全數面臨改選。

美聯社、《紐約時報》等多家美媒預測，截至當地時間11日，共和黨贏得了參議院的控制權，已經獲得52個席次。若拿下眾議院，共和黨即可全面控制國會參眾兩院。路透社稱，這將為特朗普未來執政提供極大的迴旋餘地，以推行包括全面減稅、放鬆能源管制和邊境安全管控在內的政策。

但彭博社指，共和黨最終可能會以微弱多數獲得眾議院的控制權。路透社先前指出，在眾議院，微弱多數將讓執政工作變得困難。這一點在過去兩年表現得尤為明顯，眾議院共和黨人發起的「內鬥」導致了國會內的各種投票失敗和領導層動盪，削弱了該黨削減開支和收緊移民政策的努力。

共和黨籍眾議院議長邁克·約翰遜將舉行會議，以制定特朗普第二任期內立法議程的早期計劃，據透露，該計劃將主要包括支出優先事項和即將到期的2017年減稅措施。有法媒報道，特朗普明年1月20上任後，這樣的美國總統會為美國內政及世界地緣政治帶來什麼，全球都在拭目以待。