或危及人類安全？ AI聊天機器人編造的醫學論文摘要 科學家難辨真假

聊天機器人ChatGPT去年11月發佈後迅速爆紅，有科學家擔憂，其強大的功能不僅導致更難被發現的抄襲問題，更可能誤導基於科學研究的政策決定、影響社會和科學的進步，令人「細思極恐」。

聊天機器人ChatGPT去年11月發佈。AP圖片

ChatGPT是人工智能研究實驗室OpenAI在2022年11月30日發佈的全新聊天機器人模型——人工智能技術驅動的自然語言處理工具，埃隆·馬斯克有份創立這個實驗室。

ChatGPT掀起熱潮。

據介紹，ChatGPT支援中文等多國語言，能夠通過學習和理解人類的語言來進行對話，還能根據聊天的上下文進行互動，真正像人類一樣來聊天交流，也能完成撰寫郵件、視頻腳本、文案、翻譯、代碼、論文等任務。

不過，ChatGPT在掀起熱潮的同時，也引發了科學家們的擔憂。

去年12月27日，美國西北大學的 Catherine Gao 等人在預印本 bioRxiv 上發表了題為：Comparing scientific abstracts generated by ChatGPT to original abstracts using an artificial intelligence output detector, plagiarism detector, and blinded human reviewers 的研究論文。

研究團隊使用AI聊天機器人 ChatGPT 寫出了令人信服的研究論文摘要，甚至人類科學家都難以分辨真假。

事實上，自從ChatGPT發佈以來，研究人員就一直在努力解決圍繞其使用的倫理問題，因為它的大部分輸出很難與人類自己所書寫的文本區分開來。在這篇發表於預印本論文中，Catherine Gao 領導的研究團隊使用 ChatGPT 來生成研究論文摘要，以測試科學家是否能發現它們。

研究團隊要求ChatGPT根據發表在 JAMA、NEJM、BMJ、Lancet 和 Nature Medicine 這5個頂級醫學期刊上精選的論文來撰寫50篇醫學研究摘要。然後，研究團隊通過論文剽竊檢測器和人工智能輸出檢測器將這些摘要與原始摘要進行比較，並要求一組醫學研究人員找出那些是ChatGPT所編造的摘要。

結果令人驚訝，ChatGPT所編寫的摘要順利通過了論文剽竊檢查，原創性得分為100%，也就是沒有檢測到抄襲。人工智能輸出檢測器發現了33篇（識別率66%）由ChatGPT所編造的摘要，但人類審稿人並沒有能做得更好，人類審稿人只正確地識別了34篇（識別率68%）由ChatGPT所編造的摘要和86%的真正的論文摘要。也就說是，人類審稿人把32%的ChatGPT所編造的摘要識別為真實的論文摘要，而將14%的真實論文摘要識別為ChatGPT所編造的摘要。這意味著，ChatGPT在編造研究論文摘要方面，達到了人類專家都難辨真假的程度。

Catherine Gao 表示，ChatGPT寫出了令人信服的研究論文摘要，使用大型語言模型來幫助科學寫作的道德和可接受的界限仍有待確定。

這將為我們帶來一個顯而易見的難題：如果科學家都不能判斷這些由ChatGPT所編造的研究論文的真假，可能會帶來「可怕的後果」。這不僅會給科研人員帶來麻煩，因為他們閱讀的研究論文可能是由ChatGPT編造的。這也可能對整個社會帶來麻煩，因為科學研究在社會中發揮重要作用，基於科學研究的政策決定可能會受到ChatGPT編造的研究所誤導。

還有人工智能研究專家為這種依賴大型語言模型進行科學思考的方式感到擔憂，因為這些模型是根據過去的已有信息進行訓練的，而社會和科學的進步往往來自與過去不同的思維或開放思維。

因此，這篇預印本論文作者建議，那些評估研究論文和學術會議紀錄的人，應當制定政策，杜絕使用人工智能來生成文本。如果允許在某些情況下使用這些技術，應當建立明確的規則，並披露具體使用情況。

據悉，將於今年7月在夏威夷舉行的第40屆國際機器學習大會，將會宣佈禁止使用ChatGPT和其他AI語言工具撰寫論文。

在虛假信息可能危及人類安全的領域，例如醫學領域，醫學學術期刊應當採取更嚴格的方法來驗證信息的準確性。

普林斯頓大學的計算機科學家 Arvind Narayanan 表示，任何嚴肅的科學家都不太可能使用ChatGPT來生成論文摘要，使用ChatGPT的好處是微乎其微，而缺點是顯著的。解決使用ChatGPT來編造論文這一問題的方案不應該聚焦在ChatGPT工具本身，而應該聚焦在導致這種行為的動機上，比如有些大學在招聘和晉升審核時，只看論文數量，而不考慮論文的質量或影響力。

深喉

** 博客文章文責自負,不代表本公司立場 **

南韓剛剛經歷了一場「短命」戒嚴。時隔四十餘年，難道南韓又要再一次墮入軍事戒嚴的深淵？然而天還沒亮，一切就塵埃落定。

AP圖片

昨天深夜，南韓總統尹錫悅發表緊急講話，以「在野黨導致國家基本職能癱瘓、瓦解自由民主秩序」為由，宣布實施緊急戒嚴，令南韓乃至全球都陷入啞然、錯愕之中。

尹錫悅12月3日晚在首爾龍山總統府發表緊急談話，發布緊急戒嚴令。AP圖片

尹錫悅為何要這樣做？有分析稱，主要是國會和在野黨持續對他老婆發起調查。衝動和憤怒之下，尹錫悅走上了一條絕路。

今年4月份在野黨共同民主黨控制國會後，開始推動針對尹錫悅總統夫人金建希的立法和彈劾檢察官等公職人員。金建希被指控涉嫌操縱股價，而《金建希獨檢法》的提出，是南韓憲政史上的首次。尹錫悅對此態度堅决，他兩次行使否决權，阻止了法案的通過。

尹錫悅通過任命的檢察官對在野黨領袖李在明進行了一系列的調查和起訴。

11月15日，李在明因違反《公職選舉法》被判處有期徒刑1年，緩期2年執行。如果李在明被處以罰款100萬韓元以上，他將失去國會議員資格，並在5年內失去被選舉權，這意味著他不能成為下届總統候選人。

李在明。AP圖片

面對這樣的報復，李在明自然無法忍受。他呼籲民衆前往國會保護國會，並宣布尹錫悅將不再是南韓總統。這導致了國會門口的混亂局面，警方與在野黨輔佐團對峙。

在今次事件中，尹錫悅和他的妻子金建希的故事非常值得了解。

2019年7月，當尹錫悅被總統文在寅任命為南韓檢察總長時，金建希首次公開露面，她為丈夫整理西裝紐扣的形象給人留下了深刻印象。金建希比尹錫悅年輕12歲，她的外表比實際年齡更顯年輕，這讓人們好奇兩人是如何走到一起的。

兩人的婚姻是典型的晚婚，尹錫悅52歲，金建希40歲時結婚，他們沒有孩子，而是養了四隻狗和三隻猫。尹錫悅甚至在社交媒體上分享過自己作為「寵物博主」的照片。

金建希是一位事業型女性，她的簡歷令人印象深刻。她擁有博士學位和兩個碩士學位，本科就讀於南韓京畿大學美術專業，之後在南韓淑明女子大學獲得藝術教育碩士學位，並獲得了執教資格。

金建希的職業生涯同樣豐富多彩，她曾在一些學校擔任講師，並在2007年創立了一家藝術策展公司，為國際知名藝術家的作品舉辦展覽。她擁有相當多的財産，2019年南韓官員財産公開披露文件顯示，尹錫悅家的財産總額為64.3億韓元（約合3549萬港元），其中96%是金建希的。

然而，金建希的光鮮履歷差點影響了尹錫悅的政治生涯。在去年的南韓大選中，兩位主要候選人都被曝出醜聞。尹錫悅的妻子金建希被指控簡歷造假，她在2007年和2013年申請教職時所寫的任職履歷和獲獎事實有虛報或誇大成分；她的碩士論文也被指控抄襲，查重率高達40%。

金建希的簡歷醜聞發酵後，尹錫悅首先出面道歉，隨後金建希也在公開場合道歉。她承認自己為了充實簡歷而造假，並表示對此感到羞愧。韓聯社報道，金建希希望民衆不要因為她的事情而譴責尹錫悅，她感到非常痛苦。她說：「我將在大選到來前的日子裏認真檢討、反省，謹慎做人。如果丈夫當選總統，我也將一心做好妻子的角色。」

金建希近年的醜聞

履歷造假：金建希被指控在向南韓5所大學提交的簡歷中，有一半以上的內容與事實不符。簡歷內的22項內容中有12項被證實造假，包括任職經歷和獲獎經歷等。儘管如此，南韓警方認為這些造假內容與大學招聘的核心條件無關，因此不構成詐騙罪，决定不追究金建希的刑事責任。

碩士論文抄襲：金建希的碩士論文被指控抄襲，查重率高達40%。此外，由南韓私立大學教授聯合會等團體組成的「檢驗團」公開了針對金建希的博士論文和學術期刊上發表的3篇論文的調查結果，稱「所有論文都屬抄襲，其水平也不能被認定為學位論文」。

電話錄音泄露：金建希與「首爾之聲」的一名記者長達7個小時的電話錄音泄露，內容涉及金建希賄賂記者，讓其幫助尹錫悅競選總統，並承諾事後給記者1億韓元。

佩戴昂貴首飾：金建希在參加北約峰會期間，佩戴的價值約為6000萬韓元（約合33萬港元）的項煉以及其他2件價格昂貴的首飾，引發了爭議。

收受名牌包：金建希被曝出收受旅美牧師崔在英（音譯）一款名牌包包的受賄醜聞。視頻顯示，2022年9月13日，金建希收受崔在英一款價值約300萬韓元的迪奧包。

涉嫌操縱股價：金建希被指控涉嫌在2009年至2012年間參與操縱寶馬汽車在韓經銷商德意志汽車公司的股價，獲得了相當於10.5億韓元的利益。