AI或將有自主意識？國外科學家籲制定計劃應對各種可能

國外有哲學家與電腦科學家發表報告，呼籲AI公司應評估系統是否具備意識或自主決策能力，並建立AI福祉政策。

哲學家與電腦科學家發表針對AI報告

據《自然》期刊（Nature）報導，一群哲學家與電腦科學家近日在論文預印平台arXiv發表報告，呼籲AI公司應評估系統是否具備意識或自主決策能力，並建立AI福祉政策，以應對這些可能性。

發展辨別意識的方法

研究指出，若人們無法辨識AI是否具備意識，可能無意間忽視或傷害，甚至引發其痛苦，那麼也就會有難以預測的後果。而世人對「AI福祉」（AI welfare）需求持懷疑態度。

英國薩塞克斯大學（University of Sussex）神經學家賽斯（Anil Seth）認為，具有意識的AI出現也許還很遙遠，或不可能，但如果發生的話，影響非常深遠，不能忽視。

unsplash設計圖片

數學家美生（Jonathan Mason）認為，隨著AI技術普及，現階段應優先發展評估AI是否具有意識的方法「如果我們對如此依賴的事物知之甚少，甚至不知道它是否具有感知能力，那是非常不明智的。」

AI福祉處於過渡階段

報告指出，AI福祉處於過渡階段，作者之一費許（Kyle Fish）最近受聘於美國AI公司「人存原理」（Anthropic，暫譯） 擔任AI福祉研究員，這是頂尖AI公司中第一次出現這類型的工作職位，報告初期研究亦由該公司資助。

世人尚未重視AI或可能產生的意識

有關AI意識的研究尚未普遍受到重視，雖然有部分科學家曾呼籲支持相關研究，但今年9月，聯合國AI高級諮詢機構發布AI治理報告，也沒有談到有關AI意識的議題。

國外一家AI新創公司籌得3400萬美元（約2.6億港幣），用於推廣Basis專為會計師事務所設計、能力相當於初級會計師的AI自動化產品。

自主代理AI系統進行複雜的工作

據外媒報導，總部位於紐約的新創公司Basis專注於自主代理AI系統，這類系統利用AI技術自主執行動作，特別適合進行複雜的工作流程。Basis的產品可自動處理交易輸入、資料檢查等任務，並與熱門帳簿系統如QuickBooks和Xero無縫整合。

觀看影片

產品功能相當於一名初級會計師

旗下有450名員工的會計事務所Wiss執行長哈普（Matt Harpe）表示，Basis產品的功能相當於一名初級會計師，會計人員無需再手動逐項查核，只需檢查AI會計代理的工作成果即可，讓Wiss這樣的大型會計師事務所的工作時間減少了大概30%。

unsplash設計圖片

可緩解人力資源壓力

目前，會計行業面臨嚴重人才短缺問題，尤其是在嬰兒潮世代退休、年輕一代對會計行業興趣減退的背景下。Khosla Ventures總經理拉博斯（Keith Rabois）指出，Basis的自動化技術可緩解人力資源壓力，讓現有會計師專注於高階審查工作。

會計被視為最容易受AI影響的行業之一

美國勞工統計局數據顯示，現在美國會計行業共有300萬名員工，但參加註冊會計師考試的人數自2016年來大幅下降了33%。報導稱，會計被視為最容易受AI影響的行業之一。OpenAI的研究指出，基於大型語言模型的自動化技術未來可能有能力涵蓋會計師與審計師的所有工作內容。