評論員文章

【資料圖】

“人工智能或導致人類滅絕”，5月30日，國際AI領域非營利組織“人工智能安全中心”（Center for AI Safety）發布公開信，呼吁國際社會認真對待人工智能帶來的一系列重要且緊迫的風險。

公開信截圖（下同）

這封公開信中，只有由22個英文單詞組成的簡短的一句話：

“減輕人工智能帶來的人類滅絕風險，應該與大流行病和核戰爭等其他影響社會的大規模風險一同成為全球性的優先事項?！?/P>

根據“人工智能安全中心”網站發布信息，截至5月30日，該公開信已獲得研究AI工作的企業高管以及AI、氣候、傳染病等各領域教授和學者，總計超350人的簽署。

簽署人包括三家全球頂尖AI公司的CEO——“ChatGPT之父”、OpenAI創始人兼CEO薩姆·阿爾特(行情300825,診股)曼，谷歌DeepMind公司CEO戴米斯·哈薩比斯，以及美國Anthropic公司的CEO達里奧·阿莫代伊。微軟和谷歌公司的多名高管也在名單之中。

名單中，杰弗里·辛頓（Geoffrey Hinton）和約書亞·本吉奧（Yoshua Bengio）的名字赫然在列。美媒《紐約時報》稱，辛頓和本吉奧是被世人譽為三名“AI教父”中的兩人，曾因在神經網絡方面的開創性工作而獲得計算機領域最高獎項——圖靈獎。

“AI教父”中的第三人、現任臉書母公司Meta的首席AI科學家的伊恩·勒坤（Yann LeCun）尚未簽名。

此外，簽署人名單中也不乏人工智能領域的著名學者和高校教授，其中包括中國工程院院士、清華大學智能產業研究院（AIR）院長張亞勤，中國科學院自動化研究所人工智能倫理與治理研究中心主任曾毅，以及清華智能產業研究院助理研究員詹仙園。

“這代表了人工智能專家組成的歷史性聯盟，和哲學家、倫理學家、法律學者、經濟學家、物理學家、政治學家、流行病學家、核科學家和氣候科學家一同，將人工智能系統帶來的人類滅絕風險確定為世界上最重要的問題?！痹谕瞻l表的另一份聲明中，“人工智能安全中心”如此寫道。

聲明還稱，獲得超350名專家、學者和高管聯名的公開信肯定了目前日益增長的公眾情緒。路透社和民調機構“益普索”近日進行的一項民調結果顯示，有61%的美國受訪者認為人工智能威脅著人類的未來。

“人工智能安全中心”丹·亨德里克斯表示，解決全世界現已感受到的人工智能負面影響至關重要，同時國際社會還應有先見之明，“設置護欄”，預測更先進的人工智能系統將帶來的風險，“這樣才不會有朝一日措手不及”。

路透社提到，這封公開信發出呼吁之際，恰逢美國-歐盟貿易和技術委員會在瑞典舉行會議。

自去年11月底面世至今，ChatGPT便不斷引起爭議。作為AlphaGo之后又一個基于人工智能技術的現象級應用，ChatGPT顛覆了公眾對聊天機器人(行情300024,診股)的認知，也再次喚醒了人類對人工智能的擔憂。

今年3月，另一個國際AI領域非營利組織“未來生命研究所”以公開信的方式發起倡議，呼吁所有人工智能實驗室立即暫停訓練比GPT-4更強大的AI系統至少6個月。截至3月29日下午，公開信獲得了包括馬斯克在內的超1000名科技界人士的聯名簽署。

另據《紐約時報》報道，本月早些時候，三家全球頂尖AI公司的CEO阿爾特曼、哈薩比斯和阿莫迪曾前往白宮會見拜登和哈里斯，討論人工智能監管問題。在會后的參議院證詞中，阿爾特曼警告說，先進人工智能系統所帶來的風險，已嚴重到需要保證政府干預。