MoneyDJ新聞 2023-07-26 13:29:11 記者 賴宏昌 報導
彭博社報導，Anthropic聯合創辦人兼執行長Daniela Amodei週二(7月25日)在美國參議院司法委員會小組會議上表示，人工智慧(AI)比預期更接近超越人類智慧、甚至可能協助生產大規模殺傷性武器，中期而言、惡意行為者恐將利用AI製造生化武器。
Amodei呼籲美國透過立法以避免全球面臨電腦系統風險、稱AI演算法創造者可能也無法理解這些風險。他並且建議美國採取行動、確保AI供應鏈(從運算力供應到最終模型)安全無虞。
techcrunch.com報導，週二出席美國參議院聽證會的專家小組成員還包括加州大學柏克萊分校電腦科學教授Stuart Russell以及2018年與AI教父辛頓(Geoffrey Hinton)、Meta首席AI科學家楊立昆(Yann LeCun)一同獲得電腦科學界最高榮譽「圖靈獎(Turing Award)」的蒙特婁大學知名AI學者班吉歐(Yoshua Bengio)。
Russell週二呼籲將任何能夠做出殺人(無論規模大小)決策的演算法視為違法、並強制關閉任何違反法令的電腦系統。他並且指出，中國仿冒的大型語言模型(LLM)不會對OpenAI、Anthropic等公司構成威脅，但可以預見的是、中國的AI監控技術處於遙遙領先地位。
英國金融時報2021年11月報導，Russell在BBC電台播出的講座中發出警告，AI武器不再是科幻小說，而是正在完全不受監管的情況下迅速發展。
Russell、班吉歐皆參與人工智慧安全中心(Center for AI Safety, CAIS)以及《生命未來研究所(FLI)》關於AI風險示警的公開信連署。
BBC News 5月報導，班吉歐受訪時表示，軍隊不該擁有AI能力。
CNBC報導，Anthropic是由OpenAI前研究高階主管於2021年成立，金主包括谷歌(Google)、Salesforce以及Zoom。
(圖片來源：Shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
