CSIS情報主任：AI工具的實用性還處於最早期階段
MoneyDJ新聞 2024-01-26 15:00:30 記者 賴宏昌 報導  彭博社週五(1月26日)報導，美國情報機構正努力應對一項艱鉅的新挑戰：確保人工智慧(AI)不會危害美國間諜。美國國家情報總監辦公室(ODNI)的一個部門正透過企業與學術機構的協助、藉以駕馭快速發展的AI技術，挑戰在於確保AI不會為國家最高機密開啟後門或產生虛假數據。
負責管理ODNI Bengal(偏見效應和顯著生成式人工智慧限制)計畫的數據科學家Tim McKinnon表示，情報界希望利用現有的大型語言模型(LLM)、但面臨許多未知因素，最終目標是能夠與值得信任的模型合作。戰略與國際研究中心(CSIS)國家安全與科技計畫情報主任Emily Harding認為，AI工具的實用性還處於最早期階段。
CNBC上個月報導，新創企業Patronus AI發現，類似ChatGPT核心的LLM經常無法回答取自證券交易委員會(SEC)公告文件的問題。Patronus AI共同創辦人Anand Kannappan受訪時表示，即使是效能最好的AI模型配置(OpenAI GPT-4 Turbo)也只有79%的答題正確率。
英國政府通信總部(GCHQ)旗下國家網路安全中心(NCSC)週三發布的報告顯示、預估到了2025年生成式AI(GenAI)和LLM將讓所有人(無論其網路安全理解程度為何)都難以評估電子郵件或密碼重設要求是否屬實。
美國國土安全部(DHS)旗下CISA、NCSC去年11月發布安全AI系統開發聯合指引，藉以協助任何使用AI的系統開發人員在開發過程的每個階段都能做出明智的網路安全決策。
Thomson Reuters報導，Palantir Technologies Inc執行長Alex Karp一年前在達沃斯受訪時表示，生成式AI可能有軍事用途，因為能夠自主產生結果的技術顯然對戰爭有用。他說，AI能力發展最快的國家未來將可發號施令。
(圖片來源：Shutterstock)
＊編者按：本文僅供參考之用，並不構成要約、招攬或邀請、誘使、任何不論種類或形式之申述或訂立任何建議及推薦，讀者務請運用個人獨立思考能力，自行作出投資決定，如因相關建議招致損失，概與《精實財經媒體》、編者及作者無涉。
|
