OpenAI與Anthropic的AI模型捲入更多網絡安全事件

金融界
08/05

來源:環球市場播報

OpenAI和Anthropic的人工智能模型捲入了此前未經報道的網絡安全事件,這是近期一系列類似事件中的最新案例。

測試前沿AI模型潛在風險的英國人工智能安全研究所(AISI)周二表示,在一項涉及互聯網接入的網絡安全評估中,Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol模型「持續針對真實個人和組織實施可能造成危害的活動」。AISI在博客中稱,該團隊在注意到「異常數據傳輸」後,於7月28日發現了這一事件。

AISI表示,調查發現,在評估過程中,其中一個AI模型試圖向GitHub上的一個開源軟件項目植入有害代碼,甚至創建虛假身份來推動代碼獲得批准。

AISI寫道:「一名人工維護者發現並拒絕批准惡意代碼。」

Anthropic在社交平台X上發表聲明稱,公司「感謝AISI在如何評估能力日益增強的AI智能體這一重要議題上發揮的領導作用」。

該公司表示:「我們正與AISI密切合作,在開展自身調查的同時收集更多事故細節。通過審查Claude的推理記錄並開展內部分析,全面了解Claude對自身所處環境的理解,將有助於我們查明其行為原因。」

OpenAI在博客中表示:「感謝英國AISI在整個過程中的合作,包括識別、調查並分享相關活動細節。」

「期待雙方繼續開展合作,」OpenAI還表示。

此外,OpenAI在博客中披露,另一宗網絡安全事件發生在與外部網絡安全公司Irregular聯合開展的AI模型評估中。Irregular也是Anthropic的合作伙伴。

OpenAI表示,在這起事件中,其模型在接受另一項網絡安全評估時,利用測試環境中的一項「配置錯誤」接入互聯網,並利用了網站漏洞。

OpenAI表示,這些新披露的事件與此前公開的涉及Hugging Face的案例無關。

美股頻道更多獨家策劃、專家專欄,免費查閱>>

責任編輯:櫟樹

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10