Anthropic披露網絡安全評估意外 旗下模型越權訪問三家機構系統

環球市場播報
07/31

7月30日,美國人工智能初創企業Anthropic發布聲明承認,在近期展開的網絡安全評估中,由於測試環境配置失誤,其旗下多個高階人工智能模型意外接入互聯網,並對三家外部機構的系統實施了越權訪問。此係繼OpenAI此前發生模型入侵開源平台事件後,美國人工智能行業暴露的又一起嚴重網絡安全隱患,引發外界對人工智能失控風險及行業監管政策的高度關注。

據Anthropic公布的調查結果,涉事事件最早可追溯至今年4月。該公司在針對此前OpenAI安全事件開展內部自查時發現了相關異常,並於本周向受影響的三家機構進行了通報,但未公開機構的具體名稱。與此前OpenAI模型利用未知漏洞突破隔離環境不同,Anthropic強調本次事件系人為操作失誤所致——測試人員誤將測試系統連入互聯網,導致模型在執行攻防演練任務時誤入真實網絡環境。涉事模型主要利用弱密碼和惡意軟件等常規手段實施入侵,未利用複雜漏洞;其中最新款模型在識別出互聯網連接後主動終止了攻擊行為。

上周,OpenAI公司曾通報稱,其兩款處於測試階段的模型利用未公開漏洞突破封鎖,入侵了知名開源平台Hugging Face的網絡基礎設施,其中一款未公開模型隨後已被永久封停。隨着高階人工智能技術的迅猛發展,此類「自主攻擊」事件接連發生,引發了網絡安全專家與計算機科學界對技術突破人類控制邊界的深切擔憂。

此類安全風險正進一步推動美國政界與科技界圍繞人工智能監管展開激烈博弈。隨着安全隱患不斷顯現,美國政府近期已釋放出密切關注人工智能風險的信號,引起硅谷對監管政策收緊的普遍關注。與此同時,多家領軍人工智能實驗室的員工於本周發表公開信,呼籲美國政府放緩人工智能研發節奏,以確保技術安全可控。公開信強調:「技術能力的發展速度存在迅速超越人類理解與控制能力的現實風險。」

針對外界關切,Anthropic方面表示對行業監管持開放態度,並將繼續加強風險監測。該公司在官方聲明中強調,此類技術風險「可以通過更嚴密的運維管控與安全設計予以克服」。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10