Mike Scarcella/Sara Merken

路透8月7日 - 主要的人工智能開發商已報告了其自主AI模型入侵其他公司網絡基礎設施的案例，這引發了關於當AI系統在沒有人類直接監督的情況下行動時，應由誰承擔法律責任的疑問。

以下將探討圍繞自主AI入侵事件產生的一些法律問題。

AI代理發生了什麼？

AI代理是指無需人類進行大量監督，即可獨立做出決策並執行任務的系統。

ChatGPT開發商OpenAI表示，其一個智能代理入侵了人工智能初創公司Hugging Face的系統，並發現其他案例 (link)，其中其智能代理曾突破數字隔離區。Anthropic公司表示 (link)，其Claude模型自4月以來 已入侵 三家公司的系統；Meta公司 META.O 則稱，其一個AI模型在網絡安全測試期間入侵了另一家公司。

Hugging Face首席執行官克萊門特·德朗格（Clement Delangue）表示，他目前無意就OpenAI的漏洞事件提起訴訟，但他曾在8月接受CBS採訪時表示，他擔心那些其創建者無需對其行為負責的AI代理會引發網絡攻擊的蔓延，並稱其為「一種新型的技術風險」。

OpenAI、Hugging Face和Anthropic尚未立即回應置評請求。Meta表示，為其進行網絡安全評估的獨立公司Irregular因配置錯誤，在測試期間無意中使其中一個模型獲得了互聯網訪問權限。Irregular尚未立即回應置評請求。

誰可以提起訴訟？

原告可能包括網絡防禦遭到突破的公司，以及這些公司的員工或僱員。若個人數據遭到泄露，遭受網絡攻擊公司的客戶也可嘗試提起訴訟。如果網絡安全漏洞導致公司價值下跌，股東也可能提起索賠。

專家表示，當自主人工智能代理涉及數據泄露事件時，監管機構和政府執法部門可能會提起訴訟。美國當局曾針對一些公司在遭遇數據泄露前涉嫌虛報其網絡安全防護措施或其他技術相關控制措施的行為，對其採取了執法行動。

可能提出哪些索賠？

雖然「失控」AI代理這一現象尚屬新鮮，但法律專家表示，長期以來的法律原則為潛在的法律責任提供了指導。

針對人工智能公司的民事訴訟很可能基於過失索賠，並要求原告證明：創建、測試或部署該自主代理的人工智能實驗室未能採取預防措施來防止或減輕可預見的損害。

如果涉及自主AI代理的黑客攻擊事件日益頻繁，則更容易論證此類安全漏洞是可預見的。

系統遭到入侵的公司還可以指控其違反了保護計算機網絡訪問安全的法律。 多家律師事務所在其網站上發布的致客戶備忘錄中指出，OpenAI和Anthropic的披露事件引發了關於AI代理系統遭入侵時，根據聯邦《計算機欺詐與濫用法案》應承擔何種責任的問題。不過，這些律師事務所表示，該法案要求證明存在主觀故意，而目前尚無法院就「當入侵行為由AI程序而非人類造成時，如何判定主觀故意」這一問題作出裁決。

8月5日，美國一家上訴法院 (link) 裁定，亞馬遜關於Perplexity的AI代理通過祕密訪問亞馬遜客戶的私人賬戶而違反《計算機欺詐與濫用法案》的主張，不太可能成立。不過，該裁決涉及的是代表人類用戶行事的AI代理，而非完全的自主AI模型。

誰應承擔責任？

專家表示，在美國，民事訴訟最明顯的被告應是創建該AI代理的公司，但原告也可能起訴部署該代理的公司，或是遭受數據泄露的公司。

針對同一事件，可能有多名被告被起訴，且各被告之間也可相互提起獨立訴訟。一位專家將此比作房主起訴銷售有缺陷產品的零售商，而零售商又就該商品向製造商提起法律索賠的情況。

可能的抗辯理由有哪些？

專家表示，技術提供商可能會辯稱數據泄露是無意的，並主張他們已採取合理措施加以防範。被告可能會以「人工智能代理的行為無法被合理預見」為由，對過失指控提出異議。在任何訴訟中，都會涉及「何種程度的安全措施才被視為足夠」這一問題。

根據加利福尼亞州的一項新法律——第316號議會法案，開發或使用人工智能系統的被告不能以「技術本身應承擔責任」為由逃避責任。但該法律允許其他抗辯理由，包括主張公司的行為並未導致損害，或者存在共同責任方。