路透7月28日 - 周二，來自多家領先科技公司的1,100多名員工呼籲美國政府支持一項國際努力，旨在開發用於管控先進人工智能發展速度的工具。

此聲明發布之際，正值人工智能公司致力於研發日益強大的系統，這引發了人們的擔憂：技術發展可能超越現有的安全、治理和監管機制。

以下是更多細節：

• 這項名為「Pacing the Frontier」（掌控前沿）的倡議，彙集了Meta Platforms（META.O）、Anthropic、OpenAI以及Alphabet旗下 GOOGL.O （谷歌）的員工，並得到了非營利組織Guidelight AI Standards和Encode AI的支持。

• 聲明稱：「我們呼籲美國政府支持一項國際合作，共同開發必要的技術和治理工具，以有意識地控制自動化人工智能發展的前沿。」

• 簽署者包括Meta人工智能研究副總裁宋曉東、Anthropic聯合創始人卡普蘭（Jared Kaplan）和奧拉（Chris Olah），以及OpenAI首席科學家帕喬茨基（Jakub Pachocki）。

• 針對該聲明，OpenAI在X平台發文稱：「我們認為，未來某個時刻，前沿模型開發的人工智能加速可能達到如此之高的程度，以至於世界將需要對人工智能的進步速度進行調控。」

• 上個月，Anthropic呼籲各大AI實驗室考慮協調暫停開發 (link)，並警告稱，該技術的進步可能很快會讓AI系統以超過社會管控風險的速度進行自我改進。

• 此外，Nvidia(輝達/英偉達) NVDA.O 周一表示，已與Adobe（ADBE.O）、CrowdStrike（CRWD.O）等公司組建聯盟 (link)，共同開發人工智能安全與網絡安全工具。此前，Hugging Face近期發生的網絡安全事件 (link) 加劇了人們對自主人工智能代理的擔憂。