OpenClaw 是人工智慧代理中的壞男孩。以下是安全專家提醒你要提防的原因

歡迎收看《Eye on AI》，由AI記者Sharon Goldman主持。本期內容包括：OpenClaw的狂野一面……Anthropic新成立的2千萬美元超級政治行動委員會對抗OpenAI……OpenAI推出首款專為超快速輸出設計的模型……Anthropic將負擔其AI數據中心的電價上漲……Isomorphic Labs表示已突破AlphaFold之外的新生物學前沿。

推薦影片

OpenClaw過去幾週展示了AI代理可以變得多麼魯莽——並在此過程中吸引了一批忠實追隨者。

這款由Peter Steinberger開發、原名ClawdBot的免費開源自主人工智慧代理，將我們熟悉且喜愛的聊天機器人——如ChatGPT和Claude——賦予了直接與你的電腦及網路上的其他設備互動的工具與自主權。想像一下發送電子郵件、閱讀訊息、訂購演唱會門票、預訂餐廳，甚至更多——大概在你坐下來吃糖果的同時完成。

將OpenClaw賦予非凡能力來做酷炫的事情的問題是？不出所料，這也給了它許多做不該做的事的機會，包括洩露資料、執行未經授權的命令，或被攻擊者悄悄劫持，無論是透過惡意軟體還是所謂的“提示注入”攻擊（將惡意指令加入AI代理可能使用的資料中）。

本週我訪問的兩位網路安全專家表示，對OpenClaw的興奮點在於它幾乎沒有限制，基本上讓用戶可以幾乎無拘無束地自訂它。

“唯一的規則就是它沒有規則，”Zafran Security的聯合創始人兼CTO Ben Seri說，他們專門為企業提供威脅曝光管理。“這是遊戲的一部分。”但這個遊戲可能變成安全噩夢，因為規則與界限是防止駭客和資料洩漏的核心。

經典安全問題

哥倫比亞大學安全與新興技術中心（CSET）的研究員Colin Shea-Blymyer表示，安全問題相當經典。權限配置錯誤——誰或什麼被允許做什麼——意味著人類可能無意中賦予OpenClaw比預期更多的權限，攻擊者也能趁機利用。

例如，在OpenClaw中，許多風險來自開發者稱之為“技能”的部分，這些基本上是AI代理可以用來採取行動的應用程式或插件——如存取檔案、瀏覽網頁或執行命令。不同之處在於，與普通應用不同，OpenClaw會自行決定何時使用這些技能以及如何串聯它們，這意味著一個小的權限錯誤很快就可能演變成更嚴重的問題。

“想像一下用它來存取餐廳預訂頁面，並且它也能存取你的行事曆，裡面有各種個人資訊，”他說。“或者如果它是惡意軟體，找到錯誤的頁面並安裝病毒怎麼辦？”

Shea-Blymyer表示，OpenClaw的文件中確實有安全頁面，並試圖讓用戶保持警覺和意識。但安全問題仍然是複雜的技術難題，大多數普通用戶不太可能完全理解。而且，雖然OpenClaw的開發者可能會努力修補漏洞，但他們無法輕易解決代理能自主行動的根本問題——這也是這個系統如此吸引人的原因。

“這是這類系統的根本矛盾，”他說。“你給它越多的存取權，它就越有趣、越刺激——但也越危險。”

企業公司將會較慢採用

Zafran Security的Seri承認，對於像OpenClaw這樣的系統，幾乎不可能抑制用戶的好奇心，但他強調，企業公司會更慢採用這種不可控、不安全的系統。對一般用戶來說，他說，他們應該像在化學實驗室中操作高度爆炸性材料一樣小心。

Shea-Blymyer指出，OpenClaw首先在愛好者層面出現是件好事。“我們會在任何人嘗試在企業層面使用之前，學到很多關於這個生態系統的知識，”他說。“AI系統可能會以我們無法想像的方式失敗，”他解釋。“[OpenClaw]可能會讓我們了解不同大型語言模型（LLMs）行為的原因，以及新的安全問題。”

但儘管OpenClaw今天可能只是愛好者的實驗，安全專家認為它是企業最終會感受到壓力部署的自主系統的預演。

目前，除非有人想成為安全研究的對象，否則普通用戶可能應該遠離OpenClaw，Shea-Blymyer說。否則，別驚訝你的個人AI代理助手會闖入非常不友善的領域。

就這樣，這裡是更多的AI新聞。

Sharon Goldman
sharon.goldman@fortune.com
@sharongoldman

FORTUNE關於AI

Capgemini的CEO發出警告。你可能對AI的想像完全錯了——作者Kamal Ahmed

谷歌的諾貝爾級AI領導者預見“文藝復興”——經過10或15年的洗牌——作者Nick Lichtenberg

X-odus：xAI創始團隊一半已離開Elon Musk的AI公司，可能使他的SpaceX IPO計劃變得複雜——作者Beatrice Nolan

OpenAI否認監管機構聲稱其最新模型違反加州新AI安全法——作者Beatrice Nolan

AI新聞快訊

**Anthropic新成立的2千萬美元超級政治行動委員會對抗OpenAI。**根據《紐約時報》，Anthropic承諾投入2000萬美元成立超級政治行動委員會，旨在支持偏好更嚴格AI安全與規範的候選人，這將在中期選舉前引發直接對抗。資金將通過暗錢非營利組織Public First Action及其盟友的PAC流動，反對由OpenAI總裁兼聯合創始人Greg Brockman及風險投資公司Andreessen Horowitz主要支持的“引領未來”超級PAC。雖然Anthropic未直接點名OpenAI，但警告“巨大的資源”正被用來反對AI安全努力，凸顯AI產業內對於如何嚴格規範強大模型的分歧日益加深——並暗示AI治理的戰鬥已不僅在實驗室和董事會，而是在選票上展開。

Mustafa Suleyman籌劃AI“自給自足”，微軟放寬與OpenAI的合作。《金融時報》報導，微軟正朝著其AI主管Mustafa Suleyman所稱的“真正自給自足”邁進，加快建立自己的前沿基礎模型，並減少對OpenAI的長期依賴，儘管微軟仍是該創業公司最大的支持者之一。在一次訪談中，Suleyman表示，這一轉變源於去年十月微軟與OpenAI關係的重組，該重組保留了到2032年的最先進模型存取權，但也賦予ChatGPT開發者尋求新投資者和合作夥伴的更多自由——甚至可能使其成為競爭對手。微軟目前正大量投資於千兆瓦級計算能力、數據管道和頂尖AI研究團隊，計劃今年晚些時候推出自己的內部模型，專注於自動化白領工作，並用Suleyman所稱的“專業級AGI”來擴大企業市場。

**OpenAI推出首款專為超快速輸出設計的模型。**OpenAI已發布GPT-5.3-Codex-Spark的研究預覽版，這是其與Cerebras合作的首個實質性產品，利用後者的晶圓級AI硬體實現超低延遲的即時編碼。較小的模型是GPT-5.3-Codex的精簡版，優化速度而非最大能力，能將回應速度提升至15倍，使開發者能進行有針對性的編輯、重塑邏輯並進行互動式迭代，而無需等待長時間運行。最初作為ChatGPT Pro用戶和少數API合作夥伴的研究預覽版推出，這一發布標誌著OpenAI越來越重視交互速度，因為AI代理正承擔更多自主且長時間的任務——而實時編碼成為早期測試快速推理潛能的典範。

**Anthropic將負擔其AI數據中心的電價上漲。**繼OpenAI上月的類似公告後，Anthropic昨日宣布，隨著在美國擴建AI數據中心，將承擔可能由此產生的電價上漲，承諾支付所有電網連接與升級費用，啟用新的發電設施以滿足需求，並與公用事業公司及專家合作，預估並承擔任何價格影響；同時也計劃投資於降低電力使用和電網優化技術，支持其設施周邊的當地社區，並倡導更廣泛的政策改革，以加快能源基礎設施建設並降低成本，認為建設AI基礎設施不應成為普通用戶的負擔。

**Isomorphic Labs表示已突破AlphaFold之外的新生物學前沿。**隸屬於Alphabet和DeepMind的AI藥物發現公司Isomorphic Labs表示，其新推出的Isomorphic Labs藥物設計引擎在計算醫學方面取得了重大突破，通過將多個AI模型整合成一個統一引擎，能以空前的準確度預測生物分子之間的相互作用。博客文章指出，其在關鍵基準測試中的表現比之前的系統提升了兩倍以上，並在蛋白質-配體結構預測和結合親和力估算等任務中超越傳統的物理模型方法——這些能力公司認為能大幅加快新藥候選物的設計與優化。該系統建立在AlphaFold 3的成功基礎上，該模型於2024年推出，能預測所有生命分子的三維結構與相互作用，包括蛋白質、DNA和RNA。但公司表示，它更進一步，能識別新型結合口袋，泛化到訓練數據之外的結構，並將這些預測整合到一個可擴展的平台中，旨在縮小結構生物學與實際藥物發現之間的差距，可能徹底改變藥物研究如何攻克難以處理的靶點，並拓展到複雜的生物製劑。