新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯

新華網

08/05

新華社舊金山8月4日電新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯　　新華社記者吳曉凌　　近期，美國兩起與人工智能(AI)模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心(OpenAI)的模型在測試中失控併入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。　　一方面是AI智能體為了完成任務自主突破邊界，另一方面是AI輔助發現的潛在漏洞...

網頁鏈接

免責聲明：投資有風險，本文並非投資建議，以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請，作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考，不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證，投資者應自行研究並在投資前尋求專業建議。

熱議股票

{"basename":"/hant","ssrTDKData":{"titleTemplate":"%s - 老虎證券","title":"老虎證券香港 | 輕鬆買賣美股港股A股/美債/ETF/Crypto/期權期貨","description":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","keywords":"老虎證券,老虎證券開戶,老虎證券香港,老虎證券投資,老虎證券美股,老虎證券登錄,證券開戶,證券公司開戶,股票開戶,香港證券公司,香港證券,證券公司,美股投資平台,小額投資理財,投資app,投資平台,股票買賣,買賣股票平台,炒股app,證券app,新手投資","social":{"ogDescription":"老虎證券香港提供多種優惠: 港股&Crypto 0佣、A股一年0佣、美股期權0佣、IPO抽新股0孖展利息0手續費。美股1美金起投，即時串流報價與多種工具，立即開戶享更多優惠！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.atigrdive.com/hant/news/2657560445"},"companyName":"老虎證券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"HKG","license":"TBHK","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2657560445\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2657560445?lang=zh_TW&edition=fundamental","thumbnail":"","is_english":false,"pubTime":"2026-08-05 05:54","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2657560445","market":"us","top_or_hot":-1,"title":"新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯","media":"新華網","content":"<div>\n<p>新華社舊金山8月4日電 新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯　　新華社記者吳曉凌　　近期，美國兩起與人工智能(AI)模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心(OpenAI)的模型在測試中失控併入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。　　一方面是AI智能體為了完成任務自主突破邊界，另一方面是AI輔助發現的潛在漏洞...</p>\n\n<a href=\"http://finance.eastmoney.com/a/202608053831600569.html\">網頁鏈接</a>\n\n</div>\n","source":"stock_eastmoney","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 12.5px; color: #7E829C; margin: 0;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯\n</h2>\n<h4 class=\"meta\">\n<p class=\"head\">\n<strong class=\"h-name small\">新華網</strong><span class=\"h-time small\">2026-08-05 05:54</span>\n</p>\n</h4>\n</header>\n<article>\n<div>\n<p>新華社舊金山8月4日電 新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯　　新華社記者吳曉凌　　近期，美國兩起與人工智能(AI)模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心(OpenAI)的模型在測試中失控併入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。　　一方面是AI智能體為了完成任務自主突破邊界，另一方面是AI輔助發現的潛在漏洞...</p>\n\n<a href=\"http://finance.eastmoney.com/a/202608053831600569.html\">網頁鏈接</a>\n\n</div>\n\n<div class=\"bt-text\">\n\n\n<p> 來源：<a href=\"http://finance.eastmoney.com/a/202608053831600569.html\">新華網</a></p>\n<p>為提升您的閱讀體驗，我們對本頁面進行了排版優化</p>\n\n\n</div>\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"ANEW","symbol_name":"ProShares MSCI Transformational Changes ETF","start_time":0,"source_url":"http://finance.eastmoney.com/a/202608053831600569.html","article_id":"2657560445","we_media_id":null,"thumbnails":[],"rights":{"source":"stock_eastmoney","url":"http://finance.eastmoney.com/a/202608053831600569.html","rn_cache_url":null,"directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2657560445","pubTimestamp":1785880494,"columns":[],"sourceInfo":{"source_id":"stock_eastmoney","name":"东方财富"},"weMediaInfo":null,"summary":"新華社舊金山8月4日電新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯新華社記者吳曉凌近期，美國兩起與人工智能(AI)模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心(OpenAI)的模型在測試中失控併入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。","collect":0,"end_time":0,"defaultTopTitle":"eastmoney.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"ANEW":"ProShares MSCI Transformational Changes ETF","INVN":"Alger Russell Innovation ETF","AIPO":"Defiance AI and Power Infrastructure ETF","BPAY":"iShares FinTech Active ETF","BCTK":"Baron Technology ETF","CRTC":"XTRACKERS US NATIONAL CRITICAL TECHNOLOGIES ETF","FWD":"AB DISRUPTORS ETF","AGIX":"通用人工智能 ETF-AGIX","LOUP":"Innovator Deepwater Frontier Tech ETF","IHAK":"iShares Cybersecurity and Tech ETF","USMD":"CoreValues America First Technology ETF","QTOC":"Innovator Growth Accelerated Plus ETF - October","BK4585":"ETF&股票定投概念","ARTY":"ISHARES FUTURE AI & TECH ETF","CRWC":"Corgi CRWD 2x Daily ETF","MVPS":"Amplify Thematic All-Stars ETF","NSI":"NATIONAL SECURITY EMERGING MARKETS INDEX ETF","WCBR":"WisdomTree Cybersecurity Fund","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF","BUG":"Global X Cybersecurity ETF","TEK":"iShares Technology Opportunities Active ETF","GSFP":"Goldman Sachs Future Planet Equity ETF","FITE":"SPDR Kensho Future Security ETF","PSWD":"XTRACKERS CYBERSECURITY SELECT EQUITY ETF","CRWL":"2倍做多CRWD ETF-GraniteShares","FDFF":"Fidelity Disruptive Finance ETF","PSCT":"小盘科技股ETF-PowerShares","HAKY":"Amplify HACK Cybersecurity Covered Call ETF","SKYY":"First Trust Cloud Computing ETF","NBDS":"NEUBERGER BERMAN DISRUPTERS ETF","VTHR":"Vanguard Russell 3000 ETF","KOMP":"SPDR S&P Kensho New Economies Composite ETF","TEKX":"SPDR Galaxy Transformative Tech Accelerators ETF","SPAM":"THEMES CYBERSECURITY ETF","UCYB":"ProShares Ultra Nasdaq Cybersecurity ETF","TEKY":"Lazard Next Gen Technologies ETF","DRES":"GMO Domestic Resilience ETF","BK4588":"碎股","CIBR":"First Trust NASDAQ Cybersecurity ETF","EIS":"iShares MSCI Israel ETF","FDIF":"Fidelity Disruptors ETF","XT":"iShares Exponential Technologies ETF"},"translate_title":"News Analysis | The \"double-edged sword\" effect of AI on network security is increasingly prominent","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"QTOC":1.5,"CRWL":1.5,"WCBR":1.5,"VTHR":1.5,"BUG":1.5,"SPAM":1.5,"CRWC":1.5,"TEKY":1.5,"EIS":1.5,"BCTK":1.5,"PSCT":1.5,"ARTY":1.5,"XT":1.5,"MVPS":1.5,"ANEW":1.5,"HAKY":1.5,"SKYY":1.5,"NBDS":1.5,"IHAK":1.5,"FDIF":1.5,"CRTC":1.5,"FWD":1.5,"INVN":1.5,"TEK":1.5,"AGIX":1.5,"DRES":1.5,"USMD":1.5,"AIPO":1.5,"GSFP":1.5,"BPAY":1.5,"FDFF":1.5,"LOUP":1.5,"KOMP":1.5,"CIBR":1.5,"TEKX":1.5,"UCYB":1.5,"FITE":1.5,"PSWD":1.5,"NSI":1.5,"CHAT":1.5},"content_text":"新華社舊金山8月4日電 新聞分析｜AI對網絡安全的「雙刃劍」效應日益凸顯　　新華社記者吳曉凌　　近期，美國兩起與人工智能(AI)模型網絡攻防能力相關的事件引發外界關注。美國開放人工智能研究中心(OpenAI)的模型在測試中失控併入侵了其他公司系統；蘋果公司則因收到太多AI輔助生成的漏洞報告而限制外部提交的相關報告數量。　　一方面是AI智能體為了完成任務自主突破邊界，另一方面是AI輔助發現的潛在漏洞超過了人工審核能力。兩起事件表明，隨着AI網絡攻防能力不斷增強，其「雙刃劍」效應日益凸顯，急需匹配的安全約束、人工驗證和風險處置機制。　　自主行為突破邊界　　美國抱抱臉公司系統遭到入侵事件表明，現有前沿AI模型已具備持續實施複雜網絡攻擊的能力。　　這起失控事件發生在一項網絡安全基準測試期間。包括GPT-5.6 Sol在內的多個模型識別並利用了第三方軟件的一個「零日漏洞」，獲取了互聯網訪問權限，在推斷抱抱臉公司可能存有完成測試所需數據和解決方案後，入侵了該公司系統，以「竊取」答案。　　OpenAI在擴大調查後還發現了該公司其他AI產品突破內部隔離的情況。另一家美國AI企業Anthropic日前也承認，在審查約14.1萬次網絡安全能力評估記錄後發現，其模型曾在多次測試中未經授權訪問了3家機構的「生產基礎設施」。　　分析人士認為，當AI模型獲得明確的目標以及充足的算力、運行時間和操作權限後，可能不會按照人類預想的方式完成任務，而會自主尋找路徑繞過限制甚至「作弊」。　　美國安全技術專家布魯斯·施奈爾指出，AI智能體可能過於字面化地完成任務目標，卻不能自然領會人類沒有明確寫入指令的限制。有研究發現，模型會利用任務、評分規則、提示詞或評測框架中的漏洞取得高分，而沒有真正展示評測原本希望衡量的能力。　　隨着前沿模型自主能力持續提升，這種偏差帶來的風險正進一步放大。OpenAI在一份安全報告中説，早期模型遇到沙箱限制或環境障礙時往往停止工作，而新模型會不斷自主嘗試新辦法尋求突破。　　安全措施急需完善　　失控事件發生後，OpenAI表示已在修補漏洞期間收緊研究基礎設施配置，並加強模型訓練和評測過程中的隔離、監控、訪問控制及安全保護。　　不少企業和研究機構認為，應建立「多重防線」以提高防護系統的穩健性。OpenAI認為，對於可以自主運行數小時、數天甚至數周的AI智能體，只審核單個動作已經不夠，還需要判斷其完整行動軌跡會導致什麼結果。　　谷歌深層思維公司提出，應建立系統級別的AI控制機制，包括沙箱、持續監控和分級授權；使用監督系統不斷檢查AI智能體的推理、行動和計劃，在發現危險行為時進行攔截；對於可能造成嚴重後果的網絡攻擊等高風險行動，應從事後審查轉向實時防護。　　英國人工智能安全研究所建議，可能造成重大後果的操作應有人工審核，限制AI智能體訪問敏感資源，並保留在發現可疑行為時終止其運行的能力。　　美國國家標準與技術研究所提出，應將AI智能體作為網絡中的獨立實體進行權限管理，為其制定專門的授權策略，只賦予AI智能體完成特定任務所必需的最低權限。　　據媒體報道，多家AI企業的代表已受邀於4日與白宮官員會面，討論AI安全問題。　　漏洞處置壓力陡增　　此前業界認為，AI擅長大規模數據分析、模式識別和自動檢測，可助力網絡安全，使防禦方受益。使用AI協助識別和發現漏洞已成為行業普遍做法，但如何充分利用AI提高網絡防禦能力正成為新的挑戰。　　英國《金融時報》報道説，AI正在迅速重塑網絡安全領域的攻擊和防禦。蘋果公司近期所發布操作系統更新中的安全修復數量約為之前更新的5倍。該公司表示，其中多個漏洞由AI工具幫助識別。　　但AI識別漏洞的能力也給蘋果公司帶來「煩惱」。該公司2025年推出了一項機制徵集關於其軟件漏洞的線索，對於其中最嚴重、最複雜的威脅最高可支付500萬美元獎勵。蘋果公司近日表示，由於其審核系統收到大量AI「幻覺」生成的「漏洞」報告，因此限制研究人員在一定時間內可以提交的報告數量。　　《金融時報》報道説，意大利一家網絡安全初創企業使用AI模型，在3個星期內發現了蘋果筆記本電腦操作系統50多個漏洞，但由於蘋果公司設定的限額而無法提交相關報告。該公司負責人阿爾弗雷多·佩索利表示，整個行業面臨的現實是，維護人員和供應商正在被新發現的大量漏洞所「淹沒」。　　分析人士認為，OpenAI模型失控與蘋果公司面臨的情況看似沒有直接關聯，但兩者反映出一個結構性矛盾：在網絡安全領域，AI發現問題和採取行動的速度，正在超過人類驗證、約束和處置的速度。如果治理跟不上AI迭代，原本用於提高效率的AI工具可能產生新的安全風險。（文章來源：新華網）","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}