[科技奇點]AI代理程式爆發資安危機：企業加速部署下的風險與治理挑戰

AI代理程式快速部署下的資安隱憂

在AI代理程式快速部署的浪潮下，企業追求效率與創新的同時，潛藏的風險管理與治理問題日益凸顯。資安業者Onyx Security Inc. 在BSides Tampa網路安全會議上，強調了AI代理程式應用案例中可觀察性、治理、資安態勢管理以及運行時安全的重要性。

AI代理程式擴大資安風險

元智大學資管系助理教授王仁甫指出，AI不僅是工具，更是一套存在漏洞的系統。隨著AI代理具備自主操作、存取資料與呼叫API的能力，資安風險將從傳統系統漏洞擴大至AI代理、開源模型與供應鏈層級。此外，AI還加速了漏洞生成、攻擊自動化與惡意程式演化的速度，使得傳統的「延後修補」策略不再適用。

iThome的報導也指出，AI已被駭客大量應用於惡意程式生成與自動化攻擊，漏洞利用與攻擊工具生成速度明顯加快，病毒甚至能自動判斷受害主機的防護環境，再決定如何繞過偵測。高風險漏洞平均128天內就可能遭到大量利用，且約3至4成的高風險漏洞很快就會出現攻擊程式。

法規與國際合作的重要性

歐盟的AI Act與Cyber Resilience Act（CRA）等法規，正提高企業的資安責任，對於AI漏洞通報、高風險AI監管與供應鏈治理提出了更嚴格的要求。西班牙銀行也發布報告，警示AI技術的快速發展可能引發前所未有的網路安全威脅，呼籲全球監管機構、金融機構及技術供應商應加強國際合作，並擴大採用防護性AI模型，以共同抵禦潛在風險。

企業應建立完善的AI治理與資安管理機制

面對AI代理程式帶來的資安挑戰，企業需要建立完整的AI治理與資安管理機制，包括：

• 資料保護
• 權限控管
• 模型來源驗證
• AI決策可追溯能力

Red Hat AI 3.4的AgentOps工具，能管理從開發至生產階段的各式代理，提供整合追蹤、可觀測性、加密身分驗證與生命週期管理，有助於企業將代理從開發階段推向生產階段。此外，企業應積極取得並應用如Glasswing這類與Mythos相關的有限存取防護計畫，作為強化網路韌性的重要工具。

台灣AI治理制度相對鬆散

相較於歐盟，台灣的AI治理制度相對鬆散，對於AI漏洞通報、高風險AI監管與供應鏈治理規範仍顯不足。因此，台灣企業若要進入歐盟市場，需要提早建立符合國際規範的AI治理能力。

總體而言，企業應積極加強國際合作，擴大採用防護性AI模型，建立完善的AI治理與資安管理機制，以有效應對AI代理程式帶來的資安風險，確保AI的應用能夠在安全可控的環境下進行。

參考閱讀

AI代理程式快速部署潛藏風險 Onyx Security強調治理與安全,商傳媒 ・ 7 小時前
AI代理程式快速部署潛藏風險 Onyx Security強調治理與安全, 商傳媒
【臺灣資安大會直擊】元智大學王仁甫：AI代理與開源模型正重塑資安風險，企業需建立制度化、自動化的漏洞治…, iThome
代理式AI熱 Token需求迎爆發 – 全球財經, 中時電子報