粉絲團
資策會MIC預估，未來5年內，全球AI網路安全市場規模將超過350億美元。（路透檔案照）
〔記者徐子苓／台北報導〕人工智慧（AI）發展帶來新的資安風險，也驅動安全防護發展與商機。資策會產業情報研究所（MIC）昨舉辦研討會，探討生成式AI的應用、資安和法制議題；資深產業分析師徐暐釗預估，未來五年內，全球AI網路安全市場規模將超過三五○億美元（約台幣一．一兆）。
徐暐釗指出，AI資安威脅可分為兩類，第一類是以AI系統為攻擊目標，包含資料處理階段的資料污染，以及模型部署後的攻擊，情境例如：模型遭竊導致對抗性攻擊、提示注入導致資料外洩，以及AI蠕蟲（有自動化大量攻擊漏洞的能力）。
值得注意的是，在生成式AI中廣泛應用的RAG（應用檢索增強生成）技術，可存取企業知識庫，形成新的攻擊途徑，加上AI自主行為情境複雜且管理不易，使得零信任機制面臨極大挑戰。
第二類是駭客利用AI進行網路攻擊，如DeepFake（深偽技術）、識別系統漏洞、網路釣魚郵件等，生成式AI可加速駭客學習新知與開發攻擊程式。
資安即國安》推動AI監管法規 國際共識
而這些新興威脅也衍生了新的資安防護與商機。徐暐釗表示，資安是國安層面的議題，推動AI監管法規已成為國際共識並逐漸具體化；為此，企業須配合制定策略、流程，產出符合法規要求的評測與透明度報告，驅動可信任AI的流程與技術發展。
徐暐釗分析，這將涉及AIOps（協助IT運作的人工智慧）、攻擊偵測、弱點管理與紅隊演練等技術，直接影響AI資安新創的發展方向；觀察過去一年成長最多的AI資安新創，即是AI治理、風險與法遵等整合型資安新創，偏重模型開發階段與攻擊偵測的新創公司，也因法遵需求而發展全面性解決方案。
一手掌握經濟脈動 點我訂閱自由財經Youtube頻道
不用抽 不用搶 現在用APP看新聞 保證天天中獎 點我下載APP 按我看活動辦法
