思科（Cisco）今（16）日宣布推出「思科人工智慧防禦」（Cisco AI Defense）解決方案，助企業實現安全的人工智慧轉型。隨著人工智慧技術的進步，現有的解決方案難以應對日新月異的安全問題和威脅；「思科人工智慧防禦」解決方案專為企業打造，助力業者安心無虞的開發、部署和保護人工智慧應用程式。
人工智慧若出現問題，可能帶來極大的風險。而根據思科 2024《人工智慧準備度指數》調查，僅有 33% 台灣受訪企業認為自身有足夠能力偵測並防範人工智慧遭到未經授權的篡改。人工智慧的應用往往涵蓋多模型（Multi-model）和多雲端（Multi-cloud）環境，安全挑戰也因此變得更為複雜。漏洞可能會在模型或是應用面間發生，但責任卻分散在開發人員、終端用戶和供應商等不同角色之間。當企業不再依賴公開數據，轉而運用專有數據來訓練模型時，潛在風險亦將日益增加。
為了釋放人工智慧的創新和應用潛力，企業需要一個通用的安全防護解決方案，全面保護用戶及應用程式。「思科人工智慧防禦」可有效應對這兩大迫切風險，助力企業實踐人工智慧轉型：
開發和部署安全的人工智慧應用程式：隨著人工智慧日漸普及，企業將使用並開發數百甚至數
千種的人工智慧應用程式。開發人員需要一套適用於所有應用程式的人工智慧安全防護機制。「思科人工智慧防禦」可以在跨平台上防護人工智慧系統遭受攻擊，並保障模型行為的安全，確保開發人員能順利完成項目並釋放更大的價值。「思科人工智慧防禦」功能如下：
- 發掘人工智慧潛力：企業資安團隊需要了解應用程式的開發人員，以及他們使用的訓練資源。「思科人工智慧防禦」可有效偵測企業內外部雲端環境中未經授權或已授權的人工智慧應用。
- 驗證模型：調整模型有可能會導致有害或是意外的結果。「思科人工智慧防禦」具有自動偵測功能，可檢查人工智慧模型中各種潛在安全問題。而由人工智慧驅動並結合演算法技術的紅隊（Red Team），則能識別各種潛在漏洞，並適時建議安全團隊可採取的「思科人工智慧防禦」保護方案。
- 安全營運：持續驗證並防範潛在的安全威脅，如提示注入攻擊（Prompt Injection）、阻斷服務攻擊（DoS），以及機密資料外洩等。
確保用戶安全存取人工智慧應用：隨著終端用戶紛紛採用像是摘要工具等人工智慧應用程式來提高生產力，安全團隊必需防止資料外洩或是專有資料遭到竄改。「思科人工智慧防禦」為安全團隊提供以下功能：
- 可視性：提供員工使用的非授權或已授權人工智慧應用程式的全面檢視功能。
- 存取控制：執行政策以限制員工存取未經授權的人工智慧工具。
- 數據及威脅防護：持續防範威脅和機密資料遺失，同時並確保複合相關法規需求。
與單一人工智慧模型內建的安全防護規範不同，「思科人工智慧防禦」能針對多模型世界提供一致的控制措施，並能自動最佳化。透過思科專有的機器學習模型，並根據 Cisco Talos 的威脅情報數據為基礎，偵測瞬息萬變的人工智慧安全與防護問題。使用「思科人工智慧防禦」的 Splunk 用戶將獲得來自整個生態系統，並包含附加更多背景的增強警訊。「思科人工智慧防禦」內建於思科安全雲端中，為人工智慧驅動的統一跨域的安全平台，可與現有數據無縫整合，實現頂尖的可視性和控制能力。此解決方案更藉助思科廣泛的執行點網路（Mesh of Enforcement Points），以思科獨有的最佳化方式，在網路層級實現人工智慧的安全執行。準確與可信度對企業保護人工智慧應用至關重要，思科一直積極參與開發人工智慧安全產業標準，包括協助 MITRE、OWASP 與 NIST 等組織制定相關標準。
World Wide Technology 全球人工智慧與網路創新總監 Kent Noyes 表示：「人工智慧的採用將使企業面臨傳統網路安全解決方案難以應對的新興風險。『思科人工智慧防禦』為人工智慧安全帶來突破性的創新，讓企業能全面掌握人工智慧資產的可視性，有效抵禦瞬息萬變的威脅。」
「思科人工智慧防禦」為思科推出「思科 Hypershield」後，針對以人工智慧驅動的安全技術所取得的最新突破。「思科人工智慧防禦」將於 2025 年 3 月上市，助力企業安全實現人工智慧轉型。
