商傳媒｜吳承岳／台北報導
隨著人工智慧（AI）技術快速發展，企業為追求效率正加速將 AI 整合至營運流程中。然而，這種快速導入的趨勢也暴露出資安隱憂，特別是日本企業在網頁服務開發中過度依賴 AI，導致產品功能正常但安全漏洞百出的情況，引發業界警惕。《東洋經濟線上》指出，這顯示出日本企業在 AI 應用上一面倒策略的弱點。
AI 快速部署下的潛在資安風險
AI 技術在軟體開發中的應用，例如自動化程式碼生成、文案撰寫、圖像設計等，確實能大幅提升效率。然而，其潛藏的資安風險卻不容忽視。根據 Gamescom（德國科隆舉辦的遊戲展會）一項針對遊戲開發者的調查顯示，有高達 37% 的受訪者對未受監控的 AI 程式碼生成提出警告，認為這可能導致後續大量的除錯成本。更有 71% 的工作室已實施嚴格的內部指南，限制使用未經審查的公開 AI 模型，以保護其專有遊戲程式碼和角色設計免受意外數據洩漏的風險。
這些擔憂不僅限於程式碼本身，也延伸至 AI Agent（能自主執行任務的人工智慧程式）的應用。如 Claude、ChatGPT、Gemini、Cursor 和 Copilot 等 AI Agent 已在許多企業中並行運作，但其核心資產——例如提示詞、規則集和記憶體檔案——卻常分散於個人資料夾或各供應商的設定頁面中。總部位於東京的科技公司 untactit 強調，這種分散狀態缺乏有效的盤點、審批與修改記錄，形同內部控制的「黑洞」。該公司比喻道：「程式碼的版本管理在 30 年前就已解決，但對於驅動正式系統的 AI Agent 指令集，許多團隊至今仍依賴共享資料夾和期望。」
業界的應對策略與解決方案
面對 AI 導入帶來的挑戰，產業已開始採取行動。Gamescom 的調查顯示，44% 的中大型工作室已設立新的內部監督職位，專責處理提示詞工程、模型微調及智慧財產權（IP）合規安全。這些措施旨在平衡 AI 帶來的效率與潛在的風險。
為解決 AI Agent 資產管理的痛點，untactit 今日推出其「AI Agent 資產控管平台」的日本語版本。這套平台設計了三層架構來強化內部控制：
- 盤點（Inventory）： 能讀取企業內部現有資料夾和供應商帳戶中的 AI 資產，建立可搜尋的統一索引，並在不同供應商間進行重複檢測。為確保安全性，連接預設為唯讀模式，不會修改現有內容。
- 治理（Governance）： 將個人層級與公司層級的資產區隔，所有進入公司層級的修改都須經審批。所有變更都歸屬於個人而非 API 金鑰，並記錄在不可竄改的稽核日誌中。平台提供管理者、審批者、編輯者、瀏覽者四種權限角色，並在伺服器端強制執行，確保合規性。
- 分發（Delivery）： 允許企業決定將哪些核准的資產分發給哪些工具和人員，並同步推送到所有終端裝置。若偵測到與核准版本不符的本地副本，將會發出警示。
透過這些控管措施，企業得以在享受 AI 帶來的便利性之餘，也能有效管理資安與合規性風險。隨著 AI 應用日益普及，對台灣企業而言，借鏡國際經驗，在追求開發速度的同時，建立健全的 AI 治理與資安防護機制，將是確保其在數位時代競爭力的關鍵。
