商傳媒｜吳承岳／台北報導
日本政府數位廳推動「政府AI」計畫，其中一環為政府共用生成式AI（Generative AI）基磐「源內（GENNAI）」的試用。Customer Cloud公司雀屏中選，成為提供國內大型語言模型（LLM）的供應商。該公司近日宣布推出「CC AGI Security」安全架構，旨在確保AI時代下企業AI基磐與數位服務的安全性。
隨著生成式AI普及，越來越多企業傾向建構專屬AI基磐（本地LLM），用於開發和營運AI服務與產品。然而，AI系統與現有網路服務及雲端系統的整合日益頻繁，也衍生出新的資訊安全挑戰。
Customer Cloud表示，AI普及帶來了新的安全風險，例如提示注入（Prompt injection）等AI特有的攻擊手法、未經授權存取AI模型與訓練資料、資料污染（Data Poisoning）、AI代理程式的誤動作或濫用，以及針對AI系統的新型網路攻擊。此外，由於AI應用程式經常與網路服務及雲端系統協同運作，因此整合AI基磐與既有系統的整體安全防護措施至關重要。
「CC AGI Security」涵蓋AI基磐及整體數位服務，旨在確保企業AI基磐（本地LLM）、AI應用程式，以及一般網路服務與雲端系統的安全性。其主要範圍包括：
- AI基磐安全：驗證企業專屬AI基磐（本地LLM）及AI模型的安全性。
- AI應用程式安全評估：檢測AI代理程式與AI服務的行為。
- 網路服務與雲端系統安全：驗證一般網路應用程式與雲端環境的安全性。
Customer Cloud強調，該架構能因應AI與既有系統整合的新型架構，為AI時代的數位服務提供必要的安全防護。
Customer Cloud也積極推動AI在社會與產業基磐的應用。該公司長期以來專注於政府與企業的AI基磐開發，並已推出「CC LLM」（為企業建構專屬AI基磐）、「CC AI Factory」（持續開發AI服務）等模型。本次發布的「CC AGI Security」，是著眼於AI基磐的普及，為AI系統及整體數位服務建立安全領域的措施。
Customer Cloud未來將致力於AI系統安全評估、AI安全研究、強化AI開發環境的安全性，並舉辦AI安全研討會。
Customer Cloud代表取締役社長木下寛士表示，該公司以澀谷為據點，整合AI生產工廠、AGI技術、集團經營，以及BytePlus等全球基礎設施，目標是重建日本的AI產業，並將澀谷打造成為「第二個比特谷（Bit Valley）」的震央。
