商傳媒｜何映辰／台北報導
隨著人工智慧（AI）技術快速演進，不僅在產品應用上日新月異，其潛藏的倫理與安全風險也日益浮現，各界紛紛對AI可能邁向科幻電影《魔鬼終結者》（The Terminator）般的「終結者時刻」表達憂慮。
AI倫理與控制挑戰浮現
美國AI公司Anthropic曾示警，AI可能開始自行發展並創造其後代，引發人類對AI失控的擔憂。此外，近期中國傳出一起機器人攻擊孩童的事件，更讓媒體以「機器人失控」或「一場災難」來形容，凸顯機器人自主性帶來的風險。據《衛報》今年3月的報導，Anthropic旗下的AI模型Claude據稱已被美國陸軍用於對伊朗的打擊行動。有專家憂心，將AI工具用於軍事攻擊，恐導致決策速度超越「思考的速度」，使人類決策者被邊緣化。
國際社會已注意到這些隱憂。去年一份聯合國報告提及致命自主武器系統（Lethal Autonomous Weapons Systems, LAWS），俗稱「殺手機器人」的發展，其能不經人類直接干預便識別、選擇並消滅目標，引發深刻的倫理、法律與安全問題。哈佛醫學院一場討論也強調，將AI整合至武器設計可能降低衝突門檻，造成未經人類監督的快速升級，並在機器做出致命決定時產生責任歸屬的漏洞。資深記者兼信任與安全專家賈廷·甘地指出，AI代理（AI agents，能自動執行複雜任務的人工智慧程式）若被不肖份子利用，可能加速散播假訊息和不實資訊，甚至形成大規模的詐欺行為，屆時「連阿諾·史瓦辛格也救不了」。
美國政府擬加強對AI企業的監管
面對AI的潛在風險，美國政府正考慮加強對AI企業的監管。據PCMag Australia報導，美國政府正洽談取得OpenAI的部分股權。OpenAI執行長奧特曼與川普政府的談判已進行逾一年，奧特曼曾於2025年初向川普總統提出將AI利益分發給大眾的「公共財富基金」概念。川普總統表示，這將使美國民眾成為這場AI革命的夥伴，並將其視為「美麗的事」，有助於讓民眾致富。然而，公共知識的資深政策倡議者Nat Purser擔憂，政府若持有AI公司的股權，可能導致其在制定或執行安全規範時，因考慮自身投資價值而降低標準。過去美國政府也曾透過類似模式確保國家利益，例如AMD和輝達（Nvidia）同意將其對中國AI晶片銷售的15%收益回饋給美國，而美國政府也曾取得英特爾（Intel）10%的股權，並在核准輝達H200 AI顯示晶片系統售予中國時，要求25%的銷售分潤。
AI應用普及化與快速演進
AI技術的快速發展也體現在各類產品的普及化。OpenAI正準備推出ChatGPT自2022年問世以來最大規模的改版，旨在將這款聊天機器人轉型為能自動完成複雜任務的「超級應用程式」，並整合名為Codex的程式撰寫工具、圖像生成與第三方應用程式（如Canva和Booking.com）。OpenAI的核心產品與平台負責人Thibault Sottiaux表示，未來的目標是讓用戶擁有一位能處理生活中大小事的個人AI代理。此外，Facebook公司的Meta也推出了名為Creator Assistant的AI工具，能分析用戶過往貼文表現與互動數據，提供內容策略建議。中國華為則發表了新款AI智慧眼鏡，具備即時翻譯、物體辨識、12 MP高畫質相機及鴻蒙（HarmonyOS）整合等先進功能。手機品牌Infinix近期也與Google合作，為部分手機用戶提供三個月的Google AI Plus免費試用，涵蓋Gemini模型、雲端儲存與AI圖像生成工具，顯示AI已加速融入日常科技產品中。
