開發AI代理治理基礎設施的RAYVEN公司（總部：大阪市北區）宣布，其代表鈴山佳佳榮獲經濟產業省與JETRO贊助的創業家培育計畫「始動 Next Innovator」第11屆DEMO DAY最優秀獎。

在這個計畫中，全國選拔的100名創業家經過約半年的事業磨練，其中10名被派往矽谷進行最終發表，鈴山提出的「企業能控制AI代理權限與行動的機制」獲得了最高評價。

■ AI代理導入停滯於「安全審查」階段

2026年，隨著AI代理在業務上的應用日益普及，因「安全審查」而停滯導入的案例急遽增加。這不僅限於金融、製造、公共領域等對安全要求嚴格的行業，即使是一般企業，在導入AI時也因無法回答「AI能存取多少資訊？」和「萬一發生事故誰負責？」等問題，導致導入計畫受阻的情況越來越普遍。

Model Context Protocol（MCP）是AI代理連接內部系統和外部工具時使用的標準協議，被指出存在直接導致管理風險的漏洞，無論行業如何。

* **執行非預期操作（工具中毒）** 惡意工具定義可能導致AI執行客戶資料刪除或詐騙處理的風險。 * **超越權限的資訊存取（權限提升）** AI存取超出其權限的機密資訊，導致資訊洩露的風險。 * **缺乏行為日誌** 發生事件時，因沒有「誰指示了什麼」的記錄，導致無法確定原因或應對審計的風險。

根據Equixly在2025年3月的調查，主要開源MCP伺服器中有43%被確認存在命令注入漏洞。OWASP也指出MCP伺服器的安全問題，這表明建立治理對於所有採用AI的企業來說，正成為一個不可避免的管理挑戰。

■ 鈴山佳宏推動的「AI員工證」構想

人類員工入職時會發放ID卡，系統存取受到限制，並且「行為日誌會被記錄」。然而，AI代理卻沒有這套機制。

鈴山主導開發的是一個治理平台，為AI代理提供與人類員工相同級別的「身份驗證、授權、審計」。傳統AI工具和API管理控制「入口」和「出口」，而RAYVEN的技術則直接介入MCP通訊，即時驗證、控制和記錄AI呼叫了哪些工具、存取了哪些數據以及試圖執行什麼操作。

4項技術特色

1. **權限強制**

FACT BOX · 重點整理

  • 來源：PR TIMES
  • 分類：活動
  • 相關組織：RAYVEN / Equixly / OWASP