Retrieva 將於「GENIAC-PRIZE 成果發表會」展出 LLM 漏洞診斷 Web 應用程式「KOKOROE」

Retrieva, Inc.（總部位於東京都豐島區，代表取締役社長：田口琢也）宣布，將於 2026 年 4 月 14 日在東京都澀谷區澀谷 Stream Hall 舉辦的 NEDO 獎金型計畫「GENIAC-PRIZE 成果發表會」中，展出 LLM 漏洞診斷 Web 應用程式「KOKOROE」。我們將展示與集團公司 Manyo, Inc. 共同開發的「KOKOROE」。該應用程式旨在診斷 LLM 是否能提供安全的回答，並根據診斷結果對 LLM 進行改善。使用者只需輸入簡單易懂的方針，即可根據使用目的對 LLM 進行安全調校。近年來，隨著生成式 AI 在企業中的應用日益普及，人們對業務改善與生產力提升的期待不斷高漲，但 LLM 的回答並不總是安全的。各行業皆存在固有風險，例如助長犯罪的回答、製造業中危險作業程序的誤導，或是製藥業中對藥效的錯誤判斷等。本次展出的「KOKOROE」透過人類編寫的簡單方針，自動執行診斷與擴充，以應對各行業的風險與漏洞。本公司致力於研究開發，在確保「實用性」的同時，更重視「安全性」，以協助企業安全且有效地運用大型語言模型（LLM）。基於此背景，我們參與了 GENIAC PRIZE 的「生成式 AI 安全性確保之風險探索與風險降低技術開發」項目，推動生成式 AI 潛在風險的可視化及相關技術開發。透過本次發表會，我們希望廣泛分享這些成果，促進關於提升生成式 AI 安全性的討論，並為社會整體的安全性提升做出貢獻。「GENIAC-PRIZE」是由日本經濟產業省及國立研究開發法人新能源與產業技術綜合開發機構（NEDO）主導的獎金型競賽，旨在加速生成式 AI 的社會實作。該競賽設定了四個需要透過生成式 AI 解決的主題，並針對具體需求進行應用程式的招募與審查。這四個主題包括：製造業隱性知識的顯性化、客戶支援生產力的提升、政府機關審查業務的效率化，以及生成式 AI 安全性確保之風險探索與風險降低技術開發。在成果發表會中，除了由獲獎者與申請者介紹生成式 AI 的應用案例外，還將提供與參與者交流與建立人脈的機會。