關於NEDO專案「確保AI安全之研發與驗證推動專案／強化AI安全之研發」的成果報告

Citadel AI株式會社（代表董事：小林裕宜，以下簡稱「Citadel AI」）受國立研究開發法人新能源產業技術綜合開發機構（NEDO）委託，自2025年度起致力於「確保AI安全之研發與驗證推動專案／強化AI安全之研發」專案。

本專案旨在推動與確保AI安全相關的研發及驗證等工作，其目的在於將為了適切管理與利用生成式AI所必須的AI安全標準之制定與普及，以及AI安全評估與管理技術之開發進行一體化的執行。

這次，我們很高興向大家報告，作為該專案的成果之一，我們編寫了《生成式AI實踐指南與企業案例集：整合品質、安全性與治理引導至正式上線運作的框架》。

在對超過20家企業進行訪談調查後，我們在考量現有概念和框架的基礎上，將生成式AI的利用及其治理相關的挑戰與對策，以符合實務的模樣進行了體系化。本書作為一本可供其他組織複製的企業實施指南，在提供內容的同時也穿插了個別案例。

1. 背景
生成式AI已成為我們身邊熟悉的技術，AI代理在實際商業中被運用的案例也日益增加。但另一方面，諸如幻覺或資訊外洩等涉及安全性和聲譽的風險也逐漸顯現。

目前許多組織都面臨著諸如「不知道該從何著手」、「考量到風險，遲遲不敢將其投入正式運作」、「雖然有指南，但不知道具體該如何應用於自家服務」等課題，正處於摸索前進的狀態。

作為企業負責任地提供服務所不可缺少的「與品質保證和風險管理相關的具體手法」尚未確立，這成為了全面導入的巨大障礙，導致許多案例無法從概念驗證（PoC）階段邁向正式的上線運作。

2. 成果概要
本報告書《生成式AI實踐指南與企業案例集：整合品質、安全性與治理引導至正式上線運作的框架》旨在透過分享各企業在第一線所面臨的課題，以及針對這些課題的具體解決方案和營運手法，成為組織性活用AI的方針。

關於活用包含AI代理在內的生成式AI之相關舉措，我們以來自實際開發與營運AI代理的20多家企業的訪談結果為基礎，將從中獲得的具體見解與實踐訣竅，從「技術」、「流程」、「組織文化」的角度進行整理，體系化為一個框架，並反映在本報告書中。

此外，Citadel AI自身也投入了AI代理的開發，從設定解決課題到技術選擇、收集必要數據、盤點預期風險，直至系統評估，進行了連貫性的執行，從而驗證了該框架的有效性。

附錄（Appendix）中收錄了眾多案例，展示了受訪各企業為了何種目的使用AI代理，以及針對何種課題採取了何種對策。同時，也詳細記錄了Citadel AI實際實施「預設用於支援外國人的聊天機器人」的過程。