Citadel AI股份有限公司（代表董事：小林裕宜，以下簡稱「Citadel AI」）受國立研究開發法人新能源、產業技術綜合開發機構（NEDO）委託，自2025財年起致力於「確保AI安全相關研究開發、驗證等推進事業／AI安全強化相關研究開發」。

本事業旨在推進AI安全相關的研究開發與驗證，其目的在於整合性地進行AI安全標準的制定與普及，以及AI安全評估與管理技術的開發，這些對於適切地管理與利用生成式AI至關重要。

我們在此報告其中一項成果：「生成式AI實踐指南與企業案例集 ～整合品質、安全性、治理以引導至實際運營的框架～」已彙編完成。

透過對20多家企業進行訪談調查，我們在既有理念和框架的基礎上，以符合實務的方式系統化了生成式AI利用及其治理相關的課題與對策。本書將其作為企業實施指南，可供其他組織複製參考，並穿插了具體案例。

1. 背景

生成式AI已成為一項普及的技術，AI代理在實際商業中應用的案例也日益增多。然而，幻覺現象（Hallucination）和資訊洩露等與安全及聲譽相關的風險也日益顯現。

許多組織目前正以摸索的方式推進工作，面臨著諸如「不知從何下手」、「考慮到風險，難以決定投入生產」、「指南雖然存在，但不知道如何具體應用於自家服務」等課題。

企業為了負責任地提供服務，不可或缺的「品質保證和風險管理具體方法」尚未建立，這成為全面導入的一大障礙，許多情況下難以從概念驗證（PoC）階段推進到實際運營。

2. 成果概要

本報告書《生成式AI實踐指南與企業案例集 ～整合品質、安全性、治理以引導至實際運營的框架～》旨在透過分享各企業在現場面臨的課題及其具體解決方案和運營方法，為組織的AI應用提供指導方針。

關於利用包含AI代理在內的生成式AI的措施，我們根據對20多家實際開發和運營AI代理的企業訪談結果，從「技術」、「流程」和「組織文化」等角度整理了所獲得的具體知識和實踐經驗，並將其系統化為框架，反映在本報告書中。

Citadel AI本身也致力於AI代理的開發，從設定解決課題、技術選型、收集所需數據、識別預期風險到系統評估，全程貫徹執行，驗證了該框架的有效性。

附錄中收錄了被訪談企業使用AI代理的目的、面臨的課題以及採取的對策等多個案例。同時，也分享了Citadel AI實際實施「針對外籍人士支援的聊天機器人」並驗證框架有效性時的考量事項。

本報告書的詳細內容，請點擊此處下載。

3. 本報告書的使用方法

本報告書《生成式AI實踐指南與企業案例集 ～整合品質、安全性、治理以引導至實際運營的框架～》旨在將利用生成式AI的措施以及平衡AI安全與AI治理的方法論系統化並加以介紹，以作為各組織推進AI應用的參考資料。

本書並非旨在提供必須遵守的規則或指導方針，也不是一份詳盡列出應執行措施的檢查清單。它僅僅是針對「AI事業者指南」等現有指南所揭示的「理想狀態」，提出「如何具體實現」的「方法論」，兩者之間是相互補充的關係。

AI治理是經營層面的課題。經營層認識到AI治理的意義，發揮領導作用，有組織地推進工作，同時倡導促進AI應用，這極為重要。我們希望本報告書能對企業、組織或企業內團隊在面對商業狀況時引入和利用AI有所幫助。

致謝

此成果來自於國立研究開發法人新能源、產業技術綜合開發機構（NEDO）的委託業務。

【關於Citadel AI股份有限公司】

Citadel AI是一家源自日本的全球新創公司，致力於實現「值得信賴的AI」的社會應用。 由來自Google美國總部的工程師等國際化團隊引領開發。我們提供獨特的「AI治理工具」，支援生成式AI的整個生命週期，從導入階段的風險評估到運營階段的防護措施。已被國際標準行業的代表性機構如BSI等採用，並在國內外市場獲得高度評價。

公司名稱：Citadel AI股份有限公司 所在地：東京都文京區向丘 2-3-10 東大前HiRAKU GATE 3-1 代表者：代表董事 小林裕宜 公司設立：2020年12月10日 網址：https://citadel-ai.com/ja/ X(Twitter)：https://twitter.com/CitadelAI

FACT BOX · 重點整理

  • 來源：PR TIMES
  • 分類：新聞