建立支撐人類與 AI 安全協作的 AI 安全性基礎

在 NEDO（國立研究開發法人新能源暨產業技術綜合開發機構）所推進的「關於確保 AI 安全性的研究開發與驗證推進事業／關於強化 AI 安全性的研究開發」（以下簡稱本事業）中，NEDO、國立研究開發法人產業技術綜合研究所（產總研）、Citadel AI 公司、Copy 公司、琉球大學等 5 方，共同開發、制定並發布了作為確保 AI 系統安全性通用基礎的指南與評估協定等內容。

本事業所制定的指南等內容，重點在於確保從 AI 系統的企劃、設計階段到評估、營運階段的安全性，整理了開發與導入 AI 系統的企業，在進行風險識別與探討適當對策時所需的觀念與基本步驟。

期望透過這些指南與評估協定等的廣泛應用，使關於 AI 系統安全性的通用觀念與步驟能深入社會，並加速建構讓大眾能安心使用 AI 的 AI 安全性共通基礎。

1. 背景
以 2023 年 G7 廣島峰會所啟動的廣島 AI 進程為背景，各國正持續針對 AI 安全性進行討論與體制整備。基於此國際局勢，日本亦設立了 AI 安全性研究所（AISI），並參與國際間的討論。

本事業旨在推動為實現生成式 AI 安全安心的使用而建立國際規則，從研究開發的層面支援官民一體的取り組み（合作）。近年來，人類與 AI 協作進行判斷與行動的場景增加，針對如何設計、評估與運用 AI 安全性這一共通課題，各界亟需採取對應措施。

本事業針對上述課題，進行了旨在整備評估與運用 AI 安全性共通基礎的研究開發。雖然 AI 的實作技術與應用領域廣泛，但如何安全地設計人與 AI 互動的場景，以及如何透過判斷、驗證與運用來確保安全性，這些課題在各領域皆是共通的。

本事業的架構包含開發作為安全性「衡量指標」的評估與管理技術，開發針對各應用領域的 AI 安全性評估與實作技術，並將這些成果整理與體系化為企業實務中可應用的形式，進而連帶制定 AI 安全性實施的相關指南。

2. 本次成果
針對多樣化的 AI 安全性課題，本事業跨越了「設計、評估、營運」各階段，整備了指南、評估手法、模板、評估環境等廣泛資源。

(1) 制定多模態 AI 品質管理指南
作為本事業的核心成果，產總研針對接收圖像與文字、主要以文字回應的多模態 AI，制定了整理品質管理觀點與流程的指南。該指南聚焦於多模態 AI 特有的基本評估視角——「跨模態對應能力」，並將此能力劃分為 4 個等級。為確保多模態 AI 系統的安全性與品質，明確所需的跨模態對應能力水準至關重要，指南中已根據這些水準，將生命週期各階段應實施的對應措施進行了體系化的整理。

此外，指南中亦列舉了基於圖像的自動說明生成、基礎設施老化圖像診斷、社交媒體內容審核等三個案例，指出了在涉及人類判斷與監督的場景中，需要注意的事項以及品質管理上的爭點。

本指南為確保基於多模態 AI 特性的安全性與品質提供了通用的設計與評估架構，是實務上應用 AI 安全性的基礎。