AISI 制定「醫療領域 AI 安全評估觀點指南」

AI安全研究所（AISI，所長：村上明子）的業務實證工作小組之一的醫療保健次工作小組（以下簡稱 SWG），為加速生成式AI技術在醫療領域的安全社會化應用，制定了「醫療領域中的AI安全評估觀點指南」（以下簡稱本指南）。

本指南參考 AISI 所制定的 AI 安全相關評估觀點指南，並反映醫療與健康照護特有的機敏性與風險，為實務工作者提供了具體的評估方法。

※IPA 承擔了部分 AI 安全研究所的秘書處功能。

[詳細資訊請點此]（IPA 官方網站）

## ■背景與目的
近年來，生成式AI為醫療領域帶來了重大創新，例如提升醫師的業務效率及支援病患溝通等。但另一方面，也堆積了許多醫療領域特有的課題，包含因幻覺（生成錯誤資訊）導致的健康損害風險，以及高度的隱私保護與資安確保等。

2025年12月內閣會議通過的人工智慧基本計畫中，明確指出促進醫療與健康照護領域中AI的開發、實證、導入及社會化應用為具體措施。此外，如同2026年1月舉辦的「Hiroshima Global Forum for Trustworthy AI」所討論，實現「可信賴AI（Trustworthy AI）」在國際社會中亦成為重要課題。

近期，醫療保健 SWG 致力於打造一個讓業者能從開發與設計階段便確保安全性，並能兼顧商業價值與安全安心的環境，進而制定了本指南。

## ■指南的主要特色
本指南具備以下特色，即使是缺乏專家的企業也能輕鬆運用。

### 1. 遵循 AI 生命週期中 5 個階段的評估重點
遵循 AI 的生命週期，統整了在產品設計、模型選擇、產品實作、產品驗證、產品導入與維運這 5 個階段中，各別需要評估的重點。

### 2. 10 項多角化的評估觀點與具體的風險假設
從 AI 安全的評估觀點指南中，具體列出了將其應用於醫療領域時所需的 10 項觀點。同時也列舉了若忽略這些觀點的評估可能面臨的風險，例如「提供有關醫療與健康的錯誤或危險資訊，可能對病患的生命或健康造成直接損害」等。這些不僅涵蓋普遍性風險，也包含醫療領域特有的風險，對運用AI時的風險管理相當有幫助。

此外，未來也預計公開包含具體範例（提示詞、代理技能等）的實踐指南，以便能根據本指南的評估觀點實施 AI 安全評估。

## SWG 參與組織
Ubie 株式會社（SWG 領導者）、株式會社 Awarefy、味之素株式會社、SB Intuitions 株式會社
CMIC HOLDINGS 株式會社、SherLOCK 株式會社
日本數位醫療聯盟（JaDHA）、株式會社 MICIN、公益財團法人 東京財團
株式會社三菱總合研究所（SWG 秘書處）

## 未來展望
醫療保健 SWG