AISI 制定「醫療健康領域AI安全評估觀點指南」

AI安全研究所（AISI，所長：村上明子）的事業實證工作小組（以下簡稱事業實證WG）旗下的醫療健康次工作小組（以下簡稱SWG），為加速生成式AI技術在醫療健康領域的安全社會化應用，制定了「醫療健康領域AI安全評估觀點指南」（以下簡稱本指南）。

本指南參考AISI所制定的AI安全相關評估觀點指南，反映了醫療及健康領域特有的敏感性與風險，為從業人員提供具體的評估手法。

※IPA 承擔了 AI 安全研究所的部分秘書處功能。

## 背景與目的
近年來，生成式AI為醫療健康領域帶來了巨大的創新，例如提升醫師的業務效率及支援醫病溝通。然而另一方面，也面臨著醫療健康領域特有的重重挑戰，包括因幻覺（生成錯誤資訊）導致的健康危害風險、高度的隱私保護，以及確保資訊安全等。

在2025年12月內閣會議通過的人工智慧基本計畫中，明確將促進醫療及健康領域的AI開發、實證、導入與社會化應用列為具體措施。此外，正如2026年1月舉辦的「Hiroshima Global Forum for Trustworthy AI」中所討論的，實現「可信賴的AI（Trustworthy AI）」在國際社會中也已成為重要課題。

本次，醫療健康SWG致力於完善環境，使業者能從開發與設計階段就確保安全性，並兼顧商業價值與安全安心，進而制定了本指南。

## 指南的主要特色
本指南具備以下特色，即使是缺乏專家的企業也能輕鬆運用。

### 1. 沿著AI生命週期的5個階段的評估要點
沿著AI生命週期，在產品設計、模型選定、產品實作、產品驗證、產品導入與營運這5個階段中，分別總結了應該評估什麼的要點。

### 2. 10項多角化的評估觀點與具體的風險想定
從AI安全的評估觀點指南出發，具體列出了將其應用於醫療健康領域時需要哪些觀點的10個項目。同時，也併記了若疏忽從這些觀點進行評估可能帶來的風險，例如「提供有關醫療與健康的錯誤資訊或危險資訊，可能會對患者的生命與健康造成直接危害」。這些涵蓋了從普遍性到醫療健康領域特有的風險，在運用AI時也有助於風險管理。

此外，為了能根據本指南的評估觀點實施AI安全評估，未來也預計公開包含具體範例（提示詞、代理人技能等）的實踐指南。

## SWG的參與組織
- Ubie株式會社（SWG領導者）、株式會社Awarefy、味之素株式會社、SB Intuitions株式會社
- CMIC HOLDINGS株式會社、SherLOCK株式會社
- 日本數位健康聯盟（JaDHA）、株式會社MICIN、公益財團法人 東京財團
- 株式會社三菱綜合研究所（SWG秘書處）

## 未來展望
醫療健康SWG將本指南定位為實現可信賴AI的實務手冊，並將配合快速變化的生成式AI技術、社會情勢及國際監管動態適時進行更新。藉此，我們將為醫療健康領域AI的安全社會化應用及創造永續的商業價值做出貢獻。

## 參考資訊
AISI醫療健康SWG介紹影片 (IPA YouTube Channel)
※IPA承擔了AI安全研究所秘書處的部分秘書處功能。

■ 本案相關聯絡窗口
AI安全研究所秘書處 二村、加藤、前田
Email：[email protected]