AI 安全初創公司 SherLOCK 技術支援 AISI 制定醫療保健領域「AI 安全評估觀點指南」

SherLOCK 株式會社（總部：東京都港區；代表董事執行長：築地泰瑞莎；以下簡稱「SherLOCK」）作為 AI 安全研究所（以下簡稱「AISI」）業務實證工作小組內醫療保健分組（SWG）的成員，為醫療保健領域「AI 安全評估觀點指南」的制定提供了技術支援。

SherLOCK 充分發揮其作為 AI 安全初創公司的專業知識，特別是從安全性和數據品質的角度，為實務工作者具備的具體評估方法體系化做出了貢獻。

### 背景與目的 生成式 AI 雖被期待在醫療保健領域帶來重大創新，但同時也面臨著幻覺（誤報生成）、高度隱私保護、以及確保安全性等眾多特有課題。正如 2026 年 1 月「廣島全球可信 AI 論壇」所討論的，「實現可信 AI（Trustworthy AI）」是國際性的重要課題。SherLOCK 參與了本次 SWG 並提供技術見解，旨在營造一個讓企業能從開發階段就擔保安全性，並兼顧業務價值與安全安心的環境。

### SherLOCK 的主要支援內容 在制定本指南的過程中，SherLOCK 針對以下內容，對實務工作者可立即使用的具體 AI 安全評估方法體系化做出了貢獻：

1. 透過 AI 紅隊測試（Red Teaming）提供安全與數據品質觀點的評估項目及要點： - 針對透過惡意提示詞（Prompts）故意引導至錯誤資訊或誘發資訊洩漏等風險，提出了測試評估項目與要點。 - 為構建評估流程提供技術見解，以預防醫療現場發生重大事故。 - 定義了 RAG（檢索增強生成）等所使用的數據品質損害產品整體可靠性的風險，並整理明確了確保醫療健康資訊準確性的評估要點。

2. 關於第三方客觀 AI 安全評估的建議： - 從實務角度提供建議與案例，說明由具備專業知識的第三方進行 AI 紅隊測試如何有助於確保企業的可靠性。

### 本指南的特點 本指南具備以下特點，即使是專家較少的企業也能輕鬆運用： - 遵循 AI 生命週期的 5 階段評估：明確指出產品設計、模型選擇、實施、驗證、導入運行的各個階段應評估的要點。 - 10 個項目的多角度安全評估觀點：涵蓋從普遍的 AI 安全觀點到醫療保健特有的風險。明確指出忽視評估時的具體風險（如：對患者生命健康的直接損害）。 - 連結實務的風險管理支援：整理了具體的風險假設與對策，現場負責人可立即活用。

### SWG 成員（8 家企業/團體） Ubie 株式會社（SWG 領隊）、株式會社 Awarefy、味之素株式會社、SB Intuitions 株式會社、CMIC 控股株式會社、SherLOCK 株式會社、日本數位健康聯盟（JaDHA）、株式會社 MICIN。

### SherLOCK 代表 築地泰瑞莎 的評語 「在醫療保健這一社會責任極其重大的領域，能與 AISI 及 SWG 成員們一同為這份建立信任基石的《AI 安全評估觀點指南》做出貢獻，我感到非常自豪。AI 安全評估並非阻礙 AI 創新的屏障，而是為了加速安全社會實裝所必須的舉措。SherLOCK 未來將繼續透過包括第三方視角的 AI 紅隊測試在內的最尖端 AI 安全技術，以及針對高度 AI 治理實現的技術支援，協助包括醫療保健在內的各領域實現考慮到具體語境的 AI 安全社會實裝。」