AI安全新創公司SherLOCK為AISI醫療保健領域的「AI安全評估觀點指南」制定提供技術支援

SherLOCK株式會社（總部：東京都港區，代表董事CEO：築地 Teresa，以下簡稱「SherLOCK」），作為AI安全研究所（以下簡稱「AISI」）業務實證工作小組（業務實證WG）下屬的醫療保健子工作小組（SWG）成員，為醫療保健領域的「AI安全評估觀點指南」的制定提供了技術支援。

SherLOCK發揮其作為AI資安新創公司的專業知識，特別是從安全性和數據品質的角度，為第一線人員提供具體評估方法的系統化做出了貢獻。

【AISI：新聞稿】 https://www.ipa.go.jp/pressrelease/2026/press20260403.html

背景與目的 儘管生成式AI有望為醫療保健領域帶來重大創新，但也面臨著如幻覺（產生錯誤資訊）、高度隱私保護以及確保安全性等特有挑戰。正如2026年1月「Hiroshima Global Forum for Trustworthy AI」所討論的，實現「可信賴的AI（Trustworthy AI）」是一項國際性的重要課題。為了幫助企業建立一個能從開發階段確保安全性，並兼顧商業價值與安全安心的環境，SherLOCK參與了該SWG並提供了技術知識。

SherLOCK提供的主要支援內容 在制定本指南的過程中，SherLOCK特別針對以下內容，為第一線人員能夠立即使用的具體AI安全評估方法的系統化做出了貢獻。

透過AI紅隊測試，提供有關資安及數據品質觀點的評估項目和要點的專業知識。 SherLOCK提出了針對惡意提示詞（Prompt）故意引導至錯誤資訊，或誘發資訊外洩等風險進行測試的評估項目和要點。為了建立能防範醫療現場重大事件發生的評估流程，提供了技術上的見解。

定義了用於RAG（檢索增強生成）等技術的數據品質可能損害整體產品可靠性的風險，並整理和明確了確保醫療與健康相關資訊準確性的評估要點。

關於透過第三方評估進行客觀AI安全評估的建議。 針對AI安全與AI資安，SherLOCK從實務角度提供了建議與案例，說明由具備專業知識的第三方進行的AI紅隊測試，能如何幫助企業確保可靠性。

本指南的特點 本指南具備以下特點，即使是缺乏專家的企業也能輕鬆運用。

符合AI生命週期的5階段評估 明確指出在產品設計、模型選擇、實作、驗證、導入與營運的各個階段中應評估的要點。

10項多角化安全評估觀點 從普遍的AI安全評估觀點涵蓋到醫療保健特有風險。並明示若疏於評估將帶來的具體風險（例如：對患者生命與健康的直接危害）。

直接與實務接軌的風險管理支援 整理了具體的風險情境與對策，現場負責人可立即應用。