以「用科技引導人們獲得適當醫療」為使命的Ubie株式會社（總部：東京都中央區，共同代表董事：阿部吉倫、久保恆太，以下簡稱「Ubie」），作為工作小組領導企業參與的日本數位健康聯盟（以下簡稱「JaDHA」），為加速包含大型語言模型（LLM）等生成式AI技術在醫療保健領域的安全社會化應用，與AI安全研究所（以下簡稱「AISI」）合作制定了《醫療保健領域AI安全評估觀點指南》（以下簡稱「本指南」）。

本指南參考了AISI制定的評估觀點，並反映了醫療與保健領域特有的敏感度與風險，為實務人員提供了具體的評估手法。

AISI：新聞稿 https://www.ipa.go.jp/pressrelease/2026/press20260403.html

背景與目的 近年來，生成式AI在提高醫師工作效率及支援病患溝通等方面，為醫療保健領域帶來了「十年一遇的創新」。然而另一方面，也面臨著因AI幻覺（生成錯誤資訊）導致的健康損害風險，以及高度隱私保護、確保資安等醫療保健領域特有的諸多挑戰。

正如2026年1月舉辦的「Hiroshima Global Forum for Trustworthy AI」中所討論，建構「可信賴的AI（Trustworthy AI）」已成為國際社會的最重要課題。

Ubie作為JaDHA醫療保健子工作小組（SWG）的領導者，主導了本指南的制定。我們致力於打造一個讓業者能從開發與設計階段便確保安全性，並兼顧商業價值與安心、安全的環境。

指南的主要特點 本指南具有以下特點，讓即使缺乏專家的企業也能輕鬆活用。

**1. 沿著AI生命週期的5個開發與設計階段設定評估方法** - 產品設計：明確產品目的與使用情境、風險評估、建構治理體制 - 模型選擇：選擇適合用途的模型並進行安全性評估 - 產品實作：系統架構、提示詞（Prompt）設計、安全護欄（Guardrail）實作 - 產品驗證：綜合性測試與驗證及風險評估 - 產品導入與營運：正式環境中的監控與持續改善

**2. 10項多元的評估觀點與各項具體風險的設想** - 有害資訊的輸出控制：輸出關於醫療與健康的危險資訊（助長自殘或暴力、缺乏根據的治療方法等），導致病患生命與健康或醫療人員業務受到直接損害的風險 - 偽造錯誤資訊的輸出與誘導防範：因AI幻覺生成虛構證據或錯誤藥物資訊等，導致病患生命與健康或醫療人員業務受到直接損害的風險 - 公平性與包容性：對特定屬性（年齡、性別、種族、地區等）的病患，AI準確度或品質下降而產生不利益的風險 - 應對可能帶來高風險的使用（高風險使用、目的外使用）：非醫療器材軟體（非SaMD）作為實質醫療設備被「目的外使用」，導致違反法規等風險 - 隱私保護：包含敏感個人資訊在內的醫療與健康資訊遭外洩或不當使用，導致病患隱私受侵害的風險 - 確保資訊安全：遭受提示詞注入等攻擊，導致醫療資訊遭竄改或機密數據外洩的風險 - 可解釋性：AI輸出的依據不透明，導致醫療人員做出錯誤行為或引發病患不信任的風險 - 穩健性（Robustness）：對方面言、縮寫、非標準醫療用語等多樣化輸入的輸出品質不穩定，導致錯誤判斷的風險 - 數據品質：基於不準確或過時的醫療數據進行輸出，導致病患生命與健康或醫療人員業務受到直接損害的風險 - 可驗證性：在難以進行事後驗證或第三方審計的狀態下，發生問題時無法追究原因，從而損害社會信任的風險

醫療保健領域AI安全評估觀點指南 本指南可從以下網址下載： https://aisi.go.jp/output/output_information/260402/

主要目標讀者 - 經營層與事業負責人 - 產品經理（PM） - 工程師（開發）、機器學習工程師／資料科學家、品管工程師／測試人員 - UX設計師 - 醫療專家／領域專家 - 法務與合規人員 - 資安負責人

檢討體制 - Ubie 株式會社（SWG 領導者） - Awarefy 株式會社 - 味之素株式會社 - SB Intuitions 株式會社 - CMIC HOLDINGS 株式會社 - SherLOCK 株式會社 - 日本數位健康聯盟（JaDHA） - MICIN 株式會社 - 公益財團法人 東京財團 - 三菱綜合研究所 株式會社（SWG 秘書處）

未來展望 作為JaDHA的工作小組領導者，Ubie將本指南定位為實現可信賴AI的實務手冊，並將根據快速變化的生成式AI技術、社會局勢及國際監管動態進行適時更新。藉此，我們將為AI在醫療保健領域的安全社會化應用以及創造永續商業價值做出貢獻。此外，為使AI服務能讀取並活用本指南，我們將以Markdown格式公開指南的部分內容。未來也預計公開包含提示詞與代理（Agent）技能範例的實踐指南。

Ubie株式會社 加速器本部代表/政策涉外參事、JaDHA WG4領導者 井上真夢 繼從2024年起在日本數位健康聯盟（JaDHA）進行生成式AI的規則制定活動後，從本年度開始，我們與AISI和JaDHA合作，挑戰制定了《醫療保健領域AI安全評估觀點指南》。藉此機會，向所有提供協助的企業及相關人員表達最深的感謝。確保安全性與可靠性往往被認為會與推動創新產生權衡與取捨，但在現今的「With AI」時代，我認為落實「可信賴AI（Trustworthy AI）」正是帶動事業成長與創造價值的引擎。未來，在醫療保健領域中，我們將繼續凝聚業界力量，致力於兼顧創新的推動與打造安全安心的環境。

Ubie株式會社 首席AI長 (CAIO) 風間正弘 本指南的編寫，旨在讓各位於醫療保健領域開發考量AI安全的生成式AI產品時，能作為實用的實務手冊來活用。如果能為未來更多產品在醫療保健領域安全、安心地落實應用盡一份心力，我們將感到非常榮幸。此外，未來也預計公開提示詞與代理技能的活用範例，協助各企業整理專屬於自身使用情境的AI安全觀點。我們將持續為實現醫療保健領域的「可信賴AI」而努力。最後，由衷感謝所有協助制定本指南的企業、學術界與相關人士。

相關資訊 新聞稿：JaDHA與AI安全研究所（AISI）合作專案 開始討論醫療保健領域AI安全評估框架的制定（2025年7月9日） https://jadha.jp/news/news20250709.html

新聞稿：JaDHA發表與AI安全研究所（AISI）合作之AISI事業實證WG醫療保健SWG上半年活動成果（2025年10月2日） https://prtimes.jp/main/html/rd/p/000000183.000048083.html

關於 Ubie 株式會社 以「用科技引導人們獲得適當醫療」為使命，由醫師與工程師於2017年5月創立的健康科技新創公司。以AI為核心技術，開發並提供引導大眾獲得適當醫療的「Ubie」，以及協助提升診療品質的醫療機構專用服務套件「Ubie Medical Navi」等。我們正在推動打造一個讓每個人都能獲得適合自己的醫療服務的社會。

所在地：〒103-0023 東京都中央區日本橋本町三丁目8番4號 日本橋Life Science Building 4 5F 成立時間：2017年5月 代表者：共同代表董事 醫師 阿部吉倫、共同代表董事 久保恆太 網址：https://ubie.life

FACT BOX · 重點整理

  • 來源：PR TIMES
  • 分類：新聞