QommonsAI 搭載個人情報自動檢測、禁止詞彙封鎖、檢測日誌三大防護層 — 以 AI 實現自治體「欲用之，勿洩漏」的資訊治理

行政 AX 的領跑者 Polimill 公司（總部：東京都港區，代表董事：伊藤あやめ／谷口野乃花）宣布，將於 2026 年 4 月 1 日預計進行的更新中，為行政專用生成式 AI「QommonsAI」提供能多層次防止機密資訊意外輸入的「個人資訊自動檢測」、「禁止詞彙封鎖」、「檢測與封鎖日誌」功能。

將規則的實效性從「紙本規定」提升至「技術性機制」的「多層次資訊治理功能」

隨著生成式 AI 在全國自治體導入加速，為進一步推動其利用，建立將廳內資訊管理規則系統化，並讓職員能無疑慮地運用 AI 的環境變得至關重要。許多自治體在生成式 AI 使用指南中規定了輸入時的注意事項，但其執行往往取決於職員個人的意識。透過將規則的實效性從「紙本規定」提升至「技術性機制」，職員將能減輕資訊管理上的過度負擔，安心地充分運用生成式 AI。

QommonsAI 本次搭載了「個人資訊自動檢測」、「禁止詞彙封鎖」、「檢測與封鎖日誌」這三大防護層，實現了「不依賴個別職員判斷，而是由系統防止洩漏」的環境。藉此，自治體能夠兼顧「欲用之，勿洩漏」的矛盾要求，安心地推動生成式 AI 的廣泛應用。

個人資訊警示／禁止詞彙設定為何

本功能是在檢測到包含個人資訊或禁止詞彙的輸入時，顯示警告或封鎖傳送至 AI 的功能。

三大防護層的整體架構

QommonsAI 的資訊治理功能透過「檢測→阻擋→記錄」三個階段，防止機密資訊外洩。

第一層：個人資訊自動檢測 — AI 即時監控輸入內容

在職員輸入提示詞（prompt）的當下，自動檢測個人資訊模式。

檢測時的動作，可根據機密資訊的種類，個別設定為「僅警告（向職員發出注意提醒，傳送判斷交由職員決定）」或「傳送封鎖（直接阻擋傳送至 AI）」。

例如，管理員可透過設定畫面靈活配置如「我的號碼立即封鎖，姓名則顯示警告後由職員判斷」等分級的營運規則。藉此實現符合業務實況的現實性治理。

第二層：禁止詞彙封鎖 — 將組織特有規則系統化

管理員可註冊超過 100 個任意的禁止詞彙。包含已註冊詞彙的輸入將直接被封鎖傳送至 AI，在不經過職員判斷的情況下由系統層級阻擋。

僅靠個人資訊模式無法完全捕捉的組織特有機密資訊 — 例如，未公開的政策專案名稱、內部討論中的設施名稱、人事相關的專有名詞等 — 可由管理員依裁量靈活設定為保護對象。

不僅在指南中記載「禁止輸入○○」，更在系統上強制執行...