QommonsAI 搭載個人情報自動檢測、禁止詞彙封鎖、檢測日誌三大防護層 — 以 AI 實現自治體「期望使用，但絕不洩漏」的資訊治理

行政 AX 的領跑者 Polimill 株式会社（總公司：東京都港區，代表取締役：伊藤あやめ／谷口野乃花）宣布，將於 2026 年 4 月 1 日預定更新的行政專用生成式 AI「QommonsAI（コモンズAI）」中，提供多層次防止機敏資訊意外輸入的「個人資訊自動檢測」、「禁止詞彙封鎖」、「檢測與封鎖日誌」功能。

將規則的實效性從「紙本規定」提升至「技術性機制」的「多層次資訊治理功能」

隨著生成式 AI 在全國自治體導入加速，為了進一步推動其應用，重要的是將廳內資訊管理規則透過系統實現，並建立一個讓職員能夠毫無疑慮地使用 AI 的環境。許多自治體在其生成式 AI 使用指南中規定了輸入時的注意事項，但實際執行卻常常依賴於職員個人的意識。透過將規則的實效性從「紙本規定」提升至「技術性機制」，職員將能夠在無需對資訊管理感到過度負擔的情況下，安心地充分利用生成式 AI。

QommonsAI 本次搭載了「個人資訊自動檢測」、「禁止詞彙封鎖」、「檢測與封鎖日誌」這三大防護層，實現了「不依賴個別職員判斷，而是由系統防止洩漏」的環境。藉此，自治體能夠兼顧「期望使用，但絕不洩漏」的相互矛盾的要求，安心地推動生成式 AI 的應用。

個人資訊警示／禁止詞彙設定為何

本功能是在檢測到包含個人資訊或禁止詞彙的輸入時，顯示警告或封鎖傳送至 AI 的功能。

三大防護層的整體架構

QommonsAI 的資訊治理功能透過「檢測→阻擋→記錄」三個階段，防止機敏資訊外洩。

第一層：個人資訊自動檢測 ─ AI 即時監控輸入內容

在職員輸入提示詞（prompt）時，會自動檢測個人資訊模式。

檢測時的動作，可根據機敏資訊的種類，個別設定為「僅警告（向職員發出注意提醒，並將傳送判斷交由職員決定）」或「封鎖傳送（直接阻擋傳送至 AI）」。

例如，管理者可以從設定畫面靈活配置分級的營運規則，如「我的號碼立即封鎖，姓名則顯示警告並由職員判斷」。藉此，實現符合業務實況的實際治理。

第二層：禁止詞彙封鎖 ─ 將組織特有規則系統化

管理者可註冊超過 100 個的任意禁止詞彙。包含已註冊詞彙的輸入將直接被封鎖傳送至 AI，在不經過職員判斷的情況下，由系統層級進行阻擋。

僅靠個人資訊模式無法完全捕捉的組織特有機敏資訊，例如未公開的政策專案名稱、內部討論中的設施名稱、人事相關的專有名詞等，可由管理者自行決定靈活設定為保護對象。

不僅在指南中記載「禁止輸入○○」，還能在系統上強制執行...