設計防禦以利攻擊：生成式AI時代企業應面對的治理議題——三井住友銀行、豐田汽車、丸紅等企業的法務、AI研究、人事、經營實務者跨行業討論

（圖左起）德國馬克斯·普朗克人類發展研究所研究員/美國Anthropic研究員 矢倉大夢、森・濱田松本法律事務所合夥人／立教大學客座教授 增田雅史律師、MQue代表 津田拓也

專注於模擬、建模與對話AI的深度科技公司 MQue（代表董事：津田拓也）於2026年5月22日（週五）舉辦了以「生成式AI時代中『攻防設計』」為主題的圓桌活動「Future HR × AI Roundtable（第2屆）」。

MQue 是與世界頂尖研究人員合作，結合多項先進技術實現實務應用的深度科技夥伴。在對話AI領域，以非結構化數據分析與人類數位雙生為核心研究領域，支援招聘、組織與人才方面的進階決策。

隨著AI應用從「業務效率化」快速轉向涉及高階判斷、創造與對話的進階AI，本次圓桌以閉門邀請形式舉辦，旨在分享與整理企業面臨的安全、偏見、倫理與治理等挑戰。當天，來自三井住友銀行、豐田汽車、丸紅等推動AI導入的大型企業的人力資源、法務、經營企劃、DX、風險統籌與安全等部門的實務者齊聚一堂，就以下議題進行了坦率討論：

- AI應委託多少判斷，人應在何處負責？
- 哪些數據可用、用到何種程度？
- 如何將「防禦」設計為安心使用進階AI的基礎而非單純限制？

第2屆以「攻防設計=活用生成式AI的企業基礎設計」為主題，邀請增田雅史律師與矢倉大夢先生進行特別演講，並舉行小組討論與桌邊討論。

矢倉先生指出，傳統人力分析因結構化數據限制而失敗；生成式AI讓AI代理能主動收集非結構化數據（意圖、脈絡），將HR提升為戰略工具。他介紹了「人類數位雙生」概念，實現基於機率的決策（如潛力拔擢、組織重組成功率預測、M&A協同效應計算）。他強調輸入數據的品質——尤其是組織文化與暗默知識——是創造價值的關鍵。

增田律師討論法律風險管理：應避免二元風險判斷，需具體掌握風險位置、規模、可能性與制裁程度，並設計符合事業目的的風險承擔。隨著AI從輸出工具演變為自主判斷與行動的AI代理，責任主體仍是「人」。他呼籲設計「Human-in-the-Loop」結構，並建立跨部門且具備一定獨立性的AI治理委員會。

小組討論涵蓋責任分配、推動AI的組織結構、以AI最佳化為前提的業務重新設計、人力資源領域的AI應用、非結構化數據收集與隱私保護。管理層直接參與被視為必要，同時需持續監控。與會者承認不使用AI本身可能成為風險。在人力資源方面，如何在自動化中保留各公司特有的「色彩」成為關鍵問題。日本企業過去培養的跨部門人才發展方式被認為在生成式AI時代仍有潛力，建議「保留優點，同時前進」。