【AI時代的工作流程，「可委託領域」與「不可退讓領域」的界線】超過七成回答「審批・決策不應交給AI」，62.8%擔憂判斷依據的黑箱化

工作流程系統的領導企業ATLED股份有限公司，針對109名在業務中使用過生成式AI，且負責工作流程系統導入與運營的資訊系統、總務、DX推進部門負責人，實施了關於工作流程被AI取代可能性的實況調查，特此通知。

調查結果要點如下：
01｜超過七成的資訊系統、總務、DX推進負責人回答，工作流程的「審批・決策過程本身」不應交給AI。
02｜應避免委任AI的理由中，「判斷依據是黑箱」佔62.8%、「伴隨作為人的責任」佔57.7%，位居前列。
03｜67.9%的受訪者實際感受到，隨著AI的進化，工作流程系統的存在價值正在「提升」。

■調查概要
調查名稱：關於工作流程被AI取代可能性的實況調查
調查方法：由IDEATECH提供的研究行銷服務「Risapī®︎」企劃的網路調查
調查期間：2026年5月15日〜同年5月16日
有效回答：109名在業務中使用過生成式AI，且負責工作流程系統導入與運營的資訊系統、總務、DX推進部門負責人。

■對AI取代最為肯定的工作流程功能，「申請內容的自動檢查・錯誤檢測」佔58.7%為最多
在Q1中，詢問受訪者認為可以用AI取代或自動化也沒問題的工作流程功能時，「申請內容的自動檢查・錯誤檢測」佔58.7%，「申請資料的自動輸入・轉記」佔46.8%，「過去類似案件的搜尋・參考」佔45.9%。

■超過七成的負責人回答，工作流程的「審批・決策過程本身」不應交給AI
在Q2中，詢問是否認為工作流程的「審批・決策過程本身」不應交給AI時，「非常這麼認為」佔25.7%，「有點這麼認為」佔45.9%，合計71.6%的受訪者對由AI進行審批・決策持謹慎態度。

■對AI決策持謹慎態度的理由，「AI的判斷依據是黑箱無法解釋」佔62.8%居首
在Q3中，詢問不應將審批・決策過程交給AI的理由時，「因為AI的判斷依據是黑箱無法解釋」佔62.8%，「因為審批・決策伴隨著作為人的責任」佔57.7%，「因為AI做出錯誤批准時的責任歸屬不明確」佔37.2%。

■也有「除非有100%不出錯的保證，否則需要人來確認」、「可能存在濫用AI演算法的舞弊風險」等聲音
在Q4的自由回答中，收到了諸如「除非有100%絕對不出錯的保證，否則必須由人來確認」、「可能存在濫用AI演算法的舞弊行為」等意見。

■67.9%的負責人實際感受到，隨著AI的進化，工作流程系統的存在價值正在「提升」
在Q5中，詢問隨著AI進化，工作流程系統的存在價值如何變化時，「認為大幅提升」佔19.3%，「認為略有提升」佔48.6%，合計67.9%的受訪者感受到價值提升。

■價值提升的理由，「作為全公司共通的審批基礎，能防止各部門的差異」佔半數以上
在Q6中，詢問價值提升的理由時，「作為全公司共通的審批基礎，能防止各部門的差異」佔52.7%，「因為越是活用AI，治理與管控的機制就越重要」佔44.6%。

■價值下降的理由，「因活用AI，申請・審批過程本身被簡化」居上位
在Q7中，詢問認為價值下降的理由時（n=6），「因活用AI，申請・審批過程本身被簡化・削減」佔50.0%。

■超過半數的負責人希望AI時代的工作流程具備「申請內容的自動檢查・錯誤檢測功能」
在Q8中，詢問在AI時代對工作流程系統期望的進化時，「由AI進行申請內容的自動檢查・錯誤檢測功能」以54.1%佔最多。

■發現46.8%的負責人對於工作流程與生成式AI的整合「尚未著手」
在Q9中，詢問工作流程系統與生成式AI的整合・活用進展到哪個階段時，「未考慮整合」(14.7%)與「有興趣但尚未著手」(32.1%)合計，46.8%的受訪者尚未開始。

■未來期望的AI活用方式，「僅低風險定型案件由AI自動批准，人類進行事後確認」以43.1%居首
在Q10中，詢問未來工作流程系統與AI的理想關係時，「僅低風險的定型案件由AI自動批准，人類僅進行事後確認與例外處理」以43.1%佔最多。

■總結
本次調查明確顯示，雖然71.6%的受訪者認為審批・決策過程不應交給AI，但另一方面，67.9%的人回答在AI時代工作流程系統的存在價值正在「提升」。可以說，AI被活用於輔助定型業務，而最終判斷由人類執行，作為管理此過程的基礎，工作流程系統的重要性正在增加。