グラファー、個人情報を社外に出さずに書類処理を支援する「ローカルLLM活用技術」を確立

株式会社グラファー（本社：東京都渋谷区、代表取締役：石井大地、以下「グラファー」）は、個人情報や機密情報をインターネット経由で他社のサーバーに送信することなく、ユーザーのPCや社内サーバーの中でAIが書類処理を行う「ローカルLLM活用技術」を確立しました。

本技術は、申請書・本人確認書類・口座情報・各種帳票・アンケートなどの画像を対象に、必要項目の抽出や内容確認を支援するものです。グラファーでは、高性能な専用サーバーを前提とせず、一定の計算資源を備えたPC環境でも動作可能なローカルLLM構成を用い、書類処理業務への適用可能性について技術検証を進めており、項目抽出や確認支援に関する技術的な実現可能性を確認しています。

高性能なサーバーや大規模モデルを用いる構成では、より高い精度や処理速度が期待できます。一方で、個人情報や機密情報を社外に出せない現場では、処理環境をローカルに閉じること自体が重要な要件となります。グラファーは、高性能な専用サーバーを前提としない構成においても実務に近い書類処理を支援できるよう、今後さらに精度・速度・運用性の向上に取り組んでいきます。

※LLM（大規模言語モデル）：ChatGPTなどに用いられている、文章や画像を理解・生成するAIの基盤技術です。一般的なクラウド型の生成AIサービスでは、入力データを外部のサーバーに送信して処理します。これに対し、本リリースでいう「ローカルLLM」は、利用者のPCや組織内のサーバーで処理を完結させ、データを外部事業者のサーバーに送信しない構成を指します。本技術では、ローカル環境での動作に最適化された公開済みのオープンモデルを利用しています。

開発の背景

ChatGPTをはじめとするクラウド型の生成AIは、利用者が入力した情報をインターネット経由でサービス提供事業者のサーバーに送信し、そこで処理する仕組みになっています（以下、こうした仕組みのLLMを「クラウドLLM」と呼びます）。そのため、行政・金融・医療・BPO・法務・人事などの現場では、「個人情報や機密情報を、自組織の管理下にない事業者のサーバーに送ることはできない」という理由から、生成AIの活用を見送らざるを得ないケースが多くありました。

たとえば自治体の窓口では、申請書に記載された氏名・住所・口座番号などを職員が一件ずつ目視で確認・入力しています。生成AIによる業務効率化が期待される一方で、個人情報を組織外のサーバーに送信できないという制約から、導入を見送らざるを得ないケースが少なくありませんでした。民間企業においても、顧客関連書類の管理など、データを社外に出すことが許容されない業務は数多く存在します。

また、クラウドLLMを利用する場合は処理量に応じた利用料が発生するため、大量の書類を継続的に処理する業務では、コストの見通しが立てづらいという課題もありました。

こうした背景を踏まえ、グラファーでは、データを社外に出せない現場でもAIを活用できるよう、ローカルLLMを活用した書類処理技術を確立しました。本技術では、高性能な専用サーバーを前提とせず、一定の計算資源を備えたPC環境でも動作可能な構成を用い、書類からの項目抽出や確認支援に関する技術的な実現可能性を確認しており、今後、実業務での検証を通じて精度・速度・運用性の向上を進めていきます。

本技術の特徴

1. 個人情報・機密情報を社外に送信せず、処理を完結させる構成

AI処理をユーザーのPCなどのローカル環境で完結させる構成とすることで、書類画像や抽出データをインターネット経由で他社のサーバーに送信せずに処理できます。インターネットに接続しない閉域環境や、自社サーバー内（オンプレミス環境）での運用も視野に入れた構成としており、自治体の申請処理、窓口業務、BPO業務など、これまでクラウドLLMの導入が難しかった現場でも、個人情報保護やセキュリティポリシーを踏まえたAI活用の可能性を広げます。

2. AIの従量課金や大規模インフラ投資を伴わない運用

クラウドLLMではサービスによっては処理件数や処理量に応じた従量課金が発生しますが、ローカルLLMを活用することで、クラウドLLMの従量課金を前提としない運用が可能になります。大量の書類処理や定常的な確認業務において、コストの見通しが立てやすくなることが期待されます。

また、ローカルでAIを動作させる技術は、これまで高性能なサーバーや専用機材を要するのが一般的でしたが、本技術では、高性能な専用サーバーを前提とせず、一定の計算資源を備えたPC環境でも動作可能な構成で、書類処理への適用可能性を検証しています。大規模なインフラ投資を前提としない構成により、小規模な部署や拠点単位での試験導入を進めやすくなります。