AI時代の金融インフラを提供するFinatextグループの株式会社ナウキャストは、個人情報や機密性の高いテキストデータを外部に一切送信することなくAI処理を行う「ローカルLLMテキスト処理基盤」について、商用化の検討を開始しました。
ナウキャストは社内AIコンテストにおいて本技術のプロトタイプを開発し、クレジットカード利用明細の加盟店名マッピング業務を対象に実用性を実証しました。同実証ではOpenAI API比で95.7%のコスト削減と、人手確認作業の約98%の削減を達成しています。この成果を踏まえ、本技術を汎用化し金融業界に共通する「外部送信できないテキストデータのAI処理」という課題の解決に活用してまいります。
背景 生成AIの進化により、テキストの分類・名寄せ・情報抽出といった業務のLLMによる自動化が急速に進んでいます。しかし、金融業界にはLLMを活用したくてもデータを外部に送信できない業務が数多く存在します。クレジットカード利用明細の加盟店名、顧客の住所・氏名情報、法人間取引データ、保険金請求書類のテキストといったデータを扱う業務では、ChatGPTなどのクラウドLLM APIへのデータ送信がプライバシーおよびセキュリティ上許容されないため、LLMの能力が認識されていながらも適用が進まず、人手作業が温存される構造的課題があります。また、大規模データに対してクラウドLLM APIを用いてテキスト処理を適用すると高額な費用が発生してしまうことも、適用が進まない原因の一つとなっていました。
ナウキャストは、こうした課題意識のもと、社内AIコンテストにてクレジットカード利用明細の加盟店名マッピング業務をローカルLLMで自動化するプロトタイプを開発。同プロトタイプは機密情報を外部に送信することなく、高い精度と共にOpenAI API比で95.7%ものコスト削減を実現し、社内業務への即時適用が可能な水準に達しました。この成果を受け、ナウキャストは本技術を加盟店名マッピングにとどめず、LLMによるテキスト処理導入における金融業界の共通課題に対応する汎用基盤として、商用化を検討することといたしました。
「ローカルLLMテキスト処理基盤」の概要 本基盤は、オープンウェイトの大規模言語モデルを企業の自社環境(オンプレミスまたは閉域クラウド)内で稼働させ、外部送信に制約のあるテキストデータに対して分類・名寄せ・情報抽出等のAI処理を実行するものです。
◯基盤の特長 1. 完全ローカル処理によるデータ保護 すべてのLLM推論が自社環境内で完結し、処理対象のテキストデータが外部に送信されることはありません。FISC安全対策基準や個人情報保護法の要件に適合しやすい設計です。
2. 圧倒的な低コスト 現在公開されているOpenAI APIの最安モデルであるgpt-5-nanoと比較して95.7%ものコスト削減が検証されました。大量のデータをLLMに処理させても、現実的な費用の範囲内に収めることができます。
3. 確信度に基づくヒューマン・イン・ザ・ループ設計 LLMによる処理結果に確信度スコアを付与し、高確信度のケースは自動確定、低確信度のケースのみ人手確認に移行する段階的判定フローを採用。処理精度と業務効率を両立します。
4. 特定モデルに依存しないアーキテクチャ 処理パイプラインはモデル非依存の設計としており、オープンウェイトモデルの進化に応じて柔軟にモデルを切り替えることが可能です。特定のAIベンダーへのロックインを回避します。
5. 業務別テンプレートによる横展開 テキスト処理のタスク定義、確信度閾値、後処理ルールを業務ごとに設定可能な設計とし、一つの基盤上で複数業務への適用を実現します。
「クレジットカード加盟店名マッピングの自動化」プロトタイプの実証結果 社内AIコンテストで開発されたプロトタイプは、クレジットカード利用明細に記載される加盟店名を正式なブランド名に紐付ける「マッピング」業務を対象としています。
◯課題 クレジットカードの加盟店名は正式なブランド名とは異なる表記(略称、カタカナ表記、端末固有のコードを含む文字列等)で記録されるため、決済データ分析の前工程として人手によるマapping作業が不可欠で、ナウキャストでは月間約30万件の処理が発生していました。
◯実証結果 - 処理スループット: 1秒あたり15.1件(100万件を約18.4時間で処理) - 正解率: 確信度90以上のケースで95%超 - 人手チェック削減率: 約98% - 処理コスト(100万件): 約4,500円(電気代・GPU償却費ベース) - OpenAI API比コスト削減率: 約95.7%(同等処理をgpt-5-nanoで行った場合との比較)
◯補足:Web検索の併用 LLM単体での推定が困難なケース(新規店舗、特殊な略称等)については、ブランド名の候補をWeb検索で補助的に取得し正解率を向上させています。検索クエリには機密性の低いブランド名候補のみを使用し、加盟店名そのものは外部に送信しません。
想定される適用領域 本基盤は、加盟店名マッピングに限らず、金融機関が抱える「外部送信できないテキスト処理」業務全般への適用を想定しています。 - 加盟店名マッピング: カード会社、決済代行、家計簿サービス - 住所正規化: 金融機関全般、不動産、物流 - 法人名名寄せ: 与信管理、反社チェック、CRM - 取引摘要の分類: 銀行、経理代行 - 不正検知テキスト分析: 保険、証券、カード会社 - 書類OCR後の構造化: 保険査定、融資審査
想定される導入効果 ナウキャストにおいては、加盟店名マッピング単体で年間2,500万円以上、マッピング以外の業務への展開を含めると年間4,000万円以上の削減効果を見込んでいます。
商用化の検討について ナウキャストは本基盤について、金融機関およびデータ事業者への外部提供を視野に商用化の検討を開始しました。具体的には以下の形態での提供を検討してまいります。 - オンプレミス環境への導入支援(基盤構築、業務別テンプレート設計、運用支援を含む) - 閉域クラウド環境でのマネージドサービス提供 - 業務別マッピングDB・辞書のライセンス提供
今後の展望 ナウキャストは、10年以上にわたりクレジットカード決済データやPOSデータなどのオルタナティブデータを取り扱い、データホルダーの厳格なセキュリティ要件に対応してきた実績を有しています。この経験とローカルLLM技術を組み合わせ、個人情報・機密データを扱う業務でもAIの恩恵を受けられる環境の提供を通じ、貢献してまいります。
FACT BOX ・ 要点整理
- 出典:PR TIMES
- 分類:新製品
- 関連組織:Finatextグループ / OpenAI
- 製品・サービス:ローカルLLMテキスト処理基盤