Kong、AGCのマルチLLMガバナンス強化とコスト最適化を支援

Kong株式会社は、AGC株式会社において、全社での安全なAI活用と開発効率化を支える取り組みの一環として、API管理・AIガバナンス機能を提供するKongのAPIマネジメントおよびAI Gateway関連サービスが採用されたことを発表した。この採用は、将来的な海外拠点への展開も視野に入れた全社共通のAI開発基盤整備の一環である。

■背景：マルチLLM活用の加速と課題
AGC社内ではAIへの関心が高まる一方、複数の課題が認識されていた。現場からはAzure OpenAIに加え、GeminiやAnthropicなど多様なLLMを使い分けたいという要望があった。しかし、事業部ごとの個別契約は手続きが煩雑で、スピード感ある展開の足かせとなっていた。また、誰がどれだけAPIを利用しているか把握が難しく、コスト管理やガバナンス統制が困難だった。さらに、「使いすぎによる高額請求」への不安が、利用者の心理的ブレーキとなっていた。

■Kong選定のポイント：ガバナンスとスピードの両立
AGCは、これらの課題を解決するためKongを選定した。主な理由は以下の通りである。

- マルチLLMの一元管理：API仕様の異なるLLMをKongが仲介・標準化し、開発者は単一の窓口から最小限のコストでAIモデルを選択・切替可能になる。
- 契約・申請プロセスの集約：共通基盤として利用することで、事業部ごとの個別契約や都度の申請を効率化する。
- 利用状況・コストの精緻な可視化：API利用者単位で利用状況を把握し、将来的な社内費用配賦の自動化にも対応する。
- 予算超過を防ぐガードレール：利用者ごとに利用枠やレートリミットを設定し、予算超過を自動制御することで、ユーザーの不安を解消する。
- エージェント／MCPへの先進的な対応：社内データにアクセスするAIエージェントの開発構想に対応できる拡張性を持つ。

導入にあたっては、調達プロセスの柔軟性からAWS Marketplaceを通じて行われた。

■今後の展望
本プロジェクトでは、まず開発者層から利用を開始し、段階的に展開していく計画である。