NTTインテグレーションと日本IBM、「IBM Spyre」を用いた次世代オンプレミスAI基盤の技術検証を開始

NTTインテグレーション株式会社と、日本アイ・ビー・エム株式会社は、日本国内初となるエンタープライズ向けAIアクセラレーター「IBM Spyre Accelerator for Power（以下 IBM Spyre）」を活用した次世代オンプレミスAI基盤サービスの開発に向けた技術検証を共同で開始しました。NTTインテグレーションは、本サービスの提供を通じて、オンプレミス環境で企業がより安全かつ効率的にAIを活用できる環境の実現を目指します。

近年、生成AIや大規模AIモデルの活用が急速に拡大する一方、PoCや限定的な活用段階を超え、本格的に業務へ展開するフェーズにおいて、新たな課題が顕在化しています。その一つが、AI推論基盤における電力消費の増大とデータセンターの電力制約です。従来のGPUを中心としたAI基盤は高い性能を持つ一方で、消費電力や設置要件が大きく、持続的なAI活用の観点から課題とされています。また、生成AIやRAGの導入・運用には高度な専門知識が求められ、AI基盤の設計・運用業務が特定のIT人材に集中してしまうケースも少なくありません。その結果、現場部門が自律的にAIを活用しづらいといった課題も指摘されています。さらに、機密性の高い基幹データや業務データを扱う企業においては、データを外部環境に移動させず、安全にAIを活用したいというニーズも根強く、オンプレミス環境におけるAI活用の重要性が改めて高まっています。とりわけ製造業の設計部門や生産現場では、設計図面・製造プロセスデータ・歩留まり情報といった極めて秘匿性の高い知的財産や機密情報がオンプレミス環境で厳格に管理されており、これらのデータを社外に持ち出すことなくAIで活用したいという要望は一段と強まっています。

これらの課題を解決する鍵として注目されるのが「IBM Spyre」です。IBM Spyreは、AI推論処理に特化し、エンタープライズ用途を前提に設計されたAIアクセラレーターです。高い推論性能を維持しながら消費電力や設置要件を抑えられる点を特長としており、電力制約や運用負荷といった課題への対応が期待されています。一般的なGPUサーバーの導入においては、大容量電源への改修工事や専用の冷却設備の整備が必要となるケースが少なくありませんが、IBM SpyreはIBM Power11サーバーにアドオンカードとして搭載する設計のため、電源設備や空調の大幅な改修を伴わずにAI推論機能を追加することが可能です。また、IBM Powerサーバーと組み合わせることで、基幹業務データを外部に移動させることなくサーバー内でAI推論を完結でき、セキュリティやデータ主権を重視する企業ニーズに適したオンプレミスAI基盤を構成できます。こうした特長を踏まえ、NTTインテグレーションと日本IBMは、IBM Spyreを活用したオンプレミスAI基盤の実現性について技術検証を開始しました。

本技術検証では、IBM Power11とIBM Spyreを組み合わせ、エンタープライズ向けAI推論基盤としての有効性を検証します。IBM Powerが担う基幹業務データとAI推論処理を同一基盤上で連携させることで、データを移動させることなくAIを活用できる構成を検証し、高いセキュリティと運用効率を両立するオンプレミスAI基盤の実現を目指します。加えて、消費電力や運用負荷の観点からも評価を行い、企業が実運用で導入可能なAI基盤であるかを検証します。

NTTインテグレーションは、本取り組みにおいて自社を「クライアントゼロ」と位置づけ、実際の業務にIBM Spyreを適用します。IBM i上で稼働する基幹業務データの分析や、RAGを活用した社内ナレッジ検索など、日常業務に即したユースケースを対象に検証を進めます。そして、構築・運用・運用後の改善といった実務レベルの知見を蓄積し、その成果を将来提供するサービスへ反映させる方針です。