車載エッジでRAGを省メモリ実行する生成AI技術を開発

RAGを省メモリ実行する生成AI技術の仕組みと、活用イメージ

株式会社デンソーテン(本社:兵庫県神戸市、代表取締役社長:米本 宜司)は、車載エッジデバイス上での生成AI活用を見据え、RAG※1(Retrieval-Augmented Generation:検索拡張生成)を省メモリで実行可能とする生成AI技術を開発しました。本技術は、生成AIの回答精度向上に不可欠なRAGにおいて、埋め込みモデル※2の再学習により検索用ベクトルデータベース※3を軽量化し、車載SoC環境でも検索精度を維持したまま実装できる点が特長です。人に寄り添うHMIとして生成AI(LLM※4)による対話アシスタントへの適用を想定しています。生成AIを車載エッジで実装可能にすることで、ドライバーや同乗者一人ひとりに寄り添った、自然で安心感のある対話体験の実現に寄与します。今後も、自動車メーカーやパートナー企業と連携しながら、モビリティ社会の発展に貢献していきます。

■開発の背景

生成AI(LLM)は、車載HMIにおける、スマートコックピット、スマートキャビン(例えば、対話アシスタントによる目的地設定・ナビゲーション、ニュース/エンターテインメント内容などの情報検索・提案や、車両機能制御)などへの活用が進展しています。一方、生成AI(LLM)単体では学習していない最新情報や車両固有・ユーザー固有情報について正確に対応できない課題があります。これを補う技術として、RAGが注目されていますが、埋め込みモデルと大量の検索用ベクトルデータベースが必要なため、メモリ容量・処理性能に制約のある車載SoC・エッジ環境への実装が難しいことが、これまでネックになっていました。つまり、「精度を取ると重い」「軽くすると精度が落ちる」というトレードオフになっています。

■技術の特長

・軽量かつ高精度を維持できる独自の埋め込みモデル学習技術により、車載エッジでの実行を前提としたベクトルデータベースの省サイズ化を実現※5
・公開データセットを用いた評価において、既存モデルと比較し、省メモリ化と検索精度を両立(メモリ容量を30～60%減らしつつ高精度を維持)

■神戸大学大学院システム情報学研究科(音声対話)　滝口教授コメント

一人ひとりに寄り添う対話システムの実現には、各ユーザーの意図や好みを踏まえた応答が求められます。一方で、こうした情報はプライバシー性が高いため、インターネットに依存しないローカル環境での運用が望まれます。この観点から、車載エッジデバイス上でRAGを用いた対話システムを実現する技術の重要性は、今後さらに高まるといえます。

デンソーテングループは、企業ビジョン「VISION2030」のもと、「人に寄り添うHMI」「環境にやさしい電動化」「クルマと社会をつなぐデータ連携」を軸に、クルマの魅力を高める“クルマの価値向上”に取り組んでいます。
交通事故ゼロやカーボンニュートラルといったモビリティ社会の課題解決を目指し、移動に関する困りごとの解消を通じて、人々の生活を豊かにする“生活の価値向上”にも貢献していきます。「環境にやさしい」「安心・安全な」モビリティ社会の実現に向けて取り組みを具体化してまいります。

※1 RAG(Retrieval-Augmented Generation:検索拡張生成): 生成AI(LLM)が外部データソースから関連情報を検索し、その情報を基に回答を生成する技術。

※2 埋め込みモデル: テキストや画像などを数値の配列(特徴ベクトル)に変換するAIモデル。

※3 ベクトルデータベース: テキストや画像などを数値の配列(特徴ベクトル)に変換して保存。検索したい内容と前述のデータとの「類似度」を元に高速・高精度に検索するためのデータベース。

※4 LLM(Large Language Model:大規模言語モデル): 膨大なテキストデータとディープラーニング(深層学習)を用いて学習されたAIモデル。

※5 本学習技術は「言語処理学会 第32回年次大会　Matryoshka表現学習を考慮した埋め込みモデル蒸留」で発表。
(2026年3月9日～13日にライトキューブ宇都宮で開催)　https://anlp.jp/nlp2026/

今回の取り組みを通じて、以下のSDGsの達成を目指します。