應用人工智慧研究所FlashLabs股份有限公司(總部:東京都千代田區,代表董事:細井洋一,以下簡稱「FlashLabs」)宣布,於其在日本獨家銷售的AI推理閘道「OrcaRouter(OrcaRouter)」中,正式推出可並行執行多個大型語言模型(LLM)並整合其智慧的新功能「模型融合(Model Fusion)」。
背景與目標:擺脫單一模型依賴
目前生成式AI市場普遍依賴特定高效能「前沿模型」來確保推理品質。然而,單一模型必然存在擅長與不擅長的領域,且頂尖模型的API成本高昂,延遲(latency)也隨之增加。
為突破「單一模型的極限」,FlashLabs將「模型融合」技術導入日本市場,透過並行執行多個LLM,並即時評估與整合各模型的回應。此舉使企業能以低成本模型的組合,達成與「Fable 5」等超高性能模型匹敵甚至超越的推理品質,並以壓倒性的成本效益實現高效AI應用。
「模型融合」概要
模型融合是什麼:針對單一提示(prompt),同時執行多個不同LLM(例如:Claude、GPT、Gemini、Llama等)。由「判定器(Arbiter)」評估多個輸出結果,選出最佳回應,或綜合多項見解生成更優質的單一答案。
主要功能:
並行擴散+仲裁機制:將相同提示並行傳送至多個模型,由仲裁器(Arbiter)返回最佳解答。
五種仲裁策略:best_of_n / synthesize / majority / first / tests_pass(如下表)
選擇性擴散(難度閘道):僅在涉及程式碼、工具使用或高難度(難度0.3以上)的提示時啟動模型群組,例行性任務則交由低成本單一模型處理。避免為「hi」等輕量輸入支付額外費用。
不稀釋的共識:不對多個回應進行平均或稀釋,而是直接返回最強的單一答案(verbatim)。
透過Routing DSL自訂建構:不受預設限制,僅需約12行程式碼(YAML格式),即可建立並擁有專屬模型面板。
核心技術「Routing DSL」:此複雜的融合邏輯,可透過新開發的「Routing DSL(YAML格式)」,由開發者以數行程式碼自由定義與客製化。
OrcaRouter Fusion官網:https://www.orcarouter.ai/ja/models/orcarouter/fusion
支援模型範例
OrcaRouter Fable 5 Fusion API:(模型詳情請見官網)
Anthropic Claude Opus 4.8 API
OpenAI GPT 5.5 API
Gemini 3.5 FlashAPI
MiniMax M3 API
DeepSeek V4 Pro API
Qwen3.7 Max API
Z.AI GLM5.2 API
文件與詳細資訊:
Routing DSL
技術解說部落格
企業價值
1. 透過「智慧合成」突破效能極限
單一模型無法達成的推理精準度,可透過多模型「合議制」運作實現。特別是在事實查核、複雜推理與高階程式設計等任務中,表現可超越單一前沿模型。
2. 極致的成本效益
相較於單次呼叫高價頂級模型,透過「融合」多個低成本且快速的模型,可在維持同等甚至更高品質的同時,將推理成本最高降低70%。
3. 確保可靠性與冗餘性
當特定AI供應商發生故障時,融合架構中的其他模型可自動接管,無需中斷業務,持續提供穩定高品質的AI輸出。
代表人意見
FlashLabs股份有限公司 代表董事 細井洋一
「未來的AI應用,將從『選擇使用哪個模型』的時代,邁向『如何組合多個智慧』的『構成(Compose)』時代。本次推出的Model Fusion,正是此核心技術。透過融合機器的速度與多項智慧,我們致力於打造一個日本企業不受成本阻礙,便能自由操控世界頂尖智慧的社會。」
關於OrcaRouter
OrcaRouter是由美國AI研究機構Continuum AI開發,由FlashLabs股份有限公司在日本獨家銷售的次世代AI推理閘道。整合超過200個LLM至單一端點與單一API金鑰,並根據提示難度自動路由至最適模型。本次推出的Model Fusion,正是在此基礎上實現多模型並行合議的功能。無額外token手續費,導入僅需修改Base URL一行設定。同時在同一閘道中提供防護機制、追蹤、監控與評估功能。
OrcaRouter官方網站
關於FlashLabs股份有限公司
FlashLabs是以實現銷售與客戶體驗自動化,最終達成自主化為目標的AI應用研究所。透過「人機協作(Human-AI Hybrid)」方法,為企業帶來超越傳統方式的成果。
公司名稱:FlashLabs股份有限公司
所在地:東京都千代田區
代表人:代表董事 細井洋一
FlashLabs股份有限公司官方網站
關於Continuum AI
Continuum AI是開發OrcaRouter的美國AI企業,透過適應性路由技術,提供橫跨多個LLM供應商的高效AI應用平台。
Continuum AI官方網站
本件聯絡窗口
FlashLabs股份有限公司 行銷部
聯絡人:小林光喜
Email:koki.kobayashi@myflashcloud.com
※OrcaRouter為Continuum AI之商標。
※Fable 5、Claude、GPT、Gemini、Llama為各公司之商標或註冊商標。
FACT BOX · 重點整理
- 來源:PR TIMES
- 分類:新品
- 相關組織:Continuum AI / Anthropic / OpenAI
- 產品、服務:OrcaRouter / Model Fusion