國產私有AI基礎架構「InfiniCloud® AI」發布Ver2,大幅強化AI治理與資料應用，並加入Agent功能

InfiniCloud株式會社(總公司:靜岡縣靜岡市，以下InfiniCloud)已對其國產私有AI基礎架構「InfiniCloud® AI」進行大規模更新，旨在讓企業機密資訊、個人資訊及內部文件能在用戶的管控下使用，而無需任意傳送給外部AI。

更新後的Ver2版本，強化了多項功能，包括操作性更佳的新UI、以證據為導向的思考模式「EDTM(Evidence-Driven Thinking Mode)」、原始資料來源(Source of Truth, SoT)管理功能、基於角色的權限管理(RBAC/ACL)、審計日誌，以及技能/工作流程自動化等。InfiniCloud® AI已從僅用於概念驗證(PoC)的AI,進化為「安全應用機密資訊、個人資訊、內部原始資料於業務中的企業級AI基礎架構」。

InfiniCloud® AI聊天介面InfiniCloud® AI管理畫面(智慧註冊)InfiniCloud® AI管理畫面(用戶群組設定)InfiniCloud® AI管理畫面(權限設定)

關於「InfiniCloud® AI」

「InfiniCloud® AI」是一款「國產私有AI基礎架構」,專為安全解決難以處理的機密資訊、企業特有情境及在地業務挑戰而設計，支援從私有雲到完全隔離的本地部署。這類資訊對於龐大的全球公共AI來說難以處理。

InfiniCloud® AI的基本架構是在用戶管理的環境內，於伺服器內部處理提示詞(prompt)、對話紀錄、註冊文件、參考資料及生成結果。因此，這些資訊無法用於共享模型的學習、用戶個人檔案建立、廣告、行為分析、服務改進等二次目的。這是一款由資訊部門管理並能安全提供給員工使用的AI。

特別適合以下組織和企業導入:

擁有嚴格治理與安全要求的組織

例如金融機構、醫療機構、地方政府/公共機關、國防相關企業、大學/研究機構等，其資訊外洩受到法規或基礎設施政策限制的組織。

希望保護獨有知識資產的企業

例如製造業的設計/開發部門、處理專利技術的企業、處理公開前經營資訊的企業等，希望無憂慮地將內部資料投入AI並「擁有」的組織。

IT基礎設施供應商/系統整合商

希望將私有AI服務整合到自家SaaS或資料中心內，以OEM或套件形式提供給客戶的供應商。

◼️ 主要特色

透過完全隔離(Air-Gap)確保資料主權

支援在不連接網際網路的封閉環境中運作，不會將提示詞、內部知識庫、對話紀錄等傳送至外部雲端AI或伺服器。※除非啟用網路搜尋引擎功能或將處理卸載到外部遠端LLM。這些可由管理者設定。

從「知識(RAG)」昇華至「智慧(Fine-Tune)」

不僅止於像放在旁邊的手冊或規定一樣回答的「RAG(檢索增強生成)」,更可透過使用從內部資料自動生成的問答資料集進行微調(LoRA),培養出內含組織獨特思考模式和語氣的「業務專用AI」。※此處的微調功能，是使用用戶明確指定的資料，在用戶有權限的智慧網域(intelligence domain)單位內改善AI的回答，且無法用於InfiniCloud提供給第三方的共享模型學習/改進、其他公司模型或使用者個人檔案建立。

針對企業應用優化的嚴格權限管理(RBAC/ACL)與內部控制

採用「角色基礎存取控制(RBAC)」控制「可開啟哪些畫面、可執行哪些操作」,以及「存取控制清單(ACL)」控制「可觸及哪些智慧網域的哪些部分」的兩層結構。此外，還具備「逐步驗證」和審計日誌功能，以應對嚴格的內部控制與治理。

InfiniCloud® AI Ver2 主要更新內容

1. 煥然一新的直觀操作UI,支援對話紀錄自動保存

更直觀的UI設計

大幅改善了登入畫面、側邊欄、輸入欄、設定畫面、深色模式等的外觀與操作感，打造出任何人都能輕鬆使用的精緻介面。

對話紀錄永不消失的「伺服器保存」

從以往的瀏覽器暫存，改為支援伺服器端安全自動保存。無論更換電腦、手機或瀏覽器，都能隨時繼承過去的對話。 ※保存的對話紀錄會保留在用戶管理環境中，所佔用的記憶體僅用於與使用該功能的用戶的對話，不會與第三方共享。

僅需輸入「/」即可進行指令補全

在輸入欄輸入「/」,即可顯示可用的業務自動化選單和說明，直接從聊天介面流暢啟動自動化程式(工作流程)。

2. 搭載AI自行「尋找證據」並進行驗證的進階思考模式

證據導向思考(EDTM模式)

針對複雜問題或專業商業挑戰，現已提供一種極其聰明的思考模式,AI能「自主收集相關證據並在驗證內容的同時」建構回答。

強化搜尋功能，不錯過任何想找的內部文件

透過結合意義搜尋的「向量搜尋」與關鍵字搜尋的「稀疏搜尋」的混合搜尋，並搭載「Agentic RAG(根據對話情境自動修正搜尋詞的功能)」,能從龐大的內部文件中更精確地提取目標資訊。

3. 嚴格保護資料「真實性」的SoT功能與辦公室文件的高階解析

用戶專屬的安全檔案存放區

為每位用戶新增了安全儲存空間，可安全地在伺服器端管理和確認附加到聊天中的文件等原始資料。

保護資料正確性的「SoT(Source of Truth)管理」

系統嚴格管理輸入資料的準確性、版本、批准狀態和可信度，降低AI基於「過時手冊或錯誤草稿」回答的風險。

語音/圖像解析與Office文件讀取精確度提升

語音檔案的自動語音轉錄功能，以及對掃描PDF/圖像的文字辨識(VLM/OCR)大幅提升。此外，還能高精度地讀取Word、Excel、PowerPoint中的圖表結構，同時保持其原貌。

4. 多伺服器負載平衡與「遠端連結」補足資源不足

自動化運營，確保系統不中斷

支援將處理自動分配到多個AI伺服器的負載平衡，以及在不中斷系統的情況下進行更新的滾動更新。

透過「遠端LLM池」實現混合運營

即使在內部GPU資源有限的小型環境中，也能將外部安全AI環境整合為一個整體，協同運作。這使得部分處理可以被卸載。

可用的遠端LLM範例(支援/v1/chat/completions)

客戶在LAN內準備通用LLM基礎架構時

例如「Sakura AI Engine」,明確標示原則上不保存輸入資訊，也不用於AI學習等。

網路攻擊對策與機密資訊隔離

遠端連結時，實施了阻斷針對系統內部的不當存取(SSRF攻擊)的防禦功能。此外，連接所需的API金鑰等重要機密資訊，會被嚴密隔離在核心資料庫內，徹底實現了不會洩漏到外部或周邊處理的安全設計。

5. 擴充AI Agent功能「技能/工作流程」,大幅提高事務處理效率

工作流程:檔案單位、資料夾內單位、對話單位自動化功能

搭載了讀取指定檔案、資料夾內檔案、對話等，並將AI處理(技能)結果以檔案形式保存到指定資料夾等的功能。

輸入格式支援文字、HTML、Markdown、Word、Excel、PowerPoint、PDF、圖像(png、jpeg等)、語音檔案(mp3、m4a等)、json、csv等。

輸出格式支援文字、HTML、Markdown、Word、Excel檔案格式。

技能:透過AI自動處理讀取內容的功能

可透過工作流程指定處理，並由AI進行標準化處理。

可透過AI的技能將各種檔案進行彙整或轉換。

標準實裝專為辦公室工作優化的工具

可參考多個檔案(PDF、Word等),讓AI進行彙總，並輸出摘要、記錄、文件等。

內建了可比較兩個檔案並自動創建新舊規定差異對照表的技能，以及從語音檔案或筆記製作Word格式會議記錄等，支援日常事務工作的自動化範本檔案。

可定義獨有技能/工作流程

可定義利用企業獨有的工作流程和技能。可利用AI從企業機密資料檔案進行綜合判斷，製作Word報告。

例如，透過在本地部署環境或私有雲環境中運作，可將AI技能/工作流程應用於處理難以輸入外部AI的原始資料的業務，如日常業務日報的標準報告製作、設備測量資料(csv/json)的彙總/整形/報告化、從包含個人資訊的申請文件及內部文件中提取必要項目等。 處理對象、參考範圍、輸出目的地僅限於管理者許可的範圍內，並在用戶管理下，納入權限管理及審計日誌的對象。

6. 強化管理畫面，並加入消除系統連携時「無法連接」的測試功能

管理業務效率化

可透過畫面輕鬆邀請公司內部成員(支援批量邀請),並可從管理畫面便捷地切換註冊許可政策、編輯各種通知郵件的範本。

不讓開發者迷茫的API連接測試

強化了與內部系統或自家SaaS連携的「OpenAI相容API」。配備了可立即進行一次點擊連通性測試(確認是否能正常連接)的按鈕。開發時常見的「不知道URL」、「不明原因無法連接」等問題，可在API發行畫面上即時解決。

關於本產品的導入諮詢

「InfiniCloud® AI」透過系統整合商(SIer)或OEM合作夥伴提供「硬體+軟體」一體化服務，或提供軟體單體的「軟體訂閱」服務。關於詳細的容量規劃或概念驗證(PoC)的實施，請隨時透過本公司網站洽詢。

公司概要

InfiniCloud株式會社

InfiniCloud透過軟體技術靈活組合「儲存」、「伺服器」、「網路」等技術，堅持「日本品質」,為客戶提供任務關鍵且穩定、高性價比的雲端服務。

地址:靜岡縣靜岡市葵區吳服町2-1-5 五風來館5F 代表人:代表取締役CEO 瀧 康史 設立:2001年11月 事業內容:雲端基礎設施租賃業務、託管業務、雲端軟體開發業務、網路、伺服器基礎設施的建置、維護管理業務 URL:https://infinicloud.com/