【新書介紹】AI基礎設施大轉型：次世代AI基礎設施與光電融合封裝的變革 - 由CMC Research發行

下一個AI霸權將不再取決於GPU，而是取決於「通訊」。本報告預測至2035年的CPO採用曲線、光互連技術、供應鏈重組，以及日本材料製造商的勝算。書中深入解析224G-PAM4的極限、CPO熱設計、液冷及良率問題，重新定義AI基礎設施。這是工程師深入了解「光電融合封裝」核心的必備報告。生成式AI的快速演進，正從根本上改變半導體產業與數據中心產業的結構。過去，AI競爭的核心在於提升GPU單體的運算性能。然而，現在競爭軸心已明確轉移。隨著AI模型規模化與分散式學習的擴大，瓶頸已從「運算性能」轉向「數據移動效率」。在次世代AI叢集中，數千至數萬個GPU同時連接，即時交換龐大數據。若發生通訊延遲或頻寬不足，昂貴的GPU群將處於待機狀態，導致系統整體利用率急劇下降。換言之，AI基礎設施競爭的本質，已從「擁有多少高速GPU」轉變為「能多有效率地運作大型AI叢集」。在此結構變化中，傳統基於電線的互連技術已接近極限。在224G-PAM4世代，高速訊號長距離傳輸時的插入損耗、串擾、抖動與發熱急劇增加，使得Retimer與DSP補償電路變得不可或缺。結果導致通訊部分的功耗增加，壓縮了整個AI數據中心的電力效率與冷卻成本。針對此挑戰，備受矚目的解決方案是「光學化」。光互連技術能實現長距離、低損耗的高速傳輸，且具備優異的功耗效率。特別是矽光子（SiPh）與共同封裝光學（CPO）技術，作為支撐次世代AI基礎設施的核心技術，其存在感正迅速提升。其中，CPO透過將光學引擎整合於交換器ASIC或AI加速器附近，將電線長度縮短至極限，被期待能同時實現高頻寬與低功耗。然而，其封裝涉及熱設計、液冷、翹曲控制、光耦合精度與量產良率等，與傳統半導體封裝截然不同的極高難度挑戰。簡而言之，AI基礎設施的演進正從單純的GPU性能競爭，轉向「封裝技術競爭」。更重要的是，此變化正開始重組整個供應鏈。光模組製造商的角色轉變為光學引擎供應商，OSAT企業則需具備光子封裝能力。此外，低介電材料、玻璃基板、高導熱材料、精密接著材料等日本企業具備優勢的材料技術，其重要性也正迅速提升。AI基礎設施的競爭優勢，已不再僅取決於半導體單體，而在於能否整合「光學」、「封裝」、「材料」與「冷卻」。本報告將從「光電融合封裝」的視角，全面分析此AI基礎設施的大轉型。