Anthropic呼籲全球暫停研發尖端AI 避免失控風險升高

（中央社紐約4日綜合外電報導）人工智慧（AI）新創公司Anthropic今天建議全球同步暫停研發最先進的AI系統，因為最新模型已開始出現可能脫離人類控制的跡象。

法新社報導，總部位於舊金山、開發Claude系列AI模型的Anthropic在報告中指出，全球放慢尖端AI發展速度「可能是件好事」；但該公司也警告，若只有單一公司暫停研發，競爭對手只會加快腳步。

Anthropic表示，要讓暫停機制真正發揮作用，需要跨國多間主要AI公司，特別是美國與中國公司，同意依據可供驗證的規則同步停止。

「若缺乏全球協調機制，企業與政府將不得不在激烈競爭與地緣政治壓力下，做出艱難的安全相關決策。」

上述提議招致業內同行及白宮官員的反彈，他們認為Anthropic過度聚焦最壞情況、誇大風險，實際上這是以安全為名拖慢競爭對手的策略。

這項提議在華府和矽谷恐將面臨重重阻礙。美國官員與科技業高層屢次主張，一旦讓AI發展減速，就可能讓中國在這場被視為本世紀最關鍵的科技競賽中取得決定性戰略優勢。

不過，美國總統川普表示，他在近日訪問北京期間曾與中方商討在AI安全議題上合作的可能性。川普本週也簽署行政命令，在AI開發商發布其最強大的AI模型前，授權政府進行為期30天的初步審查。

Anthropic將這項挑戰比喻為「核武軍備控制條約」，但是AI更難管控，因為AI訓練過程遠比飛彈發射井更容易隱藏，各方私下持續開發的誘惑也將極為巨大。

該公司表示，計劃在未來數月召集各國官員、科學家、倡議團體及競爭企業，共同研議這類機制如何運作。

根據Anthropic的說法，內部數據顯示，AI已大幅加速自身發展進程，這種加速形成回饋迴路（feedback loop），最終可能導致研究人員所稱的「遞迴式自我改進」（recursive self-improvement），意即AI系統幾乎不需要人類協助，就能自行學習並變得更加聰明。

報告指出：「目前我們還沒走到這一步，遞迴式自我改進也並非必然會發生」，但這種狀況可能比多數政府和機構預想得更早，「證據顯示，在AI開發流程的每個階段，人類扮演的角色正逐步縮小。」