Agentic AI 與 Orchestration Architectures 在金融及計算基礎設施中的整合
導言
Agentic AI 的興起,正驅動金融服務的運作需求以及數據中心硬件架構的系統性轉型。
正文
在金融服務領域,Agentic AI (定義為具備自主規劃與執行能力的系統)的部署,是以建立具權威性且受管制的數據存儲為前提。Elastic 的 Steve Mayzak 主張,這些系統的效能受限於底層數據的質素與可用性。鑑於監管環境嚴格,系統必須提供確定性輸出及可審核的邏輯,以確保問責制。從處理結構化數據轉向處理複雜且非結構化的自然語言,需要精密的索引技術,以防止資訊在組織孤島中碎片化。因此,這些技術的採納過程呈漸進式;一項 Forrester 研究指出,57% 的金融機構目前正開發全面實施所需的內部能力。 與這些運作轉型平行的是,一種被稱為 「orchestration」 的計算架構轉型,正改變對硬件的需求。此範式涉及將工作負載分佈至多個處理通道,從而增加了對 Central Processing Units (CPUs) 及記憶體系統的相對需求,相較於以往對 Graphics Processing Units (GPUs) 的依賴。Morgan Stanley 的分析師建議,Agentic AI 將需要更高的 CPU-to-GPU 比例,以管理增加的系統複雜度及工具使用功能。Meta 使用 Amazon Graviton CPUs 以及與 AMD 達成的戰略協議,便證明了這一轉向。此外,orchestration 的可行性在網絡安全領域亦得到體現,Vidoc Security Lab 與 Aisle 的研究人員透過標準化工作流協調較小且較不先進的公開模型,成功複製了如 Anthropic 的 Mythos 等先進模型的結果。
結論
Agentic AI 的發展軌跡目前由兩項核心需求定義:金融領域對嚴格數據管制的追求,以及計算基礎設施中多元化硬件的採納方式。