【接入超300款AI大模型 國內最大大模型服務平臺正式上線】財聯社5月9日電,國內最大的大模型服務平臺昨天(8日)正式上線,由中國移動開發的這個平臺已接入并提供300余款國內主流AI大模型的服務與能力,是國內匯聚大模型數量最多的平臺。據了解,該平臺首創詞元(Token)集約化運營模式,記者在現場看到,平臺能夠自動分析用戶需求,智能為任務匹配最優模型。通過“成本優先”“效果優先”“均衡優先”三種模式,為用戶動態篩選適配方案,以更低的詞元消耗、更高的執行效率完成工作。當模型出現超時、限流或故障時,平臺能自動實現秒級切換,確保業務連續不中斷。目前,該平臺實現單位詞元成本降低30%左右,資源占用率減少50%以上,日均調用量超過千億級。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.