RM新时代APP官网网址

第四范式發(fā)布先知AIOS 5.1,升級支持GPU資源池化功能
2024-07-23


     產(chǎn)品上新

      Product Release


今天,第四范式先知AIOS 5.1版本正式發(fā)布。該版本新增GPU資源池化(vGPU)能力,實(shí)現對硬件集群平臺化管理、算力資源的按需分配和快速調度,最多節省80%的硬件成本,提高GPU綜合利用率多達5-10倍。

第四范式先知AIOS 5是行業(yè)大模型開(kāi)發(fā)及管理平臺。平臺以提升企業(yè)核心競爭力為目標,在支持接入企業(yè)各類(lèi)模態(tài)數據的基礎上,提供大模型訓練、精調等低門(mén)檻建模工具、科學(xué)家創(chuàng )新服務(wù)體系、北極星策略管理平臺、大模型納管平臺、主流算力適配優(yōu)化等能力,實(shí)現端到端的行業(yè)大模型的構建、部署、管理服務(wù)。

在行業(yè)大模型的構建過(guò)程中,為進(jìn)一步提高算力資源利用率,第四范式先知AIOS 5.1版本新增GPU資源池化(vGPU)能力,擁有五大技術(shù)亮點(diǎn):
  • 全面適配國產(chǎn)/非國產(chǎn)算力,支持混合部署與統一調度

  • 算力和顯存超分復用,算力切分精細到1%,顯存切分以M兆為單位

  • 具備千卡級別分布式調度與管理能力

  • 支持自定義隔離策略,實(shí)現共享或獨享算力池

  • 利用多任務(wù)共享及處理優(yōu)化技術(shù),推理性能提升10倍以上

vGPU功能介紹

了解產(chǎn)品詳情,可致電400-898-7788,也可掃描下方二維碼或點(diǎn)擊【閱讀原文】。

RM新时代APP官网网址