近日，由范式主導并參與開(kāi)源的異構算力管理項目HAMi迎來(lái)最新進(jìn)展——正式實(shí)現對瀚博半導體旗下加速卡的全面支持。這意味著(zhù)，用戶(hù)在Kubernetes集群中部署瀚博AI加速卡時(shí)，可通過(guò)HAMi統一調度與管理算力資源，大幅提升國產(chǎn)異構芯片的使用效率與靈活性。
此次HAMi完成對瀚博加速卡的支持，實(shí)現了國產(chǎn)算力芯片與主流云原生開(kāi)源工具的深度融合。通過(guò)在Kubernetes環(huán)境中部署HAMi Vastai Device Plugin，用戶(hù)能夠像管理GPU一樣，輕松實(shí)現瀚博加速卡的資源上報、分配與管理。
關(guān)于HAMi vGPU
以前，企業(yè)想用國產(chǎn)AI加速卡，需要找專(zhuān)人配置管理?，F在有了HAMi vGPU，就像多了一個(gè)"智能管家"，它能：
-
自動(dòng)管理：多少張卡、誰(shuí)在用，一目了然
-
隨取隨用：像租共享單車(chē)一樣，聲明一下就能用
-
靈活分配：一臺機器可以同時(shí)跑多個(gè)任務(wù)，互不干擾
像用GPU一樣調度瀚博加速卡：在完成HAMi及相關(guān)插件的部署后，用戶(hù)僅需在Pod中通過(guò)簡(jiǎn)單的資源聲明，即可實(shí)現對瀚博加速卡的使用，以下是一個(gè)簡(jiǎn)單的使用示例：
apiVersion: v1kind: Podmetadata:name: vastai-va-test-podnamespace: vastaispec:containers:- name: testimage: nginxresources:limits:vastaitech.com/va: 1 # 申請使用1張卡
詳見(jiàn)：https://github.com/Project-HAMi/HAMi/blob/master/docs/vastai-support_cn.md
關(guān)于范式
范式集團（Phancy Group）是全球領(lǐng)先的通用人工智能科技公司，以"AI for everyone"為使命。HAMi作為范式主導并參與開(kāi)源的異構算力管理項目，已成為CNCF沙箱項目，致力于實(shí)現GPU/NPU等異構算力的虛擬化、切分與共享。
關(guān)于瀚博
瀚博半導體（Vastai Technologies）成立于2018年，總部位于上海浦東，是人工智能核心算力領(lǐng)域的先行者。瀚博專(zhuān)注于高端GPU芯片的自主研發(fā)，業(yè)務(wù)覆蓋AI推理加速、圖形渲染及AIGC內容生成等前沿領(lǐng)域。其核心產(chǎn)品載天VA1、載天VA10等AI推理加速卡及智能一體機，已在多個(gè)行業(yè)實(shí)現規?；涞?。
