IT之家 10 月 31 日消息,摩爾線程今日發文宣布針對 PyTorch 深度學習框架的 MUSA 插件 ——Torch-MUSA 迎來更新,新版本 v1.3.0 全面兼容 PyTorch 2.2.0,進一步提升 PyTorch 在 MUSA 架構上的模型性能與覆蓋度,并支持模型遷移到國產全功能 GPU。
據介紹,PyTorch 作為全球廣泛使用的深度學習框架,已應用在了自然語言處理、計算機視覺、推薦系統等多個領域。摩爾線程所推出的 Torch-MUSA,專為 PyTorch 提供 MUSA 后端加速支持,用戶可在 MUSA 架構上流暢運行深度學習模型,發揮國產全功能 GPU 的計算能力。
據IT之家此前報道,PyTorch 旗下架構優化庫 torchao 已于本月正式發布,該優化庫主要專注于模型的量化和稀疏性優化,能夠在保證性能的同時降低模型的計算成本和 RAM 用量,從而提升模型運行效率。
摩爾線程官方表示,Torch-MUSA 自發布以來,已歷經多個版本的迭代。Torch-MUSA 從 v1.0.0 版本開始就支持了 PyTorch 2.0,經過開發與優化,最新發布的 v1.3.0 版本已全面支持 PyTorch 2.2.0。
IT之家附摩爾線程 Torch-MUSA 重點內容如下:
功能特性
在 Torch-MUSA 中,用戶只需指定 torch.device ("musa"),即可將現有的 PyTorch 模型遷移到 MUSA 架構的 GPU 上運行,無需大幅修改代碼。
Torch-MUSA 完全兼容 PyTorch 的自動微分和動態圖機制,支持多種常用的神經網絡模塊及優化算法,并加速了關鍵深度學習算子的計算。
此外,Torch-MUSA 還支持多種 PyTorch 特性,包括 DDP、JIT、FSDP、Profiler、Extension 等。
版本迭代
v1.1.0:初次發布,支持 PyTorch 2.0,提供基礎張量操作和常見神經網絡層的 MUSA 加速。
v1.2.0:進一步擴展算子支持,支持了完整功能的 Profiler、MUSA Extension,并增加了 Torch-MUSA 專有特性如 compare_tool、musa_converter,幫助用戶更快的定位模型精度問題。
v1.3.0:支持 PyTorch 2.2.0,性能進一步提升,支持 FSDP,支持更復雜的模型和更大規模的數據處理。
未來計劃
Torch-MUSA 將繼續跟進 PyTorch 的版本更新,計劃支持更高版本的 PyTorch。