Skip to content

Latest commit

 

History

History
76 lines (54 loc) · 3.72 KB

README.md

File metadata and controls

76 lines (54 loc) · 3.72 KB

OpPlugin

简介

本项目开发了Ascend Extension for Pytorch(torch_npu)算子插件,为使用PyTorch框架的开发者提供便捷的NPU算子库调用能力。 OpPlugin算子插件的编译、使用依赖昇腾Ascend Extension for PyTorch。因此,在编译OpPlugin之前,需要了解、安装昇腾PyTorch。使用手册可参考昇腾社区Ascend Extension for Pytorch

编译、安装OpPlugin

发布包安装

暂未正式发布

源码安装

安装依赖

安装时需要安装系统依赖及官方PyTorch框架。安装指导可参考Ascend Extension for Pytorch

  1. 配置CANN环境变量脚本。

    source <CANN软件安装目录>/<CANN软件路径>/set_env.sh
    

    环境变量脚本的默认路径一般为:/usr/local/Ascend/ascend-toolkit/set_env.sh,其中ascend-toolkit路径取决于安装的CANN软件名称。

  2. 编译生成插件的二进制安装包。

    下载对应OpPlugin版本分支代码,进入插件根目录,以v2.1为例

    git clone https://gitee.com/ascend/op-plugin.git
    cd op-plugin
    

    执行编译构建,当前支持torch_npu 2.1/2.3/2.4/2.5/master版本

    bash ci/build.sh --python=3.8 --pytorch=v2.1.0
    

    请注意,编译时gcc版本遵循如下约束: arm架构下推荐使用gcc 10.2, x86架构下推荐使用gcc 9.3.1

    参数 取值范围 说明 缺省值 备注
    pytorch v2.1.0, v2.3.1, v2.4.0, v2.5.1, master 指定编译过程中使用的pytorch版本 master master对应的pytorch版本为2.6
    python 3.8, 3.9, 3.10, 3.11 指定编译过程中使用的python版本 3.8 编译基于pytorch2.5及后续版本时,不支持python3.8

    编译过程中,会在插件根目录新建build文件夹,并下载torch_npu对应版本的源码,协同编译。 若build/pytorch目录存在,则编译op-plugin时,不再重复下载torch_npu源码。如需下载所依赖的最新torch_npu源码,删除build/pytorch目录即可。

  3. 完成编译后,安装dist目录下生成的插件torch_npu包,如果使用非root用户安装,需要在命令后加**--user**。

    pip3 install --upgrade dist/torch_npu-2.1.0-cp38-cp38m-linux_aarch64.whl
    # 若用户在x86架构下安装插件,请替换为对应的whl包。
    

版本配套表

op-plugin仓旨在为torch_npu提供运行所需要的算子适配文件,两个仓的对应关系如下:

op-plugin分支 对应Ascend Extension for PyTorch版本
master 主线版本,如v2.1.0、v2.2.0等
6.0.rc3 6.0.rc3版本,如v2.1.0-6.0.rc3等
6.0.rc2 6.0.rc2版本,如v2.1.0-6.0.rc2等
6.0.rc1 6.0.rc1版本,如v2.1.0-6.0.rc1等
5.0.0 5.0.0版本,如v2.1.0-5.0.0等
5.0.rc3 5.0.rc3版本,如v2.1.0-5.0.rc3等

支持的型号

  • Atlas 训练系列产品
  • Atlas A2 训练系列产品

生命周期

op-plugin仓依赖torch_npu运行,生命周期请参考torch_npu中的PyTorch版本维护策略

安全声明

OpPlugin安全声明