Skip to content

Latest commit

 

History

History
108 lines (78 loc) · 7.38 KB

README.cn.md

File metadata and controls

108 lines (78 loc) · 7.38 KB
Raw

Vega

English | 中文

Vega ver1.8.5 发布

  • 错误修正

    • 修正SPNAS算法集群训练失败时的问题。
    • 修正了安全模式下模型拷贝失败等问题。

Vega简介

Vega是诺亚方舟实验室自研的AutoML算法工具链，有主要特点：

  1. 完备的AutoML能力：涵盖HPO(超参优化, HyperParameter Optimization)、Data-Augmentation、NAS(网络架构搜索， Network Architecture Search)、Model Compression、Fully Train等关键功能，同时这些功能自身都是高度解耦的，可以根据需要进行配置，构造完整的pipeline。
  2. 业界标杆的自研算法：提供了诺亚方舟实验室自研的 业界标杆(Benchmark) 算法，并提供 Model Zoo 下载SOTA(State-of-the-art)模型。
  3. 高并发模型训练能力：提供高性能Trainer，加速模型训练和评估。
  4. 细粒度SearchSpace：可以自由定义网络搜索空间，提供了丰富的网络架构参数供搜索空间使用，可同时搜索网络架构参数和模型训练超参，并且该搜索空间可以同时适用于Pytorch、TensorFlow和MindSpore。
  5. 多Backend支持：支持PyTorch(GPU, Ascend 910), TensorFlow(GPU, Ascend 910), MindSpore(Ascend 910).。
  6. 支持昇腾平台：支持在Ascend 910搜索和训练，支持在Ascend 310上模型评估。

算法列表

分类 算法 说明 参考
NAS CARS: Continuous Evolution for Efficient Neural Architecture Search 基于连续进化的多目标高效神经网络结构搜索方法 参考
NAS ModularNAS: Towards Modularized and Reusable Neural Architecture Search 支持权重共享和网络变换等方法的神经网络架构搜索算法集 参考
NAS MF-ASC Multi-Fidelity neural Architecture Search with Co-kriging 参考
NAS NAGO: Neural Architecture Generator Optimization 基于随机图生成器的，多阶层的神经网络搜索空间 参考
NAS SR-EA 适用于轻量级网络的自动网络架构搜索方法 参考
NAS ESR-EA: Efficient Residual Dense Block Search for Image Super-resolution 基于网络架构搜索的多目标图像超分方法 参考
NAS Adelaide-EA: SEGMENTATION-Adelaide-EA-NAS 图像分割网络架构搜索算法 参考
NAS SP-NAS: Serial-to-Parallel Backbone Search for Object Detection 面向物体检测及语义分割的高效主干网络架构搜索算法 参考
NAS SM-NAS: Structural-to-Modular NAS 两阶段物体检测架构搜索算法 开发中
NAS Auto-Lane: CurveLane-NAS 一种端到端的车道线架构搜索算法 参考
NAS AutoFIS 一种适用于推荐搜索场景下的自动特征选择算法 参考
NAS AutoGroup 一种适用于推荐搜素场景下的自动特征交互建模算法 参考
Model Compression Quant-EA: Quantization based on Evolutionary Algorithm 自动混合比特量化算法，使用进化策略对CNN网络结构每层量化位宽进行搜索 参考
Model Compression Prune-EA 使用进化策略对CNN网络结构进行自动剪枝压缩算法 参考
HPO ASHA: Asynchronous Successive Halving Algorithm 动态连续减半算法 参考
HPO BOHB: Hyperband with Bayesian Optimization 动态连续减半算法 参考
HPO BOSS: Bayesian Optimization via Sub-Sampling 基于贝叶斯优化框架下的一种针对计算资源受限，需要高效搜索的，具有普适性的超参优化算法 参考
Data Augmentation PBA: Population Based Augmentation: Efficient Learning of Augmentation Policy Schedules 基于PBT优化算法搜索数据增广策略时刻表的数据增广算法 参考
Data Augmentation CycleSR: Unsupervised Image Super-Resolution with an Indirect Supervised Path 底层视觉的无监督风格迁移算法 参考
Fully Train FMD 基于特征图扰动的神经网络训练方法 参考

安装

执行如下命令安装Vega：

pip3 install --user --upgrade noah-vega

使用

使用vega命令来运行Vega应用，比如可执行如下命令运行CARS算法：

vega ./examples/nas/cars/cars.yml

其中cars.yml中包含了pipeline、搜索算法、搜索空间、训练参数等定义。 Vega提供了40+示例供参考：示例、示例参考、配置参考。

安全模式适用于通信安全要求高的场景，在运行前请执行安全配置：

vega ./examples/nas/cars/cars.yml -s

参考

对象 参考
用户 安装指导、部署指导、安全配置、配置指导、示例参考、评估服务
开发者 开发者指导、快速入门指导、数据集指导、算法开发指导

FAQ

常见问题和异常处理，请参考FAQ。

引用

@misc{wang2020vega,
      title={VEGA: Towards an End-to-End Configurable AutoML Pipeline},
      author={Bochao Wang and Hang Xu and Jiajin Zhang and Chen Chen and Xiaozhi Fang and Ning Kang and Lanqing Hong and Wei Zhang and Yong Li and Zhicheng Liu and Zhenguo Li and Wenzhi Liu and Tong Zhang},
      year={2020},
      eprint={2011.01507},
      archivePrefix={arXiv},
      primaryClass={cs.CV}
}

合作和贡献

欢迎大家使用Vega，有任何疑问、求助、修改bug、贡献算法、完善文档，请在社区提交issue，我们会及时回复沟通交流。