中文
本页内容

概述

openMind Library是一个深度学习开发套件,通过简单易用的API支持模型预训练、微调、推理等流程。openMind Library通过一套接口兼容PyTorch和MindSpore等主流框架,同时原生支持昇腾NPU处理器。

openMind Library特性

  • 为了应对大模型分布式训练的挑战,openMind Library提供了预训练接口,支持MindSpeed、Accelerate等加速库,帮助开发者顺畅快速地训练大模型,具体可参考模型预训练章节。

  • openMind Library对Transformers和MindFormers的AutoClass、Pipeline、Trainer等接口进行封装,并增强了其功能。还提供了从魔乐社区自动下载和加载模型的能力,同时扩展新增了昇腾NPU亲和的特性,有效提升在昇腾NPU上进行模型训练推理的性能,具体可参考模型微调模型推理章节。

  • openMind Library针对本地快速运行大模型的场景,提供了简明易用的命令行接口,低代码迅速执行模型上传下载、推理和对话,具体可参考命令行接口章节。

openMind Library模型开发案例

openMind Library可以和PEFTDeepSpeed等三方库配合使用,我们提供了使用openMind Library进行模型开发的实践文档,包含openMind和LLaMA Factory配合进行模型微调等案例,具体可参考模型开发实践章节。

更多的模型可以在魔乐社区模型库中获取并通过openMind Library套件进行模型加载和训练,欢迎各位开发者一起进行openMind Library套件的开发,并将通过openMind Library套件开发的模型上传到魔乐社区。