ModelScope魔搭25年1月版本发布月报

文摘   2025-01-17 18:50   浙江  
本月上新






随着2025年帷幕的缓缓拉开,ModelScope团队怀着新年新气象的美好期许,为广大开发者带来了1月份的重磅更新。


本次发布不仅集成了众多开发者心心念念的一系列新功能,如通过SDK和ModelScope命令行来实现原生的、不依赖于Git协议的模型与数据集的流式上传。还针对Notebook进行了一系列功能扩展与用户体验的快速迭代,比如引入了VS-Code IDE功能等。


此外,ModelScope社区上的模型、数据集、创空间与合集等诸多元素,也正通过平台的血缘体系建设, 产生更紧密的关联和化学反应。AIGC专区依然处于一个迅速迭代的周期中,本期也引入了创意广场等诸多新元素和生图能力+训练性能的优化。在开源工具链部分,除了持续推进ModelScope被各个开源生态的集成,Swift框架也完成了3.0大版本的正式发布,在引入诸多新特性的同时,也为更全面支持大模型的训练和集成奠定了基础。


与此同时,我们正紧锣密鼓地进行更多功能的开发与测试。在新的一年里,我们将继续加快技术迭代的步伐,与广大开发者共建一个更完整易用的社区模型开发生态。







· 站点更新

     1. Notebook添加VS-Code Web-IDE的支持,提供在Notebook环境里,原生的IDE代码开发体验。





     2. Notebook添加包括持久化存储额度,CPU/内存等资源使用的实时监控等能力,使得开发者能够更准确、直观地掌握Notebook开发环境的状态,从而提升开发效率和资源利用的合理性。





     3. 支持包括合集在内的多种元素之间的自动关联:方便开发者进行更有效的社区内容探索。





     4. ModelScope API-Inference功能:增强了API-Inference支持的模型类型,涵盖了视觉(Vision)和 AIGC领域的模型。例如通过API-Inference,可以直接调用平台上大量的文生图模型:



具体可参考文档:https://www.modelscope.cn/docs/model-service/API-Inference/intro

 


     5. AIGC专区:

  • AIGC模型在各个列表的模型卡片中,添加了封面缩略图:





  • 增加图库、创意广场以及图片返图功能模块,支持专区生成的图片能更方便地在社区内进行分享:





  • 在专业生图功能中优化了多LoRA叠合生成逻辑与交互:




  • 在模型训练功能中,我们新增了对 Flux 框架的 Joy Caption 打标算法的支持,并引入了一键重启功能,允许用户在训练任务因超时而终止后能够轻松继续训练。





     6. SwingDeploy平台免费部署功能上线:模型部署服务推出了免费部署额度,用户仅需关联阿里云账号即可在线体验!当前,我们为每个社区用户在CPU环境下提供10个任务的免费部署额度。快速部署(SwingDeploy)功能集成了主流的推理框架并且适配OpenAI API兼容的推理能力,为社区用户提供更加灵活和高效的部署选项。





     7. 模型库页面分类添加MLX分类。同时MLX社区完成了与ModelScope生态的适配,通过“MLXLM_USE_MODELSCOPE”环境变量,即可实现从ModelScope社区加载MLX模型。




     8. 模型卡片对于ModelScope生态的自动适配功能beta上线。更好支持平台上代码的开箱可用性。


     9. 创空间设置添加了“深度重启” 选项。





· 开源SDK与工具链更新

    1. SDK 1.22(最新版本为1.22.2)发布,提供如下新功能:

  • 通过ModelScope命令行或SDK接口,直接基于Http协议上传模型/数据集,避免本地操作git lfs数据来进行上传可能引入的overhead。在上传之前,请确保模型/数据集已经提前创建好。

    • 通过ModelScope命令行上传模型:

modelscope upload org/model-name  /path/to/local/dir --token MODELSCOP-TOKEN

    • 通过SDK上传模型:

from modelscope.hub.api import HubApi
api = HubApi()api.login('MODELSCOPE-TOKEN')
api.upload_folder( repo_id='org/model-name', folder_path='/path/to/local/dir ', commit_message='upload model folder to repo')

具体使用方式可参考文档:https://www.modelscope.cn/docs/models/upload


  • 模型下载的hash校验逻辑改为流式hash计算,避免大模型文件下载后的hash校验成为卡点。

  • 支持与SWIFT 3.0大版本的对接,并支持最新版本的datasets

  • 通过在snapshot_download里添加repo_id与repo_type来统一模型与数据集的下载,同时我们也统一了自定义缓存路径是模型和数据集的存储,并且对下载进度展示做了优化。

     2. SWIFT 3.0大版本正式发布,并已经迭代到3.0.2。3.0实现了所有组件的完整重构,为SWIFT框架提供了更好的扩展性新模型结构支持的便利性。支持的新特性包括:


  • 通过plugin机制来定制模型训练过程,添加了多模态模型PreTrain的支持。

  • 数据集模型的整体重构带来了加载速度2-20倍的提升,并支持了streaming模式。

  • 用model id统一了模型,移除model_type机制并大大简化了新模型使用方式。

  • template整体切换为messages格式的入参,并使用jinja模型推理。

  • 添加了大模型的RM和PPO训练,推理,部署和BNB/GPTQ量化,并提供了对于SequenceClassification模型的支持。


完整的SWIFT 3.0大版本Release Note可参见:
https://swift.readthedocs.io/zh-cn/latest/Instruction/ReleaseNote3.0.html 

     3. EvalScope发布了0.9.0版本,支持自定义schema进行数据混合评测,使得开发者能够用更少量的多数据集混合获取的数据,来进行更全面的模型能力评估。在添加了PMMEval等benchmark以外,支持自行添加benchmark功能,集合社区力量来覆盖更多的评测benchmark支持。在评测接口上,统一了使用本地和远端模型服务通过API进行评测的接口,并添加了TTFT,TPOT等多种性能指标。


     4. DiffSynth-Studio 完成了HunyuanVideo的接入,并通过包括模型加载方式在内的多方优化,支持了显存的极致优化。在训练方面,提供了resume from ckpt的能力。





👇点击关注ModelScope公众号获取
更多技术信息~


魔搭ModelScope社区
模型开源社区魔搭社区ModelScope官方账号
 最新文章