统一身份认证登录
教师:登录即可使用默认算力资源
学生:加入教师团队后即可使用算力
6月,昇腾平台完成了重要升级。其中最突出的亮点在于,昇腾平台可直接对接我校统一身份认证,用户可直接使用一卡通账号登录,每位老师的账号默认拥有一张虚拟卡两张实体卡的昇腾910,老师可自行将资源分配给学生,也可以申请更多的算力资源。学生则需要登录后加入相应老师的课题使用算力资源。
Part 01
新版算力平台
更新亮点
1、 新增统一登录与身份认证
√ 运营管理员和算力平台用户(教师、学生)统一登录到运营平台Portal,统一访问入口。
√ 算力平台与东南大学身份认证中心对接,实现算力平台用户(教师、学生)使用东南大学账号和密码统一登录、申请开通和使用ModelMate管理的AI算力资源和服务。
2、 增加多租管理与课题管理
√ 统一RightCloud与ModelMate的租户用户管理、租户自动开通和用户角色映射。
√ 新增按课题新建或管理租户,在租户范围内关联租户和学生,更好服务科研创新与教学。
√ 新增租户间数据隔离,保护各课题间数据集、Notebook或训练等相关数据私密性。
3、 租户资源配额与资源分配管理
√ 支持按教师用户维度设置默认算力资源配额(如:x张NPU卡),并与教师课题关联。
√ 与教师关联的租户(或课题)在该教师的配额范围内申请、分配和使用算力资源。
4、 新增分布式存储DPC功能
√ 升级OceanStor Pacific分布式存储,支持多协议互通特性,实现DPC并行文件存储支持。
√ ModelMate支持Notebook或训练任务容器DPC存储卷挂载,实现大模型开发调测或训练任务使用DPC卷读取或写入,提升访问性能(相比OBS,实际性能提升依赖存储硬件配置)。
Part 02
新版算力平台
登录方式与操作指导
一、算力平台登录
教师版
1. 打开浏览器
访问 https://aiuconsole.seu.edu.cn/
2. 自动跳转至东南大学统一身份认证界面
输入一卡通号和密码,选择登录,登录成功后会自动跳转至昇腾算力平台。
3.在默认课题下开通ModelMate服务
每位老师都有一个默认课题,如果需要使用AI智算算力,请先开通ModelMate服务。
1) 左侧菜单找到ModelMate菜单,在右侧页面点击“开通服务”按钮。
2)点击后浏览器会打开一个新页面,请在新页面中下滑到页面底部,在“资源池冻结策略”选项选择“继续作业”,然后点击“立即购买”按钮。
3)点击后会看到订单提交成功页面,请等待约3分钟左右,到订单列表页面,等待该订单状态变为开通完成。
4. 使用ModelMate算力
待开通服务订单状态变为“开通完成”后,再次访问ModelMate页面,点击页面上方的“ModelMate控制台”按钮,即可跳转至ModelMate AI算力服务平台使用AI智算算力。
5. 邀请学生加入课题
请打开 访问控制-> 我的课题->课题邀请页面,您可以在此页面搜索您的学生,然后可以选中学生,点击“邀请”按钮。
看到邀请成功的提示后,请等待约1分钟,即可在课题成员页签,看到您的学生。
6. 如何配置学生在ModelMate平台侧的权限?
请先切换到指定课题,进入访问控制->用户组页面,找到样本发布者、样本标注者、算法工程师、推理工程师四个内置用户组(这四个用户组权限会映射到ModelMate侧)。
点击右侧的“配置用户”按钮,在弹出框中,将选中指定学生,然后点击“确定”按钮,完成权限配置。配置完成后,该学生跳转到ModelMate控制台,即可拥有相应的功能权限。
用户权限介绍:
学生版
1. 打开浏览器
访问 https://aiuconsole.seu.edu.cn/
2. 自动跳转至东南大学统一身份认证界面
输入一卡通号和密码,选择登录,登录成功后会自动跳转至昇腾算力平台。
3. 加入老师的课题
1)如果学生此时未加入任何课题,登录后会看到弹窗提醒,此时用户仅能点击“去我的课题”按钮,到我的课题页面,提交加入课题申请。
2)在我的课题->课题申请页面,可以搜索您的老师,在右侧点击加入课题按钮,提交加入课题申请后,等待老师接受您的申请。您也可以线下联系您的老师,让老师直接邀请您加入课题。
4. 使用ModelMate算力
课题申请通过后,需要重新登录到平台。切换到指定课题后,点击左侧的“ModelMate”菜单,在右侧页面点击页面上方的“ModelMate控制台”按钮,即可跳转至ModelMate AI服务平台使用AI智算算力。
二、Notebook的调测与训练
1. 新建Notebook
登录后进入ModelMate平台,点击模型开发->Notebook显示Notebook列表,点击新建开始创建Notebook。
新建Notebook页面输入名称、选择引擎、资源池、规格,设置是否开启ssh及自动关闭时间,最后点击确定进行Notebook创建。
2. Notebook调测
1) 在JupyterLab页面进行开发
在模型开发-> Notebook列表中的名称列点击创建的Notebook打开Notebook开发环境。
通过Terminal可以命令行的方式访问
约束:
大的权重文件和数据集使用obs客户端工具进行上传到指定目录
Notebook工作目录只放模型代码和少许其他必须文件
2) 使用Visual Studio Code开发算法
可通过离线或在线两种方式安装插件(推荐离线场景):
离线场景安装插件,请参考离线安装插件(需提供有效链接),使用官网最新版本的Visual Studio Code软件和插件,以确保两者兼容。详细操作指导见附件使用Visual Studio Code开发算法章节。(注:复制到本地再打开,不能直接点击打开)
在线场景安装插件,请参考在线安装插件 (需提供有效链接),为给您提供更好的体验,请使用Visual Studio Code1.71.0及以上版本。
3. 训练作业
在Notebook列表中选择待训练的Notebook,点击列表中的训练按钮,进入训练作业启动配置页面进行训练作业配置。
主要信息描述:
三、 常见问题与解决方案
1、 如何拥有多个课题?
请到访问控制->我的课题页面,点击页面右上角的“创建新课题”按钮,在创建课题弹出框中,填写课题名称与描述后,点击确定按钮,完成课题创建。
不同课题之间数据完全隔离,如果您想在新课题使用AI算力,请参考快速开始的步骤,为新课题重新开通ModelMate服务。目前一位老师最多允许拥有16个课题。
2、 如何切换课题?
点击页面上方的课题下拉选项,在下拉框中选择任意课题进行切换。
3、 如何分配AI算力配额?
请到课题管理页面,将属于您的配额按需分配给各个课题。首先点击设置配额按钮,进入配额编辑状态,然后在各个课题之间分配配额,确认无误后点击保存配额按钮,完成配额分配。
老师所有课题共享总配额,在保存配额操作时,要保证每个课题的配额汇总相加不能超过老师的总配额。
4、 如何处理学生加入课题的申请?
请对应课题的访问控制->我的课题->申请记录页面,查看由学生主动发起的加入课题申请。
您可以选择对应学生的申请,进行接受或拒绝操作,一旦接受学生的加入课题申请,学生就会加入您的课题,成为正式课题成员。
* 更多常见问题请查阅
《东南大学算力平台操作指引v3.0》
访问方式:点击“阅读原文”链接或进入“东大云盘文档库-帮助文档”查看
如有问题无法自行解决,可联系 孙志城
电话:17826009596
微信:SQK1031000238
供稿:华为鲲鹏昇腾生态创新中心
编辑:陈秋池
审核:赵立业、胡轶宁、陈雨昊、余琦