作者简介:朱露,天津大学教育学院博士研究生;胡德鑫,天津大学教育学院副教授;王凯峰,天津大学机械工程学院副教授;顾佩华,天津大学新工科教育中心主任、机械工程学院教授,加拿大工程院院士。
摘 要:工程教育专业认证中的毕业要求达成评价是专业自我评价与认证组织考查评价的重点和难点。以国际上典型大学和认证组织为研究对象,分别对学校评价实践和认证组织评价制度体系作案例解析。研究表明:学校毕业要求达成评价聚焦课程质量评价,主要在对毕业要求具有强支撑作用的专业必修课和实践性教学环节中进行,采用直接辅以间接、定量结合定性、过程对照结果的综合评价模式获取数据,通过不同类型数据构建完整证据链以三角检验评价结果,综合应用定量分析评判法与定性分析描述法判断达标程度,评价过程重视多元主体协同参与,其实质是以持续改进为导向的周期性循环评价;认证组织基于工程师职业能力标准构建毕业要求框架,统筹设计毕业要求达成评价机制,通过分专业大类细化毕业要求、提供指标点分解样例、明确考查重点与实施细则、制定评价指导方针与评估量规,建立系统性、科学性、规范性的评价指导体系。
根据产出导向教育(Outcome-based Education,OBE)理念,《华盛顿协议》各成员组织制定了具有国际实质等效性的工程教育专业认证标准。其中,反映学生培养质量和水平的毕业要求,是《华盛顿协议》判断其成员组织认证体系实质等效性的重点关注项,也是专业人才培养自我评价与认证组织考查评价的重要内容。通过毕业要求达成评价,专业对教育教学活动进行全过程、全要素、全方位监测,根据评价结果有针对性地采取改进措施,将教育改革落实至具体教学环节,持续推进人才培养质量提高与专业高水平发展。由于毕业要求达成评价是工程教育专业认证的重要环节,对学校建立产出导向课程体系与考核要求、贯彻落实持续改进机制具有引导和促进作用。因此,亟需从学校和认证组织两个视角,进一步明确毕业要求达成评价的内容要素与实施策略,构建产出导向的毕业要求达成评价参考方案。
(一)评什么:学生毕业时的知识、能力和素养是否达标
毕业要求是学生毕业时在知识、能力、素养方面应达到的基本水平。[1-3] 工程教育领域的毕业要求涉及三个方面:国际工程教育互认体系的毕业要求,如《华盛顿协议》的毕业生素质(Graduate Attributes)[4]、欧洲工程教育专业认证体系的专业产出标准(Program Outcomes)[5];各国/地区工程教育专业认证标准中的毕业要求,简称标准毕业要求;学校具体专业制定的毕业要求,简称专业毕业要求。毕业要求达成评价以毕业生的能力要素和能力水平为评价内容,科学制定毕业要求并明确其内容构成是有效开展毕业要求达成评价的第一步。然而,从认证组织视角看,我国工程教育专业认证协会制定了统一的毕业要求框架,但未分专业领域制定指导性的毕业要求,由于还没有实施注册工程师制度,尚未实现毕业要求与工程师职业能力标准相衔接。从学校视角看,参与认证的高校虽然根据各自办学特色制定专业毕业要求、设置毕业要求指标点,但一些专业毕业要求的可衡量性及其对标准毕业要求的覆盖性不足。[6] 如何制定清晰明确、可落实可评价,既符合认证标准、又具有培养特色的专业毕业要求成为学校面临的一个挑战。
(二)怎么评:学校和认证组织如何科学证明毕业要求达成
毕业要求达成评价包括专业自我评价和认证组织考查评价两个关键环节。专业自我评价是学校通过直接和间接方式,系统收集最具代表性且能反映毕业生学习结果(产出)的相关评价数据,定量统计和定性分析评价结果后,对毕业生是否达成、如何达成以及何种程度上达成专业毕业要求做出的评价。认证组织考查评价由认证专家通过审阅自评报告、开展现场考查,判断参与认证专业对标准毕业要求的达成情况。目前,学校毕业要求达成评价存在评价方法单一(主要以课程考试算分法为主)、评价未聚焦课程目标达成、外部利益相关者参与评价的体制机制不健全、基于评价结果的改进措施不系统和不严谨等问题。[7] 认证组织毕业要求达成评价面临考评要素和评价实施细则不明确,专家考查以质性判断为主、缺乏客观评估量规,评价指导材料不完善等问题。学校如何客观真实证明毕业生质量达到预期并实现专业持续改进、认证组织如何科学合理评判专业人才培养质量达标,是卓越工程师培养与工程教育专业认证的重点与难点之一。
(一)研究思路
采用探索性多案例研究策略,分别从学校和认证组织双维视角剖析毕业要求达成评价的国际案例做法,通过分项比较与系统整合,探寻学校之间、认证组织之间毕业要求达成评价的异同。学校方面的案例分析侧重从评价周期、评价过程、评价方法、用于评价的课程、评价结果、持续改进等方面展开,认证组织方面的案例分析聚焦考查要素、评价指导、评价体制机制等内容。根据学校自评和认证组织考评的国际成熟经验,结合OBE理念,凝练毕业要求达成评价的核心要素,探索可供参考的评价体系和策略,立足学校和认证组织两个不同评价主体,分类构建毕业要求达成评价参考方案。同时,以机械工程专业为例,对学校如何有效开展毕业要求达成评价进行举例说明。
(二)案例选择
(一)学校方面毕业要求达成评价的比较分析
1.圣路易斯大学的实践经验
(1)案例描述
圣路易斯大学计算机工程专业在2018~2019年认证期内通过ABET认证,全面采纳ABET11条毕业要求(a-k)并设置指标点(Indicators)。该校毕业要求达成评价按照三年轮换时间表进行,每年参与评价的指标有所不同,通常控制在4个以内,3年时间里完成对11条毕业要求的评价,在ABET六年认证有效期内可系统收集两轮评价数据。
资料来源:根据https://www.slu.edu/provost/educational-program-development-review/assessment-student-learning/program-level/pks/computer-engineering_bs_report_2018.pdf的部分内容翻译整理而成。
从评价结果及其应用上看,圣路易斯大学毕业要求达成评价的明显特征是通过制定量规表,对指标达成情况进行赋值处理,并设定需要采取改进措施的阈值。就直接评价而言,教师根据表2所示的三级量规,对9门专业核心课的课程目标达成情况进行赋分,求取平均值后得到每条毕业要求的达成评分(见表3)。就间接评价而言,各种定性调查同样以赋值的方式量化处理调查结果,以毕业生调查为例,该项调查邀请毕业生对何种程度上达成各项毕业要求作自我判断,答案选项包括完全赞同、赞同、一般赞同、不赞同、完全不赞同,分别赋值3、2.5、2、1.5、1,汇总计算后的得分即可反映毕业要求达成情况。为增强评价结果与持续改进之间的关联性与协调性,圣路易斯大学还制定了根据评分有针对性采取改进措施的基本原则。如果毕业要求达成得分介于2.5~3,则无需做出改进;得分介于2~2.5,可考虑做出一定改进;得分<2,则必须做出改进。专业改进重在优化课程体系以及与课程相关的评价手段,通常表现为删除不必要课程、根据内外部需求增设新课程、对现有课程不合适的部分作调整,同时涉及指标点、课程目标等配套制度改革。
表 3 圣路易斯大学计算机工程专业2016~2018年a项毕业要求达成评价结果[8]
备注:a项毕业要求为数学、科学和工程知识的应用能力,N/A表示评价数据收集不充分,评价结果为N/A的课程不参与计分。
(2)案例评析
圣路易斯大学将毕业要求分解为指标点,基于指标点制定课程目标,在毕业要求、指标点与课程目标之间建立对应关系,使概括程度较高的毕业要求由科学合理、可衡量、可评价的课程目标进行落实,增强了毕业要求达成评价的可靠性与可操作性。值得注意的是,同一项毕业要求的不同指标点对应支撑的课程群大多保持一致(如表1所示,a项毕业要求的3个指标点基本均由ECE2103、ECE3130、ECE3151、ECE4800/ECE4810四门课程支撑),说明指标点不是对毕业要求内容的简单分解,指标点之间具有内在逻辑关联,可按照一定逻辑关系组合形成有机整体,从而较好保证了能力培养与评价的系统性和完整性。此外,圣路易斯大学善用评估量规为课程目标评价提供统一判断依据,并根据量规表的评估等级量化处理评价结果,一定程度上避免了评价的主观臆断,也有利于根据定量目标值直观判断毕业要求达成情况。
2.华盛顿大学的实践经验
(1)案例描述
2019~2020年认证期内,华盛顿大学计算机工程专业直接采用ABET7条能力指标作为毕业要求,未设置专业层面上的毕业要求指标点,但在课程层面将毕业要求分解为若干绩效指标(Performance Indicators,此处又称课程目标)。华盛顿大学毕业要求达成评价未面向所有专业核心课,而是在部分顶点课程(Capstone Course)中进行,每三年系统收集一轮毕业要求达成评价数据。
顶点课程是开设于大四的综合性专业限选课(Selective Elective Course),在顶点课程中,学生以团队形式合作完成包括方案设计、建造实施、效果评估、成果展示等任务的大型实质性项目,共同解决复杂工程问题。华盛顿大学的顶点课程按主题设置,涵盖嵌入式系统、虚拟现实、操作系统、声音和媒体、动画、机器人、安全、计算生物学、人机交互、可访问性、自然语言处理和资源受限环境技术等领域,各领域分别开设有相应的顶点课程供学生选择,每名学生至少选修一门顶点课程才能达到毕业要求。实施评价时从近三年设置的顶点课程中选择一定数量的课程用于毕业要求达成评价,每年通过个别顶点课程(分别开设于上下两个学期)获取评价数据,按照三年轮换时间表循环评估参评课程。由于顶点课程对达成各项毕业要求具有强支撑作用,能系统反映各项毕业要求的达成情况,从而实现每年对所有毕业要求进行评价,各项毕业要求在一年内经历两轮评估,三年收集的顶点课程评价数据即作为毕业要求达成评价数据之一。
从评价结果及其应用上看,华盛顿大学毕业要求达成评价结果以质性数据为主,一是教师根据顶点课程目标对学生表现的等级划分,二是通过在校生、毕业生、用人单位等获得的能力反馈。对于以课程考核为代表的直接评价结果,华盛顿大学对照毕业要求逐条说明在各项能力培养上采取的改进措施,主要表现为课程体系优化和教学模式创新。对于以定性调查为代表的间接评价结果(见表5),则将其作为修订毕业要求和培养目标、调整课程设置、改进教学方法、健全评价机制以及优化资源配置的补充性依据。整体而言,华盛顿大学毕业要求达成评价的核心是以学习产出为导向的课程质量评价,根据评价结果优化课程设置是持续改进的一大重点。
(2)案例评析
华盛顿大学毕业要求达成评价注重多主体协同参与和多种方法配合使用,遵循宏观定性调查与微观课程质量评价相结合的评价思路,一方面有利于从不同主体视角综合判断毕业要求达成情况,另一方面有利于通过不同类型数据三角验证评价结果。该校虽然未在专业层面将毕业要求分解为指标点,但在课程层面对毕业要求进行要素分解,即直接将毕业要求细化落实至具体课程目标。这一做法的优点是容易得到相对规范的课程目标集,评价方法简洁,但没有统一的毕业要求指标点作指导,教师可能难以准确把握毕业要求的内容要素,容易对毕业要求产生笼统而模糊的理解,不利于制定明确具体、易于衡量的课程目标。此外,华盛顿大学选择顶点课程进行毕业要求达成评价,该类课程综合实践性较强,有助于系统评价学生解决复杂工程问题的能力,但由于未将专业领域内的先修课纳入评价,因而无法获取形成性评价数据,不利于通过对比过程数据和结果数据全面反映毕业要求达成情况。
3.佛罗里达大学的实践经验
(1)案例描述
2012~2013年认证期内,佛罗里达大学计算机工程专业的毕业要求与ABET11条能力指标(a~k)保持一致,没有独立设置毕业要求指标点。毕业要求达成评价周期为四年,直接评价数据按学期收集,间接评价数据按年度获取,根据四年学制内获得的直接与间接评价数据系统反映毕业要求达成情况,数据整理、分析和验证工作由学院课程委员会(Course Committee)和协调组(Coordinator)共同负责。
从评价方法上看,佛罗里达大学构建直接评价辅以间接评价、定量评价结合定性评价、形成性评价与总结性评价并重的综合评价体系。该校毕业要求达成评价以课程质量的直接定量评价为主,收集数据过程中,既通过课程作业、平时测验实施过程考核,又通过期末考试、项目设计等实施终极考核,注重教学评价的连续反馈,加之善用李克特量表量化处理评价结果,从而较好保证了评价的客观性、及时性和有效性。就所选课程对毕业要求的支撑强度而言,一门课程通常支撑2~4条毕业要求,一条毕业要求最少由三门课程支撑,设计类课程强支撑所有毕业要求,建立了相对科学的评价支撑关系。然而,单纯采用量化评价可能导致统计数据的无效堆砌,有时虽然能计算出具有一定统计意义的评价结果,但并未得到具有教学改进作用的实质性结论。为此,该校又通过课程委员会对毕业要求达成情况进行质性判断,将其作为课程定量评价数据的补充。在间接评价方面,数据获取途径包括学生焦点小组、毕业生调查和工业咨询委员会反馈,间接评价数据一般是以提问方式获得的态度、观点和建议,主要用于验证和补充直接评价结果。
从评价结果及其应用上看,佛罗里达大学毕业要求达成评价结果以量化数据为主,质性数据作为补充,持续改进在不同类型数据相互佐证的基础上进行。量化数据按照李克特量表进行标准化处理,规定80%及以上的学生满足能力要求且达成评分≥3则视为该项毕业要求达成。[10] 根据量化评价结果(见表7),能直观看到各门课程在各项毕业要求上的达成评分、对比不同毕业要求指标项的得分差异,从而判断单项毕业要求达成情况、毕业要求整体达成情况以及课程体系存在的问题,问题改进措施一般包括优化课程结构(如增删课程或改变课程性质和学时)、调整课程内容(如删除陈旧知识、补充新知识)、改良教学方法和学习形式(如引入团队合作)等。质性评价数据以提取核心观点和重要建议的方式呈现,主要反映学生学习需求、教师教学期望和行业企业用人标准,为改进课程教学及其相关要素(如教学设施)提供参考。
(2)案例评析
佛罗里达大学通过设立课程委员会和协调组,将评价数据的整理、分析与验证工作由独立性和专业性较强的组织机构负责,从而实现数据常态监测和规范管理。评价时采用直接辅以间接、定量结合定性、过程对照结果的综合评价模式获取数据,融合不同类型数据构建完整证据链,并在此基础上交叉比较、综合分析评价结果,有效保证了数据来源的多样性与评价结论的稳定性和可靠性。分析处理评价结果主要采用定量分析评判法,既设定定量目标值,又划定目标率,有利于根据量化数据直观反映毕业要求达成情况,但未使用量规表等定性分析描述法为课程评价、毕业生调查等提供统一判分依据,评价者可能因认知偏差导致判断不准确。此外,佛罗里达大学未对毕业要求进行要素分解,虽然将毕业要求矩阵式分布至用于评价的课程,但没有明晰毕业要求与课程教学目标之间的对应关系,一定程度上不利于准确判断专业是否全面达成毕业要求中的各项规定。
4.三所大学毕业要求达成评价的异同比较
(二)认证组织方面毕业要求达成评价的比较分析
1.美国工程与技术认证委员会:注重毕业要求达成评价的全流程指导
自美国ABET工程教育专业认证标准EC2000(Engineering Criteria 2000)颁布以来,ABET认证实现从输入导向到产出导向、从重数量达成到重质量提升的转变,反映学生学习水平和质量的毕业要求成为专业认证的重点关注项和考查项。为引导学校贯彻落实产出导向教育理念,形成教育质量持续改进的长效机制,ABET注重毕业要求达成评价指导,通过定期召开专题研讨会、补充完善认证辅助性参考文件,对评价计划、过程、策略、方法、周期、达标判断等予以指导。评价指导相关内容覆盖评价全过程,涉及评价准备、评价实施和持续改进三个阶段。
正式评价前,ABET倡导构建毕业要求达成评价与持续改进机制并对其科学性、合理性与有效性进行自我评估,自我评估通过量规表进行(见表9),重在审查利益相关者参与机制,培养目标与毕业要求的公开性、可衡量性和适切性,教学环节对毕业要求的支撑度,评价方法综合使用情况,基于评价结果的改进措施等内容。同时,建议针对每项毕业要求制定详细评价计划(见表10),明确毕业要求指标点、用于评价的课程与实践性教学环节、形成性和总结性评价数据来源、评价方法、评价时间、达标阈值等要素,并确定各类评价活动的责任人。关于评价时间,ABET提倡以2年或3年为一个周期推进循环评价与持续改进,每年选择一定数量的毕业要求进行评价,不同年份重点关注的评价活动可有所侧重。ABET指出,制定评价时间表只是为了系统规划评价活动,专业应根据评价结果适时调整评价计划,例如,收集多轮数据后发现某些指标的达成度始终较高,而某些指标一直较难达标,新一轮评价周期则应增加未达标项的被评次数。[11]
表 9 ABET毕业要求达成评价与持续改进机制的自我评估量规[12]
表格来源:根据ABET官网上毕业要求达成评价的相关文件和视频资料翻译整理而成。
评价过程中,ABET提出将毕业要求分解为绩效指标,建立支撑毕业要求达成的课程图,选择恰当评价工具或方法系统收集数据,根据达标阈值判断毕业要求达成情况并查找人才培养的弱项和问题项,最后将评价结果用于专业持续改进。选择用于评价的课程时,应重视发挥最终设计类问题(Ultimate Design Problem)对毕业要求达成评价的强支撑作用,该类问题没有明确解决方案,要求学生了解用户需求、考虑多种条件限制和约束,通过不断迭代优化,以系统集成的方法合作解决问题。[13] 在数据收集上,ABET关注两类数据来源:一是形成性评价数据、二是总结性评价数据,对比两类数据可判断学生进步幅度。形成性评价与总结性评价数据一般通过直接辅以间接的综合评价模式获得,直接评价包括行为观察、课程考试或平时作业、学习档案袋、标准化测验等方法,间接评价通过焦点小组、访谈、问卷等方式进行。一方面,ABET建议将直接评价数据作为持续改进的主要依据。ABET指出,直接评价的置信度和有效度取决于是否使用一系列明确而可衡量的绩效指标来界定毕业要求,如果毕业要求未被明确界定,则容易导致直接评价因缺乏客观评价依据而变成无根据的主观臆断。[14] 对于直接评价中的考试成绩分析法,ABET认为,考试成绩虽然能整体反映学生学习水平,但由于成绩受教师评分标准、考试内容等多种因素影响,其本身是一个相对衡量标准,难以根据成绩推断学生具体知道什么或能够做什么,因此,考试成绩与量规表配合使用能使分数更具解释力,课程考试关注的重点不应是分数,而是分数代表的学生知识、能力和素养水平。[15] 另一方面,对于难以直接测量的态度、观点、价值观等隐含品质,ABET主张通过访谈、问卷等间接评价方式进行测评,间接评价数据主要作为直接评价数据的补充和验证。而有效的间接评价取决于调查工具的质量,ABET强调,设计访谈提纲或编制调查问卷时要注意问题和测试题项准确反映评价内容,通过恰当抽样方式获得具有代表性和典型性的调查样本,保证问卷填答率,并对调查结果作科学分析与合理解释。[16]
获得评价数据后,ABET建议对评价参与者、评价内容、数据收集过程、评价周期、达标阈值、各项毕业要求达成情况、人才培养中的弱项和问题项、改进措施、优化趋势等进行归档整理,从而发现评价过程本身以及教育教学体系中存在的问题,系统分析产出导向教育理念和持续改进机制落实情况,在此基础上作进一步改进。那么,多少数据足以证明毕业要求达成,如何避免收集无效数据。ABET指出,一是要确保评价方法或工具与所要评价的学习产出相匹配,换言之,只有对毕业要求的内容有清晰认识(一般通过设置指标点明确毕业要求的内容构成),才能找到与之相匹配的评价方法;二是要科学设定评价周期,根据教学需要确定每年参与评价的指标,明确评价各项指标的意图以及相关评价数据的用途。[17]
2.加拿大工程师协会:明确毕业要求达成评价的考查要素与实施细则
加拿大工程师协会(Engineers Canada,EC)下属加拿大工程认证委员会(The Canadian Engineering Accreditation Board,CEAB)通过颁布系列文件,制定毕业要求达成评价实施细则,为专业自评和专家考评提供详尽指导。
一是在工程教育专业认证标准中细化毕业要求达成评价的五个要素,具体包括:组织结构和参与机制(Organization and Engagement),要求成立专门机构负责毕业要求达成评价与专业可持续发展,这一过程有教职员工和工业界代表参与;课程图(Curriculum Maps),要求构建以展示毕业要求、课程体系(或教学环节)、学期学时之间关系的书面化课程图;指标点(Indicators),要求为每条毕业要求建立一套可衡量且有文档记录的指标点,描述学生达到何种能力水平才可视为达成毕业要求;评价工具(Assessment Tools),要求对毕业要求达成评价工具作明确规定,并将其作为获得学生在六年或更短时间内关于12条毕业要求学习数据的基础;评价结果(Assessment Results),要求在6年一周期或更短时间内,至少获得完整一轮毕业要求达成评价数据,评价结果要足以证明学生达成12条能力指标。同时,EC还通过制定《毕业要求与持续改进评估量规》(The Graduate Attributes and Continual Improvement Rubrics),对五个考查要素的达成项与未达成项给予内涵说明。以指标点这一考查项为例,达成项的具体描述是指标点可衡量且全面覆盖毕业要求的内容要素、指标点与毕业要求预期达成的学习水平相一致、指标点数量与毕业要求的可持续数据收集计划相符合,未达成项表述为指标点不能充分描述并涵盖毕业要求的核心内容、指标点与毕业要求预期达成的学习水平不相符、指标点数量与毕业要求的可持续数据收集计划不相符。[18] 评估量规为认证专家进行毕业要求达成评价提供统一评判标准,一定程度上可避免评价的主观臆断性。
二是发布《产出导向标准指南》(A Guide to Outcomes-based Criteria),该指南作为专家考评的指导性文件,对上述五个考查要素的评价实施细则作进一步说明,为认证专家全方位考查专业毕业要求达成、多渠道收集毕业要求达标证据制定行动方针。不同考查要素的指导内容主要由考查要求、参考问题以及评价策略三部分构成(示例见表11)。其中,考查要求是对考查要素的内容说明,参考问题细化了对应考查要素涵盖的考查点,评价策略针对每个问题分解出可能存在的未达标情况。为有效判断毕业要求是否达成,指南还分项制定了12条毕业要求的评价指导方针,要求专业通过审查评价工具、评价结果以及评价结果应用情况反映毕业要求达成情况。各项毕业要求的评价指导方针具有相似性,大致包含以下三大内容[19]:其一,有多少课程教学活动支撑该项毕业要求,针对这一问题,要求列出完整课程体系和相关教学环节;其二,是否选择特定课程或教学环节用于毕业要求达成评价,毕业要求指标点是否与毕业要求相关联,该类问题旨在审查指标点与用以评价的课程、毕业要求之间的关联性;其三,指标点与毕业要求规定达到的能力水平之间是否存在差距,这一问题重在考查指标点与毕业要求所涵盖的能力要素是否相符。由此可见,CEAB将指标点作为毕业要求达成评价的考查重点,并为认证专家审查指标点分解情况予以指导。
3.英国工程委员会:构建统筹规划,分专业落实的评价机制
作为经英国皇家特许的工程师职业管理机构,英国工程委员会(Engineering Council United Kingdom,ECUK)不直接参与工程教育专业认证工作,而是通过授权的方式,让符合条件的工程专业学会成为被许可方(Licensee),将具体认证事项交由各专业学会负责。目前,具有ECUK授权资格的专业学会共39个[20],39个专业学会在遵循ECUK统一性认证规定的基础上,构建各自特有的认证标准和程序。统一性规定是指由ECUK制定的高等教育专业认证标准(Accreditation of Higher Education Programs,AHEP),其中包含所有专业学会必须遵循的学习产出标准(以下简称AHEP毕业要求)。AHEP毕业要求衍生于英国工程职业能力与责任标准(The UK Standard for Professional Engineering Competence and Commitment,UK-SPEC),从自然科学与数学、工程分析、设计与创新、工程师与社会、工程实践五个维度设定毕业生应达到的知识、能力和素养水平[2],成为被授权学会制定标准毕业要求的参考框架。解读AHEP毕业要求需要以UK-SPEC为背景,UK-SPEC规定了成为注册工程师(特许工程师、工程技师和工程技术员)应具备的能力,涵盖知识与理解,设计、开发与解决工程问题,责任、管理与领导力,沟通与人际交往能力,个人与专业承诺五个方面,AHEP毕业要求则基于UK-SPEC制定而成。[21]除此之外,AHEP还以细化毕业要求达成评价要点(见图3)的方式对被授权学会审查专业毕业要求达成情况予以指导。可以看出,ECUK通过统筹规划工程师职业能力标准、AHEP毕业要求框架及其考查点,构建毕业要求达成评价总方针,为专业学会和学校制定毕业要求、开展毕业要求达成评价指明方向。
图 3 英国工程委员会毕业要求达成评价机制
同时,专业学会在遵循ECUK认证总要求的基础上,又对个别专业的毕业要求框架和毕业要求达成评价的考查要点作进一步细化和落实。例如,土木工程师学会、结构工程师学会、高速路工程师学会、英国特许道路与交通工程师学会共同组建联合评审委员会,对建筑工程领域内的土木、结构、运输等相关工程专业实施认证。联合评审委员会聚焦工程设计,可持续性,健康与风险管理,专业素养、伦理、多样性与包容性等维度,从知识和理解能力、智力能力、实践技能、通用性可迁移能力四方面,制定适用于建筑工程相关专业的毕业要求,并给出评价各维度能力要素的方法。[22] 再如,化学工程师学会的毕业要求由通用性毕业要求和特殊性毕业要求两部分组成,通用性毕业要求即AHEP毕业要求,特殊性毕业要求是以化学工程专业为背景的毕业要求,强调数学、自然科学和相关工程基础、化学工程原理、化学工程实践、化学工程设计和嵌入式学习。[23] 除了制定专业领域的毕业要求框架,专业学会还在认证标准、认证标准解读性文件以及专业自评报告中明确毕业要求达成评价的考查要点,从专业层面落实毕业要求达成评价的实施细则。
4.澳大利亚工程师协会:基于职业能力标准设计毕业要求及其指标点
澳大利亚工程师协会(Engineers Australia,EA)是澳大利亚工程教育专业认证和工程师职业资格认证的统筹管理机构,也是国家统一的工程实践能力评估机构,具有制定工程师职业能力标准、构建工程教育专业认证和工程师资质认证体系、促进工程师终身职业发展等职能。EA工程师职业能力标准包括一阶能力标准(Stage 1 Competency Standard)和二阶能力标准(Stage 2 Competency Standard)。一阶能力标准将工程技术人才划分为专业工程师、工程技师和工程技术员三类,针对每一职业类型,从知识与技能基础、工程应用能力、专业与个人素养三方面制定毕业生从事工程实践应具备的基本能力。[24] 二阶能力标准设定授予上述三类工程技术人才特许资质应满足的能力要求,涉及专业承诺、对社区的义务、工作场所中发挥的价值和技术熟练程度四方面[25],获得特许资质的从业人员可得到世界各地政府、企业和公众的广泛认可,是工程技术人才能独立从事工程实践的重要标志。EA基于工程师职业能力标准设计教育产出框架,其工程教育专业认证的毕业要求源于一阶能力标准中专业工程师的相关能力描述,这也充分体现澳大利亚工程教育专业认证与工程师职业资格认证相衔接。EA毕业要求由三大能力(知识与技能基础、工程应用能力、专业与个人素养)和16个能力要素构成。为深化学校对能力标准的理解并加强课程教学和专业自评指导,EA还专门设置指标点供学校参考(见表12),从而增强毕业要求达成评价的可操作性。需要强调的是,概念内涵丰富的毕业要求一般被分解成多个指标点,而对于内容要素相对简单的毕业要求,则仅通过单一指标点对毕业要求作具体解释。此外,能力指标点不是对上位概念的简单分解,指标点之间具有较强逻辑关联,能力评价和能力培养都要以系统、整体的方式进行。[26]
为深化学校对工程教育专业认证标准的理解并增强专业自评的可操作性,EA颁布自评报告模板、认证标准用户指南(Accreditation Criteria User Guide),在细化标准考查要素、提供标准达成范例的基础上明确了毕业要求达成评价策略。概括总结毕业要求相关规定后发现,EA从毕业要求的制定、实现、合理性审查、达成评价以及持续改进等多方面对专业提出要求,具体包括:专业毕业要求覆盖标准毕业要求,毕业要求支撑培养目标达成,课程体系支撑毕业要求达成,毕业要求被分解为若干指标点,规范化制定、审查与修订毕业要求的制度体系,多元化评价方法,系统健全的评价程序与真实可靠的评价结果,根据评价结果推动专业持续改进,有专门的组织机构或体制机制保障外部利益相关者参与制定、评价、审查与修订毕业要求。值得一提的是,EA重视发挥指标点的评价功能,明确规定毕业要求应包含可衡量的绩效指标(Performance Indicator),基于多维绩效指标的评价要结合定量和定性评价措施,充分吸纳多元利益相关者反馈。此外,EA还将行业、企业参与毕业要求达成评价作为考查重点,建议以咨询委员会的形式(如工业咨询委员会)吸引行业、企业参与毕业生质量评价。
5.四个组织毕业要求达成评价的异同比较
作为工程教育专业认证的核心参与主体之一,认证组织扮演着制度管理者、监督检查者和变革领导者的角色,在毕业要求达成评价中,具有诊断、监控、鉴定、激励、导向等功能。ABET、EC、ECUK和EA均通过明确毕业要求达成评价要素,顶层设计、统筹规划专业自评和专家考评制度,构建系统化、科学化、规范化的毕业要求达成评价指导体系。虽然同为《华盛顿协议》正式成员,但各组织保持认证体系实质等效性的同时又兼有本土特色,具体可从考查要素、评价指导、评价体制机制三个方面比较其异同(见表13)。
(一)研究结论
毕业要求达成评价包括专业自我评价和认证组织考查评价两个关键环节,综合专业自评结果与专家考评结果后得出最终评价结论。
学校方面的毕业要求达成评价是专业全部教师及管理人员,协同在校生、毕业生、行业、企业代表,综合运用不同评价方法全面采集数据,在确定达标依据的前提下系统分析评价结果,最后根据数据和证据找差距、查问题并促进整改的过程。①从评价周期上看,毕业要求达成评价是以一定年限为循环周期的持续改进性评价,每年可选择个别指标进行评价,一个周期内评完所有指标。②从评价数据上看,毕业要求达成评价数据包括课程评价数据和主观判断数据,课程评价数据源于对强支撑毕业要求达成的专业必修课和实践性教学环节开展的评价,主观判断数据源于对毕业生、用人单位等实施的问卷调查或访谈。③从评价方法上看,采用直接评价辅以间接评价、定量评价结合定性评价、形成性评价对比总结性评价的综合评价模式,通过不同类型数据交叉比较、综合分析、相互佐证评价结果。④从评价过程上看,实施评价时以课程质量评价为主,定性调查为辅,注重教师、学生、行业、企业等多元主体协同参与。⑤从评价结果及其应用上看,结合定量目标值和定性等级描述综合判断毕业要求达成情况,根据评价结果诊断人才培养体系、评价过程中的问题和不足,从而对培养目标、毕业要求、课程体系、教学过程等进行全方位改进。
认证组织方面的毕业要求达成评价是认证专家基于自评报告审阅结果和现场考查情况,对专业毕业要求是否符合认证标准中的毕业要求、专业何种程度上达成其设定的毕业要求进行的综合评判,评价结果将作为认证通过与否的重要依据。为保证评价的科学性与可行性,认证组织统筹设计毕业要求达成评价机制,形成规范统一的评价指导体系。其一,基于工程师职业能力标准构建毕业要求框架,实现工程教育质量要求与工程师职业胜任力要求相衔接。其二,分专业大类细化标准毕业要求,提出不同专业工科生解决复杂工程问题应满足的知识、能力和素养要求。其三,通过在认证标准中提供毕业要求指标点分解样例,为学校制定专业毕业要求和课程目标给予指导。其四,提炼毕业要求达成评价的考查重点,并在此基础上制定评估量规和专家考评实施细则建议,为专家考评建立工作方针。其五,注重毕业要求达成评价的全流程指导,分别从评价准备、评价实施、持续改进三个阶段明确操作要点,为专业自评确立行动指南。
(二)经验启示
1.基于三所大学计算机工程专业毕业要求达成评价实践经验的启示
汲取三所大学计算机工程专业毕业要求达成评价的成熟经验,从评价机构与队伍、评价周期与计划、评价过程与方法、数据处理与判断、评价结果与应用等方面总结对我国高校开展毕业要求达成评价的启示。
(1)通过设立专业性组织或部门实现毕业要求达成评价的管办评分离
毕业要求达成评价应由专门的组织或部门承担,确立评价责任机构可参照佛罗里达大学的做法,实行统一管理、分工合作制度。首先建立学校或院系层面的评价领导机构来统筹规划、协调和监督评价工作,然后以课程或教学环节为单位成立工作委员会或质量审查组来组织开展评价,评价时保证教师、学生、行业、企业代表等多元利益相关方协同参与,可通过设立工业咨询委员会和建设毕业生跟踪评价系统促进行业、企业和毕业生参与评价。
(2)通过科学设定评价周期与评价实施计划促进专业持续改进
毕业要求要求达成评价以一定年限为循环周期,以持续改进为最终目的。虽然华盛顿大学要求所有指标做到一年一评,但本文认为为保证有充足时间落实改进措施,圣路易斯大学和佛罗里达大学每年选择一定数量指标进行评价的做法更可取。因此,建议以2~4年为循环周期推进专业持续改进,通过制定评价时间表明确规定年度参评指标和评价活动,并在此基础上制定详细评价计划。
(3)通过综合运用多种评价方法系统收集评价数据和达标证据
毕业要求达成评价聚焦两大内容:一是教学质量内部评价,重点关注是否建立完善的教学过程质量监控机制和课程目标达成情况评价机制,主要选择对毕业要求具有强支撑作用的专业必修课和实践性教学环节进行评价,评价时应充分发挥顶点课程和设计类项目对评价的显性支撑作用;二是教学质量外部评价,主要以调查的方式了解用人单位、校友等外部利益相关者对毕业要求达成情况的判断。收集内外部评价数据可综合三所大学用到的方法,以直接评价为主、辅以间接评价,定量评价结合定性评价,形成性评价对比总结性评价。
(4)通过定量分析评判法与定性分析描述法全面判断毕业要求达成情况
根据三所大学处理评价数据的方法,既可将定量目标值作为达成标准,亦可将量规表或其他定性等级描述作为达成依据。判断毕业要求达成情况时,可参照佛罗里达大学的做法,将直接、定量数据作为判定毕业要求达成情况的主要依据,将间接、定性数据作为佐证评价结果的补充依据,同时通过形成性评价和总结性评价数据对比验证评价结果。此外,应选用恰当的数据合成方法处理评价结果,如采用加权平均法合成量化数据、采用模糊综合评价法将模糊数据转化为普通数据,并运用现代信息技术辅助分析评价数据。
(5)根据评价结果查找弱项和问题项并对人才培养体系作全方位改进
毕业要求达成评价的根本目标是根据评价结果查找人才培养中的薄弱环节和存在的问题并促进整改。可首先参照圣路易斯大学和佛罗里达大学的做法,结合质性和量化评价数据找差距、查问题,然后借鉴华盛顿大学的经验,对培养目标、毕业要求、课程设置、教学方法、评价程序等作全面改进。为保证改进措施得以有效落实,还需建立完善的评价结果反馈机制和改进效果监测机制。一方面,通过正式渠道及时将评价结果反馈给教师和教学管理人员,另一方面,通过周期性审核评估制度与适当的奖惩机制促进改进措施落地生效。
2.基于四个认证组织毕业要求达成评价制度体系建构经验的启示
综合四个认证组织毕业要求达成评价制度体系的建构经验,从标准毕业要求的优化与细化、专家考评与专业自评的配套指导资源建设等方面,总结对我国工程教育专业认证协会开展毕业要求达成评价的启示。
(1)优化认证标准中毕业要求的框架体系与内容要素
可借鉴英国工程委员会和澳大利亚工程师协会的经验,在综合考虑未来行业和产业发展需求、国内和国际人才培养质量要求的基础上制定认证标准中的毕业要求,使标准毕业要求与国际工程教育质量标准实质等效、与我国本科教学质量标准相符合、与工程师职业能力标准相衔接。同时,通过分专业大类细化毕业要求、设置毕业要求指标点(或称为内涵观测点)样例,为学校深刻理解认证标准中的毕业要求、有效制定本专业领域的毕业要求提供参考。
(2)健全辅助性参考文件以加强专家考评指导
健全专家考评指导的辅助性参考文件可参照加拿大工程师协会的做法。一是要明确毕业要求达成评价的考查重点,例如:将组织基础和多元利益相关者参与机制、参评课程与毕业要求之间的对应支撑关系、指标点分解情况、评价方法的多样性与适切性、评价结果及持续改进效果五个维度作为毕业要求达成评价的核心考查要素。二是要针对不同考查重点制定达成情况评估量规,确定各考查维度的评价等级以及有关各等级的具体描述,从而为认证专家判断达标程度提供统一依据。三是要根据评价考查重点制定评价实施细则,研制各考查重点的细化要求,为认证专家提供可供参考的评价策略。
(3)完善毕业要求达成评价的专业自评指导体系
完善专业自评指导体系可参照ABET的做法,分阶段(评价准备、评价实施和持续改进)提供评价指导建议,加强配套指导资源建设。一是要健全学校毕业要求达成评价相关的工作办法和操作指南,明确评价实施流程、方法策略与注意事项。二是要加强学校毕业要求达成评价培训,可在认证协会现行培训体系中专门设置毕业要求达成评价培训的内容,培训工作由经验丰富的认证专家或优秀案例学校的专业认证负责人承担。三是要畅通高等教育利益相关者之间的沟通交流渠道,加强产出导向教育理念与实践的探讨,通过定期举办论坛,为经验共享、需求反馈和答疑解惑搭建平台。
五、结语
毕业要求达成评价是工程教育专业认证和提高工程教育人才培养质量的重要环节,以认证组织层面、专业层面和课程层面的学习产出标准为质量准则,以认证专家、学校管理者、教师、在校生、毕业生、用人单位等多元利益相关者为参与主体,通过全面收集最具代表性且能反映教学和学习产出达成的反馈信息,为学校提高专业人才培养质量提供有力证据,为认证组织判断专业达标与否提供重要支撑,其实质是以持续改进为目的的周期性循环评价。通过对美国3所高校计算机工程专业的毕业要求达成评价实践和《华盛顿协议》4个成员组织的毕业要求达成评价制度体系进行比较研究后发现,毕业要求达成评价包括专业自我评价和认证组织考查评价两个核心环节,最终评价结果由专业相关人员和认证专家共同决定,专业自评和专家考评的内容重点和实施策略存在差异,如何立足学校和认证组织两个不同主体,分类构建具有实际应用价值的毕业要求达成评价参考方案有待深入研究。上述案例为建立毕业要求达成评价方案提供了重要参考,但在借鉴国际案例成熟经验的基础上,还需结合我国工程教育特色和专业认证制度,从学校实施框架和认证组织考查框架两个方面,进一步探索兼具国际等效性与国内适应性的毕业要求达成评价参考方案。
参考文献
[1]Accreditation Board for Engineering and Technology.Criteria for accrediting engineering programs,2023-2024[EB/OL].[2023-05-24].https://www.abet.org/wp-content/uploads/2023/03/23-24-EAC-Criteria_FINAL2.pdf.
[2]Engineering Council United Kingdom.The accreditation of higher education programmes(AHEP)[EB/OL].[2023-05-24].https://www.engc.org.uk/media/3464/ahep-fourth-edition.pdf.
[3]Engineers Ireland.Accreditation criteria[EB/OL].[2023-05-24].https://www.engineersireland.ie/Professionals/Membership/Become-a-member/Accredited-third-level-courses/Accreditation-criteria-procedure-and-training
[4]International Engineering Alliance.Graduate attributes&professional competencies[EB/OL].[2023-05-24].https://www.ieagreements.org/assets/Uploads/Documents/IEA-Graduate-Attributes-and-Professional-Competencies-2021.1-Sept-2021.pdf.
[5]ENAEE.EUR-ACE® framework standards and guidelines(EAFSG)[EB/OL].[2023-05-24].https://www.enaee.eu/wp-content/uploads/2021/05/eafsg_brochure_2017_online.pdf.
[6]李志义. 对毕业要求及其制定的再认识[J].高等工程教育研究,2020(5):1-10.
[7]中国工程教育专业认证协会. 工程教育认证通用标准解读及使用指南(2022版)[EB/OL].[2023-08-26].https://www.ceeaa.org.cn/gcjyzyrzxh/rzcxjbz/gjwj/gzzn/index.html.
[8]Saint Louis University.ABET self-study report for the computer engineering program at Parks College of Engineering,Aviation and Technology Saint Louis University[EB/OL].[2023-08-07].https://www.slu.edu/provost/educational-program-development-review/assessment-student-learning/program-level/pks/computer-engineering_bs_report_2018.pdf.
[9]University of Washington.ABET self-study report for the bachelor of science in computer engineering at University of Washington[EB/OL].[2023-08-07].https://s3-us-west-2.amazonaws.com/www-cse-public/education/ABET/self-study_2019.pdf.
[10]University of Florida.ABET self-study report for computer engineering[EB/OL].[2023-09-11].https://cpe.eng.ufl.edu/wp-content/uploads/2019/06/ABET-2012CpE-Self-Study.pdf.
[11]Accreditation Board for Engineering and Technology.Establishing timelines and responsibilities[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Establishing-Timelines-and-Responsibilities-09.09.20.pdf.
[12]Accreditation Board for Engineering and Technology.Self-assessment:continuous improvement of program-level assessment of student learning[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Self-Assessment_with-instructions.pdf.
[13]Accreditation Board for Engineering and Technology.Program assessment:the ultimate design problem[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Program-Assessment_The-Ultimate-Design-Problem-09.09.20.pdf.
[14]Accreditation Board for Engineering and Technology.The importance of direct measures[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Importance-of-Direct-Measures-09.09.20.pdf.
[15]Accreditation Board for Engineering and Technology.Using course or test grades for program assessment[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Using-Course-or-Test-Grades-for-Program-Assessment-09.09.20.pdf.
[16]Accreditation Board for Engineering and Technology.Surveys and questionnaires:Do they measure up[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Surveys-and-Questionnaires-09.09.20.pdf.
[17]Accreditation Board for Engineering and Technology.How many data are too many[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/How-Many-Data-Are-Too-Many-09.09.20.pdf.
[18]Engineers Canada.Graduate attributes and continual improvement rubrics[EB/OL].[2023-05-16].https://engineerscanada.ca/sites/default/files/2021-11/gaci-rubrics-en.pdf.
[19]Engineers Canada.A guide to outcomes-based criteria (draft)[EB/OL].[2023-05-16].https://engineerscanada.ca/sites/default/files/draft_program_visitor_guide_v1.25.pdf.
[20]Engineering Council United Kingdom.Professional engineering institutions[EB/OL].[2022-05-17].https://www.engc.org.uk/licensees.
[21]Engineering Council United Kingdom.The UK standard for professional engineering competence and commitment(UK-SPEC)(Fourth edition)[EB/OL].[2023-05-17].https://www.engc.org.uk/media/3877/uk-spec-v12-web.pdf.
[22]Joint Board of Moderators.Guidelines for developing degree programmes(AHEP4)[EB/OL].[2023-05-17].https://www.jbm.org.uk/media/hdojdcyf/guidelines-for-developing-degree-programmes_ahep4.pdf.
[23]Institution of Chemical Engineers.Accreditation of chemical engineering programmes [EB/OL].[2023-05-17].https://www.icheme.org/media/17198/accreditation-guidance-october-2021.pdf.
[24]Engineers Australia.Stage 1 competency standard for professional engineer[EB/OL].[2023-08-31].https://www.engineersaustralia.org.au/sites/default/files/2022-07/stage-1-competency-standard-professional-engineer.pdf.
[25]Engineers Australia.Australian engineering competency standards stage2-Experienced professional engineer[EB/OL].[2023-08-31].https://www.engineersaustralia.org.au/sites/default/files/2022-07/professional-engineer-stage-2-2012_0.pdf.
[26]Engineers Australia.Accreditation criteria user guide–higher education[EB/OL].[2023-08-31].https://www.engineersaustralia.org.au/sites/default/files/2022-07/accreditation-criteria-guide-higher-education.pdf.
【论文选刊】朱露 唐浩兴 胡德鑫 顾佩华:工科本科生解决复杂工程问题能力评价模型
【论文选刊】朱露等:国际工程教育专业认证体系的发展与改革——基于《华盛顿协议》与欧洲工程教育专业认证体系的对比分析
【论文选刊】朱露 王庚 胡德鑫 闫广芬 顾佩华:工程教育专业认证标准的国际案例研究
责任编辑:黄小青
更多精彩,敬请期待!
版权所有,未经授权,请勿转载
了解最新的高等工程教育研究动向
快扫码关注我们吧!!!