【论文选刊】朱露 胡德鑫 王凯峰 顾佩华:基于产出导向工程教育理念的毕业要求达成评价(下)

文摘   教育   2024-07-23 09:03   湖北  

作者简介:朱露,天津大学教育学院博士研究生;胡德鑫,天津大学教育学院副教授;王凯峰,天津大学机械工程学院副教授;顾佩华,天津大学新工科教育中心主任、机械工程学院教授,加拿大工程院院士。

原文刊载于《高等工程教育研究》2024年第四期37-53页。



 要:借鉴毕业要求达成评价的国际案例经验,基于OBE教育理念,立足学校和认证组织双维视角,提出未来工程教育专业认证的毕业要求达成评价参考方案。该参考方案由学校方面毕业要求达成评价的参考性实施框架和认证组织方面毕业要求达成评价的参考性考查框架两部分组成。学校方面毕业要求达成评价的参考性实施框架分为评价准备、评价实施和持续改进3个阶段,涵盖11个环节。认证组织方面毕业要求达成评价的参考性考查框架包括毕业要求参考性内容和毕业要求达成参考性评价方法,前者为学校制定专业毕业要求建立基准,后者旨在从认证组织方(认证机构)为专家考评与专业自评提供参考。为协助学校理解和应用参考方案和方法开展毕业要求达成评价,用一个机械工程专业的虚拟案例,对专业毕业要求达成评价的参考性实施框架进行演示性举例说明。需要强调的是,本文是一个探索性研究,希望能够起到抛砖引玉的作用,在根据《华盛顿协议》新版毕业要求(GAPC21),修订中国工程教育专业认证毕业要求的关键时期,推动开展更广泛且深入的工程教育专业认证相关理论与实践研究,持续提高工程教育质量与水平。



关键词:OBE  工程教育专业认证  毕业要求达成评价  专业自评  认证组织考评


《基于产出导向工程教育理念的毕业要求达成评价(上)》对美国3所大学计算机工程专业的毕业要求达成评价实践和《华盛顿协议》4个成员组织的毕业要求达成评价制度体系进行了国际比较,总结得出对高校和工程教育专业认证组织开展毕业要求达成评价的启示。本文在借鉴毕业要求达成评价国际案例经验和产出导向教育理念(Outcome-based Education,简称OBE)的基础上,结合我国工程教育特色与专业认证制度,提出未来工程教育专业认证的毕业要求达成评价参考方案(只是一个探索性研究)。同时,选取机械工程专业毕业要求评价的虚拟案例,对学校如何开展毕业要求达成评价进行演示性举例说明。需要强调的是,工程教育专业认证标准达成评价涉及学生、培养目标、毕业要求、持续改进、课程体系、师资队伍、支持条件等7个方面,在认证评价中,需整体把握、系统评价7项标准达成情况。本研究聚焦毕业要求达成评价,通过研制产出导向的毕业要求达成评价参考性虚拟方案,探索工程教育转型新时期专业认证工作的重要性,激发开展更广泛且深入的工程教育专业认证相关理论与实践研究。

一、未来工程教育专业认证的毕业要求达成评价参考方案的思考


工程教育专业认证的毕业要求达成评价参考方案包括两部分:一是学校方面毕业要求达成评价的参考性实施框架,二是认证组织方面毕业要求达成评价的参考性考查框架。


(一)学校方面毕业要求达成评价的参考性实施框架


从学校方面看,学校开展毕业要求达成评价前,首先应明确专业毕业要求的内容构成,然后建立产出导向评价方法体系和持续改进机制并将其付诸实践。学校方面毕业要求达成评价的参考性实施框架吸纳ABET评价指导建议,从评价准备、评价实施和持续改进三个阶段明确毕业要求达成评价的操作要点,共包含11个实施环节(见图1)。


图 1  学校方面毕业要求达成评价的参考性实施框架
注:PO,SO,PI,CO分别为培养目标(Program Outcome)、毕业要求(Student Outcome)、指标点(Performance Indicator)、课程目标(Course Outcome)的缩写。

1.评价准备阶段


(1)确定认证责任机构


确定认证责任机构可借鉴佛罗里达大学统筹协调、分散管理的组织建设经验。首先,成立学校专业认证领导机构(如学校教学质量管理部门)负责学校层面的认证工作领导和统筹组织。其次,对于参与认证专业的学院,成立院级专业认证领导机构(如学院专业认证工作领导小组)来领导学院层面专业认证的具体工作,其中包括领导和组织开展毕业要求达成评价。院级专业认证领导机构可由学院主管教学负责人、教育委员会成员、参加认证的专业负责人、工程实践领域专家、教师代表等组成,学校教学质量管理部门可委派代表参加院级认证组织工作。最后,对于每个参加认证的专业,成立以系和专业负责人牵头的专业认证工作组,负责组织开展认证准备和评价工作,其中涉及开展毕业要求达成评价、传达反馈评价信息、为改进教育教学与评估程序提供建议等工作。需要说明的是,毕业要求达成评价只是学校、院系、专业层面认证责任机构的职能之一,在真实的认证评价中,各级认证机构将领导和组织开展包括毕业要求在内的认证标准整体达成情况的评价工作。

(2)审查毕业要求达成评价机制的合理性


专业开展毕业要求达成评价之前,需通过自评表,对毕业要求达成评价与持续改进机制的合理性作自我评价,评价标准包括:有多元利益相关者参与制定、修订、评价培养目标和毕业要求;毕业要求支撑培养目标达成,全面覆盖国家认证标准中的毕业要求;用于毕业要求达成评价的课程和教学环节能够系统性反映学生学习产出;采用直接辅以间接、定量结合定性、过程对照结果的综合评价模式采集数据;根据评价标准判断达标情况,识别人才培养中的弱项和问题项并持续予以改进,同时构建信息反馈机制与改进效果监测机制保障评价结果得以有效使用。计分可参考ABET六级评分制(见《基于产出导向工程教育理念的毕业要求达成评价(上)》中的表9),也可根据专业情况,制定各自专业合理的评分办法,对现有评价体系、评价执行情况和持续改进情况进行自我评价,若有得分较差的项目,应对其做出改进后再进行毕业要求达成评价。


(3)设定评价周期


毕业要求达成评价是以持续改进为导向的周期性循环评价。参考美国三所大学设定评价周期的做法并结合ABET的评价指导建议,完整一轮毕业要求达成评价所需时间一般为2~4年,如果以2年或3年为一个评价周期,在6年认证有效期内可进行3轮或2轮评价;如果以4年为一个评价周期,则在本科四年学制内系统收集一轮评价数据。设定评价周期应考虑不同阶段在持续改进中的作用,确定不同年份的参评指标和针对各项指标应采取的具体评价活动,保证每项毕业要求和每届学生在一个周期内接受过评价,但无需每年对所有毕业要求和学生进行评价,要留有足够时间落实改进措施。以2年周期表为例,表1中共有11条毕业要求,每年参与评价的指标在6个以内,每条毕业要求在6年认证有效期内可经历3轮评价。除了确定年度参评指标,还需在各年份有针对性地开展评价活动。如表2所示,可总体上把评价活动及相关工作分为8个步骤。各年份进行的评价活动可有所差异,但需要注意的是,每个周期都要有完整数据分析过程、归档形成评价报告、如实反馈评价结果并在评价周期结束后的第二学年及时作改进。专业可根据评价结果灵活调整评价周期、参评指标和评价活动,若某些指标达标频次较高,而另一些指标始终较难达标,则应增加未达标项的被评次数。


表 1  以两年为一个周期的评价时间表示例

表 2  负责人、评价活动与评价时间之间的关系[1]

4)选择评价参与主体

毕业要求达成评价需要多元主体协同参与,包括教师、在校生、校友、用人单位、行业或企业等利益相关者,专业应根据评价活动有针对性地选择评价主体,合理分配评价工作量。教师作为核心参与主体,既是评价数据的收集者,也是持续改进的践行者,要充分发挥教师在评价和改进工作中的主要作用,使其恰当选择支撑评价的课程、运用多种评价方法查找教学中存在的问题并将改进工作落实至具体教学环节。此外,还要重视行业、企业对人才培养和毕业要求达成情况的评价与反馈,为保障行业企业参与评价,建议成立由企业代表、校友、骨干教师和相关领域专家组成的工业咨询委员会(Industrial Advisory Board),协助专业了解产业发展趋势以及企业对工程技术人才的最新需求。工业咨询委员会的职能不限于工程教育专业认证工作,更不限于毕业要求达成评价。


(5)制定评价计划


制定评价计划的目的是为了对各项毕业要求的评价实施流程作规划,其基本构成要素见表3。需要说明的是,专业可自主决定是否将毕业要求分解为指标点,如果不分解,则直接将用于评价的课程对应毕业要求,但需保证课程目标明确、课程内容充分、考核方法适当。由于毕业要求达成评价需要关联不同类型数据以构建完整证据链,因此,除了根据直接评价与间接评价、定量评价与定性评价得到的数据判断达标程度,还需通过形成性评价数据和总结性评价数据纵向比较学生在一段学习时间内不同时间点上的发展与变化,根据学习进步幅度判断毕业要求达成情况,从而对比验证通过其他方法得到的评价结果。表中的形成性评价数据一般源于低年级课程,而总结性评价数据通常来自高年级课程。下表只是一个示例,其科学性与合理性尚待在教学实践中作进一步检验。


表 3  毕业要求各指标项评价计划表示例
注:此表参考ABET毕业要求各指标项的评价计划示例表(见《基于产出导向工程教育理念的毕业要求达成评价(上)》中的表10)研制而成,表中的权重数值、数据收集时间均为虚拟数据。

2.评价实施阶段


(1)明确毕业要求的内容构成及考查要素


中国工程教育专业认证协会通用标准中的毕业要求为学校制定专业毕业要求建立基准,但并不要求专业毕业要求与标准毕业要求完全相同,学校可根据自身办学理念与发展特色,结合社会经济发展需求,制定符合专业定位和培养目标的毕业要求。专业毕业要求应全面覆盖标准毕业要求,反映学生毕业时的培养要求,按照教育和人才培养规律,还应体现学生认知发展过程中各阶段的培养要求,落实于不同学习阶段的课程目标和培养内容之中,为优化课程体系提供依据和指导。确定毕业要求框架之后,需进一步细化和明确毕业要求的内容要素,可参考圣路易斯大学将毕业要求分解为指标点(Indicators)的做法。指标点是通过分解毕业要求而得到的关于学生学习表现的具体陈述。设置毕业要求指标点应遵循全覆盖、可衡量和可落实的原则。“全覆盖”指有足够数量的指标点反映每条毕业要求包含的全部能力要素,指标点设置应该科学合理,不宜过分复杂,指标点数量过多容易增加教学系统的复杂性,数量过少则难以详细说明能力所包含的具体行为表现。“可衡量”指运用恰当的认知行为动词具体化呈现学习产出,选择认知行为动词时要避免使用不可测量的抽象概括的词汇,可根据布鲁姆教育目标分类学确定认知层次,从对应认知层次的行为中选择能准确反映学习表现的动词,并以“认知行为动词+学习产出内容”的结构描述指标点。“可落实”意味着指标点有具体课程或教学环节支撑,指标点达成情况可采用适当考核方式进行评价,指标点内容体现专业特色。值得一提的是,虽然我国2022版《工程教育认证自评报告指导书》没有要求专业设置毕业要求指标点[2](给大学和专业留有实施的余地),《基于产出导向工程教育理念的毕业要求达成评价(上)》介绍的美国三所大学中也有未设置指标点的案例,并且有学者从控制论视角指出指标点的弊端。[3] 但从我国目前工程教育专业认证的情况看,还有很多高校没有进行专业认证,缺乏认证经验的专业直接将标准毕业要求作为专业毕业要求,承担课程教学的教师可能较难把握毕业要求的内容要素以及毕业要求与课程内容之间的关系。[4] 因此,将毕业要求分解为指标点并根据指标点制定课程目标、教学内容和考核方法,更有助于教师将毕业要求落实到教学过程中,也有利于得到更准确的评价结果。


(2)选择支撑评价的课程和教学环节


根据美国三所大学选择参评课程的经验,毕业要求达成评价以面向产出的课程质量评价为核心,主要在对毕业要求具有强支撑作用的专业核心课、设计类和实践性教学环节中进行。专业核心课包括工程基础课、专业基础课、专业课和工程实践课(含项目制课程),一般应为专业必修课;设计类和实践性教学环节主要指毕业设计、生产实习、科技创新和各种实施工程项目的活动,即课堂教学以外的其他培养环节。如果专业必修课和选修课一同考查,要根据设定的必修课和选修课组合中找到最弱组合(the Weakest Link),只有最弱组合满足认证标准中的各项要求,才能通过专业认证的要求,这一点务必要注意。对基于课程数据的评价,专业应重点关注用于毕业要求达成评价的课程和教学环节是否选择恰当,专业核心课和项目实践类课程能否充分体现对评价的主要支撑作用。此外,还应考虑毕业要求(或指标点)所处目标层次,含有高层次认知行为的毕业要求(或指标点)应由多门课程及对应的考核办法或综合性设计项目支撑,但要注意课程之间的内在逻辑,可同时选择支撑毕业要求的先修课和强化课进行评价以增强能力评价的关联性与系统性。评价过程中,要重视对顶点课程和设计类项目的考查,不仅应通过直接评价法考查技术能力指标达成情况,还应通过间接评价法考查非技术能力指标达成情况,换言之,支撑毕业要求指标项数量越多的课程或教学环节,其评价方法应更具考查学生解决复杂工程问题能力的综合集成性。


(3)采用直接辅以间接、定量结合定性、过程对照结果的综合评价模式收集数据


收集数据过程中,要注意评价方法的适切性与多元化,根据教学目标选择恰当评价方法,运用不同方法系统获取佐证材料。我国工程教育毕业要求达成评价的常用方法有课程考核成绩分析法、评分表分析法(也叫量规表法)、问卷调查、学生访谈、标准化测验和模拟测验。[5] 整体而言,专业较多选用课程考试平均算分法,对量规表、问卷调查、访谈等其他评价方法运用不多。为增强专业自证的全面性、可信性与去主观性,应根据毕业要求所处目标层次的不同,选择合适的评价方法,综合美国三所大学毕业要求达成评价所用方法,以直接评价为主、辅以间接评价、定量评价与定性评价相结合。一般而言,可通过课程考核成绩、标准化测验等直接或定量评价法收集技术性指标评价数据,通过焦点小组、访谈等间接或定性评价法收集非技术性指标评价数据,但不论哪种方法,都应通过量规表为其制定统一评分准则,促使教师、学生、工业界代表等协作开发量规表并参与量规评价。此外,目前课程评价多以最终考核成绩的均值作为评价结果,其实质是总结性评价,这种评价模式容易忽视学生的主观努力程度和实际进步幅度,不利于真实反映学习效果。因此,建议将增值评价(Value-added Assessment)纳入课程评价体系,在考虑不受教师或学校控制的影响因素(如学生已有知识水平)的前提下,通过收集形成性评价数据和总结性评价数据,将学生起点水平与实际学习结果进行比较,以其进步幅度为评价标准,观察学生的成长变化过程,考查学校和教师对学生学习产出影响的净效应,以此判断毕业要求达成情况。评价过程中可采用科学的抽样方法,根据学生数量,从好、中、差或适当增加评价等级的学生作业或试卷中等比例抽取具有统计意义的样本,从而避免无效或重复收集数据。


3.持续改进阶段


(1)综合应用定量分析评判法和定性分析描述法判断达标程度


由于毕业要求达成评价聚焦课程总体质量评价,课程评价数据也就成为判断毕业要求达成情况的主要证据。实施课程评价时要恰当选择用于评价的课程,以赋权方式确定各门课程对毕业要求的支撑强度并制定评价标准,根据美国三所大学判断达标程度的做法,建议综合运用定量分析评判法和定性分析描述法判断毕业要求达成情况。为保证评价的客观性与准确性,不能单纯根据考试成绩计算毕业要求达成评分,而要同时考查调研报告、实验报告、项目设计与工程实践成果等学习产出,确定不同考核评价方式与毕业要求、课程目标之间的对应关系及其占总评成绩的比例,以量规表的形式制定评价依据并对评价结果进行赋值处理,计分一般采用百分制和五级评分制,评价值可通过加权计算求得,达到某个定量目标值则视为达成。除了课程评价数据,还需通过问卷调查、访谈、焦点小组等间接评价法了解毕业生、用人单位等利益相关者对毕业要求达成情况的看法,由于间接评价法可能受个体主观因素影响,因此除了保证问卷题目、访谈问题等与评价目标相匹配,还应通过量规表或其他定性等级描述为被调查者回答问题提供答案依据,问卷调查结果可使用李克特五级评分制计算评价值并设定目标值,而访谈、焦点小组的调查结果则主要通过不断抽象概括得到实质性结论。对于增值评价,判断毕业要求达成情况最简单的思路就是计算两个不同时间点学习成效(成绩)的绝对变化,将某个成绩增值作为达成毕业要求的目标值。目前可用的增值评价方法有描述统计法、统计回归法、机器学习算法等。[6] 但增值评价不能只关注分数,还应全面评价学生德智体美劳多个维度的增值,因此,如何融合多种评价方法(定量与定性、自评和他评)以准确测量变化幅度、如何建立统一的增值评价标准成为通过增值评价开展毕业要求达成评价面临的两个挑战。对上述不同来源的数据进行归一化处理后,即可得到毕业要求达成情况的总评结果。


(2)通过不同类型数据构建完整证据链以三角检验评价结果

分析通过多种方法得到的评价数据,要做到交叉比较、系统归纳和相互佐证,建议采用三角检验法对比验证评价结果。所谓三角检验(Triangulation),是指由不同调查者运用不同数据、方法和证据来证明同一命题或结论的方法,其基本原理是求证多个独立检测结果与研究发现的一致性,包括数据三角检验、人员三角检验、方法三角检验和理论三角检验。[7] 由于理论三角检验尚存争议[8],本研究仅对前三种三角检验法在毕业要求达成评价中的运用进行探讨。数据三角检验是指根据不同来源的数据检验评价结果,例如:首先通过直接评价和定量评价数据初步判定评价结果,然后通过间接评价和定性评价数据辅助佐证评价结果,最后通过对比形成性评价数据和总结性评价数据进一步验证评价结果。人员三角检验是指根据不同评价主体收集的数据检验评价结果,例如:判断通过教师评价、用人单位反馈以及学生自评得到的数据是否一致。方法三角检验是指根据不同评价方法得到的数据检验评价结果,例如:顶点课程评价可通过量规表、课程日志、调查问卷三角检验解决复杂工程问题能力的评价结果。[9] 三角检验过程中要注意把握不同类型数据之间的关联性和相互佐证性,如果不同方法得出的评价结果存在较大差距,应认真反思评价方法的适切性以及数据的真实可靠性,必要时对评价方案作调整,通过其他评价方法进行二次检验。在此过程中,要选择适当的数据合成方法对数据进行汇总整理,对于普通量化数据,可通过加权平均法,逐级向上使用同一算法,直到将全部数据在一级指标上归并为一个合成值;对于质性评价数据(如关于优良中差的等级评定结果),可通过模糊综合评判法将模糊数据转化为普通量化数据。


同时,要善用SPSS、SAS等评价信息处理工具,有条件的学校还可应用现代信息技术构建信息化、数字化、智能化的评价数据分析系统,以高效管理和分析评价结果。


(3)基于评价结果促进专业持续改进


得到评价结果后,更为重要的是基于数据和证据诊断人才培养中存在的短板和不足,全面优化包括培养目标、毕业要求、课程、教学过程、师资配置、支持条件等在内的人才培养体系,必要时还应调整评价实施程序。在合成分项评定结果的基础上,对整体评价结果进行综合描述与判断,总结得出客观合理且具有正确导向性的评价结论,据此发现问题、找到差距、确定改进方向并落实改进工作。为保证改进措施落地见效,一是要建立稳定的信息反馈机制,由专业管理人员将评价过程数据、评价结果和发现的问题及时反馈给有关各方,为相关部门进行教育决策提供参考,为改进课程教学提供依据,尤其要明确课程教师应承担的改进职责,调动教师改进教学方法、调整考核评价方式的积极性;二是要建立常态化的改进效果监测机制,由持续改进的责任人协同利益相关主体,定期对课程体系修订情况和教学质量提升情况进行审查并形成相应文档记录。


(二)认证组织方面毕业要求达成评价的参考性考查框架


从认证组织方面看,认证组织应做好毕业要求以及毕业要求达成评价的顶层设计和指导工作,出台并落实毕业要求达成评价实施细则与指导文件。如图2所示的认证组织方面毕业要求达成评价的参考性考查框架,由毕业要求参考性内容和毕业要求达成参考性评价方法两部分组成。在这里强调参考性,说明这个框架没有经过严格的科学检验和实践论证,仅用于辅助说明评价方法。毕业要求参考性内容为学校制定专业毕业要求建立基准,毕业要求达成参考性评价方法旨在从认证组织方为专家考评与专业自评提供参考。


图 2  认证组织方面毕业要求达成评价的参考性考查框架

1.毕业要求参考性内容


(1)构建具有中国特色和国际实质等效性的毕业要求


我国工程教育专业认证通用标准中的毕业要求(简称标准毕业要求)是学校制定专业毕业要求的基础,为面向未来行业和产业发展需求、国家战略发展需要以及国际工程技术人才质量要求培养未来工程师,通用标准中的毕业要求应该与国际标准实质等效并体现中国特色,指导学校培养具有国际竞争力、服务国家和社会发展的工程技术人才。首先,标准毕业要求要符合(或高于)已有国际工程教育质量标准,如《华盛顿协议》颁布的第四版《毕业要求和职业胜任力-2021》(Graduate Attributes and Professional Competencies - GAPC2021)。其次,标准毕业要求还要体现我国工程技术人才培养的特色和特殊要求,包括政治思想和道德品质、业务水平、文体艺术等方面的要求。最后,应根据国家、产业、社会以及国际认证组织对工程技术人才需求的最新变化,定期修订标准毕业要求,增强标准毕业要求的动态适应性。

(2)分专业类别细化毕业要求


目前,我国工程教育专业认证标准中的毕业要求是面向所有工科专业的普适性要求,由于解决不同专业领域复杂工程问题应具备的知识、能力和素养存在差异,以及快速发展的科技对专业的影响不同,建议借鉴英国工程委员会的经验,分专业大类(如机械工程类专业、电子工程类专业)深入研究毕业要求的内容构成。可由中国工程教育专业认证协会的各专业类认证委员会协同相关委员会,结合利益相关方的意见与建议,通过充分了解、科学研判国家、产业和社会对不同领域工程技术人才的能力需求,从大类专业视角制定工程人才培养的补充性要求,以此形成专业大类毕业要求并将其纳入专业补充标准。需要说明的是,认证标准中的专业类毕业要求不作为学校制定专业毕业要求的统一模板,仅为学校提供参考框架,鼓励学校结合办学定位、专业特点、行业和区域特色以及学生发展需求,增加或强化某些方面的知识、能力和素养要求,促进专业人才培养的校本化与特色化创新发展。


(3)优化毕业要求指标点(或称为内涵观测点)样例


由于毕业要求是概括程度较高的宽泛化能力描述,为准确把握毕业要求的内容和内涵,需进一步分解和细化毕业要求,建议参考澳大利亚工程师协会的做法,通过在标准毕业要求中提供指标点样例,为学校制定专业毕业要求提供参考。目前,中国工程教育专业认证协会在《工程教育认证通用标准解读及使用指南》中给出各项毕业要求的内涵观测点(又称指标点),随着认证协会按照《华盛顿协议》GAPC2021相关要求修订标准毕业要求,建议继续明确指标点设置原则,在认知程度表达、指标点形式结构等方面给出具体建议,以便于新参加认证专业把握与实施。首先,建议明确指标点样例的用途和功能,在标准毕业要求中提供指标点样例主要是为了帮助专业较深入理解和把握毕业要求包含的能力要素,在此基础上制定课程目标和课程教学具体要求并确定考核方法。其次,建议设计指标点从两方面考虑:其一,指标点应该可落实且可衡量,指标点是对毕业要求更为细化的描述,可采用适当的评价方法判断指标点达成情况;其二,指标点应该具有覆盖性、关联性和准确性,覆盖性是指所有指标点组成的集合不可遗漏毕业要求包含的能力要素,关联性意味着同一项毕业要求分解出的指标点可按照一定逻辑关系组合形成系统整体,准确性要求指标点符合毕业要求规定应达到的认知水平。此外,建议指标点达成要有统一的表达形式。考虑采用“能力水平+能力要素”的形式,按毕业时的目标要求分解出能力要素,并根据布鲁姆教育目标分类法,恰当选择对应认知层次。


2.毕业要求达成参考性评价方法


(1)提炼毕业要求达成评价的参考性考查点


为帮助认证专家把握毕业要求达成评价的基本要求,使评价更加科学可行,建议借鉴加拿大工程认证委员会提炼毕业要求达成评价要点的做法,在认证辅助性参考文件中进一步明确毕业要求达成评价的参考性考查点。本研究将毕业要求达成评价的参考性考查点总体归为两类:对毕业要求内容的考查、对毕业要求达成评价机制及其执行情况的考查。对专业毕业要求内容的考查有三个考查点:专业毕业要求的可覆盖性、可落实性与可评价性。“可覆盖性”关注专业毕业要求是否在能力要素和能力水平上全面覆盖认证标准中的毕业要求,“可落实性”关注毕业要求能否与课程目标、课程教学和课程评价形成合理的对应支撑关系,“可评价性”关注每项毕业要求能否通过不同考核方式进行有针对性的评价。对毕业要求达成评价机制及其执行情况的考查包括七个重点。一是评价组织与利益相关者参与机制,要求确定认证责任机构并促进利益相关方共同参与评价,尤其是要有健全机制保障行业和企业的参与。二是评价周期与评价计划的合理性,要求以一定年限为循环周期推进专业持续改进,合理规划评价周期、年度参评指标和评价工作。三是恰当选择支撑评价的课程和教学环节,要求选择最具代表性且能证明毕业要求达成的专业必修课、设计类和实践性教学环节进行评价,如果将选修课用于评价,应提供客观评价标准和真实达标证据,并且要证明选修课与必修课的最弱组合(the Weakest Link)达成毕业要求。四是评价方法的多样性、适切性与可操作性,要求综合多种评价方法开展评价,对基于课程数据的评价,要根据不同课程的教学目标恰当选择评价方法;对基于主观判断的评价,要有针对性地选择调查群体与合适的调查工具。五是用以科学判断达标程度的评价标准,要求不论使用哪种评价方法,都要为其制定明确评价依据,既可是定量目标值,也可是定性等级描述。六是准确有效的评价结论,要求主要根据直接、定量评价数据判断达标情况,结合间接、定性评价数据补充验证评价结果,通过形成性评价与总结性评价数据对比验证评价结果,并能够基于评价结果识别弱项和问题项。七是持续改进效果及其评估方法,要求通过建立评价信息反馈机制和改进效果监测机制,保证改进措施落地见效。


(2)设计划分毕业要求达标结论的评估量规


在明确参考性考查点的基础上,为判断各考查点的达标情况,建议参考加拿大工程认证委员会设计毕业要求与持续改进评估量规(Rubrics)的做法,通过制定毕业要求达成情况评估量规,为划分达标结论提供统一评判依据。目前,认证专家判断认证标准达成情况的结论有四类:达成;达成,存在关注项;达成,存在问题项;未达成。毕业要求达成情况评估量规的评价等级可按照以上四种结论划分,评价内容可参考上文提到的10个参考性考查点,各考查点不同等级的达标描述应具有区分度。“达成”意味着专业完全满足或高于考查要求,没有弱项和问题项;“达成,存在关注项”意味着专业满足考查要求,但存在需要关注的方面,这些方面可能对保持达标状态产生潜在影响;“达成,存在问题项”意味着专业满足考查要求,但存在需要改进的问题,必须在认证有效期内予以改进;“未达成”意味着专业存在不达标的指标项,无法满足考查要求。以“评价方法的多样性、适切性与可操作性”为例(见表4),其评估量规由参考性考查点、细化要求、指标权重和评价等级四个要素构成,各评价等级分别赋分100755025,建议认证专家完成单项指标评价(打分)后,通过模糊综合评价法求得该考查点的综合评分,评分介于80~100为“达成”,70~80为“达成,存在关注项”,60~70为“达成,存在问题项”,60以下为“未达成”。需要说明的是,表4中的权重均未给出具体数值,仅用ABCD表示,参考性考查点及其细化要求的权重值需通过层次分析法或熵权法等赋权方法作进一步研究。此外,设计划分毕业要求达标结论的评估量规只是一种学术性探索,具体评价方法需要由有认证经验的专家和相关委员会确定。

表 4  毕业要求达成情况评估量规示例
注:表中权重的关系为权重A=权重B+权重C+权重D。

(3)制定毕业要求达成评价的专家考评参考建议


参考加拿大工程认证委员会制定专家考评实施细则的做法,通过制定专家考评参考建议,对毕业要求达成评价的参考性考查点作进一步细化,从认证专家视角明确毕业要求达成评价的考查要素、实施策略与评估准则,以方便专家进行考评工作。专家考评参考建议由认证协会相关委员会以及熟悉认证工作的专家、企业和行业代表共同制定,随着科技发展、工程教育进步以及认证实践中发现的新问题不断得以修订。以“评价方法的多样性、适切性与可操作性”为例(见表5),其专家考评参考建议可考虑由四部分组成:参考性考查点、考查要求、可供专家参考的问题、以往出现的未达标情况。“参考性考查点”包括上文提出的毕业要求达成评价的10个参考性考查点,但不限于这些考查建议;“考查要求”是对应考查点涉及的具体要求,需覆盖参考性考查点包含的全部内容要素,对学校提出具有可操作性的评价要求;“可供专家参考的问题”为专家有效开展评价提供支持,应简练、明确、具体,不需要一个问题考查多个方面;“以往出现的未达标情况”是以往专业认证中发现的真实和常见未达标问题,用于提醒专家在考查过程中值得关注的参考和潜在问题。


表 5  毕业要求达成评价的专家考评参考建议演示说明(不是实际例子)
注:表中内容可能有不恰当之处,专家考评参考建议需要由认证经验丰富的专家和相关委员会制定。

(4)建立和健全毕业要求达成评价的专业自评指导文件


目前,我国工程教育专业认证协会出台了《工程教育认证毕业要求达成评价指导手册(试行)》,对毕业要求达成评价时间与周期、机构与人员、过程与方法等问题给予阐释,成为健全毕业要求达成评价指导文件体系的基础。鉴于我国工科专业数量大、涉及领域广、新增专业多、学校的办学层次不同等情况,为充分发挥专业认证在工程教育质量保障中的关键作用,需不断提高学校方面毕业要求达成评价的可操作性,不断增加和修订相关辅助性参考文件,通过制定毕业要求解读指南、产出导向评价指南、学校产出导向教育与评价的优秀案例集等工作文件,对毕业要求在教学过程中的实施情况、毕业要求的内涵观测点、评价实施流程、评价方法和策略、评价注意事项等作进一步说明,协助新参加认证的学校和专业建立产出导向课程体系、持续提高教育教学质量和顺利完成认证准备工作。具体建议包括:①关于毕业要求解读指南,可给出对每条毕业要求的参考性解释说明,其中包括指标点样例、专业自评重点与难点解析以及评价中的常见问题与注意事项,指南仅作为辅助专业理解毕业要求的参考文件,主要是为了帮助专业查证专业毕业要求是否全面覆盖认证标准中的毕业要求,引导专业将毕业要求真正落实到制定课程目标、设计教学内容和确定考核方法中。②关于产出导向评价指南,以认证协会现有指导手册为基础,考虑从评价准备、评价实施和持续改进三个阶段不断补充、细化和优化毕业要求达成评价的操作流程。评价准备阶段的指导可以包括确立认证责任机构的基本思路、审查评价机制合理性的办法、设定评价时间与周期的基本原则、保障利益相关者参与评价的方法、评价计划参考范例等内容,评价实施阶段的指导可以包括设置毕业要求指标点的基本原则、选择参评课程(支撑毕业要求的达成)的基本思路、可供参考的评价方法及相关介绍,持续改进阶段的指导可以包括判断达标程度的方法、处理不同类型评价数据的方法、让持续改进措施落地见效的方法等内容。③学校产出导向教育与评价的优秀案例集,建议认证专家在实施考查过程中有意识地收集值得借鉴的学校优秀案例,认证协会根据专家推荐和评估,选择具有典型性和参考性的优秀案例汇编成案例集供学校学习,案例既可以是关于完整教育教学过程(或评价实施流程)的整体性案例,也可以是关于某一教学环节(或评价实施环节)的局部性案例(某方面的案例),随着时间推移,考虑阶段性更新案例集,保证案例的参考价值。

(5)确定毕业要求达成评价的系统化培训机制


中国工程教育专业认证协会已面向学校开展毕业要求达成评价相关培训,为参评专业提供了有效帮助和指导。随着认证工作的深入开展,建议进一步健全培训体系,特别是帮助准备参加认证的专业学习掌握产出导向评价的基本理念、要求、内容、流程与方法,让学校在深刻理解标准毕业要求的基础上科学制定专业毕业要求、有效开展毕业要求达成评价。由于我国专业点较多,培训可通过录制慕课、组织线下集中培训、提供线上答疑服务等方式进行。设置培训内容应结合专家建议和学校需求,可包括基础培训和专题培训两部分。基础培训是对毕业要求达成评价的总体介绍,涉及标准毕业要求的内容解读、认证考查的基本要求、评价重点与难点、评价实施流程等方面,一般通过录制慕课供学校学习。专题培训旨在为某一评价环节或特定问题提供专门说明与指导,如产出评价方法专题培训、指标点专题培训、量规表专题培训等,主要以线下集中培训的方式进行。为增强学校与认证专家间的实时互动,还可于官网上定期征集学校在评价中遇到的困惑与困难,针对典型或共性问题,组织专家召开线上答疑会,解答学校方面的问题。


(6)加强产出导向教育的宣讲与研讨


为加强毕业要求达成评价的常态化指导,除了为学校提供专门培训,还建议通过定期举办宣讲会和专题研讨会,向社会和高校宣讲产出导向教育理念,推广产出导向评价的成熟经验与做法,并就毕业要求达成评价的重难点环节和重难点问题进行专门研讨。宣讲类会议与研讨类会议同时举行,这样可以提高会议的效率与规模效应。宣讲会主要面向高校相关部门领导、专业负责人、教师、行业和企业代表等高等工程教育的利益相关者,旨在帮助多元主体深刻理解产出导向教育理念并以其为指导进行专业建设和人才培养质量评价,宣讲内容可包括工程教育专业认证标准、产出导向教育的核心理念、面向产出的教育质量评价与持续改进机制建设、以毕业要求为导向的课程体系建设、毕业要求达成评价等认证工作的基本流程与要求等。研讨会面向认证专家、院系的专业负责人、教学研究人员及一线教师,旨在选择特定主题对产出导向教育相关问题进行深入研讨,提高专业对产出导向教育理念的认识,引导专业将产出导向教育理念落实于教学实践。专题研讨会可分对象进行,面向认证专家、专业负责人及教学研究人员的研讨会应重点关注毕业要求的制定与修订、课程体系的设计与优化、教学运行机制的持续改进等内容;面向一线教师的研讨会应重点关注教学法、教学评价法、课程建设等内容。

二、学校毕业要求达成评价示例


以机械工程专业为虚拟案例,对学校毕业要求达成评价的参考性实施框架进行演示性举例说明。需要强调的是,下文中的示例是一个虚拟案例,仅用于辅助说明如何使用本文提出的评价方法,案例中涉及的组织机构、工作方式及各类数据均为虚拟数据,所以相关结论也是虚拟性的,不具实质性指导意义。


为了辅助说明这个虚拟案例,首先根据标准毕业要求、《华盛顿协议》GAPC21的毕业要求草拟机械工程专业的毕业要求(见表6),这个样例的机械工程专业毕业要求没有实质性参考价值。


表 6  《华盛顿协议》的毕业要求与虚拟性机械工程专业毕业要求的比较
注:在中国工程教育专业认证协会和机械工程分委员会没有颁布官方专业类毕业要求标准的情况下,为了说明本文的毕业要求达成评价参考方案,上述毕业要求是作者参考《华盛顿协议》GAPC21提出的虚拟性毕业要求,真实的机械工程毕业要求应根据中国工程教育专业认证协会颁布的国家标准,由机械工程学会相关委员会制定专业补充标准。

(一)评价准备阶段


1.成立学校、院系、专业层面的认证责任机构


学校一般都有教学质量评估中心或教学质量管理中心,如果学校没有这样的机构,可以设立一个机构或由教务管理部门负责学校层面的教学数据监测、专业认证、专项评估等教学质量管理工作。在专业认证中,学校教学质量管理机构主要负责推进认证评估规范性建设以及监督教学质量持续改进效果。由于专业认证是一项长期工作,建议由学院教学委员会作为学院专业认证工作领导小组,负责学院参加认证的各专业的领导和组织工作,其中包括指导各专业进行认证标准达成评价,毕业要求达成评价只是专业自评工作之一。在各个专业的毕业要求达成评价中,学院专业认证工作领导小组和专业认证工作组共同负责明确毕业要求达成评价实施流程、制定评价计划、落实评价分工、汇总分析毕业要求达成评价结果、提供人才培养改进建议、建立教学质量责任追究制度等工作。

2.根据自评表审查毕业要求达成评价机制的合理性


为保证认证工作的有序进行,在学校教学质量评估中心领导下,学院专业认证工作领导小组,协同各参评专业的认证工作组,应出台相关制度文件对如何达成专业认证标准作明确规定,其中涉及毕业要求达成评价相关要求。需要强调的是,这个虚拟示例主要集中在毕业要求达成评价方面,在真实案例中,需针对每项认证标准(毕业要求只是其中一项)进行准备工作。对于毕业要求达成评价,建议专业开展评价之前运用自评表(见表7)审查评价机制的合理性,自评表可在示例表格的基础上作适当补充与改进。评价机制的自我审查工作可分要素进行,例如:多元利益相关者参与机制、培养目标和毕业要求的合理性由院系管理者和专业负责人进行审查,参评课程和教学环节的适切性、评价过程的合理性由专业负责人协同课程教师进行审查,评价结果的使用情况由专业负责人或专业认证专家进行审查。


表 7  毕业要求达成评价与持续改进机制的自评表示例
注:评分包括6个等级(只是建议和为了辅助说明样例),1=尚未建立评价机制,2=评价机制开发中,3=评价机制已建立但刚开始实施评价,4=评价机制已建立且实施过评价,5=已实施评价且评价效果良好,6=已实施评价且至少进行一轮改进工作。需要说明的是,这是一个虚拟样例,真实的认证专业可根据各自情况确定是否需要评分、怎么评分等。

3.以3年为一个循环周期制定评价时间表


以机械工程专业为例,假设其毕业要求由A~K11条能力指标(均为虚拟指标)构成,毕业要求达成评价按3年周期表循环进行,在我国工程教育专业认证的6年认证有效期内,可完整收集2轮评价数据。如果认证结论是“通过认证,有效期6年(有条件)”,需要在第3年提交中期报告。如表8所示,该专业共有11条毕业要求,每年参与评价的毕业要求为3条或4条,每条毕业要求在6年认证有效期内可经历2轮评价,每个周期评完所有指标。由于年度参评指标不同,选择支撑指标评价的课程和教学环节也就不同。用于评价的课程来自大一至大四不同年级(可能多集中于大三,少量分布于大一、大二和大四),从而保证每届学生在一个周期内接受过评价。确定评价周期和年度参评指标之后,还需确定不同年份应开展的评价工作以及各项工作的负责人。此外,应根据评价结果适时修订评价周期、参评指标和评价计划,例如:经一轮评价,学生的工程伦理素养未达标,采取教学改进措施后,可在第二个周期连续三年对该指标进行评价。

表 8  机械工程专业毕业要求达成评价周期表示例

4.制定各项毕业要求的评价实施计划


制定评价计划需明晰每条毕业要求的评价实施策略。以“问题分析”为例(见表9),该项毕业要求共有6门课程支撑评价,各门课程的支撑强度有所不同,课程权重值之和为1。该项毕业要求达成评价以课程测验及其他考试、实验、项目设计与实施为主,问卷调查和访谈为辅,每三年系统收集一轮评价数据。其中,课程测验及其他考试、实验、项目设计与实施根据课程考核成绩分析法计算评价值,以量规表为评价依据,评价结果达到某个定量目标值则视为达成。建议问卷调查和访谈不基于单门课程进行,而是从毕业生和用人单位视角总体判断毕业要求达成情况,答案选项采用李克特五级量表,评价结果达到“一般认同”及以上等级则视为达成。为进一步验证评价结果,还可通过对比形成性评价数据和总结性评价数据判断学生进步幅度,增值达到某个定量目标值则视为达成。目前,计算学习成绩(成效)的增值有不同算法与模型,如OLS线性回归模型、学生成长百分位模型、残差模型、交叉分类模型等[10],任课教师应结合教学目标与评价目标选择合适的增值评价模型,协同专业负责人或课程组负责人确定判断毕业要求达成的目标增值。


表 9  机械工程专业毕业要求达成评价(以“问题分析”为例)
注:表中的课程、权重数值、达标阈值、数据收集时间均为虚拟数据。

(二)评价实施阶段

1.明确专业毕业要求的内容构成


《华盛顿协议》第四版《毕业要求和职业胜任力-2021》(Graduate Attributes and Professional Competencies-GAPC 2021)的颁布,为成员组织制定认证标准中的毕业要求提供新的参考框架。与2013版相比,2021版毕业要求从12条精简为11条,新增第一性原理、数字素养、批判性思维等元素,同时进一步强调可持续发展、工程伦理、终身职业发展等的重要性。目前,中国工程教育专业认证协会已展开标准毕业要求的修订工作,修订后的毕业要求在基本框架上将与华协2021版毕业要求实质等效。因此,本研究以GAPC21版的11条毕业要求为基准,结合机械工程领域的特征,制定虚拟性机械工程专业的毕业要求(见表6),主要用于辅助说明本研究提出的评价方法。需要强调的是,制定专业毕业要求不仅要全面覆盖标准毕业要求,而且要有反映本校和本专业特点的补充性要求,重视毕业要求的前瞻性与导向性,根据国家、产业、社会对工程技术人才的最新需求适时修订毕业要求,使之引导工程教育持续改进。


2.选择对毕业要求具有强支撑作用的专业必修课、设计类和实践性教学环节进行评价


专业开设的课程和教学环节对达成毕业要求的支撑强度有所不同,通常表现为强支撑、中等支撑、弱支撑或无支撑三种形式,一般选取强支撑毕业要求达成的课程和教学环节进行毕业要求达成评价。综合国内机械工程专业的课程体系,从中选取12门对毕业要求具有强支撑作用的课程、设计类和实践性教学环节进行评价(见表10),其中包括7门专业必修课(设计与制造基础I、机械工程导论、机器人技术、流体力学与液压传动、机电控制系统、设计与制造基础Ⅲ、机械制造装备设计)、5类教学环节(制造技术基础训练,机械装备拆装实习,包含设计、建造与运行的综合性项目实践,生产实习,毕业设计)。参评课程源于大一至大四不同学年,这个样例多集中于大三,其中包括先修课(如设计与制造基础I)与强化课(设计与制造基础Ⅲ)的组合。从课程对毕业要求的支撑关系上看,一条毕业要求通常由三门及以上课程支撑,一门课程最少支撑两条毕业要求,包含设计、建造与运行的综合性项目实践强支撑所有毕业要求。一般而言,支撑技术性指标的课程相对较多,支撑非技术性指标的课程相对较少,这是因为沟通交流、终身学习等非技术能力难以单纯通过课堂教学获得,也无法仅通过以知识和技能传授为目的的课程进行考查,只有顶点课程或设计与实践类项目才能有效支撑非技术能力指标达成评价。需要说明的是,课程、课程选择都是虚拟的,在真实的专业认证工作中,选择支撑毕业要求达成的课程内容、课程数量等都需要系统思考。


表 10  机械工程专业支撑毕业要求达成评价的课程示例
注:表中H(High)表示课程强支撑毕业要求达成,中等支撑可用M(Medium)表示,弱支撑或无支撑可用X表示。这个样例只标示了强支撑毕业要求达成的课程,在没有明确课程内容情况下,此表仅用于演示性说明。

3.运用多元评价方法分类采集评价数据


毕业要求达成评价数据包括两类:课程评价数据和基于调查的主观判断数据。课程评价数据源于支撑评价的课程和教学环节,是毕业要求达成评价的主要数据来源;主观判断数据源于对毕业生、用人单位等利益相关者的调查,是毕业要求达成评价的补充性证据。


对基于课程的评价,主要根据课程目标达成评分对毕业要求达成情况进行综合判断,大致包含以下四个步骤:一是建立毕业要求与支撑评价课程之间的对应关系,通过赋权确定每门课程对毕业要求的支撑强度;二是由专业认证工作组指定专人对课程评价材料(如试卷、实验报告、项目设计与实践成果等)、评价标准(主要以量规表的形式制定评价标准)的科学性与合理性进行确认;三是通过分层抽样选取具有代表意义的样本计算课程目标达成评分,保证样本好中差三个等级的占比基本均等。以“机电控制系统”为例(见表11),该门课程支撑工程知识、问题分析、设计/开发解决方案3条毕业要求,选取课程测验及其他考试、实验、项目设计与实施三种评价方法判断课程目标达成情况。工程知识属于布鲁姆教育目标分类中的“记忆”和“理解”层次,通过课程测验及其他考试进行评价;问题分析能力属于布鲁姆教育目标分类中的“应用”和“分析”层次,通过实验和项目报告进行评价;设计/开发解决方案能力属于布鲁姆教育目标分类中的“评价”和“创造”层次,通过综合性项目设计与实施进行评价。已知课程成绩总分为100分,课程测验及其他考试占50分、实验和项目报告占20分、项目设计与实施占30分(真实的占分比例要根据具体课程内容和要求合理分配),课程对各项毕业要求的支撑权重为0.2、0.15、0.2,每种评价方法有明确评价标准。实施评价时,抽取一个教学班的考核成绩作为样本,分别计算样本中所有学生课程测验及其他考试、实验和项目报告、项目设计与实施的平均分,并根据平均分、目标分和权重计算课程目标评价值以及基于该门课程得到的毕业要求评价值,课程目标评价值=平均分/目标分,毕业要求评价值=权重×(平均分/目标分)。同理求得其他课程对应支撑的毕业要求的达成度评分,进而汇总计算各项毕业要求的达成情况评价值(如表12所示),一般取各项毕业要求最终评价结果中的最小值作为毕业要求达成情况的总评结果,根据设定的定量目标值(如评价值≥0.75)判断毕业要求是否达成。


表 11  课程目标达成情况评价信息示例机电控制系统课程为例

注:表中的数据包括权重均为虚拟数据。

表 12  基于课程考核成绩的毕业要求达成评价结果示例
注:表中的数据均为虚拟数据。

由于上述课程评价方法是以最终学习产出为判断依据的总结性评价,较难反映学生在学习过程中的实际进步幅度,因此,可通过对比先修课(如“设计与制造基础Ⅰ”)和强化课(如“设计与制造基础Ⅲ”)的学习效果进一步验证毕业要求是否达成(也是虚拟性说明)。首先,由专业认证工作组或专业教学委员会协同教师开发专门用于评价某项毕业要求达成情况的量表或试卷;然后,运用量表或试卷,在支撑评价的先修课结课时进行能力前测,在支撑评价的强化课结课时进行能力后测;最后,选用适当的增值评价模型计算前后两次测试的成绩增值,增值达到某个定量目标值则视为对应支撑的毕业要求达成。例如:如果运用量表对同一个教学班进行前后对比测试,计算前后两次得分的标准化差值即可得到能力增值;如果通过考试分数反映进步幅度,则可通过百分等级成长模型、残差模型等更高阶的方法计算增值和确定达成值。


对基于调查的主观判断性评价,以问卷调查和访谈的方式了解毕业生、用人单位对何种程度上达成各项毕业要求的看法。问卷题目和访谈问题可直接采用11条毕业要求,答案选项可参考李克特五级量表分为完全认同、基本认同、一般认同、基本不认同、完全不认同五个等级。为便于汇总计算问卷调查结果,由学院专业认证工作领导小组协同专业认证工作组对毕业要求进行赋权,并通过模糊综合评价法合成最终评价值,访谈结果主要由访谈人员对访谈文本进行逐级编码后得出最终评价结论,问卷调查与访谈的评价结果在“一般认同”及以上等级视为毕业要求达成。


(三)持续改进阶段


1.根据定量目标值和定性等级描述综合判断达标程度


由于采用的评价方法不同,针对每种方法设定的达标阈值也就不同,判断达标程度主要以定量目标值和定性等级描述为依据。对基于课程考核成绩分析法的评价,其达成值多为定量目标值,定量目标值包括课程目标达成值和毕业要求达成值。通过衡量实际所得评价值与达成值之间的差距,即可判断目标达成情况。以“机电控制系统”课程为例,根据表11,课程目标1的评价值为:35/50=0.7,假设课程目标达成值为0.6,则说明课程目标1达成;通过该课程评价毕业要求A达成情况的结果为:0.2×(35/50)=0.14,假设目标值为0.15,则说明该课程对达成毕业要求A的贡献度不足。除了根据单一课程判断达标程度,还需汇总多门课程评价结果整体判断毕业要求达成情况,毕业要求总评值为支撑毕业要求达成的各门课程评价值之和。以机械工程专业为例,假设毕业要求A由“设计与制造基础I”“机械工程导论”“机器人技术”“流体力学与液压传动”“机电控制系统”“包含设计、建造与运行的综合性项目实践”6门课程支撑评价,各门课程支撑该项毕业要求达成的评价结果分别为0.12、0.15、0.14、0.17、0.13、0.11,毕业要求A的总评值为0.12+0.15+0.14+0.17+0.13+0.11=0.82,假设目标值为0.75,则说明毕业要求A达成。如果通过增值评价辅助验证评价结果,其达成值一般也为定量目标值。例如,选择“设计与制造基础I”“设计与制造基础Ⅲ”两门课程辅助验证“问题分析”这条毕业要求的达成情况,可以运用同一份成熟量表分别在两门课程学习结束后对学生实施问卷调查,量表包含对问题分析能力的测试题,采用李克特五级评分制计分,两次调查后求取总评结果的增值,增值达到某个定量目标值则视为该项毕业要求达成。如果通过毕业生调查、用人单位调查等方式进一步证实毕业要求达成情况,其达成值通常为定性等级描述,划分为完全认同、基本认同、一般认同、基本不认同、完全不认同五个等级,由专业的调查人员对问卷数据或访谈文本进行分析,并对各项毕业要求的达成情况进行等级划分。访谈文本分析一般采用逐级编码、不断抽象比较的方式,由经验丰富的编码人员从访谈文本提炼能系统反映达标程度的概括性结论。问卷数据一般采用模糊综合评价法合成毕业要求总评结果。问卷和访谈结果为“一般认同”及以上等级则视为达成。


需要说明的是,如果所选课程不满足对某一条毕业要求的支撑,有两种办法解决这个问题:1.修改课程目标和课程内容,增加支撑不足方面的课程内容,在课程迭代中达到支撑目标;2.增加支撑课程,聚焦不达标的毕业要求的具体内容,在专业课程体系中选择对缺失方面有支撑的必修课程参与毕业要求达成评价。具体选择哪种或两种办法都选,由专业认证工作组决定,再由相应教学委员会批准。


2.基于不同类型数据相互佐证评价结果


以机械工程专业为例,假设该专业毕业要求达成评价通过课程考核成绩分析法(具体考核方法结合课程内容与布鲁姆教育目标分类法确定)、增值评价(此处以量表为评价工具)、问卷调查和访谈四种方式进行。总体判断毕业要求达成情况时,将课程考核成绩作为主要依据,将增值评价结果作为补充依据,并通过问卷调查和访谈数据进一步验证达标结论,最终评价结果在对不同类型数据进行交叉检验后得出。如表13所示,不同评价方法得到的达标结论可能存在差异,根据差异性评价结果判断达标情况一般有以下三种情况。当多数评价方法所得结论为“达成”,少数为“未达成”时,最终视为达成,如毕业要求C和I。当多数评价结果为“未达成”,少数为“达成”时,最终视为未达成,如毕业要求F和G。当“达成”与“未达成”数量均等时,需通过其他评价方法或重复之前评价方法重新检验评价结果,如毕业要求K。

表 13  毕业要求达成评价结果汇总示例
注:表中的数值均为虚拟数据。

3.切实保障改进措施落地见效


基于评价结果促进专业持续改进需凝聚多方力量,强化协调配合。首先,由学院专业认证工作领导小组协同专业认证工作组做好评价数据的统计、分析和整理工作,形成毕业要求达成评价结果分析报告并及时反馈给专业负责人、教学研究人员和教师。然后,由专业认证工作组与专业相关人员根据评价报告诊断人才培养中存在的问题。一方面,专业骨干教师组应根据各项毕业要求的评价值,查找毕业生的能力弱项,进而优化课程体系、健全师资队伍和改善教学条件。另一方面,教师和教研人员应根据毕业要求及课程目标评价值,查找未达标项和达成值偏低项,进而改进教学方法、调整教学内容和优化评价方式。最后,学院专业认证工作领导小组协同专业认证工作组要定期监测持续改进效果,包括对各专业培养目标与毕业要求达成情况、课程体系、教学模式、评价方法、师资队伍、资源配置等改进情况的全方位监测。


三、研究结论与展望


工程教育专业认证中的毕业要求达成评价是实现专业培养目标与加强专业建设的重要抓手,是专业自评与专家考评的重点和难点。借鉴国际上三所大学和四个认证组织毕业要求达成评价的经验,结合我国工程教育特色和专业认证制度,从学校和认证组织两个评价主体出发,提出产出导向的毕业要求达成评价参考性虚拟方案。该方案由学校方面毕业要求达成评价的参考性实施框架和认证组织方面毕业要求达成评价的参考性考查框架两部分组成。学校实施框架包括评价准备、评价实施、持续改进三个阶段,细分为11个环节。认证组织考查框架涵盖毕业要求参考性内容和毕业要求达成参考性评价方法,前者为学校制定专业毕业要求建立基准,后者为认证专家和学校开展毕业要求达成评价提供参考。

需要说明的是,该方案只是一个研究探索,对中国工程教育专业认证协会和参加认证的学校和专业并没有实质性指导意义,甚至没有实质性参考价值。此方案的研究目的是抛砖引玉,由于工程教育专业认证在提高工程教育质量的不可替代作用,希望开展更加广泛的研究与讨论,持续提高工程教育专业认证水平和工程教育人才培养质量,力求在经验借鉴基础上实现卓越工程人才培养与评价的再创新。当前,中国工程教育专业认证协会正在根据GAPC2021修订我国的认证标准,本文中任何理念、方法、观点与即将出台的中国工程教育专业认证修订标准有矛盾和不一致之处,以中国工程教育专业认证协会的标准及相关文件为准。此外,笔者受专业背景和学习经历的限制,对毕业要求达成评价的理解可能有不深入、不全面甚至不恰当的地方,愿意就毕业要求达成评价方案的再优化与工业界、教育界同行交流学习。


参考文献


[1]Accreditation Board for Engineering and Technology.Establishing timelines and responsibilities[EB/OL].[2023-09-20].https://assessment.abet.org/wp-content/uploads/2022/09/Establishing-Timelines-and-Responsibilities-09.09.20.pdf.

[2]中国工程教育专业认证协会工程教育认证自评报告指导书[EB/OL].[2023-10-03].https://www.ceeaa.org.cn/gcjyzyrzxh/rzcxjbz/gjwj/gzyb/xxgzyb/index.html.

[3]戴先中工程教育专业认证中毕业要求分解指标点的利弊[J].高等工程教育研究,2022(3):60-66.

[4]蒋宗礼提高课程教学站位[J].中国大学教学,2021(Z1):35-41.

[5]中国工程教育专业认证协会工程教育认证毕业要求达成评价指导手册[Z].2015:8-11.

[6]王霞,毛秀珍,张丽教育增值评价:模型、应用及研究展望[J].教育学报,2023(4):109-122.

[7]MATHISON S.Why triangulate[J].Educational researcher1988(2):13-17.

[8]MILLERS S I.Some comments on the logic of triangulation[J].International journal of experimental research in education1983(2):200-212.

[9]FERDIANA R.2020 12th International Conference on Information Technology and Electrical Engineering[C].New York:IEEE2020.

[10]朱珂,张晨雨,刘玉莹,等国际视阈下教育发展增值评价模型的比较研究[J].远程教育杂志,2023(1):60-71.

【论文选刊】朱露 胡德鑫 王凯峰 顾佩华:基于产出导向工程教育理念的毕业要求达成评价研究(上)

【论文选刊】朱露 唐浩兴 胡德鑫 顾佩华:工科本科生解决复杂工程问题能力评价模型

【论文选刊】朱露等:国际工程教育专业认证体系的发展与改革——基于《华盛顿协议》与欧洲工程教育专业认证体系的对比分析


责任编辑黄小青



更多精彩,敬请期待!


版权所有,未经授权,请勿转载

了解最新的高等工程教育研究动向

     快扫码关注我们吧!!!




高等工程教育研究
《高等工程教育研究》是我国第一份、也是唯一一份面向工程教育研究的高等教育类学术期刊。本刊以发展工程教育教学学术、推进工程教育教学改革、提高工程人才培养质量为宗旨,关注国内外工程教育界重大问题,提供工程教育最新资讯,分享最新研究成果。
 最新文章