科技向新，更要向善

近年来，随着新一轮科技革命和产业变革加速演进，人工智能、生命科学等新兴科技以前所未有的程度渗透进生活中，深刻地改变着人类的生产生活方式。然而，在科学新发现、技术新突破造福人类的同时，技术的谬用、滥用，也引发了诸多伦理、法律和社会问题。

面对快速发展、日益复杂的科技问题，如何确保科技创新的健康发展，充分发挥科技的优势？如何有效解决科技创新中蕴含的伦理难题？

11月22日—23日，由中国科技伦理学会(筹)联合中国伦理学会、中国计算机学会等共同主办的第二届中国科技伦理高峰论坛，在复旦大学举办。本届高峰论坛以“跨越边界的科技伦理”为主题，汇聚了来自哲学、社会学、计算机科学、医学、生物学等多学科、多领域的专家学者，为科技伦理的研究与实践提供跨学科的全新视角与方法，助力拓展科技伦理研究的深度与宽度，为具体伦理问题提供更丰富的解决路径。

从智能制造到智慧城市，从医疗健康到金融服务，当前人工智能（AI）风头正盛。面对AI热潮，与会专家学者以冷静、审慎的态度，深入探讨科技创新发展中的伦理问题及其治理策略。

“发明技术的最终目的是为了让人类的生活变得更好，毫无疑问应该充分考虑技术可能带来的伦理问题。”中国科学院院士、北京大学教授梅宏提出，在AI快速发展的热潮下，需要对可能的风险进行研判，并提醒科技工作者时刻牢记科技向善、以人为本。

对此，中国科学院院士、中国生物工程学会理事长高福表达了同感。“科技伦理与科技发展一样重要。”高福表示，如果只讨论科技发展而不思考科技伦理治理，人类行动可能会陷入迷境。在人工智能等新一代信息技术快速发展的背景下，更需要通过科技伦理引导科技向善。

数字技术为人类社会经济发展带来好处的同时，也带来了数据隐私保护、算法偏见、责任认定等一系列伦理问题。

梅宏认为，在当前的AI热潮中，泡沫太大，仍处于技术成熟度曲线的高峰阶段，喧嚣埋没理性，需要一个冷静期。

他强调，虽然基于当前的技术路径，大模型尚不能“无中生有”，做出超越人类预期的事情，但一味信奉“蛮力”、追求规模，也极易发展出在覆盖面和复杂度上人们难以掌控的“巨兽”。

“通过算法，平台可以个性化推送内容，但也可能形成用户的信息茧房，我最近最大的困扰就是拿着手机却读不到想读的有价值的内容。”梅宏表示，目前几乎所有网络平台都在AI算法和大数据驱动下运营，这就带来对算法和数据应用的有效监管问题，这些亟待通过建立完善的治理体系来加以解决。当涉及平台跨境时，还需要有相应的国际治理体系。

在人工智能时代，生命医学领域面临着前所未有的挑战。高福提出，“信息流行病”概念凸显了真假信息的混杂传播所产生的复杂伦理问题，而人工智能则可能加剧虚假信息的生产与传播。对此，科普工作就像社会的疫苗，是预防信息流行病的必要手段。

随着数字技术的发展，科技伦理治理也应当跟上。梅宏强调，目前应当完善科技伦理治理体制机制，明确数字技术领域的治理重点和安全护栏，对数字技术进行分级分类治理，同时建立健全AIGC（人工智能生成内容）的主动披露标注制度并开展相关技术研究。

他呼吁冷静对待当前的人工智能浪潮，为数字技术研究设立禁区。梅宏认为，在基础研究阶段一般不做限制，涉及到对人的认知能力调控、违背人的自由意志的研究应列为禁区。

中国自然辩证法研究会理事长、上海交通大学党委书记杨振斌提出，构建科技伦理的大厦需要汇聚科学家、伦理学家、政策制定者以及社会各界的力量。面对新时代的科技挑战，中国自然辩证法研究会将持续助力科技伦理治理的研究工作，为科技伦理的建设与发展注入更多智慧和动力。

科技是发展的利器，也可能成为风险的源头。中国计算机学会秘书长唐卫清强调，科技活动只有在正确的伦理框架内，才能确保真正造福人类。在科技挑战日益严峻的背景下，跨越学科边界的科技伦理研究显得愈发重要。中国计算机学会将持续探索如何将研究成果转化为实际规范，不断推进计算机领域伦理规范的实施。

本届峰会上，专家学者通过多视角、跨学科的对话与碰撞，为科技创新的健康发展探索坚实的伦理支撑与治理策略。圆桌论坛环节，六位不同领域专家围绕“跨越边界的科技伦理何以可能”话题，展开了热烈讨论。大家一致认为，必须在持续科技创新的同时，不断提升科技伦理治理水平，深度参与科技伦理国际标准和规范的制度，努力提升国际话语权。

此外，论坛设置了七个专题论坛、五个研究生分论坛，围绕科技伦理基础理论、人工智能伦理、数字技术伦理、生物技术伦理、负责任创新与科技治理等议题，全方位深入探讨科技伦理研究的深度与广度。

近年来，国家高度重视科技伦理治理工作。2019年7月，中央全面深化改革委员会第9次会议审议通过《国家科技伦理委员会组建方案》。2022年3月，中共中央办公厅、国务院办公厅印发实施《关于加强科技伦理治理的意见》，对我国科技伦理治理作出顶层设计和系统部署。2023年９月，科技部、教育部、中国科协等十部门印发《科技伦理审查办法(试行)》，进一步强化科技伦理风险防控，促进负责任创新。2024年7月，党的二十届三中全会明确提出加强科技伦理治理的改革任务。

据悉，中国科技伦理学会正在积极筹备成立，将为构建符合中国特色的科技伦理学科体系，深化跨学科合作，推动科技伦理研究的理论与实践结合，促进科技创新与伦理的协调发展贡献中国智慧。

中国科协党组成员、书记处书记王进展希望本次论坛和即将成立的中国科技伦理学会，能够坚持交叉融合，加强科技伦理治理研究和人才队伍建设；重视实践导向，服务国家重大战略部署；秉持开放包容，开展国际交流合作，构筑良好外部环境。

面对日益复杂的科技问题，单一学科的视角已无法充分应对，唯有通过不同学科的深度合作，才能有效解决科技创新中蕴含的伦理难题。

大连理工大学教授王前认为，中国科技伦理学会应该是一个多学科的跨界组织。“不同学科背景的人聚在一起，共同探讨科技伦理教育、科技伦理治理、科技伦理科普宣传等共性问题。另外，建议中国科技伦理学会建成后搭建平台，让大家对话、交流、碰撞。”　

“中国科技伦理学会至少面临两大重要任务：对于已经成长起来的各领域学者来说，是推动科学技术界与伦理界学者之间的学术对话，推进科技伦理研究深入展开，支撑科学技术的向善发展；对于正在培养的年轻学者来说，是对科技伦理类人才的培养提供正确的学术引领和重要的学术支撑。”复旦大学哲学学院教授张双利说。

“中国科技伦理学会应当增进社会共识。”梅宏表示，“在历史上，一些技术走向不可控后，给人类社会造成困扰。历史教训告诉我们，必须重视科技伦理。”

中国科学院上海免疫与感染研究所生物安全政策研究中心主任王小理建议，打破科技体系和伦理体系两大体系的隔阂。“此外，既要有全球视野，更要自觉聚焦国家战略需求，善于运用科技创新和伦理学方法论进行辩证思考、追本溯源，努力提出符合国情、与国际接轨、有中国特色的科技伦理主张。”

对于科技伦理治理而言，人才是第一资源。科技伦理人才从哪来？又该如何培养？

据了解，不久前，科技伦理学建设通过专家论证，科技伦理学有望取得学科“户口”。

复旦大学党委书记裘新表示，作为国内首批设立应用伦理专业的高校，复旦大学始终将推动科技伦理的研究和学科建设作为重要职责，立足中国科协—复旦大学科技伦理与人类未来研究院，打造科技伦理研究的一流平台、推进前沿研究，努力培养理实兼具的高水平人才。

中国社会科学院研究员、中国伦理学会会长孙春晨认为，对于科技伦理治理而言，多学科协同研究能够促进学科间的交流合作，整合不同学科的理论方法，从而能够针对具体科技伦理问题提出切实的解决方案，推动科技伦理治理的创新与发展。他特别指出，应用伦理专业硕士学位的设立，正是培养多学科人才的重要一步。

在梅宏看来，科技伦理学习应该从大学时期就开始，让青年学子在科技伦理指引下，明确科技发展的边界和方向。

科技伦理人才最重要的特质是什么？王前认为，科技伦理人才应该属于复合型人才，他们能以问题为导向，解决主流科技领域存在的重大共性问题。

“科技伦理人才应该掌握科学研究的基本方法论，基于证据展开讨论，提出有价值的问题。”中国人民大学教授赵延东表示。

清华大学教授吴国盛强调了批判性思维的重要性。“科技伦理人才要善于在形而上学的框架之下，做科技伦理、科学哲学方面的研究，秉持哲学批判原则，发现并提出有价值的问题。”

“科技伦理人才要有文化、有担当，对促进科技发展发挥真正的作用。”中国科学院自动化研究所研究员曾毅强调。

上海市精神卫生中心教授徐一峰提出，对基本科技伦理的学习越早开始越好。“只有尽早达成科技伦理共识，共同遵守科技伦理规范，才能培养更多有文化、有担当的科学家。”