聚焦“清朗·网络平台算法典型问题治理”专项行动,天融信吕延辉接受央视采访

科技   2024-11-26 16:38   北京  




“清朗·网络平台算法典型问题治理”专项行动

为进一步深化互联网信息服务算法综合治理,中央网信办、工信部、公安部、国家市场监管总局联合发布通知,自2024年11月24日起至2025年2月14日开展“清朗·网络平台算法典型问题治理”专项行动(以下简称“专项行动”)。


向下滑动查看所有内容


专项行动聚焦网民关切,重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题,督促企业深入对照自查整改,进一步提升算法安全能力。


网络平台算法应用一直是社会各界高度关注的话题。11月25日,中国计算机学会计算机安全专业委员会委员、天融信科技集团副总裁吕延辉围绕专项行动重点整治和关注的热点话题,接受了央视新闻采访。



提升榜单透明度 打击操纵榜单行为



号称花钱就能登上热搜榜、备受关注的外卖骑手被算法支配等问题是本次专项行动的重点整治对象。与往年清朗行动关注网络水军、网络操纵打榜等问题不同,今年的专项行动将重点关注提升榜单透明度,打击操纵榜单行为;全面公示热搜榜单算法原理,提升榜单透明度和可解释性;完善榜单日志留存,提高榜单算法原理可验证性等问题。



对此,吕延辉介绍到,本次专项活动的治理重心主要在于规范化热搜榜单的透明度和可解释性,而不仅仅局限于直接对网络水军等违法行为的整治。透明度和可解释性意味着热搜榜单的形成应当需要一定的合理性和公正性,可以间接打击网络黑灰产,确保榜单排序规则不会被用于恶意营销和炒作。他在介绍中提到2024年某地公安局就成功端掉一个网络水军犯罪团伙。该团伙声称花5万元就可登上热搜榜,涉及到社会舆论、热点事件、广告推广、账号营销等多个环节。


严禁利用算法实施大数据“杀熟”



本次专项行动还将重点关注大数据“杀熟”,严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。吕延辉在采访中谈到所谓的大数据杀熟是指经营者根据用户年龄、职业、消费水平等要素,“对人下菜”,对相同商品设定不同的价格标准。专项行动严禁这类算法应用,其直接目的是为了避免消费者“越买越贵”,保障消费者的知情权、自主选择权以及公平交易权等合法权益。



当前,平台经济大数据“杀熟”频现、遭消费者质疑的事件屡屡引发热议。然而,在实践中,大数据“杀熟”界定并非易事,各地都在积极探索应对解决这一问题。值得注意的是,专项行动明确提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。要求客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。相信,随着专项行动的开展,大数据“杀熟”能够得到一定程度遏制,也可以更好地保护消费者权益。


增强算法向上向善服务



本次专项行动强调要重点增强算法向上向善服务、保护网民合法权益和落实算法安全主体责任。此外,专项行动明确了全年工作时间表,每一项工作都限制了期限,要求各地网信部门在专项行动期间要及时公开算法问题举报渠道,对网民举报线索进行监测核实,督促存在问题的网站平台及时整改,并向网民反馈整改结果。



在谈到落实算法安全主体责任时,吕延辉指出:“要求企业在追求技术创新和业务发展的同时,要高度关注算法使用的合规性和安全性,防止损害用户利益、触犯法律法规。首先确保业务在合法合规的框架内运行;其次建立健全数据安全的管理制度和技术体系,从数据采集、存储、传输、使用的每一个环节确保数据的安全性和合法合规。”


此外,天融信建议在算法设计研发阶段,企业应建立并严格执行安全开发规范,推进人工智能可解释性研究。在部署、测试、运行等关键环节,必须全面落实监测、管理与评估等安全与合规措施。


11月22日召开的国务院常务会议明确提出,要进一步加强对平台经济健康发展的统筹指导,加大政策支持力度。本次专项行动设立了五大目标,即算法导向正确、算法公平公正、算法公开透明、算法自主可控、算法责任落实。


数字未来,科技向善!网络平台算法合法合规应用是网络空间安全健康发展的长远之策。通过治理典型问题,压实平台责任,让网络平台更好地承担社会责任,保障各方权益,才能让网络平台算法更好地赋能实体经济,推动经济高质量发展。




相关阅读

1、央视报道 | 天融信李雪莹博士:以技术为抓手,营造清朗网络空间

2、央视报道 |《网络安全审查办法》施行!天融信李雪莹博士:数据安全重视程度再获提升

3、央视报道 | 天融信薛智慧:揭秘AI换脸诈骗手段,新技术犯罪该如何防范




天融信
天融信(002212.SZ)围绕网络安全、大数据与云服务三大业务持续创新,以安全护航各行业客户数字化转型。
 最新文章