关注！四部门出手！整治算法“杀熟”等乱象

民生 2024-11-25 07:26 山东

11月24日，网信中国发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》（下文简称《通知》），有关工作方案主要任务包括：重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”、算法向上向善服务缺失侵害用户合法权益等重点问题，督促企业深入对照自查整改，进一步提升算法安全能力。

此次《通知》内容具体包括：第一，深入整治“信息茧房”、诱导沉迷问题。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签，不得将违法和不良信息记入用户标签并据以推送信息，不得超范围收集用户个人信息用于内容推送。第二，提升榜单透明度打击操纵榜单行为，严管不法分子恶意利用榜单排序规则操纵榜单、炒作热点行为。第三，严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。第四，严禁利用算法实施大数据“杀熟”。第五，增强算法向上向善服务保护网民合法权益。第六，落实算法安全主体责任。

《通知》出台的背景，是算法推荐模式盛行之下，内容生产方式、传播介质、运转模式以及用户信息行为模式都发生转变，由此带来对网络舆论场的冲击，导致网络舆论生态面临挑战。

此次《通知》对算法治理工作提出具体目标，包括算法导向正确、公平公正、公开透明、自主可控、责任落实。如不得设置诱导用户沉迷、过度消费等的算法模型；不得利用算法干预信息呈现，实施影响网络舆论或者规避监督管理行为；定期审核、评估、验证算法机制机理、模型、数据和应用结果等，常态化开展算法安全自评估。

《通知》要求此次专项行动自即日起至2025年2月14日，组织企业自查自纠，简单问题立即整改，复杂问题明确整改举措和期限。积极落实属地管理责任，对照《算法专项治理清单指引》（附件），对企业自查自纠情况进行深入评估。对自查不认真、整改不彻底的企业，及时组织技术力量进行核查并督促整改。

同时，《通知》要求各地网信部门要发挥统筹协调作用，牵头开展专项行动。加强与属地电信、公安、市场监管等相关部门联动，细化工作分工，压实工作责任。运用好央地各方有效技术支撑力量，积极有效推动各项任务落实，确保取得工作成效。

目前，算法治理已是行业共识，《通知》也并非行业首次提出规范。复旦大学管理学院信息管理与商业智能系教授张成洪撰文表示，当算法决策或应用结果损害特定主体权益时，由于规则和原则不明确，可能导致利益救济不足的风险；滥用或误用算法也是一个潜在的风险，算法产生的决策效果可能会破坏社会的公正和社会凝聚力。因此我们迫切需要对AI算法进行有效的治理。

2021年9月，《关于加强互联网信息服务算法综合治理的指导意见》出台；2021年11月19日，《互联网信息服务算法应用自律公约》发布；2021年12月31日，《互联网信息服务算法推荐管理规定》发布；2024年7月11日，《互联网信息服务算法推荐合规自律公约》发布。

同时，算法的复杂使得算法治理不可一蹴而就，清华大学人工智能国际治理研究院副院长、人工智能治理研究中心（清华大学）主任梁正表示，算法治理面临多重挑战，包括技术固有的“黑箱”特征，即随着模型的日趋复杂、数据日趋多元，算法的不可解释、不可控性有增加的倾向。

其次，梁正认为，如何在效率和公共利益最大化之间的权衡，是算法治理时要考虑的重要部分。以及针对算法合规审计，缺乏独立专业的第三方机构和成熟统一的评估标准，同样是目前国内算法治理存在的困境。许多平台都是自主做相关工作，但平台是否能够完全承担相应责任，无论从意愿还是能力上都有待商榷。

张成洪认为，AI算法治理至少要包含三个层次。第一个是算法治理的政策法规，由国家行业的主管部门制定政策，给予指导；第二是算法合规性的审计，依据法律法规或者行业要求对企业展开检查和监管，可能由企业内部做，也可能需要行业或国家成立专门的监管机构去做；第三开发出合规合法的AI算法，这对开发人员、对算法工程师是有要求的。

工信部信息通信经济专家委员会委员盘和林对记者表示，算法推荐并不适用于避风港原则，不可单纯通过该原则封闭自身算法规则机制，之前法律已要求各大平台有责任对平台数据采集和算法进行备案。通过对推荐算法进行报备，由监管部门对算法的合理性进行审查。

至于此次《通知》对行业算法治理的影响，盘和林对记者表示，此次通知后，行业将有一轮具体行动，仅靠平台自查不可行，第三方机构和成熟统一的评估标准可能在此次指导文件发布后逐步完善。该过程需要时间，也需要政府侧配备相关人才等资源。

来源：第一财经

编辑/任金辉

责编/李晓彤编审/刘蒙

吴磊突发意外！
已确认！当场击毙
不要捡，不要吃！济南街头大量出现，可致命！

万达突发

国家一级女演员去世

最新文章

突发坠机！已排除幸存可能

时间有变！济南最新通告

网传中国铁建副总经理马建军坠楼身亡，简历已从官网撤下，公司回应

济南轨道交通7号线这一站11月30日起封闭施工，绕行路线看这里→

已有人被判刑！这张卡不能随便外借

华为发布Mate70系列手机，售价5499元起

山东将延长婚假！

上海闵行区一商场内有人坠楼身亡，当地警方证实是一名男性

京东发表严正声明！

200余字文件7处错字？当地深夜通报

日本突发！火箭试验异常引发火灾

文化东路突发！全网刷屏

王宝强被控告诈骗，警方通报来了

货拉拉回应

华莱士，摊上事了！

学生因亲人危重请假离校被拦，物业向学校和学生道歉

济南这雪还下么？最新预报···

俄罗斯，遭大规模攻击

突发！一艘载有45人的游船在红海海域沉没

监控视频曝光！野猪闯入民宅咬死7旬老人，当地回应

寒潮来袭，济南热力集团全线启动供热服务保障

车门异响、底盘异响···嘉际L车主十分苦恼

暴雪、寒潮预警

央视曝光“劣质羽绒制品以丝充绒”，江苏南通通报：查封扣押、立案查处

山姆超市，突然被曝！

刚刚发布：死刑！已执行！

三家银行解散

下雪了！山东迎来今冬首场降雪

一天涨粉120万，她已被禁止关注！

突发！一客机降落后起火

关注！四部门出手！整治算法“杀熟”等乱象

湖北武汉一路面突发塌陷，目击者：2辆车掉进深坑，交警回应

济南发布黄色预警！涉及历下、市中、槐荫、天桥、历城、高新、南山、起步区

王曼昱险胜陈幸同，夺得WTT总决赛女单冠军；王楚钦战胜张本智和，获得男单冠军

男子实名举报县委副书记婚内出轨自己老婆！当地官方通报

打小学生！派出所副所长王某，被撤职

叶嘉莹逝世

突发地震

日本死亡人数升至235人

特朗普最新声明！

一派出所执法人员殴打小学生？警方：已成立调查组核查

即将大量上市！每斤便宜100元，还要跌······

飙到800℃！济南人赶紧自查！

热搜第一！保时捷，深夜紧急致歉

多次故意冲撞石山舰！中国海警：抓获17人

蔚来被收购？最新回应！

拜登哭了

济南黄河大桥主线、济南黄河齐鲁大桥通车！济南全市跨黄桥隧增至21处

“‘泉’在济南邮见美好阅享未来” ！济南首届书报刊文化市集活动启动啦

最低温-7℃+小雪！济南发布重要天气预报

分类

时事

民生

政务

教育

文化

科技

财富

体娱

健康

情感

旅行

百科

职场

楼市

企业

乐活

学术

汽车

时尚

创业

美食

幽默

美体

文摘

原创标签

时事社会财经军事教育体育科技汽车科学房产搞笑综艺明星音乐动漫游戏时尚健康旅游美食生活摄影宠物职场育儿情感小说曲艺文化历史三农文学娱乐电影视频图片新闻宗教电视剧纪录片广告创意壁纸头像心灵鸡汤星座命理教育培训艺术文化金融财经健康医疗美妆时尚餐饮美食母婴育儿社会新闻工业农业时事政治星座占卜幽默笑话独立短篇连载作品文化历史科技互联网

发布位置

广东北京山东江苏河南浙江山西福建河北上海四川陕西湖南安徽湖北内蒙古江西云南广西甘肃辽宁黑龙江贵州新疆重庆吉林天津海南青海宁夏西藏香港澳门台湾美国加拿大澳大利亚日本新加坡英国西班牙新西兰韩国泰国法国德国意大利缅甸菲律宾马来西亚越南荷兰柬埔寨俄罗斯巴西智利卢森堡芬兰瑞典比利时瑞士土耳其斐济挪威朝鲜尼日利亚阿根廷匈牙利爱尔兰印度老挝葡萄牙乌克兰印度尼西亚哈萨克斯坦塔吉克斯坦希腊南非蒙古奥地利肯尼亚加纳丹麦津巴布韦埃及坦桑尼亚捷克阿联酋安哥拉