看到官媒推了一则新闻《四部门:开展“清朗·网络平台算法典型问题治理”专项行动》,不禁了解一下细则。
早在2022年3月1日,工信部、网信办等多部门联合发布的《互联网信息服务算法推荐管理规定》正式施行,这是在全球范围内开启算法规范的先例。
多款软件也上线“个人信息收集清单”,用户可以查看收集的具体个人信息和收集次数。部分软件给出“清除个性化记录”的选项,可以将用户此前的历史行为一键清除。比如微博曾专门发文解释搜索热度、讨论热度、传播热度热搜榜单的形成机制,字节跳动也曾专门对推荐算法的原理进行说明。
G哥在之前写过,大家是平台的打工者,平台背后就隐藏着“算法”在操纵一切。
算法工程师的薪资水涨船高,大数据时代“啤酒与尿布”的故事津津乐道。算法本无善恶,在于制定算法规则的人。算法在平台公司的推动下自然会追求商业利益的最大化,对细分场景的算法管控势在必然。
我们对这次新规的细则有几条展开说一说。
1.深入整治“信息茧房”、诱导沉迷问题。构建“信息茧房”防范机制,提升推送内容多样性丰富性。严禁推送高度同质化内容诱导用户沉迷。不得强制要求用户选择兴趣标签,不得将违法和不良信息记入用户标签并据以推送信息,不得超范围收集用户个人信息用于内容推送。规范设置“不感兴趣”等负反馈功能。
大家有没有刷X音,或者X号停不下,时间不知不觉就过去了。超级app基本上都是kill 时间的应用。
信息茧房问题,推送你爱看的内容,你就只能看到这些内容。这种长期的算法“偏见” 对于看待事物的全面性是不利的,甚至产生不正确的判断。
2.平台规则,比如xx号流量池问题。入池规则跟标题强相关,甚至内容上以生产速食博眼球话题为主,这些内容放到时间的长河里,就是垃圾。
3.防范盲目追求利益侵害新就业形态劳动者权益。严防一味压缩配送时间导致配送超时率、交通违章率、事故发生率上升等问题。详细公示时间预估、费用计算、路线规划等算法规则。搭建畅通的申诉渠道,及时受理劳动者因交通管制、交通事故、恶劣天气等不可控因素导致的配送超时等申诉。
这个典型的就是打车业务,外卖业务。
4.严禁利用算法实施大数据“杀熟”。严禁利用用户年龄、职业、消费水平等特征,对相同商品实施差异化定价行为。提升优惠促销透明度,清晰说明优惠券的领取条件、发放数量和使用规则等内容。客观如实说明优惠券领取失败原因,严禁以“来晚了”“擦肩而过”等提示词掩盖真实原因。
这个问题也比较严重,典型的是一些机票和酒店app。不同用户价格差异上百,算法还可以进一步“拿捏”用户是否是“价格敏感型”。
《三问“大数据杀熟”为何屡禁不止》这篇文章中提到,“国庆出去玩订酒店发现,同样的房间,用自己常消费的账号订显示388元,而用不常用的账号订只要236元,价格相差近一倍!”“同样的酒店,不同平台差价将近100元。”
“随机红包”优惠力度“因人而异”。在黑猫投诉平台上,记者看到了不少关于外卖平台省钱包的投诉信息。有消费者投诉称,购买外卖平台的优惠红包,最初购买使用时开出的红包很大,有时能达到12、13元,而多次购买后开出的红包就变小了,一般只有6、7元。
黑猫投诉平台一位消费者称,一家平台组织攒奖票兑换红包或者提现的活动,该消费者攒了好多奖票准备兑换时,发现无法兑换,而同一地区、同一时间点,有朋友奖券不多却可以兑换,他认为平台对于不同账号存在区别对待。
新老用户被“差别对待”。一些网友吐槽,预订酒店“黄金会员比普通会员贵”、打车软件“钻石会员”价格高于新会员。有网友称,用新注册的小白用户、普通会员用户和高级别的会员用户同时选购同场次电影,最便宜的是小白用户,其次是普通会员用户,而高级别的用户一张票要比小白用户贵出5元以上。还有用户反映,自己作为某平台的付费会员,一开始会得到平台送出的固定优惠券,但当优惠券用完,需要自己花钱再买优惠券时,发现要支付的价格比非付费会员购买同样的优惠券还要贵。
5.增强算法向上向善服务保护网民合法权益。持续优化完善面向未成年人、老年人的算法推荐服务,便利未成年人、老年人获取有益身心健康的信息。建立健全算法在赋能优质内容传播、违法行为识别发现等方面的社会治理应用。持续提升生成合成信息检测识别能力,及时发现处理违法违规生成合成信息。
随着AI的发展,文生图,图片合成,视频合成越来越顺滑,以假乱真。俗话说“眼见为实”, 现在要改成“眼见未为实”了。
算法,是一个潘多拉魔盒。打开了,带来了购物的便利性和资讯智能化、互动性,但也带了安全、隐私、过度诱惑、沉迷、信息茧房、不公平定价等问题。而算法作为企业的核心资产,在治理和第三方监管的道路上,还有很长的路要走。
加军哥V信,可以领取IP起盘资料一份,限200份。