越懂你越坑你,算法岂可沦为 “算计”

政务   2024-11-27 08:12   重庆  


近日,农夫山泉创始人钟睒睒在江西赣州的一次考察中,罕见地向媒体痛斥谣言之害,对平台算法的不透明提出强烈质疑,称算法标准没什么不能公开的,“应该让所有使用者来评价其意义”


紧接着,中央网信办等多部门联合发布《关于开展“清朗·网络平台算法典型问题治理”专项行动的通知》,针对同质化推送营造“信息茧房”、利用算法实施大数据“杀熟”等重点问题,督促企业深入对照自查整改。


细观当下,从日常的购物消费到出行导航,从信息获取到社交娱乐,算法确实无处不在,似乎越来越 “懂” 我们。可如今,这个“懂” 却来了个180度大转弯,变成了处心积虑的 “算计”。它就像一只无形的手,悄无声息地摆弄着信息的流向、资源的分配,甚至左右着我们的行为选择。这怎能不让人陷入深思!


▲11月24日,中央网信办等多部门联合发布通知。/重庆瞭望截图

算法,诞生于数学逻辑与数据处理规则的 “产房”,本应是科技送给人类的 “智慧天使”。在理想状态下,它能精准地 “嗅出” 用户的需求,像个贴心管家一样,为我们呈上个性化的商品推荐,匹配高效的服务。但现实却给了我们一记响亮耳光,算法在诸多场景中 “迷失自我”,反而成了 “算计大师”。


于个体而言,大数据“杀熟” 的阴影如鬼魅般缠绕着消费者。不管你多会砍价、多懂行情,在算法面前都仿佛是只待宰的羔羊。这种被愚弄的感觉,不仅让消费者的购物热情大打折扣,更可能让整个消费市场陷入信任危机的泥沼。


在信息获取方面,被困在 “信息茧房” 里的用户就像被蒙住了双眼,逐渐失去独立思考和辨别是非的能力。他们只能被动接受算法投喂的同质化信息,对不同的观点与声音产生排斥,这很容易使得社会舆论走向片面化,甚至是极端化。


从社会的宏观视野审视,算法的 “算计” 更是加剧了数字鸿沟与社会不公。


那些拥有更多数据资源、更强数字技术能力以及更高消费能力的群体,往往能够在算法的 “游戏规则” 中占据优势地位,获取更多的资源与机会;而那些老年人、低收入群体以及数字技能欠缺的人群,则更容易被算法所忽视甚至 “剥削”,进一步拉大了社会阶层之间的差距。


▲大数据“杀熟”。程硕 作 /新华社

究其根本,商业利益的驱动是肇因。在这个竞争激烈的商业丛林里,部分平台为了分得更大的蛋糕、攥紧更多的用户,把算法当成了 “吸金神器”。他们不顾用户的真实感受,把用户当成了可随意开采的 “金矿”,于是算法就变成了 “算计” 工具。


算法设计中的数据偏差与偏见也是重要因素。算法的运行依赖海量数据,可这些数据的收集和整理过程如果漏洞百出,那就会导致数据本身沦为“歪瓜裂枣”。


以招聘平台的简历筛选算法为例,若历史数据显示男性在某些高薪职位上的占比较高,算法可能会“重男轻女”,从而使女性求职者在无形中面临更高的就业门槛。


再说说算法那如 “黑箱子” 般的不透明。很多复杂的算法模型,其中的决策逻辑和运算机制让人摸不着头脑。这就给了平台和开发者可乘之机,他们可以在用户毫不知情的情况下,肆意操纵算法为自己牟利。比如某些金融领域的风险评估算法,用户可能莫名其妙就被贴上高风险标签。


还有监管的 “慢半拍” 和缺位。面对算法技术的迅猛发展,相关法律法规与监管政策未能及时跟上步伐,形成有效的约束与规范机制。这就导致一些企业肆意利用算法进行不当操作,以牺牲公共利益为代价来追逐私利。

▲运维人员在机房调试GPU服务器。记者 张锦辉 摄/视觉重庆

面对算法的 “算计” 乱象,平台责无旁贷。平台作为算法的开发者与使用者,掌握着算法的核心权力与资源,理应成为算法合理应用的“把关人”。


平台不能只盯着自己的商业利益,而要把用户权益保护和社会价值创造放在 “天平” 的两端。在算法设计和应用过程中,要时刻遵循公平、透明、合法的 “黄金法则”。


比如商品定价算法,平台要建立严格的监督体系,杜绝价格歧视的 “黑手” 伸向不同用户。在信息推荐算法方面,要竖起内容质量的 “标杆”,弘扬正能量,把低俗虚假信息拒之门外。


同时,平台要努力揭开算法的神秘 “面纱”。用户有权知道算法是怎么运作的,自己的数据是如何被 “摆弄” 的。平台要像个 “老实人” 一样,给用户提供通俗易懂的算法说明书和数据使用报告,让用户能参与到算法的优化和监督中来。


比如搭建用户反馈的 “绿色通道”,当用户发现算法推荐不合理时,能及时向平台 “吐槽”,平台要虚心接受并迅速调整算法,让算法重新走上服务用户的 “正道”。


也许,互联网算法本身没有对错,但是,设计它使用它的人需要有一个正确的价值观。在赚钱的过程中,平台应先考虑到网民的利益,先利他,才能利已,这才是真正应有的算法逻辑。


在算法与生活深度交融的时代,我们绝不能任由算法在错误的道路上 “狂飙”。平台作为关键的 “刹车手”,必须通过树立正确价值观、增强透明度、强化自我监管等多方面的努力,让算法回归初心,重新成为我们在数字时代值得信赖的伙伴,而非危害社会的“算计大师”。

来源:重庆瞭望

大家都在看
39支队伍巅峰对决 2024年重庆市网络安全劳动和技能大赛在綦江开幕
重庆市教委:严禁奥数小升初!违规录取协议一律无效
“双网格”怎么用?丨渝中区南纪门街道:“双网格”联动助力基层社会治理有速度、有温度、有精度

声明:除原创内容及特别说明之外,推送稿件文字及图片均来自网络及各大主流媒体,版权归原作者所有。如内容侵权,请联系删除。

网信重庆
重庆市网信系统的官方对外发布平台。
 最新文章