平台算法的困境——最大限度地挖掘人性的恶。
文摘
情感
2024-12-25 00:02
四川
我先讲一个底层概念，早期的AI被大家吐槽为智障，是因为那时候的AI实际上是一种穷举法，即靠产品经理和程序员去为每一种可能性去写出对应的逻辑，一旦逻辑层级太多，需要的反应时间就越长，智障感就出来了；而现在的AI，虽然还没有人类的空想虚构能力，但却是有了一套纯理性的类人思考计算、语言组织模式，所以只要对应的硬件提供的算力足够强大，其思考效率是远超人类的。对应到今天的主题，那些有实力的大平台推荐算法，早已晋升为最新的AI级智脑概念。作为商业公司，作为商业平台，他们对这个AI核心要求无非是——提升用户活跃度。如果对活跃度进行定义，无非是停留时长、互动次数等等。那么，AI的思考模式就会变成——哪类内容吸引人留下观看、互动，就增加该内容的流量分配。前面讲过了，目前的AI是很理性的，它可以按照平台设定的关键条件去过滤掉不符合法律法规的内容，比如露点、政治敏感等等；但是在这个标准之上的内容，那就是谁给平台带来更好的数据，谁就是AI的王者之选了。问题也就在此刻出现了——AI其实并没有做什么善恶相关的道德判断，要的只是活跃；而使用者人类，天然地就具备一个特点——好事不出门，坏事传千里。很简单，当你在马路上扶一个老奶奶过马路时，最多收获路人匆匆一眼的赞赏；而你要是撞倒一个老奶奶，收获的是无数人的驻足无关。在这一点上，互联网与现实社会并无二致，对应的都是人性中最本能的东西，但是互联网有一个天然属性叫放大——现实中，能围观的人也就是地理位置附近的人，规模非常有限；而在网络上，失去了物理空间的限制，很小很小的事情也可以变成全世界皆知的事情。从逻辑上来讲，这些大平台并没有刻意去这样选择——人家的逻辑是选择可以让平台活跃的内容，否则就不会有那些正向的、有趣的视频也能爆火出现在大众面前了，更精准的定义是平台偏爱能引发最大群体共鸣的内容；但是作为人类自身具备的天然人性弱点，会把大量的活跃贡献给了争议、坏事，就促成了平台对这些内容的露出、就像是平台更偏爱这些内容一样。平台可以控制吗？从技术上来说，肯定是可以的，但是，真的这样做了的话，这不等于是自掘坟墓吗？用户一旦在平台不活跃了，就等于流失了，平台的价值就下降了。其实不用说这些互联网平台，就是上一代的电视台都没办法逃开这个逻辑，除了影视相关的内容，各地方台最火的节目之一就是家庭调解节目，比如浙江那边的老娘舅。如果你去仔细回顾下历史数据，会惊奇地发现绝大多数都是夫妻之间出轨的事情，而且都是精选出来的奇葩案例——普通出轨都上不了电视台节目了。但是，互联网平台还是有其优越性的——作为个体的你，是完全可以调教专属于自己的算法模型的，你可以剔除那些绝对不喜欢的内容、屏蔽特定的类型。如果你留下的都是向善的内容，如果有更多的人和你一样了，你会惊奇地发现，这个平台开始挖掘人性的善了。可惜，这注定只存在于理想之中。乌合之众已经指出了群体的一个困境：群体智商等于群体里智商最低的那个人，当然，前提是决策是需要100%通过；如果决策需要51%，那么第51%的那个人智商就是这个群体的智商。放到道德水准，同样也是成立的。所以，对于一个包含10亿用户的平台，最终露出的内容一定是更多人最喜欢的内容，这不是算法故意作恶，而是更广泛的人性就是如此。
