Attention is Not You Need:论量化社区公共贡献的治理悖论

文摘   2024-07-16 13:47   中国香港  

本文初稿完成于2023年6月 云南·大理 NCC


本篇文章所探讨的DAO/社区的概念,我们暂且以“共同体社区”作为本篇文章中,因为在当前阶段,无论是DAO,还是线上与线下社区,都是一个边界重叠但是意义同质的概念,因此为了更好地辨明这两者之间的共性,在本文探讨中,暂且以DAO/社区的叠加态来进行讨论,其次,本文的社区也包含线下社区。


所以,无论你是对DAO的探讨,还是对社区的探讨,但凡涉及“治理”这一命题的,都在本文的讨论框架中。


在科技史的时间线上,从2016年~2023年作为DAO的初始理论探索与实验周期,而以2023年开启的新一代人工智能浪潮,加速了人机共生社会的到来,因此让DAO、社区已经进入了新的发展周期。


在这新的发展周期中,AI治理将进入主导角色,AI模型对个人数据的全面捕获将成为常态,例如Apple 的Persnoal Context技术,模型获得iPhone本地端的全面数据,为用户提高模型认为的最优辅助决策。


无论是DAO的治理决策、社区的集体决策、还是AI助理的辅助决策,我们都在迎来一场巨大的社会变革,这场社会变革关系到任何个体、任何组织在人机共生社会的生存境况。


大模型对个人数据的捕获颗粒度,将极大提升其在用户需求场景的推理能力。其次,随着线上系统大量的引入各类AI模型以增强工具的智能水平,技术竞争驱使商业公司采取一切手段获取更多的个人隐私数据。


因此,在人类治理开始倾向AI治理的时代中,工具系统的大量应用,也将推动人类不自觉的尽一切可能量化个体在DAO、社区的一切行为数据指标,这是一场机器的KPI系统作用于人类的社会活动系统之中。


不管我们乐不乐意,这一趋势已经是不可逆地发生了,但我们必须提前清醒地觉察,这一量化指标对我们到底意味着什么,个人的隐私数据指标的量化指标如何干涉我们的日常决策,进而影响我们的社会合作关系。


DAO、社区寄托了我们脱离传统合作组织,寻求人人平等、公平分配的合作诉求,但却也将不可避免面临新的发展困境,因此,本文以“量化公共贡献的治理悖论”作为切入点,探究在DAO、社区之中采用量化贡献的治理机制,所存在的根本性矛盾,以及AI量化公平指标作为一把双刃剑,如何制造非公平的共识偏差



01 

当前社区发展的量化困境


1. 常见问题下面的深层问题

众所周知,在DAO/社区的治理方式中,看似平等的民主投票制容易在DAO的结构中导致权力关系的集中,哪怕采用了代议制民主,也会造成少数核心成员垄断了决策的权力以及执行的权力,这是在DAO的经典结构模型中,决策与执行在权力发展关系中的必然性。


一旦决策权力集中在少部分核心成员的手中时,必然造成了治理参与率的下降,因为具有决策权的少数核心成员,从博弈关系上拥有社区公共资源的掌握权与优先支配权,这个“权力”关系并不在“提案-投票”的动作中所体现。


事实上,DAO/社区的治理结构存在权力关系分布不均的情况,进一步导致“提案-投票”看似民主的手段并不赋予个人真实有效的个人权力,导致非核心利益相关人参与治理的意愿降低。人员的差异化必然导致治理权力的差异化。


当前全球DAO领域的建设者,已经完成了对“民主投票制”的祛魅,现在回过头来看,是我们将自身的发展意志,错置在自由资本主义的叙事框架中,造成了我们对真实的自由与民主产生了集体幻境。


正是我们走过了这段弯路,我们才得以从历史与社会的视角中,重新审视我们过去的试验性错误。


目前为了突破DAO的治理困境,我们还必须直面一些存在的根本性问题,例如,我们通过解构个体性堆叠公共性,我们混淆了共同体与公共性的边界,代币激励机制掩埋了文化秩序对组织的塑造,不平等的公共产权关系扼杀了个体在DAO的发展意愿...


我们在今天所面临的问题依旧有很多,我们需要更多投身理论与实践的研究员去攻克我们当前所面临的众多困境。那些浮在表面的问题背后都是困扰社会学已久的难题。



2. 量化公共贡献行为的治理机制

从DAO/社区治理的根问题中,我们可以明确出我们对于DAO/社区治理的根本性诉求,在于追求一种对“公共资源的公平分配”的最优解,由此我们普遍上通过量化公共贡献行为的方式,决定公共资源如何分配给参与社区贡献的各个成员。


代币制与积分制就是我们常见的通过量化贡献行为的价值并进行现金折现的方式。(此处的现金折现是指可计价单位的折现,积分/代币都是一种可计价单位)


我们试图通过定义某个行为对于整个社区具有正向的贡献价值,因此通过一套积分奖励的方式,用于激励社区成员主动发生更多的贡献行为,而社区成员通过积分可以兑现为现金/权益,积分作为一种贡献价值的兑现与交易媒介,扮演了货币的功能。


而对于加密社区而言,通过代币激励也是为了解决同样的治理需求,但加密社区更加致力于通过技术媒介与货币媒介的方式,例如基于链上活动的数据作为代币激励的估值依据。


我们的直观上认为,通过量化贡献行为的发生,能够建立一套客观上公平的经济奖励机制,能够直观看到每个人的贡献付出,进而实现对公共资源的公平分配,这就是我们普遍引入积分统计制、代币激励制的表面原因。


3. 量化公共贡献行为的诅咒

采用积分统计制/代币激励制的量化治理方式,似乎是一种惯性,源自于我们对于社会经济制度的经验认知,良好的经济制度能够促进社会的繁荣发展,但是我们认真审视下古今中外,不存在任何经济制度能够完美解决社会公平分配的问题。


不同国家的经济制度在不同的时期中发挥着作用,但社会是一个更加复杂的系统,经济制度总会失效,甚至是原先有效的经济制度导致了社会贫富差距的急剧增大,违背了我们寻求一种良好经济制度的初衷。


量化公共贡献行为的初衷是好的,但现实总是与理想发生偏差。


当我们试图通过量化公共贡献行为,构建一种“公共资源的公平分配”的最优解时,事实上精准的数值计算系统,也有利于个人根据量化指标,寻求个人在公共资源中的利益最大化与最优解,明确的数值指标成为了优秀的利益计算工具,由于规则的允许,我们往往只有在个体性趋利行为破坏了公共性的公平边界时,我们才意识具体问题的严重性,但这个时候往往为时已晚。


早期积分制度激励了贡献行为,并持续形成了一种具有主观能动性的、自发性贡献的氛围,正是这个氛围让个体自发涌现出各种大大小小的非量化、不可定义的贡献动作。


当非趋利的主观贡献VIBE(一种微妙的社区价值观呈现的“暧昧”氛围,暧昧氛围允许非功利贡献行为具有伸张的影响力)被破坏时,那些出于对社会文化价值认同的贡献行为就会大量退散,因此规则下的不平等趋利行为破坏了社区的公平性,而制度问题短期内难以解决,必然也造成了大量隐形贡献的消失以及相关人员的退散。



02

量化公共贡献行为的堆垛悖论


1. 我们对于经济激励的直观感受

在我们的常识中,直观上会认为一个人做出有益于社区的贡献时,理所应当获得经济激励的回报,这几乎是我们所有人对这一机制毋庸置疑的共识。


然而我们应当进一步认真审视,我们产生这一直观认知的前置条件,我认为至少存在两方面原因,一个是来自于我们在社会经济制度的经验认知,有劳动付出就能够收获应得的回报,另一方面则是来自于我们的道德感,我们所处的时代背景与社会文化塑造了我们对于公平正义的道德感,好人应该有好报,尤其是付出了公共贡献的任何人。


是我们的社会经验和社会道德感,带给我们直观上未经深度逻辑审视的认同:即量化公共贡献行为激励社区是可行且合理的。


我们对量化贡献的这种形式认同,存在着主观对客观的干涉而造成的偏差,使得我们踏入经验逻辑的陷阱,因此,我们很容易出现“直觉上为真,客观上为假”的悖论问题。


2. 量化特定概念的堆垛悖论

关于量化公共贡献行为这一治理机制,事实上是由两种形式所构成的,即话语形式和计量形式。


话语形式是对行为符号阐释性的表达,而计量形式是通过定量研究对行为动作的数量程度的数据统计,而在计量形式中存在对动作发生/执行的边界与程度问题,因此,我们优先探讨计量形式中关于定量研究的堆垛悖论。


什么是堆垛悖论?

堆垛悖论(Sorites paradox),也称为谷堆悖论(paradox of the heap),是一种哲学上的悖论,涉及概念边界和模糊性的问题。


堆垛悖论可以通过以下推理形式来表述:

  • 一粒沙子不构成一个堆。
  • 如果N粒沙子不构成一个堆,那么N+1粒沙子也不构成一个堆。
  • 通过递推,我们可以得出结论:N+1, N+2, N+3, ... , 1,000,000粒沙子都不构成一个堆。
  • 然而,如果1,000,000粒沙子不构成一个堆,那么再加上一粒沙子也不应构成一个堆。
  • 但根据递推推理,我们得出结论:1粒沙子构成一个堆。


因此,我们陷入了矛盾,无法确定何时从一堆沙子转变为非堆沙子,反之也如此。


堆垛悖论的核心问题在于概念边界的模糊性和变化的连续性。它揭示了在某些情况下,我们的常规概念和分类法则无法应用于边界情况,无法确定何时从一种状态转变为另一种状态。这个悖论挑战了我们对于概念和分类的直觉。


它暗示了概念分类的困难之处,因为在递推过程中,我们无法确定在何处或在何时发生转变。这引发了对边界和模糊性的思考,以及对概念分类和定义的合理性的质疑。

——From ChatGPT


3. 主观意志决定边界的转化逻辑

堆垛悖论引申出的自然思考是,我们如何定义某一行为动作转化成为公共贡献动作,例如在一些社区的治理方式中,参加会议即可获得积分奖励,如果这在一个注重参与感的社区中,那么对任何公共活动的参与都值得成为被激励的行为。


如果在一个注重结果导向的社会中,那么只是参加会议无法直接衡量出贡献价值,那么仅仅是参与会议这一行为便不会成为被激励的行为。这一逻辑表述的是,我们对于贡献这一动作的直观阐释。


在一个注重参与感的社区中,参加社区的周会/月会/季会成为一种可被激励的贡献行为,那么参加会议一分钟和参加会议一小时必然是有区别的,而从1分钟开始到1小时中,在一个DAO/社区中随时都有可能退出会议,那么数量级的梯度应该如何设置是合理的?


基于时间维度上,我们进一步引入沟通互动的维度,沟通互动是一种比围观会议程度更深的参与价值,因为如何衡量在1分钟到1小时之间,可能发生的 互动沟通的次数、互动对象的数量、互动话题的相关性等等,又是一个问题。


当我们通过计量形式去评估两个贡献维度时,复杂度是骤然上升的。而一旦我们采取了以计量形式为评估贡献的主要决策方式,那么势必会将计量形式推向一个更加复杂的计量系统之中。


当整个复杂系统在边界的模糊性和程度的连续计算量都急剧增加时,社区治理人员的治理劳动成本也随着急剧增加,进而导致整个系统陷入计量冗余的状态以及成本无法回收的结局。


4. 开放社区对主观价值边界的波动性

关于集体的主观意志所形成的一种共识,事实上是一种话语形式的共识,该共识的实现主要通过阐释主义的方式进行,阐释是对意义的重新理解和重新构造,阐释也是对符号的深描,而符号则是我们对共识的媒介。


因此在一个社区当中,开放性与流动性的结构,使得社区主要通过“沟通互动”的方式“试图”达成共识的一致性,这也是很多DAO/社区一旦陷入治理的困境时,总有开不完的会议(争论/争吵/批评,少有深度的建设性讨论)。


然而开放性与流动性的人员结构,也导致了集体的主观意志也是处于一个流动性的状态,导致集体决策逻辑的基线是处于一个波动性的状态,即阐释的逻辑依据是在不停变化的。尽管阐释性影响计量的深层逻辑,但是计量形式的表面却是没有多大的变化,其表现形式可能只是新增对某一类别的计算方式。


所以,一个开放性与流动性的阐释互动结构,注定了社区对公共贡献的价值偏好并非一成不变,其中时间性就是我们对此思考的一个关键因素。DAO/社区作为社会关系当中的一种结构模式如何实现其延续性,必然要经得到时间性的考量。


“任何真实历史序列的时间性必然是复杂的,因为它是拥有不同时间性的不同社会过程的特定组合。而任何特定的历史序列都可能综合了过量的趋势、常规和事件”,历史序列在社会学的视野我们可以简单理解为一种时间序列,这是描述和分析社会现象时所采用的最为基本的叙事形式。


我们重点需要理解什么是“趋势、常规和事件”

趋势是一种具有方向性的社会关系的变迁,历史学家通常使用“兴起、衰落”等词汇来标记这类时间性;

常规是指一种相对固定且不断重复的活动,例如制度约束下的一个稳定持续发展的活动模式;

事件是指转变了结构的、时间性上集中的一系列行动,能够建立新的常规来转变旧的常规,从而加速、倒转或重新定位趋势

引用自:延续的历史和复杂的时间性:1814——1870年马赛码头工人的奇特职业生涯——Willliam H. Sewell Jr.


这一时间性的分析模式源自于Willliam H. Sewell Jr.对码头工人的社团在不同的社会背景中,所发生的一系列经济因素、政治因素以及技术因素如何改变工人社团在过程中的一些决策依据与价值转向。这正是我们当前DAO/社区在发展过程中的共同经历。


例如在加密牛市的高潮阶段与盲信民主投票制的时期,社区贡献者对于未来的乐观愿意将贡献抵押为代币奖励与投票权益,以寻求获得未来更大的收益;而当我们进入漫长加密熊市与开始祛魅民主投票制时,社区贡献者对于未来的悲观预期,拒绝为爱发电且强调现金流收益,以保障个人贡献得到应有的回报。


这个案例就是经济因素与政治因素所形成的趋势,改变了我们的常规行为模式。


5. 协同策略在互动结构中的博弈

DAO/社区在时间性的作用下,持续变动的价值偏好与波动性的决策基线,不可避免导致社区的共识互动结构是不稳定的,社区贡献者在不稳定的共识互动结构中,不得不经常改变自身与社区的协同策略,因为社区贡献者的身份立场与价值倾向是容易受到社区共识结构的干扰而发生摇摆。


一个社区集体对公共利益的维护,是通过社区的共识互动结构建立起个人发展与社区发展的长期互利关系。不稳定甚至混乱的共识互动结构就会导致个人与社区的互利关系的松散、混乱,直至解绑。


社区贡献者的基本立场此时会在利他优先的互利关系中,转变为优先利己的互动关系中。


6. 放弃集体利益最大化的猎兔博弈

社区合作的相互性原则与互利关系,依赖于社区稳固的共识互动结构,一旦个体失去对集体互利关系的信任,那么DAO/社区不可避免从追求集体利益最大化的猎鹿博弈模型中,转向为确保个人利益优先的猎兔博弈。


猎鹿博弈的思想起源于卢梭的《论人类不平等的起源和基础》,猎鹿博弈讲述的是,猎人可以独立完成狩猎兔子的任务,以确保个人的基本生存所需,而猎鹿则能够获得更多的收益,其价值回报远高于猎兔。


然而个体不可能单独完成猎鹿任务,需要联合其他猎人共同参与,猎鹿的参与人数越多猎鹿的成功率就越高,如果猎人在猎鹿的过程中发现猎兔的机会,转向猎兔的形式又将导致猎鹿的失败率增高。因此猎兔与猎鹿形成一种个人利益与集体利益的博弈形式。


所以,当我们在DAO/社区的治理机制中,猎鹿博弈的互动形式才是我们优先考虑的博弈模型,事实上,我们却很容易看到DAO/社区的治理讨论工作中,时常出现各种博弈模式争论,典型如搭便车问题,公共广播问题等争论。


缺乏在一个互动结构的互利关系中,参与者的协同策略与利益立场的判断,由此导致我们无法判断在面对公共利益的纷争时,在具体情境中的博弈与策略是如何发生的,以及我们如何判定对哪一种公共博弈进行合理范畴的界定,当然,这是一项有挑战的研究工作,需要更多研究投入。



03

社区对隐形贡献的劳动剥削与价值异化


1. DAO/社区对隐形劳动的剥削

正如上文所述,什么样的执行动作可以被定义为贡献行为,源自于集体共识的阐释框架,所以贡献的整体价值偏好是社区集体意志的体现。然而社区的弱势群体所构建的弱势共识,往往无法影响社区整体的价值偏好。


此处我们不得不提出,女权主义与资本主义之间的权利斗争,一个家庭妇女事实上为经营家庭付出了大量的劳动贡献,整理家务活、照顾老人小孩等,正是妇女对家庭劳动的付出才能确保男性群体在社会生产中提供了可靠的后勤保障,我们从人类社会学的角度上看,我们不能忽视妇女在社会经济发展中所发挥的价值。


然而在资本主义的逻辑中,妇女的家务劳动却是一种不被市场认可的而无法获得交易的劳动付出,整个资本市场的交易逻辑中直接忽略了这一劳动身份的职业价值,资本主义从社会经济结构上对妇女这一隐形劳动进行无情的资本剥削。


对于DAO/社区而言,同样存在大量的,无法被集体阐释与计量的贡献行为,隐形贡献的剥削行为在DAO/社区中是存在的。


事实上尽管我们也会意识到一些贡献行为在短期内无法被认定,可以采取贡献记录追溯激励,公共资源的福利补贴,甚至是社区成员的自我赋权,即对贡献权利的主动申诉;事实上补救手段可以随着社区的具体情况而展开,但是补救手段无法掩盖实质性问题与根本性问题;


非计量的隐形贡献行为的实质问题,是集体的不阐释(共识弱)、不计量(无价格),因为强势群体的共识存在价值偏好的盲区,这一原因导致的根本问题是,不被集体阐释、不具有话语形式的贡献行为,无法进入计量贡献的再生产结构之中,从生产结构上直接否定了非计量贡献存在的再生产价值。


而对于一个社区而言,大量自发性的未被共识阐释与计量的贡献付出,如情绪价值、思想价值等,事实上构成了“社区-情感-联结”这一抽象的文化符号再生产结构,重要的微小、多样和巨量的生产要素,这些要素对社区而言同样是宝贵的价值。


2. 货币交易媒介如何异化社区贡献

对于一个DAO/社区而言,集体对社区的贡献应该是多元的、自发的,我们对于公共贡献的认同,本质上是对多元价值观的认同与尊重,然而计量形式不可避免将贡献价值转化为单一的货币价值,因为计量的数值是货币的媒介,最终不可避免要折现为现金。


贡献价值被阐释为货币单位的衡量价值,而货币单位价值对标了我们对商品的消费价值。被量化的贡献行为通过货币媒介进去到商品市场的交易当中,DAO/社区的贡献行为通过货币媒介进入了一个广义的经济市场中实现流通。


我们确实帮助封闭社区的贡献走向开放而广阔的市场,帮助社区贡献者在交易市场中获得更高的回报。然而我们却将社区对公共贡献的价值逻辑,变成了公开市场的商品交易逻辑。


当我们将社区的互动结构中的互利关系,变成了一种交易关系时,例如我们对社区的贡献是为了兑现市场的资金或者商品,而不是为了考虑社区的可持续发展,以及维护社区的价值理念。


当利己的逐利性策略普遍出现在互动结构的关系中时,资本将转化互动结构为尽一切可能生产资本的再生产结构,资本捕获了社区的再生产结构,进而通过符号生产异化了贡献劳动的价值理念。


3. 货币激励通胀导致贡献的通缩

事实上,货币激励是一种非均衡的经济模型,为了促进社区更多贡献行为的发生,一旦选择了积分/代币激励制度,事实就是采用了风险型的货币政策,社区大量无法兑现的贡献价值被转化为货币。


随着这种风险偏好的激进型货币政策的执行,会持续导致贡献货币的通胀以及社区贡献价值的稀释。而在风险型的货币政策中,货币的持续通胀将造成贡献价值的持续稀释。


一个社区的发展需要依赖于增长业务来驱动有效经济行为的发生,而社区治理机制中优先使用积分制,作为激励手段,为了刺激更多的贡献行为发生,不可避免会采用多种方式进行积分/代币的发放,建立了“目标-任务-货币-贡献”的看似合理的增长逻辑。


然而积分制作为一种货币激励手段,不仅仅承载着价值转移的功能,还承载最为关键的价值兑现的功能。尚未建立可持续发展业务的积分制,相当于给社区注射了催生剂,短期的繁荣事实加速了社区的衰落。任何经济体其实都是如此。


贡献输出冗余,货币过度积压,贡献输出不足,则继续发行货币刺激,因此不能跳出这一循环模式的治理机制,都不可避免导致贡献价值的稀释以及贡献货币的持续贬低。事实上,当货币通胀与价值稀释时,一个社区良好的贡献氛围将不可避免会遭受到破坏,进而导致贡献行为的通缩。



Last

AI计量复杂治理系统的风险


计量形式的定量研究是非常形式主义的,而“贡献”却是对文化符号的一种阐释,我们试图去量化一套阐释性的社会符号网络系统,而其中的社会符号至少包含“政治的、经济的、文化的”要素,远超我们从经济范畴角度理解的可计量化的贡献系统。


量化复杂系统是迷人的,但却又是极度危险的。


量化一个复杂的社会系统,隐含着公共权力关系试图对超高复杂系统的控制而忽略其自身的发展规律,随着日益复杂的计量形式,疲于应对公共社会系统中越发复杂的人性利益关系,最终不可避免陷入计算失灵,一系列的计量形式失效进而导致公共系统的轰然倒塌。


随着治理系统的复杂性,人类必然引入AI协助进行治理工作,在人机共生的时代,人类也将无法真实判断特定情境的治理条件,大概率将这一工程任务丢给AI处理,正如大语言模型的涌现效应,研究人员依旧无法没有搞明白智能涌现的原理。


社区治理的终究目的是为了实现道德正义,量化作为一种手段是为了计量社区成员付出的贡献价值,并根据该数值体系进行公平分配。


而当量化公共贡献的治理程序演化成为一个庞大且复杂的系统时,人类必然引入AI协助进行治理工作,人类也将无法真实判断特定情境的治理条件,大概率将这一工程任务丢给AI处理,正如大语言模型的涌现效应,研究人员依旧无法没有搞明白智能涌现的原理。


大模型的训练数据可能存在未经处理的风险数据,例如种族歧视言论、性别对立言论、暴力行为数据等,会造成AI理解道德正义的偏差,进而在特定情境中引发治理危机。


如何让AI在人性复杂的治理环境中,持续做出正确的决策,这是困难的。训练数据的多样性,以及构建分布式的治理系统,理论上有助于AI做出更为客观的公平决策。


然而,在一个匿名的去中心化治理系统发起女巫攻击,采用多个匿名账号发起 Proof of Unlearning (忘却证明)攻击,删除模型特定的训练数据集,又或者对分布式训练模型注入污染数据,将对模型的再次预测效果造成偏差干涉,这是一种对注意力机制反向干涉的攻击方式。


当然,关于AI治理的相关研究当前大部分还停留在学术研究领域,然而随着技术快速更迭以及人类对数字化治理系统的依赖,我们必将迎来一个更为复杂的治理环境。


参考资料

Machine Unlearning: Solutions and Challenges

To Be Forgotten or To Be Fair: Unveiling Fairness Implications of Machine Unlearning Methods

AI Fairness in Practice

匿名投票网络上的图深度学习用于在多中心治理中识别 Sybil

身份政治:对尊严与认同的渴求

猎鹿博弈:社会结构的进化

历史的逻辑

社会理论二十讲

规则的悖论

公正该如何做是好

集体行动的逻辑:公共物品与集团理论

... ...













VION WILLIAMS
推动人类文明的进步与发展
 最新文章