Ami Fields-Meyer &Alexander Hertel-Fernandez, AI Is Threatening the Social Safety Net，https://prospect.org/health/2024-10-11-ai-threatening-social-safety-net/
在关于人工智能技术是否有一天会改变艺术、新闻和工作的激烈讨论中，人工智能更直接的影响却没有引起人们的关注：对于寻求进入社会安全网的人，该技术已经帮助设置了障碍。
在全国范围内，州和地方政府已经转向算法工具来自动决定谁将获得关键的援助。原则上，此举是有道理的：在最好的情况下，这些技术可以帮助长期人手不足和资金不足的机构快速处理大量数据，并以更快的速度响应选民的需求。
但是，这些新高科技工具的设计和实施粗心大意（也可能是故意吝啬或者出于惩罚），往往会阻止福利惠及他们想要帮助的人。
2016年，在试图实现资格审查流程自动化的过程中，印第安纳州在三年内拒绝了 100 万份公共援助申请，比过去增长了54%。失去福利的人包括一名患有脑瘫的六岁儿童和一名因癌症晚期住院而错过与社工预约的妇女。同年，阿肯色州的评估算法削减了数千名残疾人士的医疗补助资助家庭保健时间。在密歇根州，一种用于检测失业保险索赔欺诈行为的新自动化系统发现的欺诈行为是旧系统的五倍，导致约4万人被错误地指控为失业保险欺诈。
这些案件是一个老问题的现代面孔。长期以来，美国一直在施加行政负担，以阻止最贫困的申请人使用政府援助。随着时间的推移，新政时代的针对在职白人男性的“获得的”社会福利（如社会保障）与针对穷人的社会救助计划之间的区别，转化为对最需要帮助的美国人的特别高的障碍。正如学者 Virginia Eubanks 所记录的那样，人工智能现在提供的工具增强了这种限制性方法。早在 ChatGPT 发布之前，Eubanks 就记录了管理儿童福利、社会救助和执法的政府机构如何使用有缺陷和偏见的自动化系统来做出影响弱势群体的决策。结果是，公共救助系统越来越受到困扰，不是过度使用，而是长期使用不足。
认识到这一趋势后，拜登-哈里斯政府出台了政策，确保人工智能将加强而不是破坏社会安全网。去年，拜登总统指示两个最大的社会安全网机构与各州和地方合作，根除人工智能工具中的偏见，提高这些系统的透明度和人工监督。
政策往往传递出政客们不愿大声说出的信息。拜登的做法承认，人工智能在社会安全网中的使用存在问题，其根本逻辑是惩罚性福利管理。换句话说：科技不应该被用来限制符合条件的人获得从营养援助到医疗补助等服务，而应该成为一种工具，让符合条件的人最大限度地获得这些计划。
下一任总统有绝佳的机会在这一承诺的基础上继续加强人工智能时代的社会安全网。新政府上任第一天就可以将联邦政府的所有福利计划纳入拜登-哈里斯模式，包括为寻求住房援助、失业或残疾保险、学生援助或灾难救济的人提供服务的福利计划。但在日益算法化的世界中保护最脆弱的群体需要更广泛的努力。
首先，我们必须解决人工智能时代的社会福利使用问题——合格的有需要的人很少使用社会福利。随着美国社会加速更广泛地采用强大的数据驱动工具，我们需要更多地了解人工智能和算法技术在阻止或扩大福利计划对合格申请人的覆盖范围方面所起的作用。社会安全网机构应定期发布估计数字，不仅是对不符合条件的个人的不当支付，还包括那些未能领取他们有资格领取的福利的人，尤其是由于自动决策系统，这要以拜登-哈里斯为减轻社会计划获取负担所做的努力为基础。
其次，依赖安全网计划的人必须在部署这些技术的决策中拥有更有影响力的发言权。数据驱动工具的发展速度比传统的公众意见流程所能运行的速度要快得多。新政府可以设立由受安全网计划影响最大的社区代表组成的委员会，以更动态地寻求对福利系统拟议变更的意见，包括使用人工智能和自动化系统，以评估其实际影响。考虑到拜登在扩大公众参与方面取得的进展，各机构应该为这些人付出的时间提供补偿，正如卫生与公众服务部已经开始做的那样。代表地方、州和联邦的一线机构（他们管理这些项目）的工作人员的工会应该是这项工作的关键合作伙伴。
最后，人们必须更容易挑战人工智能做出的错误决定。新政府应该为人们创造更清晰的反击途径，无论这些决定是由人还是机器做出的，并与律师联系寻求支持。一个可以提出异议的场所可能是美国政府的平等机会办公室，这是确保使用联邦计划的人获得法律保护的现有基础设施。这些努力可以通过与民间社会组织合作来补充——包括已经在领导这项工作的 TechTonic Justice 和 Benefits Tech Advocacy Hub 等组织——为可能受到人工智能驱动的伤害（包括不公正地拒绝他们的福利）影响的人建立一个国家法律援助网络。
当然，总统的领导力有局限性。国会还将发挥重要作用，通过为管理公共福利计划的法规增加保障措施，以及为地方、州和联邦机构及时和公平地提供福利投诉所需的资源，使这些变化得以持久。这些早期步骤可以帮助美国走上保护人工智能时代社会安全网的道路。
十分之九的美国人在一生中的某个时刻会依赖公共援助。技术不应该成为我们最困难时刻的另一个障碍。当那一天到来时，每个美国人都应该知道：帮助就在路上。
