AI和算法歧视|合成图像如何呈现黑人?

文摘   2025-01-16 11:07   泰国  

Minne Atairu, from the series Cornrow Studies, 2024

如今的人文学科课堂上,最大的焦虑并非来自大学的持续企业化,甚至也不是英语专业的衰落,而是学生对人工智能的恶意使用。“学生们都是骗子、作弊者,比以往任何时候都更愚蠢,”我的教授同事们喊道,尽管并非直接用这些措辞。人工智能经常引发两极化的看法:它要么是完全好的,要么是完全坏的。然而,在日常生活中,许多人甚至在不知情的情况下使用人工智能,例如导航、防诈骗服务、社交媒体推送等。

为了揭示硅谷对这些技术的铁腕控制,许多艺术家开始使用人工智能来打破这种二元思维,深入观察算法霸权为我们不平等的社会照出的镜子。明尼·阿泰鲁是一位纽约的艺术家和研究员,她在 2020 年开始接触人工智能创作,当时她正在哥伦比亚大学师范学院攻读博士学位,研究艺术教育、生成式人工智能以及相关政策。“我对课堂中的人工智能产生了兴趣,特别是我们如何满足黑人学生的需求,因为我们的学习环境非常独特,”她对我说道。
所谓的“人工智能”(AI)实际上是一个涵盖了不同且不断分化的程序、开发者、材料、数据集、框架和流程的广泛领域。多年来,阿泰鲁探索了多个方向,包括一种早期的机器学习框架——生成对抗网络(GAN)、StyleGAN2、文本到图像、文本到三维模型、文本到视频模型、DALL·E 2、增强现实以及各种其他形式的机器学习。从 2020 年开始的《Igùn》系列中,她始终在审视并打乱计算机视觉中的假设性逻辑,同时引发人们关注黑人档案中被忽视和缺失的部分。

如今,阿泰鲁主要使用 Midjourney 这一生成式人工智能程序。Midjourney 于 2022 年推出,可基于文本提示生成图像。最近,她开始创作《玉米辫研究》(Cornrow Studies, 2024)——一组展示深肤色黑人女性的特写肖像,这些女性梳着蓝色和粉色的雕塑状玉米辫。这些图像中的某些构图非常紧凑,以至于部分面部特征被裁剪掉了——嘴唇、眼睛、下巴和前额。有些图像需要更仔细地观察才能发现异样之处:头发的位置稍微靠下,几乎覆盖了前额;或是玉米辫并未编入头发,而是停留在头顶上方。在一幅图像中,一位黑人女性剃了光头,而海蓝色的辫子在头顶盘旋,如同一顶原子假发或是粘贴上去的发饰。前额上滴落着硕大的汗珠,而面部上干涸的泪痕则留下了奇特的青绿色残渍。这些分泌物非但没有使模特显得更有人性,反而让人越发深陷“诡异谷”的不安感之中。

阿泰鲁这些“不安的肖像”(unheimlich headshots)暗示了 Midjourney 作为一种技术对自身及其能力的理解。“作为一名研究者,我试图将 Midjourney 作为工具来研究开发者们在多大程度上关注了‘黑性’,特别是与发型和黑人自我表达方式相关的内容,”阿泰鲁解释道。“这些内容有时与算法训练的数据集不一致,同时也与开发者在设计工具时关于黑人形象的思考方式有关。”(许多生成式人工智能系统不仅基于规范化的图像进行训练,还依赖于未获报酬的劳动成果。)

在阿泰鲁的人工智能生成肖像作品中,头发和肤色——这两个关于种族化的强烈象征——成为了贯穿始终的主题。从 2021 年的《拉伸假发》(S-T-R-E-T-C-H Wigs)开始,这些作品呈现了一个有着故障感的面孔和形状不断变化的球状假发。2023 年开始的《金发辫研究》(Blondes Braid Study)提出了以下问题:Midjourney(V4 版本)是否能够准确生成拥有“蓝黑色”或“紫黑色”肤色且编着金发辫的双胞胎的影棚肖像?

Minne Atairu, Blondes Braid Study, Visual Supplement, 2022

Minne Atairu, Portrait of Mami Wata, 2023

结果,算法未能提供满足要求的图像。Midjourney 输出的图像中既没有蓝黑色的肤色,也没有金发辫,取而代之的是大多呈浅棕色的肤色和波浪状的、经过化学拉直的头发。当阿泰鲁在 LAION-5B 数据集中搜索“金发盒辫”(Blonde Box Braids)和“金发辫”(Blonde Braids)时——这是一个开源数据集,包含从互联网抓取的 50 亿张图像,Midjourney 正是基于此训练——她发现该数据集中过多地代表了焦糖肤色的黑人女性和白人女性。一方面,阿泰鲁正在持续进行的辫子系列探讨了描述与图像之间的差异,引发了对生成式系统中反黑性、种族主义和偏见的关注。另一方面,它揭示了对身体特征的痴迷,这种痴迷反映了白人至上主义对“种族可见性”的执着。

阿泰鲁的一些图像本身作为美学对象就非常吸引人。它们带有一种 Tumblr 风格的编码,乍一看像是非洲未来主义的海报、光鲜的杂志拍摄作品或化妆品广告宣传片。在 2023 年的文本生成图像作品《玛米·瓦塔肖像》(Portrait of Mami Wata)中,灵感来自尼日利亚民间传说,一位黑色的海洋女神仿佛刚刚从海洋中走出,头上戴着一个由闪亮鳞状金属编织成的发网状皇冠。

所有这些美丽都充满了矛盾情感。“这不仅仅是一张由算法生成的漂亮黑人女孩的图像,”阿泰鲁说道。“它更具批判性。”换句话说,阿泰鲁抓住了一些观众对“黑人女孩”美感的渴望,而这种渴望往往缺乏复杂性。她的项目将人工智能的数字化空灵与黑人被商品化的残酷现实进行了对比,从而颠覆了殖民主义和资本主义的历史——正是这些历史造就了这种技术的可能性(以及其可盈利性)。

阿泰鲁的作品超越了摄影的范畴。2023 年,她在纽约的 The Shed 艺术空间完成了一个名为《致手》(To the Hand)的委托装置作品。她利用 3D 打印技术、金属、青铜填充物、陶土以及 StyleGAN2 来推进其持续进行的《Igùn》系列,这一系列想象着贝宁青铜器的延续,探索如果英国军队在 1897 年未曾入侵现今的尼日利亚埃多州,并掠夺数千件牌匾和雕塑,艺术发展可能会是什么样子。当时,这一入侵导致了奥巴(oba,国王)的被废位,这种政治变动使阿泰鲁的家乡在没有皇室对艺术家支持的情况下经历了数十年的艺术衰退。“《Igùn》项目更多地与殖民主义相关,也与博物馆如何在一个多世纪以来对这些被视为殖民掠夺品的对象的占有相关,”她说道。尽管阿泰鲁基于研究的艺术作品通常附带补充材料,包括她自己撰写的学术文章,但虚拟语气(即“可能性”的探讨)才是她创作实践的核心。

尽管阿泰鲁的作品充满吸引力,但她的艺术却抗拒技术资本主义光环的诱惑,也反对“中立性”的神话。她那引人入胜的图像从一个充满种族主义、性别歧视、环境恶化、监控、不公平劳动实践以及其他现状的算法海洋中缓慢浮现——这些问题是我们当下所身处的现实,但也许有一天我们能摆脱它们。

Minne Atairu, The Virgin and Child, 2024

Minne Atairu, from the series Cornrow Studies, 2024

Minne Atairu, Prototypes, 2020, from the series Igùn, 2020–ongoing

Minne Atairu, Prototypes, 2020, from the series Igùn, 2020–ongoing

Minne Atairu, Prototype X, 2024, from the series Igùn, 2020–ongoingAll images courtesy the artist

这篇文章最初发表于《Aperture》杂志第 257 期“未来影像世界:摄影与人工智能”(Image Worlds to Come: Photography & AI)。
作者蒂亚娜·里德(Tiana Reid) 是多伦多约克大学英语系的助理教授。
https://aperture.org/editorial/how-can-synthetic-images-render-blackness/

声明:本文内容仅用于学习和交流目的,版权归原作者所有。为了获得最准确的信息和完整的内容理解,建议读者参阅原文。本文翻译可能存在细微差异,敬请谅解。

📖更多阅读
欢迎关注春熙照相馆小红书

在线课程《摄影史》正在进行中

OpenCall|代表作系列群展(第9期)征集

春熙照相馆
春熙照相馆是一个以讨论摄影、影像艺术为主要内容的播客。
 最新文章