边缘化人群往往因新技术的意外后果而受到最大伤害。 例如，自动决定谁可以看到什么内容或如何解释图像的算法会受到种族和性别偏见的影响。 具有多种边缘化身份的人，例如黑人和残疾人，比具有单一边缘化身份的人面临更大的风险。
这就是为什么当马克·扎克伯格 (Mark Zuckerberg) 阐述他对元宇宙的愿景时——一个虚拟环境网络，许多人可以在其中与他人和数字对象互动——并说它将触及公司生产的每一款产品，我很害怕。 作为一名研究种族、技术和民主交叉点的研究人员——作为一名黑人女性——我认为仔细考虑被编码到下一代互联网中的价值观是很重要的。
问题已经浮出水面。 化身，人们可以创建或购买以在虚拟环境中代表自己的图形角色，根据化身的感知种族定价不同，种族主义和性别歧视的骚扰正在今天的前元世界沉浸式环境中出现。
要确保互联网的下一次迭代具有包容性并为所有人服务，就需要来自边缘化社区的人们带头塑造它。 它还将需要强有力的监管，以使大型科技公司对公众利益负责。 没有这些，元宇宙就有可能继承当今社交媒体的问题，甚至变得更糟。
乌托邦愿景与严酷现实
互联网早期的乌托邦愿景通常认为，在线生活将与现实世界中的生活截然不同。 例如，人们将互联网视为逃避部分身份的一种方式，例如种族、性别和阶级差异。 实际上，互联网远非没有种族。
虽然技术乌托邦传达了对未来的理想愿景，但新技术的现实往往与这些愿景不符。 事实上，互联网给社会带来了新形式的危害，例如在社交媒体上自动传播宣传以及塑造您在线体验的算法中的偏见。
扎克伯格将元宇宙描述为一个更加身临其境、具体化的互联网，它将“解锁许多令人惊叹的新体验”。 这不仅是未来互联网的愿景，也是未来生活方式的愿景。 不管这个愿景有多么偏离目标，元宇宙很可能——就像早期版本的互联网和社交媒体一样——产生广泛的影响，改变人们社交、旅行、学习、工作和娱乐的方式。
问题是，这些后果对每个人来说都是一样的吗？ 历史表明答案是否定的。
技术从来都不是中立的
广泛使用的技术通常默认采用白人男性身份和身体。 麻省理工学院计算机科学家 Joy Buolomwini 表明，面部识别软件对女性的识别效果更差，对肤色较深的女性更是如此。 其他研究也证实了这一点。 麻省理工学院的 Joy Buolomwini 解释了“编码凝视”，即塑造技术的人们的优先事项、偏好和偏见。
白度作为默认值嵌入到这些技术中，即使没有将种族作为机器学习算法的类别。 不幸的是，种族主义和技术往往齐头并进。 黑人女性政治家和记者不成比例地成为辱骂性或有问题的推文的目标，黑人和拉丁裔选民在 2020 年选举周期中成为在线错误信息宣传活动的目标。
种族与技术之间的这种历史关系让我对元宇宙感到担忧。 如果虚拟世界像扎克伯格所描述的那样是互联网的具体化版本，那么这是否意味着已经被边缘化的人们将经历新形式的伤害？
Facebook 及其与黑人的关系
技术与种族主义之间的一般关系只是故事的一部分。 Meta 在其 Facebook 平台上与黑人用户的关系不佳，尤其是与黑人女性的关系。
2016年， 公众号 记者发现，Facebook 广告门户网站上的广告商可能会根据用户的种族或 Facebook 所谓的“种族亲和力”排除看到他们广告的人群。 这个选项遭到了很多反对，因为 Facebook 不询问用户的种族，这意味着用户根据他们在平台上的参与度（例如他们喜欢哪些页面和帖子）被分配了“种族亲和力”。
换句话说，Facebook 本质上是根据用户在其平台上的行为和喜好对其进行种族分析，从而为广告商创造了基于种族歧视他人的机会。 此后，Facebook 更新了其广告定位类别，不再包括“种族亲和力”。
然而，广告商仍然可以通过种族代理根据他们推测的种族来定位用户，种族代理使用用户兴趣的组合来推断种族。 例如，如果广告商从 Facebook 数据中看到您对非裔美国人文化和 BET 奖表示了兴趣，它就可以推断出您是黑人，并针对您投放广告，向您投放广告，向黑人推销产品。
更糟糕的是，Facebook 经常删除黑人女性公开反对种族主义和性别歧视的评论。 具有讽刺意味的是，黑人女性关于种族主义和性别歧视的评论正在受到审查——通俗地称为被查封——因为表面上违反了 Facebook 反对仇恨言论的政策。 这是黑人女性在线平台上更大趋势的一部分，因为她们在数字空间中表达自己的担忧和要求正义而受到惩罚。
根据最近的一份 华盛顿邮报 报告称，Facebook 知道其算法对黑人用户造成了不成比例的伤害，但选择了无所作为。
在接受 Meta 元宇宙副总裁 Vishal Shah 的采访时，国家公共广播电台主持人奥迪·康沃尔 (Audie Cornish) 问道：“如果你无法处理 Instagram 上的评论，你又如何处理元宇宙中带有仇恨言论的 T 恤？ ？ 你如何处理虚拟宇宙中可能发生的仇恨集会？” 同样，如果黑人因为在网上公开反对种族主义和性别歧视而受到惩罚，那么他们怎么能在元宇宙中这样做呢？
确保元宇宙具有包容性并促进民主价值观而不是威胁民主需要设计公正和社交媒体监管。
设计公正将社会上没有权力的人置于设计过程的中心，以避免使现有的不平等永久化。 这也意味着首先要考虑指导设计的价值观和原则。
联邦法律保护社交媒体公司不对用户在其平台上的帖子和行为承担责任。 这意味着他们有权利但没有责任监管他们的网站。 监管大型科技公司对于应对当今社交媒体的问题至关重要，至少在它们建立和控制下一代互联网之前同样重要。
我不反对元宇宙。 我赞成民主负责的元宇宙。 不过，要实现这一点，我断言需要为互联网公司制定更好的监管框架，并且更公正地设计流程，这样技术就不会继续与种族主义相关联。
就目前而言，对我来说，元宇宙的好处并没有超过它的成本。 但它不必保持这种状态。
本文转载自 对话 根据知识共享许可。 阅读伊利诺伊大学芝加哥分校传播学博士候选人 Breigha Adeyemo 撰写的原创文章。
