技术和偏见专家回应梅格·埃里森的短篇小说《安全投降》
  • 发表时间:2018-06-04

丽莎·拉森-沃克的未来时态是由石板大学、新美国大学和亚利桑那州立大学组成的伙伴关系,研究新兴技术、公共政策和社会。

随着技术的进步,我们会用它来促进公平,还是服务和维护压迫制度?这个问题是梅格·埃利斯“安全投降”的核心所在,它探索了一个未来,在这个未来中,人类将与名为品纳的外星生物定期接触,他们交换外交官、交换货物,甚至与地球人杂交。在《安全投诚》中,一个成年人-品纳混血儿( hemi )为找到自己的身份和理解自己的出身而挣扎——在出生时被一个不想或可能觉得无法照顾或保护混血婴儿的母亲投诚。

在Elisons这个并不完全是外国的、不远的未来,今天困扰人类的种族偏见、不平等和压迫很容易映射到外星。血红素被许多人视为“不应该存在的错误”,并经常在婴儿时期被遗弃。大多数人不能仅仅通过观察来识别半人,但是那些经常会以微妙或不愉快的方式不喜欢他们的人。主人公回忆说,曾经有一位老师形容“许多让我们与众不同的东西”是“伟大的”,但对半个孩子表现出明显的偏见。像今天的黑人儿童一样,海米“更容易陷入困境,受到更严厉的惩罚”。“

就像老师不断检查半个学生一样,未来的政府也通过无处不在的视频监控网络密切关注。来自网络的视频由一个监视可疑行为的ai实时监控,这是目前在纽约市运行的域感知系统的一个更强有力的版本。有一次,主角说,半个孩子永远学不到像老孤儿故事里的人物那样偷窃街头顽童,因为《[ e》对街头的关注是为了注意到这类事情。“这些摄像机的镜头不是短暂的,也不是暂时的;它被永远存储和搜索。

elissons story考察了未来(和今天)的人类是如何审慎地决定是利用技术进步来养活还是星际压迫。那双眼睛看起来似乎是平等地注视着每个人,但就像对过去和现在的监视一样,它们不是。历史告诉我们,现有权力的监督机构往往不成比例地把重点放在那些相对缺乏权力的人身上,埃利森未来的监督也不例外。当主角对遗弃当天拍摄的视频进行查询,寻找有关父母身份的线索时,人工智能只突出人群中的针头,这一假设反映了地球偏见。

elissons对DNA的处理也反映了未来(和今天)的人类将不得不慎重决定是用技术进步来养活还是饿死压迫。寻找他们出生之谜的碎片,主角要求获得他们的DNA。请求被部分拒绝。“你的一些DNA在法律上是可以得到的,”职员解释说。但“大部分不是你特有的,因为它属于其他个人。这是一个复杂的法律问题——如果你能完全接触到你自己的基因,你可能会侵犯和你有血缘关系的人的隐私。“这让我想起了金州杀手。经过长达十年的搜查,执法部门终于在4月份将凶手的DNA提交给一家名为GEDmatch的小型DNA分析公司后,逮捕了一名嫌疑人。GEDmatch将提交的DNA与一些远亲已经与服务部门分享的遗传数据联系起来,并从那里追查到嫌犯。犯罪嫌疑人约瑟夫·迪恩格罗从未使用过这种服务(甚至可能不认识使用这种服务的远亲),但这并不妨碍他的追踪。

使用家族DNA做一些像抓连环杀手这样的事情,很容易看出好处。但是,当一个家庭DNA部分匹配的错误的人被发现时会发生什么,正如一名记者多年前警告的那样,“不完美的技术”“技术开始毁了生活?更糟的是,当企业开始寻找利用客户或申请者DNA更好地为重要决策提供信息的方法时,会发生什么?想象一下,举例来说,如果贷款人能发现借款人患严重慢性病的可能性有多大。现有法律对此保护不足。《遗传信息不歧视法》禁止基于个人DNA特征的某些形式的歧视,但不是全部。《美国残疾人法》禁止基于个人残疾的某些形式的歧视,但不是基于他们发展成残疾的可能性。

为了防止这种形式的技术支持的歧视和不公正现象发生,立法者可能会扩大现有的不歧视法律。在elissons的未来,立法者已经这样做了,这似乎是好事。他们更进一步:他们直接限制了DNA的获取——甚至限制了自己的DNA。但是像主角这样的半人,他们的DNA被政府记录下来,用于“正在进行的杂交基因组计划”。”这引起了警钟。政府对人类、半人和针头之间的遗传差异了解多少,这些信息怎么可能被滥用来服务或维护种间不平等?就像二战期间政府利用人口普查资料将日裔美国人安置在集中营一样,政府是否可以为自己配备这类数据,以防以后需要它来推动大规模的反平纳或反半人努力?有了数据,这种情况更有可能发生吗?

可以肯定的是,种族和民族遗传数据有积极的用途。但是elissons的故事提醒我们,当我们用科学技术来对人进行分类时,我们应该停下来思考到底是什么驱使我们想要识别差异,并询问动机是否邪恶。正如elissons主人公沉思的那样,“我想知道告诉[半人和人的区别的能力是否总是伴随着一个人比另一个人好的确定性。“

Tweet共享评论算法未来时态小说政府监控隐私劳拉·莫伊是乔治敦法律隐私和技术中心的副主任。

推特