有长期计划的夏令营：防止人工智能的偏见

新泽西州普林斯顿。

今年夏天早些时候，安娜娅·布西来到普林斯顿大学的一个夏令营时，她对“人工智能”知之甚少，只知道“它肯定要爆炸了”但在这里仅仅三周后，她和其他学生——所有即将入学的高中生——合作使用该技术，通过查看皮肤损伤来帮助诊断黑色素瘤。

Bussey，15岁，来自纽约市布朗克斯区，从小学开始就对计算机科学感兴趣。但也有一些时候，她只是计算机课程或程序中少数几个女生或黑人学生中的一员。

普林斯顿夏令营的情况并非如此，该夏令营由AI4ALL运营，AI4ALL是一家成立两年的非营利组织，旨在增加人工智能教育、研究和政策的多样性和包容性。

AI4ALL认为，让像Bussey这样的学生进入AI的底层不仅仅是为代表性不足的群体打开计算机科学的一个热门且可能有利可图的角落。

这也是为了确保技术工作得更好。

偏见问题

人工智能在过去十年中确实“爆炸”了。这项技术训练机器完成一些接近人脑所能完成的任务。这意味着，通过使用数据，人工智能可以学习识别面孔和声音，理解自然语言，甚至提出建议。它被用于从Snapchat过滤器到自动驾驶汽车的所有领域。就业网站Indeed.com的研究显示，在过去三年里，对人工智能工作的需求增加了一倍多。

问题出在哪里？人工智能的使用有很大的潜在偏见。

例如，研究表明，用于计算刑事判决的人工智能驱动的风险评估算法对黑人被告的预测往往比白人被告更严厉。亚马逊的人工智能招聘系统似乎屏蔽了女性求职者，这导致该公司放弃了这一系统。与白人男性相比，面部识别技术在识别有色人种和女性方面的准确性要低得多。

AI4ALL首席执行官苔丝·波斯纳（Tess Posner）表示：“很容易将（人工智能）的危险描绘成杀手机器人。”。但新技术背后的真正危险“可能是因为我们甚至不知道的有偏见的算法是有偏见的，而阻止某人获得工作。”

波斯纳说，像普林斯顿夏令营这样的项目可以帮助抵消这一影响，因为“一天结束时，就像是谁在房间里，谁在问问题，谁能从一开始就塑造这个局面。”。这意味着确保多样化的劳动力有助于开发技术，因为它开始对社会产生越来越大的影响。

普林斯顿大学的学生们并没有忘记这一点。

盐湖城西高中的Daphne Liu说：“我肯定认为，房间里有不同的人会有所帮助，因为如果你只考虑一部分人，他们会以相对相同的方式思考问题。”。“不同的人都会有不同的想法和想法，每个人一起工作的协作肯定会比只有一种类型的人要好得多。”

但现在，没有很多有色人种或女性帮助开发这项技术。

根据追踪人工智能技术数据的人工智能指数去年发布的一份报告，人工智能领域工作的申请人中71%是男性。2018年，美国计算机和信息科学家中，女性仅占不到四分之一。黑人男女仅占5.4%，西班牙裔男女仅占5.1%。

解决大问题

为期一至三周的夏令营以一些技术工作开始。学生们将接触Python，这是一种帮助他们在AI应用程序中编程的编码语言。他们可能会在与人工智能相关的数学概念方面做一些工作，如统计和概率。他们还将了解一些告知人工智能系统的更广泛的数据问题，包括如何收集和清理数据，以及如何减少偏见。

然后，学生们分成较小的项目团队，通常围绕人工智能如何用于解决重大社会问题展开。过去的项目侧重于网络欺凌，增加老龄人口的流动性，以及在自然灾害后提供援助。

在普林斯顿大学，学生分为四组。有人研究了DNA测序以帮助确定个人的祖先，这些信息可以用来帮助确定他们对某些疾病的怀疑程度或找到最佳治疗方案。

另一组利用人工智能的图像识别能力对皮肤病变的图片进行分类，确定哪些是癌症。第三个也依赖于图像识别，但这次用它来确定亚马逊的哪些地区受到了森林砍伐的影响。第四组使用自然语言处理找出与标题不匹配的新闻，这可能是“假新闻”的迹象

在夏令营的最后一天，学生们展示了他们如何使用先进的机器学习算法和大量的试错来帮助解决这些问题。

他们还谈到了所涵盖主题的更广泛的道德和政策含义。假新闻集团表示，这个词很难定义——对一些人来说，任何他们不同意的文章都是假新闻，这意味着没有真实的新闻故事。DNA测序和黑色素瘤研究小组都引用了亨丽埃塔·拉克斯（Henrietta Lax）的话，这位女性的癌细胞未经允许就被用于研究，这是一个警示性的道德故事。

利用人工智能应对重大挑战的机会，是这一职业对来自新罕布什尔州达勒姆的16岁的Kai Lockwood如此有吸引力的部分原因。

洛克伍德说：“我一直很想做一些能帮助人们的事情。”。“我明确地了解到，人工智能并不是指那些坐在硅谷办公楼里的人，他们与世界其他地方没有联系。在人工智能领域，有些人肯定在试图与他们正在解决的问题联系起来。”洛克伍德想探索将人工智能与另一大兴趣相结合：生物医学研究。

每个营地也有一个特定的主题。在普林斯顿大学，这是人工智能和政策的交叉点。露营者在华盛顿进行了一次通宵旅行，在那里他们会见了联邦贸易委员会和全国城市联盟的人工智能工作人员。

项目的另一个目标是：让每一种学生都能进入人工智能，即使他们不想成为编码奇才。更高级的学生实际上可能会编写项目中使用的算法。在其他情况下，他们会告诉老师，在这种情况下，普林斯顿大学的研究生和本科生，结果应该是什么样子，老师会为他们编码。还有一些人可能会深入研究他们项目背后的道德含义。普林斯顿大学计算机科学助理教授、AI4ALL三位联合创始人之一奥尔加·鲁萨科夫斯基（Olga Russakovsky）表示：“这些项目为我们提供了一个机会，让我们与露营者建立联系，并试图真正接触到每一位露营者，并[帮助他们]通过人工智能为自己找到一条道路。”。“他们可以探索数据，而不是编码。”

这并不都是严肃的。在演讲开始之前，雨林小组的一些学生休息一下，跟着Hannah Montana的YouTube视频一起唱歌。

然而，这种友情也是问题的一部分。

犹他州露营者刘说：“我做了很多编码工作，但我的计算机科学课上女生不多。”。“当我来到这里的时候，我感觉舒服多了，因为我觉得我可以和更多的人建立联系。”

未来的连接

AI4ALL的夏令营项目今年夏天在11所大学校园开展，其中包括斯坦福大学和卡内基·梅隆大学等科技巨头，仅接受了2018年收到的数千份申请中的10%。它优先招收低收入学生、有色人种学生和女性学生。去年夏天，78%的参与者是女性，22%是男性。大约84%的学生是有色人种。另有11%是白人。大约5%的人是多种族的，或者拒绝透露他们的种族。

普林斯顿大学的项目特别关注招募女性和代表性不足的少数民族。今年，普林斯顿大学的项目包括32名学生。该项目寻找具有出色领导能力的数学和科学专业学生。三分之二的学生是女生，其中一个是非二进制性别的学生。大约一半的人认为自己是黑人、西班牙裔或拉丁裔。三分之二的学生正在接受财政支持，以支付6000美元学费的部分或全部费用。

选拔过程将重点放在那些表现出领导潜能的学生身上，但不一定是那些在高级计算机科学课程中取得优异成绩的学生。波斯纳说，AI4ALL正在寻找那些在家里学校可能无法学习这些课程的孩子。

同样重要的是AI4All新兴的校友网络，到夏季末将达到约540人。该项目继续与以前的露营者保持联系，提供网络研讨会等资源，讨论大学入学、研究联系、实习以及在研究型大学和谷歌、微软和亚马逊等知名科技公司，或通用汽车和保诚等技术性较低领域的公司的其他学习机会。

61%的校友在离开该项目后继续从事人工智能工作，例如在学校成立人工智能俱乐部，或处理一个研究项目。一位校友回到加州萨利纳斯的农业社区，使用人工智能帮助解决水质问题。77%的校友表示，他们希望在职业生涯中进入人工智能领域。

玛娅·卡洛·德·洛斯·桑托斯（Maya KahlóDe Los Santos）现在就读于新泽西州哈肯萨克（Hackensack）的卑尔根县学院（Bergen County Academy），这是一所公共磁石学校，即将进入高中四年级，她去年参加了普林斯顿大学的项目。

在加入这个项目之前，德洛斯·桑托斯对人工智能知之甚少。“我的背景是一点编程，很多工程，”她说。“人工智能对我来说就像是终结者。这就是我对人工智能的理解。”

现在她迷上了这项技术。她在学校创办了一个人工智能俱乐部。她申请了AI4ALL提供的1000美元赠款，用于资助她所在地区的一个中学生夏令营。她在亚特兰大乔治亚理工大学的STEM教育会议上发表了讲话。

营地最好的地方之一？结识在AI工作的女性和有色人种。

德洛斯·桑托斯说：“我认为，在所有STEM领域中，男性占主导地位。”。“AI4ALL所做的是向我展示了长得像我的人……当你在你想追求的职业中看到长得像你的人时，感觉就不同了。”