自动就业决策工具（更新版）
评论现已关闭。
-
克里斯 尊敬的团队：， 虽然对该法律及其定义的大多数评论已经发表； 我想补充另一个关于额外参与者在这个新市场中的作用的观点，这个新市场应该受到监管（即审计师）。 由于试图监管市场中的新技术（例如，人工智能在雇佣中），随着新服务的开发，问题也随之出现，这些服务本身也可以成为一个行业（例如，在人工智能中审计）。 随着AI审计本身成为一个行业，而不是一个非政府组织，可以假设他们自己也遵循经济利益。 因此，由于有必要对行业（如制药、金融、技术等）进行监管，而其他行业的审计师也必须遵守规则，因此应适用相同的原则。 同样，由于审计师是经济行业的一部分，因此遵循经济利益，如果审计师不必遵守规则，那么被审计者就无法确保审计师自身的独立性（例如，偏袒大客户）。 在实施这些规则时，应考虑到这一点，因为需要和想要接受审计的人将a）要么必须自己进行审计，要么b）依赖于不受监管的市场本身的服务（即AI审计）。 我想提出这一点，因为在市场上部署AI技术的公司被视为唯一需要在新市场中受到监管的公司，而在其他行业（例如金融业），不仅提供金融产品的公司受到监管，而且审计这些产品的公司也受到监管。 毫无疑问，新技术需要监管，这一点从未受到质疑。 添加评论2023年1月2日下午1:16 -
克里斯 尊敬的团队：， 虽然对该法律及其定义的大多数评论已经发表； 我想就审计师的角色添加另一个观点。 由于试图监管市场中的新技术（例如，人工智能在雇佣中），随着新服务的开发，问题也随之出现，这些服务本身也可以成为一个行业（例如，在人工智能中审计）。 随着人工智能审计本身成为一个行业，而不是一个非政府组织，可以假设它们本身遵循经济利益。 因此，由于有必要对行业（如制药、金融、技术等）进行监管，而其他行业的审计师也必须遵守规则，因此应适用相同的原则。 同样，由于审计师是经济行业的一部分，因此遵循经济利益，如果审计师不必遵守规则，那么被审计者就无法确保审计师自身的独立性（例如，偏袒大客户）。 在实施这些规则时，应考虑到这一点，因为需要和想要接受审计的人将a）要么必须自己进行审计，要么b）依赖于不受监管的市场本身的服务（即AI审计）。 我想提出这一点，因为在市场上部署AI技术的公司被视为唯一需要在新市场中受到监管的公司，而在其他行业（例如金融业），不仅提供金融产品的公司受到监管，而且审计这些产品的公司也受到监管。 毫无疑问，新技术需要监管，这一点从未受到质疑。 2023年1月2日下午1:17添加评论 -
提姆 我的主要意见是确保你了解招聘的现状，以及它是多么可怕。从偏见的角度来看，传统招聘存在根本性的缺陷。 任何求职申请通常都是以候选人提交简历开始的，简历中包含无数条噪音，这些噪音揭示了他们的性别、种族、宗教、社会经济地位以及许多其他与“这是最适合这份工作的人吗？”？ 收到简历后，如果候选人幸运的话，一个人会扫描简历10秒钟，然后根据自己的直觉做出“是”或“否”的判断。 这个过程的准确性很低（最好的候选人往往会被遗漏），从根本上来说是有偏见的，花费了大量资金，减缓了招聘过程，并且给0个候选人留下了任何有意义的反馈——他们只会收到“对不起，不要抱歉”的电子邮件。 通过使用产品来实际测量应聘者在科学证明可以预测工作表现的事情上的表现，例如他们的技能、个性和智力，这显然是一种更公平的方式，一些随机的人浏览简历并决定他们不喜欢应聘者去哪里上学。 当前实践的当前可审计性为0。 世界上没有一家公司能够解释为什么他们根据简历拒绝了一位候选人。他们怎么能解释呢？ 我们不要忘记，决策的逻辑在10秒钟内就做出了，这一点在任何地方都没有记录下来。 怎么可能呢？ 他们会录制什么？” 哦，我不喜欢他们的名字，“他们的格式很糟糕”，“他们有拼写错误”或任何荒谬的原因——我真的建议你研究一下目前在实践中是如何做到的，以认识到这有多糟糕。 至少对于实际测量事物的产品，你总是能够回去说“好吧，这个工作需要Python技能，这个候选人在Pythone测试中得了10%，所以他们被拒绝了”。 不管Python测试的构建有多不完美，这肯定是一个比某人一时兴起更合理的拒绝理由吗？ 这只是筛选阶段。 传统招聘过程的其余部分也充满了偏见，比如非结构化面试，所有的决定都是基于直觉和接近占星术的东西。 在实施这项法律并把孩子和洗澡水一起扔出去之前，请了解当前的市场状况以及传统招聘有多么不公平。 2023年1月12日凌晨4:41添加评论 -
迈克·费泽尔 我赞扬并全力支持纽约市和消费者和工人保护部（DCWP）在解决使用人工智能和机器学习应用程序进行自动化就业决策中可能存在的偏见方面所做的努力。 为了最好地促进这项立法的有效和预期影响，我谨建议DCWP采用国会在2020年《国家人工智能法》第5002（3）条和第5002（11）条中分别确立的人工智能和机器学习的标准定义： （3） 人工智能。 “人工智能”一词是指一种基于机器的系统，该系统可以针对给定的一组人为定义的目标，做出影响真实或虚拟环境的预测、建议或决策。 人工智能系统使用基于机器和人类的输入来- （A） 感知真实和虚拟环境； （B） 通过在 自动化方式； 和 （C） 使用模型推理为信息或 行动。 （11） 机器学习。 术语“机器学习”是指人工智能的应用，其特点是为系统提供根据数据或经验自动学习和改进的能力，而无需显式编程。 这些定义已经被美国平等就业机会委员会（EEOC）、美国司法部（DOJ）以及许多其他联邦和州机构采纳。 使用公认的人工智能和机器学习定义将使DCWP能够集中精力定义自动就业决策工具（AEDT），利用州和联邦级别的优先顺序，并避免使用非标准定义可能引起的任何混淆和/或冲突。 此外，我建议删除LL 144中的“统计建模”和“数据分析”，以保持对人工智能和机器学习的关注。 或者，如果DCWP决定保留或修改机器学习、统计建模、数据分析或人工智能的当前定义，我建议将以下内容添加到定义的第（iii）部分： 交叉验证是一种评估和比较机器学习算法的统计方法，它将单个相同的数据集划分为两部分：训练数据和测试数据。 训练数据可以进一步分割为用于拟合模型参数的训练集和用于优化模型参数的验证集。 然后使用测试数据对训练数据集上的最终模型拟合度进行无偏评估。 2023年1月19日下午3:35添加评论 -
整体AI团队 添加评论2023年1月20日上午11:44 -
芭芭拉·凯莉 工作场所平等研究所（“IWE”或“The Institute”）针对纽约市（“NYC”或“城市”）消费者和工人保护部（“DCWP”或”部门“）的邀请提交了所附评论。 该部门的《拟议规则通知》旨在澄清纽约市第144号地方法律规定的要求，该法律将规范自动就业决策工具（“AEDT”）的使用，在这些工具中，雇佣或晋升决策是由算法驱动的机制做出的，或在很大程度上由算法驱动机制提供协助。 评论附件
2023.01.20-IWE-NYC-Local-Law-144-意见函.pdf 添加评论2023年1月20日12:29pm -
约瑟夫·亚伯拉罕 2023年1月20日下午2:06添加评论 -
BABL AI团队 2023年1月22日下午4:42添加评论 -
Merve Hickok（AIethistist.org） 感谢您有机会提供进一步的意见，因为DCWP将继续澄清这一开创性的法律。 请参阅附件中代表AIethistist.org提交的建议和反馈。 评论附件
DCWP_NYC-Public Comment_Merve-Hickok_Jan2023.pdf 2023年1月22日下午7:33添加评论 -
再培训.ai团队 评论添加时间：2023年1月22日晚上11:37 -
弗雷德·奥斯瓦尔德 添加评论2023年1月23日上午8:52 -
朱莉娅·斯托扬诺维奇 添加评论2023年1月23日上午9:18 -
丹尼尔·施瓦茨 添加评论2023年1月23日上午11:21 -
米奇·泰勒 添加评论2023年1月23日12:31 pm -
玫瑰梅西纳 评论添加于2023年1月23日下午2:52 -
Jiahao Chen，博士 2023年1月23日下午3:50添加评论 -
工作日 添加评论2023年1月23日下午4:22 -
汉娜·韦德 纽约大学朗根健康中心对拟议规则修正案的评论，第T分章：自动就业决策工具 规则标题：使用自动就业决策工具的要求 参考号：2022 RG 061 规则制定机构：消费者和工人保护部 请代表纽约大学朗根健康保险公司接受我们对实施2021年第144号地方法律有关使用自动就业决策工具（AEDT）的拟议规则的意见。 我们感谢消费者和工人保护部（DCWP）再次提供评论机会。 随着医疗系统努力从新冠肺炎疫情中恢复，纽约市医院面临着巨大的劳动力挑战。 由于持续的公共卫生危机，DCWP应考虑为医疗领域提供豁免。 这些危机，包括新冠肺炎疫情的恢复、猴痘疫情的爆发以及最近涌入的寻求庇护者，给纽约市所有医院带来了巨大压力。 我们对任何其他措施深感不安，因为这些措施阻碍了我们完成为患者提供安全、优质护理的使命。 在纽约大学朗根健康学院，我们反对任何额外的障碍来填补急需的职位，包括护理、联盟健康、临床支持和其他支持服务。 特别是，我们担心要求（第5-304节）在使用自动就业决策工具（AEDT）前10个工作日向候选人和员工发出通知可能会导致招聘延迟。 这一要求带来了不必要的等待期，这将延长人员短缺的时间，并对纽约市的患者产生负面影响。 在2022财年，我们收到了12796个职位的368536份申请，这些职位需要使用数据分析进行有效处理。 处理时间延迟10个工作日将给我们的医疗系统带来不应有的困难，因为我们正在努力招聘和雇佣人才，以便为患者提供最佳服务。 再次感谢您给我发表评论的机会。 如有任何问题或其他信息，请联系我们。 添加评论2023年1月23日下午5:00 -
Gibson，Dunn&Crutcher律师事务所 添加评论2023年1月23日下午5:41