生物

下载简历

Heidy Khlaaf博士是比特轨迹专门从事安全关键系统（从无人机到大型核电厂）中复杂或自主软件实现的评估、规范和验证。她的专业知识包括领导众多系统安全审计（如IEC 61508、DO-178C），这些审计有助于确保监管框架和安全案例中的安全关键软件，通过系统危害分析和形式验证等技术来增强复杂软件系统的可靠性和稳健性，以识别和减轻系统和软件风险。

她以其领导Codex安全评估的工作而闻名，她开发了一个框架，该框架基于自然语言规范的复杂性来衡量代码生成模型的性能，并将所述性能结果集成到跨功能危险分析和风险评估框架中。

她在系统软件工程（Systems Software Engineering）和机器学习（Machine Learning）交叉领域的独特专业知识使她能够领导、贡献和制定安全相关应用程序及其开发的各种标准和审计框架。这包括美国和英国监管机构的政策和监管框架，以确保AI和ML在关键系统中安全部署。她目前是英国标准协会ISO SC 42（人工智能）委员会成员。

2017年，她在伦敦大学学院完成了计算机科学博士学位尼尔·皮特曼她是著名的NSF GRFP奖的获得者。她的工作重点是无限状态软件系统的临时验证、终止和非终止。她在CAV 2015上获得了最佳论文奖，并随后被邀请加入JACM，因为她在第一个自动算法方面的工作，用于验证无限状态系统的CTL*验证。

她在佛罗里达州立大学获得了计算机科学和哲学双学位的理学学士学位，辅修数学，并以优异成绩毕业。

论文

“过去、现在和未来：验证临时软件属性”，海蒂·赫拉夫.博士论文伦敦大学学院计算机科学系，2018年。PDF格式

出版物

*表示第一作者

代码合成大型语言模型的风险分析框架，H.Khlaaf*、P.Mishkin*、J.Achiam、G.Krueger、M.BrundagearXiv:2207.14157[cs]，2022年7月。

评估经过代码培训的大型语言模型（Codex/Copilot论文），Chen等人。arXiv:2107.03374[cs]，2021a年7月。

“97件事每个SRE都应该知道”，由埃米尔·斯托拉尔斯基和詹姆·吴编辑。O'Reilly Media Inc.公司。，2020年11月。

走向值得信赖的人工智能开发：支持可验证声明的机制，2020年4月。59位合著者从29个组织包括科技公司和学术团体，如：Open AI、牛津大学Leverhulme未来智能中心、AI合作伙伴、Adelard、Mila、Google Brain等。

颠覆性创新和颠覆性保证：确保机器学习和自主R.Bloomfield*和H.Khlaaf*与P.Ryan Conmy和G.Fletcher。IEEE计算机，52(9): 82-89 (2019).

验证无限状态系统越来越多表达的时序逻辑H.Khlaaf*与B.Cook和N.Piterman*。ACM学报，64，2，第15条（2017年5月），39页。

“T2：临时属性验证”M.Brockschmidt*和H.Khlaaf*与B.Cook、S.Ishtiaq和N.Piterman系统构建和分析的工具和算法，荷兰埃因霍温，2016年。PDF格式

“关于无限状态系统CTL*验证的自动化”H.Khlaaf*与B.Cook和N.Piterman*。计算机辅助验证，美国旧金山，2015年。2015年CAV最佳论文奖，受邀提交给JACM。 PDF格式

“无限状态系统的公平性”H.Khlaaf*与B.Cook和N.Piterman*。系统构建和分析的工具和算法，英国伦敦，2015年。PDF格式

“无限状态程序的更快时间推理”H.Khlaaf*与B.Cook和N.Piterman。计算机辅助设计中的形式化方法，瑞士洛桑，2014年。PDF格式

“摘要：无限状态系统的公平性”H.Khlaaf*与B.Cook和N.Piterman。第十四届国际终止研讨会，奥地利维也纳，2014年。

技术

“审核安全关键型人工智能系统”
BSI-VdTüV AI审计AI系统论坛：从基础到应用(德国联邦信息安全局)《特邀演讲人》，德国柏林，2020年。（约150名与会者）

“适用和可实现的形式验证”
2019年爱尔兰都柏林SRECon 2019年主题演讲人。（约800名与会者）

“我们喜欢的标准”
《Strangeloop上我们爱的论文》，特邀演讲人，密苏里州圣路易斯，2018年。（约500名与会者）

“F#的教训：从学术原型到安全关键系统”
F#eXchange，特邀演讲人，英国伦敦，2018年。

“确定关键系统中的软件安全”
Github星座，特邀演讲人，英国伦敦，2018。（约350名与会者）

学术

“T2：临时属性验证”。系统构建和分析的工具和算法，荷兰埃因霍温，2016年。

“关于无限状态系统的CTL*验证自动化”。 计算机辅助验证，美国旧金山，2015年。最佳论文奖。

“无限状态系统的公平性”。 系统构建和分析的工具和算法，英国伦敦，2015年。

“无限状态程序的更快时间推理”。 计算机辅助设计中的形式化方法，瑞士洛桑，2014年。

有关详细列表，请参阅我的个人简历.

特征

“以色列正在使用人工智能系统寻找加沙的目标。专家表示，这只是一个开始”
NPR，2023年12月。

“自动驾驶汽车正在盲目行驶”
《纽约时报》，2023年10月。

“萨姆·奥尔特曼是我们这个时代的奥本海默”
《纽约杂志》，2023年9月。

“为了避免AI厄运，学习核安全”
麻省理工学院技术评论，2023年6月。

写作

“如何像核能一样监管人工智能”
H.Khlaaf（哈拉夫）。《时代》杂志，2023年10月。

《攀登运动中性别平等状况的反思》
H.Khlaaf（哈拉夫）。HoldBreaker，2019年1月。

“技术采访的文化冲突”
H.Khlaaf（哈拉夫）。《模型视图文化》，第23期，2015年6月。

其他

《野生动物在哪里》
Krystle Wright的电影《户外研究》。

“Glacéau Smartwater-健康”
Smartwater运动，由Tubby Brother和Tiffany Soi拍摄的电影。

攀登


当不分析安全关键系统时，你很可能会发现我在攀岩。我最喜欢攀岩，目前我正在室外攀岩V8/V9等级范围。我在室内和室外都爬山，最近的旅行去过：英国波特兰、罗克兰（南非）、英国匹克区、意大利白云石、葡萄牙辛特拉、瑞士魔幻森林、西班牙阿尔巴拉辛、沙文根山脉、瑞士布赖恩、意大利萨尔德涅、法国枫丹白露、约塞米蒂国家公园、大峡谷国家公园。