主页
关于
人
出版物
研讨会
- 研讨会日历
- 研讨会视频
研讨会
HLT硕士
资源

当前Postdocs

陈汉杰（Hanjie Chen）|网站|出版物

沙伦·利维|网站|出版物

人

教师
- 附属学院
- 前教师
流动人员
- 当前Postdocs
- 前Postdocs
研究生
工作人员
校友

订阅CLSP研讨会邮件列表

即将召开的研讨会

下午12:00 尤利娅·茨维特科夫（华盛顿大学）。。。@黑客厅B17

尤利娅·茨维特科夫（华盛顿大学）。。。 @黑客厅B17

4月26日下午12:00–下午1:15

摘要大型语言模型（LM）是在不同的数据源上预先训练的——新闻、论坛、书籍、在线百科全书。这些数据的很大一部分包括事实和观点，一方面，这些事实和观点庆祝[…]的民主和多样性

添加

添加到及时日历
添加到谷歌
添加到Outlook
添加到Apple日历
添加到其他日历
导出为XML

研讨会视频

Eric Fosler-Lussier:语音识别-2000

作为CS 601.471/671 NLP的一部分进行的讲座：自我监督模型：https://self-pervised.cs.jhu.edu/sp2024/主讲人：李天健：https://tianjianl.github.io网址/

教程：高效的语言模型——李天健（JHU）

摘要：高质量的数据集对于提高大型语言模型的能力和训练效率至关重要。然而，当前数据集通常是以一种特殊的启发式方式准备的。在本次演讲中，谢桑迈克尔（Sang Michael Xie）将介绍以培训前数据分发为中心的改进和理解语言模型的原则方法。首先，他将描述如何通过使用稳健优化优化数据源的混合来提高训练多用途语言模型的效率。第二，他将讨论一种有效的重要重采样方法，用于从三重标记尺度的网络数据集中选择相关数据，以训练专门的模型。最后，他将介绍上下文内学习的第一个理论分析，上下文内学习是语言模型在文本提示下从示例中学习的一项关键能力，该能力可追溯到训练前数据中的连贯结构建模。演讲者简介：Sang Michael Xie是斯坦福大学计算机科学博士生，由Percy Liang和Tengyu Ma担任顾问。他的研究重点是语言模型的以数据为中心的机器学习，理解预训练和适应，以及鲁棒机器学习的预训练和自训练方法。谢被授予NDSEG奖学金，之前是谷歌大脑的学生研究员。他的作品被公认为《科学美国人》的“改变世界的思想”之一，在《科学》等旗舰网站上发表，并被《纽约时报》、《华盛顿邮报》、路透社、英国广播公司新闻、IEEE Spectrum和The Verge等媒体报道。

广义语言模型的数据分布方法——Sang Michael Xie（斯坦福）

基于UBM的ASR声学建模（Daniel Povey）-2009

摘要：我通过宇宙TBD联盟的合作，讨论了基础模型在天文学中的应用，该联盟的任务是为每个人实现科学民主化。我们的主要目标之一是克服通用基础模型的局限性，例如在专业领域产生有限的信息。为此，我们开发了第一个专门用于天文学的大型语言模型AstroLLaMa-1。该模型通过接触美国国家航空航天局天体物理数据系统和ArXiv的特定领域文献而得到增强，与现有的GPT模型相比，它展示了改进的文本完成和嵌入能力。我进一步讨论了LLM在生成复杂科学假设和从天文学文献中提取有意义见解方面的潜力。经人类专家验证，我们的发现证明了LLM在知情科学评论方面的能力，并揭示了嵌入空间中有趣的模式，突出了LLM增强科学探究的潜力。我还将讨论与多模态模型AstroLLaVA的初步工作，该模型允许我们通过自然语言与天文图像进行交互。通过Universe TBD的工作，我们旨在探索人工智能如何在天文学和更广泛的科学领域帮助人类智能。生物：Ioana Ciucă，又名Jo，是澳大利亚国立大学的跨学科Jubilee联合研究员，在计算学院和天文与天体物理研究学院工作。加入澳大利亚国立大学之前，乔在英国伦敦大学学院（University College London）完成了天体物理学博士学位，她在天文学和机器学习的交叉点工作，以了解银河系的形成和演化历史。Jo现在专注于利用有利于世界各地研究人员的基础模型，与世界各地30多名天文学家、工程师、ML从业者和爱好者组成的宇宙TBD团队合作。

一个有待决定的宇宙：走向推进天文学的专业基础模型

加载更多。。。订阅

约翰·霍普金斯大学惠廷工程学院

语言和语音处理中心
黑客226
马里兰州巴尔的摩北查尔斯街3400号，邮编：21218-2680

(410) 516-4237
[电子邮件保护]

怀廷工程学院
约翰霍普金斯大学

隐私声明
法律

©2024约翰霍普金斯大学

语言和语音处理中心