{“id”：“https://openalex.org/W4378711565“，”doi“：”https://doi.org/10.48550/arxiv.2305.16635“，”title“：“不可能的蒸馏：从低质量模型到高质量数据集&汇总和解释器模型”，”display_name“：”不可能的精馏：从低品质模型到高性能数据集&总结和解释剂模型“，”publication_year“：2023，”publitation_date“：”2023-01-01“，”ids“：{”openalex“：”https://openalex.org/W4378711565“，”doi“：”https://doi.org/10.48550/arxiv.2305.16635“}，”language“：”en“，”primary_location“：{”is_oa“：true，”landing_page_url“：”https://arxiv.org/abs/305.16635“，”pdf_url“：空，”源“：{”id“：”https://openalex.org/S4306400194“，”display_name“：”arXiv（康奈尔大学）“，”issn_l“：null，”issn“：null，”is_oa“：true，”is.in_doaj“：false，”is_core“：fase，”host_organization“：”https://openalex.org/I205783295“，”“host_organization_name”：“康奈尔大学”，“host_organization_lineage”：[“https://openalex.org/I205783295“]，”host_organization_lineage_names“：[”康奈尔大学“]，“type”：“repository”}，“license”：“cc-by”，“licence_id”：“https://openalex.org/licenses/cc-by“，”version“：”submittedVersion“，”is_accepted“：false，”is_published“：false}，”type“：”preprint“，”type_crossref“：“posted-content”，”indexed_in“：[”arxiv“，”datacite“]，”open_access“：{”is_oa“：true，”oa_status“：”green“，”oa_url“：”https://arxiv.org/abs/2305.16635“，”any_repository_has_fulltext“：true}，”authorships“：[{”author_position“：”第一“，”作者“：{”id“：”https://openalex.org/A5051938345“，”display_name“：”Jaehun Jung“，”orcid“：”https://orcid.org/0000-0002-4856-3668“}，”机构“：[]，”国家“：[[]，”is_corresponding“：false，”raw_author_name“：”Jung，Jaehun“，”raw_affiliation_strings“：[]，“从属关系”：[]}，{“author_position”：“middle”，“author”：{“id”：“https://openalex.org/A5081420816“，”display_name“：”Peter West“，”orcid“：null}，”institutions“：[]，”countries“：[]，”is_corresponding“：false，”raw_author_name“:”West，Peter“，”raw _affiliation_strings“：]，”affiliations“：[/]}，{”author_position“：”middle“，”author“：{”id“：”https://openalex.org/A5049904411“，”display_name“：”Liwei Jiang“，”orcid“：”https://orcid.org/0000-0001-5990-2509“}，”机构“：[]，”国家“：[[]，”is_corresponding“：false，”raw_author_name“：”江，李伟“，”raw关联字符串“：[]，“隶属关系”：[]}，{“author_position”：“middle”，“author”：{“id”：“https://openalex.org/A5076297634“，”display_name“：”Faeze Brahman“，”orcid“：”https://orcid.org/0009-0008-4452-1488“｝，”机构“：[]，”国家“：[]，”is_correresponsing“：false，”raw_author_name“：”Brahman，Faeze“，”raw_affiation_strings“：[]，”附属“：[]｝，｛”author_position“：”middle“，”author“：｛”id“：”https://openalex.org/A5035760052“，”display_name“：”西明路“，”兽人“：”https://orcid.org/0000-0002-8759-0378“}，”机构“：[]，”国家“：[[]，”is_corresponding“：false，”raw_author_name“：”鲁，西明“，”raw关联字符串“：[]，“隶属关系”：[]}，{“author_position”：“middle”，“author”：{“id”：“”https://openalex.org/A5091584427“，”display_name“：”Jillian Fisher“，”orcid“：null}，”institutions“：[]，”countries“：[]，”is_corresponding“：false，”raw_author_name“:”Fisher，Jillian“，”raw _affiliation_strings“：]，”affiliations“：【】}，{”author_position“：”middle“，”author“：{”id“：”https://openalex.org/A5072293116“，”display_name“：”Taylor Sorensen“，”orcid“：”https://orcid.org/0000-0001-9701-4780“}，”机构“：[]，”国家“：[[]，”is_corresponding“：false，”raw_author_name“：”Sorensen，Taylor“，”raw_affiliation_strings“：[]，“affiliations”：[]}，{“author_position”：“last”，“author”：{“id”：“https://openalex.org/A5045464993“，”display_name“：”Yejin Choi“，”orcid“：”https://orcid.org/0000-0003-3032-5378“}，”机构“：[]，”国家“：[[]，”is_corresponding“：false，”raw_author_name“：”Choi，Yejin“，”raw关联字符串“：[]，“隶属关系”：[]}]，“国家区分计数”：0，”机构区分计数“：0，has_fulltext“：false，”cited_by_count“：0，”cited_by_percentile_year“：{”min“：0”，“max”：76}，“biblio”：{“volume”：null，“issue”：nul，“first_page”：null，“last_page”：null}，”is_retracted“：false，”is_paratext“：false，”primary_topic“：”{“id”：“https://openalex.org/T10028“，”display_name“：”自然语言处理“，”score“：0.9993，”subfield“：{”id“：”https://openalex.org/subfields/1702“，”display_name“：”人工智能“}，”字段“：{”id“：”https://openalex.org/fields/17“，”display_name“：”Computer Science“}，”domain“：{”id“：”https://openalex.org/domains/3“，”display_name“：”物理科学“}}，”主题“：[{”id“：”https://openalex.org/T10028“，”display_name“：”自然语言处理“，”score“：0.9993，”subfield“：{”id“：”https://openalex.org/subfields/1702“，”display_name“：”人工智能“}，”字段“：{”id“：”https://openalex.org/fields/17“，”display_name“：”Computer Science“}，”domain“：{”id“：”https://openalex.org/domains/3“，”display_name“：”物理科学“}}，{”id“：”https://openalex.org/T10181“，”display_name“：”统计机器翻译与自然语言处理“，”score“：0.9982，”subfield“：{”id“：”https://openalex.org/subfields/1702“，”display_name“：”人工智能“}，”字段“：{”id“：”https://openalex.org/fields/17“，”display_name“：”Computer Science“}，”domain“：{”id“：”https://openalex.org/domains/3“，”display_name“：”物理科学“}}，{”id“：”https://openalex.org/T13629“，”display_name“：”自动文本简化和可读性评估“，”score“：0.9915，”subfield“：{”id“：”https://openalex.org/subfields/1702“，”display_name“：”人工智能“}，”字段“：{”id“：”https://openalex.org/fields/17“，”display_name“：”Computer Science“}，”domain“：{”id“：”https://openalex.org/domains/3“，”display_name“：”物理科学“}}]，”关键词“：[{”id“：”https://openalex.org/keywords/machine翻译“，”display_name“：”机器翻译“，”score“：0.557885}，{”id“：”https://openalex.org/keywords/neural-machine-translation网站“，”display_name“：”神经机器翻译“，”score“：0.546455}，{”id“：”https://openalex.org/keywords/syntax-based-translation-models网站“，”display_name“：”基于句法的翻译模型“，”score“：0.541442}，{”id“：”https://openalex.org/keywords/complex-word-identification网站“，”display_name“：”复杂词识别“，”score“：0.535277}，{”id“：”https://openalex.org/keywords/language-modeling“，”display_name“：”Language Modeling“，”score“：0.535193}]，”concepts“：[{”id“：”https://openalex.org/C170858558，“wikidata”：https://www.wikidata.org/wiki/Q1394144“，”display_name“：”自动摘要“，”level“：2，”score“：0.8152832}，{”id“：”https://openalex.org/C41008148，“wikidata”：https://www.wikidata.org/wiki/Q21198“，”display_name“：”计算机科学“，”level“：0，”score“：0.7258671}，{”id“：”https://openalex.org/C2776459999，“wikidata”：https://www.wikidata.org/wiki/Q2119376“，”display_name“：”保真度“，”level“：2，”score“：0.60255456}，{”id“：”https://openalex.org/C154945302，“wikidata”：https://www.wikidata.org/wiki/Q11660“，”display_name“：”人工智能“，”level“：1，”score“：0.56329304}，{”id“：”https://openalex.org/C32834561，“wikidata”：https://www.wikidata.org/wiki/Q660730“，”display_name“：”子空间拓扑“，”level“：2，”score“：0.5330056}，{”id“：”https://openalex.org/C2777530160，“wikidata”：https://www.wikidata.org/wiki/Q41796“，”display_name“：”句子“，”级别“：2，”分数“：0.52564657}，{”id“：”https://openalex.org/C204030448，“wikidata”：https://www.wikidata.org/wiki/Q101017“，”“display_name”“：”蒸馏“，”级别“：2，”分数“：0.51971626}，{”id“：”https://openalex.org/C2779530757，“wikidata”：https://www.wikidata.org/wiki/Q1207505“，”display_name“：”质量（理念）“，”级别“：2，”分数“：0.50275755}，{”id“：”https://openalex.org/C2780922921，“wikidata”：https://www.wikidata.org/wiki/Q255189“，”display_name“：”Paraphrase“，”level“：2，”score“：0.4924508}，{”id“：”https://openalex.org/C204321447，“wikidata”：https://www.wikidata.org/wiki/Q30642“，”display_name“：”自然语言处理“，”level“：1，”score“：0.47705784}，{”id“：”https://openalex.org/C2778755073，“wikidata”：https://www.wikidata.org/wiki/Q10858537“，”display_name“：”Scale（ratio）“，”level“：2，”score“：0.46485958}，{”id“：”https://openalex.org/C119857082，“wikidata”：https://www.wikidata.org/wiki/Q2539“，”display_name“：”机器学习“，”level“：1，”score“：0.35747752}，{”id“：”https://openalex.org/C76155785，“wikidata”：https://www.wikidata.org/wiki/Q418“，”display_name“：”Telecommunications“，”level“：1，”score“：0.0｝，｛”id“：”https://openalex.org/C121332964，“wikidata”：https://www.wikidata.org/wiki/Q413“，”display_name“：”Physics“，”level“：0，”score“：0.0｝，｛”id“：”https://openalex.org/C178790620，“wikidata”：https://www.wikidata.org/wiki/Q11351“，”display_name“：”有机化学“，”level“：1，”score“：0.0}，{”id“：”https://openalex.org/C62520636，“wikidata”：https://www.wikidata.org/wiki/Q944“，”display_name“：”量子力学“，”level“：1，”score“：0.0}，{”id“：”https://openalex.org/C138885662，“wikidata”：https://www.wikidata.org/wiki/Q5891“，”display_name“：”哲学“，”等级“：0，”分数“：0.0}，{”id“：”https://openalex.org/C185592680，“wikidata”：https://www.wikidata.org/wiki/Q2329“，”display_name“：”Chemistry“，”level“：0，”score“：0.0}，{”id“：”https://openalex.org/C111472728，“wikidata”：https://www.wikidata.org/wiki/Q9471“，”display_name“：”认识论“，”level“：1，”score“：0.0}]，”mesh“：[]，”locations_count“：3，”location“：[{”is_oa“：true，”landing_page_url“：”https://arxiv.org/abs/305.16635“，”pdf_url“：空，”源“：{”id“：”https://openalex.org/S4306400194“，”display_name“：”arXiv（康奈尔大学）“，”issn_l“：null，”issn“：null，”is_oa“：true，”is.in_doaj“：false，”is_core“：fase，”host_organization“：”https://openalex.org/I205783295“，”“host_organization_name”：“康奈尔大学”，“host_organization_lineage”：[“https://openalex.org/I205783295“]，”host_organization_lineage_names“：[”康奈尔大学“]，“type”：“repository”}，“license”：“cc-by”，“licence_id”：“https://openalex.org/licenses/cc-by“，”version“：”submittedVersion“，”is_accepted“：false，”is_published“：false}，{”is_oa“：true，”landing_page_url“：”http://arxiv.org/abs/305.16635，“pdf_url”：http://arxiv.org/pdf/2305.16635，“源”：{“id”：https://openalex.org/S4306400194“，”display_name“：”arXiv（康奈尔大学）“，”issn_l“：null，”issn“：null，”is_oa“：true，”is.in_doaj“：false，”is_core“：fase，”host_organization“：”https://openalex.org/I205783295“，”“host_organization_name”：“康奈尔大学”，“host_organization_lineage”：[“https://openalex.org/I205783295“]，”host_organization_lineage_names“：[”Cornell University“]，“type”：“repository”}，“license”：null，“licence_id”：null，“version”：“submittedVersion”，“is_accepted”：false，“is_published”：false}，{“is_oa”：false，“landing_page_url”：“https://api.datacite.org/dois/10.48550/arxiv.2305.16635“，”pdf_url“：空，”源“：{”id“：”https://openalex.org/S4393179698“，”display_name“：”DataCite API“，”issn_l“：null，”issn“：null，”is_oa“：true，”is_ in_doaj“：false，”is_core“：false，”host_organization“：”https://openalex.org/I4210145204“，”“host_organization_name”：“DataCite”，“host_organization_lineage”：[“https://openalex.org/I4210145204“]，”host_organization_lineage_names“：[”DataCite“]，“type”：“metadata”}，“license”：null，“licence_id”：null，“version”：null}]，“best_oa_location”：{“is_oa”：true，“landing_page_url”：“https://arxiv.org/abs/2305.16635“，”pdf_url“：空，”源“：{”id“：”https://openalex.org/S4306400194“，”display_name“：”arXiv（康奈尔大学）“，”issn_l“：null，”issn“：null，”is_oa“：true，”is.in_doaj“：false，”is_core“：fase，”host_organization“：”https://openalex.org/I205783295“，”“host_organization_name”：“康奈尔大学”，“host_organization_lineage”：[“https://openalex.org/I205783295“]，”host_organization_lineage_names“：[”康奈尔大学“]，“type”：“repository”}，“license”：“cc-by”，“licence_id”：“https://openalex.org/licenses/cc-by“，”version“：”submittedVersion“，”is_accepted“：false，”is_published“：false}，”sustainable_development_goals“：[{”display_name“：”素质教育“，”score“：0.85，”id“：”https://metadata.un.org/sdg/4“}]，”grants“：[]，”datasets“：[]，”versions“：[】，”referenced_works_count“：0，”referrenced_works“：]，”related_work斯“：[”https://openalex.org/W4283206115","https://openalex.org/W4206666510","https://openalex.org/W3175194702","https://openalex.org/W3120390996","https://openalex.org/W2782520308","https://openalex.org/W2496310762","https://openalex.org/W2251069562","https://openalex.org/W2148689572","https://openalex.org/W2018298289","https://openalex.org/W191017350“]，”ngrams_url“：”https://api.openalex.org/works/W4378711565/ngrams“，”“abstract_inverted_index”：{“We”：[0,87]，“present”：[1]，“Impossible”：[2,75]，“Distilation”：[3]，“a”：[4,14,20,60,78]，“novel”：[5]，“framework”：“[6]”，“for”：[7]，“reparhrasing”：[8]，“and”：[9,17,46,69,81100117135]，“sentence”：[10101]，“summary”，“summination”：[11]，“：[13]，”高质量“：[15,79]，”数据集“：[16,80128]，”模型“：[18,38,82104]，”来自“：[19,72,84115129]，”低质量“：[21]，”教师“：[22,37]，”自身“：[24]，”不能“：[25]，”执行“：[26]，”这些“：[27,73]，”任务。“：[28]，”不同“：[29]，”优先“：[30]，”工作“：[31]，”依赖“：[33]，”依靠“：[34,91]，”an“：[35]，”极端刻度“：[36]，”（例如，“：[39,55]，”GPT3）“：[40]，”或“：[41]，”特定任务“：[42]，”体系结构“：[43]，”我们“：[44123]，”假设“：[45]，”验证“：[47]，”4]，“释义”：[49]，“接近度”：[50]，“内在”：[51]，“to”：[52139]，“预解释”：[53]，“LMs”：[54131]，“GPT2），“：[56]，”其中：[57]，“释义”：[58]，“占据”：[59]，“近端”：[61]，“子空间”：[62]，“in”：[63]，“LM”：[65]，“分布”。“：[66]，”By“：[67]，”identified“：[68]，”sutiliting“：[70]，”generations“：[71]，”子空间“：[74]，”Ditilation“：[76]，”products“：[77]，”even“：[83119]，”GPT2-scale“：[85]，”LMs。“：[86]，”评估“：[88]，”我们的“：[89126]，”方法“：[90]，”多重“：[92]，”基准“：[93]，”跨越“：[94]，”无约束“：[95]，”/“：[96]，”语法控制“：[97]，”释义“：[98]，”生成“：[99]，”总结。“：[102]，“我们的”：[103]，“with”：[105]，“770M”：[106]，“parameters”：[107]，“consistently”：[108]，“excellents”：[109]，“strong”：[110]，“baselines”，“：[111]，“including”：[112]，“models”：[113]，“sutilated”：[1114127]，“ChatGPT，”：[116]，“seque时而”：[118]，“ChatGPT”：[120]，“本身。“：[121]，”“此外，”：[122]，“查找”：[124]，“1.5B”：[130]，“展示”：[132]，“更高”：[133]，“多样性”：[134]，“保真度”：[136]，“比”：[137]，“向上”：[138]，“13”：[140]，“次数”：[141]，“较大”：[142]，“数据集”。“：[143]}，”cited_by_api_url“：”https://api.openalex.org/works？filter=引用：W4378711565“，”counts_by_year“：[]，”updated_date“：”2024-07-01T23:11:24.831344“，”created_date:“2023-05-30”}“