LLM功能
详细信息和选项
安 LLM功能 可用于使用大型语言模型(LLM)生成文本。 它可以创建内容、完成句子、提取信息等。 LLM功能 需要外部服务身份验证、计费和互联网连接。 这个 促使 我 支持以下值: -
“字符串” 静态文本 LLM提示 [ " 名称 " ] 存储库提示 字符串模板 [ … ] 模板化文本 模板对象 [ … ] 用于创建提示的模板 { 促使 1 , … } 提示列表 使用创建的提示 模板对象 可以包含文本和图像。 并非每个LLM都支持图像输入。 LLM功能 支持以下选项: -
插入函数 文本字符串 插入表达式之前要应用的函数或格式 组合器功能 StringJoin(字符串连接) 应用于在 促使 身份验证 自动 显式用户ID和API密钥 LLM估价员 $LLM评估师 要使用的LLM配置 LLM估价员 可以设置为 LLM配置 对象或与以下任意键的关联: -
“MaxTokens” 要生成的令牌的最大数量 “模型” 基本模型 “提示分隔符” 要在提示之间插入的字符串 “提示” 初始提示 “停止令牌” 停止生成的标记 “温度” 取样温度 “工具方法” 用于工具调用的方法 “工具” 列表,共个 LLM工具 要提供的对象 “最高概率” 抽样等级截止 “总概率截止” 抽样概率截止 ( 核取样 ) 的有效形式 “模型” 包括: -
名称 命名模型 { 服务 , 名称 } 命名模型来自 服务 < “服务” 服务 , “姓名” 名称 , “任务” 任务 > 完全指定型号 生成的文本是从分布中采样的。 可以使用以下属性指定采样的详细信息 LLM估价员 : -
“温度” t吨 自动 使用正温度取样 t吨 “最高概率” k个 自动 仅在 k个 高概率类 “总概率截止” 第页 自动 在最可能的选择中抽样,累计概率至少为 第页 ( 核取样 ) 设置 “温度” 自动 在以下范围内分解为零温度 LLM功能 。其他参数使用指定的默认值 “模型” . 多个提示由 “提示分隔符” 的财产 LLM估价员 . 的可能值 身份验证 是: -
自动 自动选择身份验证方案 环境 检查环境变量中的键 系统凭据 检查系统密钥链中的密钥 服务对象 [ … ] 从服务对象继承身份验证 协会会员 提供显式密钥和用户ID 使用 身份验证 自动 ,函数检查变量 至UpperCase [ 服务 ] <>“_API_KEY” 在里面 环境 和 系统凭据 ; 否则,它使用 服务连接 [ 服务 ] . 使用时 身份验证 协会会员 , 协会会员 可以包含以下密钥: -
“ID” 用户身份 “APIKey” 用于身份验证的API密钥 LLM功能 使用机器学习。 其中包含的方法、训练集和偏见可能会发生变化,并在不同版本的Wolfram语言中产生不同的结果。