J·基维宁。;Warmuth，M.K。 多维回归问题的相对损失界。 （英语） Zbl 0998.68097号 机器。学习。 45，第3号，301-329（2001）. 摘要：我们研究具有多维输出的在线广义线性回归，即具有多个输出节点但没有隐藏节点的神经网络。我们允许在最后一层传递函数，如softmax函数，需要考虑对所有输出神经元的线性激活。用于产生线性激活的权重向量通过保持单独的参数向量间接表示。我们通过对参数向量应用特定的参数化函数来获得权重向量。与通常的梯度下降更新一样，在看到新示例时更新参数向量是额外的。然而，通过在参数向量和权重向量之间使用非线性参数化函数，我们可以使权重向量的结果更新与真正的梯度下降更新大不相同。为了分析这些更新，我们定义了匹配损失函数的概念，并将其应用于传递函数和参数化函数。与传递函数匹配的损失函数用于衡量算法预测的优度。与参数化函数匹配的损失函数既可以用来衡量模型之间的差异，从而激发算法的更新规则，也可以用来衡量与任意固定模型相比分析其相对性能的进展。因此，我们有一个统一的处理方法，将梯度下降和指数梯度算法的早期结果推广到多维输出，包括多类逻辑回归。 引用于1审查引用于13文件 MSC公司： 68T05型 人工智能中的学习和自适应系统 关键词：在线预测;多类logistic回归 PDF格式BibTeX公司 XML格式引用 \textit{J.Kivinen}和\textit{M.K.Warmuth}，马赫。学习。45，第3号，301--329（2001；Zbl 0998.68097） 全文： 内政部