本文完善了基于熵的信息理论，解决了Shannon和Jaynes在其公理化过程中长期存在的问题。我们证明了香农熵函数有一个互补的对偶函数，我们称之为“极值”。二元分布的熵和极值是相同的。然而，对于不仅仅是事件指示器的任何数量，该度量分为两个不同的度量。与熵一样，最大极值分布也是均匀分布，并且这两个度量对于其质量函数的排列是不变的。然而，他们在评估分布的精细化时表现得截然不同，这是香农和杰恩斯所关注的公理。它们的二元性是通过熵和外值以及精细划分之间的关系来确定的。我们还分析了密度的外倾函数，表明相对外倾构成了Kullback–Leibler散度的对偶，Kullback–Leibler散度被广泛认为是连续熵测度。这些结果在Bregman发散的一般结构中是一致的。在这种情况下，他们将$L_{2}$度量的一半确定为熵定向距离的极值对偶。我们描述了引起这一发现的序列预测分布的评分的统计应用。