通过面向机器学习的新贝叶斯公式从香农信道到语义信道

一组转移概率函数构成香农信道，而一组真值函数构成语义信道。通过第三类贝叶斯定理，我们可以直接将香农信道转换为优化的语义信道。当样本不够大时，我们可以使用带参数的真值函数来产生似然函数，然后通过条件采样分布来训练真值函数。我们证明了第三类贝叶斯定理。简要介绍了语义信息理论。语义信息测度反映了 Popper 的假设检验思想。语义信息方法（SIM）遵循最大语义信息准则，该准则与最大似然准则和正则化最小二乘准则兼容。它支持 Wittgenstein 的观点：一个词的意义在于它的使用。让两个信道相互匹配，我们得到了用于机器学习的信道匹配（CM）算法。CM 算法用于解释自然语言语义的演变，例如“老年”。讨论了医学测试的语义信道以及测试阳性与测试阴性的确认度测度。简要介绍了 CM 算法在半监督学习和无监督学习中的应用。作为预测模型，语义信道适应可变信源，从而能够克服类别不平衡问题。SIM 严格区分统计概率和逻辑概率，并同时使用两者。该方法兼容 Bayes、Fisher、Shannon、Zadeh、Tarski、Davidson、Wittgenstein 和 Popper 的思想。它是贝叶斯推断的一个有竞争力的替代方案。