Photo by Janosch Diggelmann on Unsplash
Read More

Bradley-Terry 模型

在許多機器學習與決策系統中,我們面對的並不是可直接量測的品質分數,而是大量兩者相比,哪一個比較好的偏好判斷。這類成對比較資料雖然簡單,卻隱含了豐富的結構資訊。本文將從機率語意出發,逐步說明如何透過 Bradley–Terry 模型,將這些偏好比較轉化為可學習的潛在分數(latent score)表示。
Read More
Photo by Daniel Seßler on Unsplash
Read More

熵(Entropy)

在機率模型與機器學習中,熵(entropy)是用來量化不確定性的核心概念。它不僅描述資料本身的隨機性,也隱含了在預測與建模過程中所必須付出的最低資訊成本。許多看似不同的學習目標,例如對數概似(log-likelihood)最大化或損失函數(loss function)的設計,其實都可以回溯到 entropy 的觀點來理解。
Read More