Machine Learning · Extensión multiclase

Softmax y Clasificación Multiclase

Cuando existen más de dos clases, cada alternativa obtiene un score \(z_j\). Softmax transforma esos scores en probabilidades comparables que suman exactamente 1. Modifica los scores y la temperatura para observar cómo las clases compiten por la masa de probabilidad.

Clase ganadora

—

arg max softmax

Prob. ganadora

—

confianza

Suma probabilidades

1.000

normalización

Margen top 1–2

—

separación

Entropía

—

incertidumbre

Distribución de probabilidad

Softmax

Clase A

—

Clase B

—

Clase C

—

Cálculo paso a paso

Fórmula viva

e^(z₁/T)

—

e^(z₂/T)

—

e^(z₃/T)

—

Efecto de la temperatura

T → confianza

Tres propiedades esenciales

Softmax

Normalización

Σpⱼ = 1

Las clases compiten por una cantidad total de probabilidad igual a 100%.

Invarianza a traslación

z + c

Sumar la misma constante a todos los scores no cambia las probabilidades softmax.

Competencia relativa

Δz importa

Lo decisivo no es el nivel absoluto de un score, sino su diferencia respecto de los demás.

Interpretación automática

Multiclase

Qué observar

Ideas clave

1 · Softmax generaliza la lógica binariaEn vez de una sola probabilidad frente a su complemento, asigna una distribución completa sobre J clases mutuamente excluyentes.

2 · Los scores no son probabilidadesUn score puede ser negativo, positivo o cualquier número real. Recién softmax los transforma en valores entre 0 y 1 que suman 1.

3 · La confianza depende de las diferenciasCuando el score ganador se aleja de los demás, su probabilidad aumenta. Si los scores son similares, la distribución se vuelve más incierta.