In information theory, perplexity is a measure of uncertainty for a discrete probability distribution. The perplexity of a fair coin toss is , and that of a fair die roll is ; and generally, for a probability distribution with exactly outcomes each having a probability of exactly , the perplexity is simply . But perplexity can also be applied to unfair dice, and to other non-uniform probability distributions. It can be defined as the exponentiation of the information entropy. The larger the perplexity, the less likely it is that an observer can guess the value which will be drawn from the dist
La perplejidad es una medida de cómo de bien una distribución de probabilidad o predice una muestra. Se puede usar para comparar modelos de probabilidad. Una baja perplejidad indica que la distribución de probabilidad es buena para predecir la muestra. La perplejidad es una medida utilizada en la teoría de la información. Se define como 2 elevado a la entropía, o más a menudo como 2 elevado a la entropía cruzada. La última definición es usada frecuentemente en la comparación empírica de modelos probabilísticos.
Abstract from DBpedia / Wikipedia · CC BY-SA
Discovered by embedding cosine similarity (sentence-transformers MiniLM, 384-dim).
via Wikidata sitelinks · CC0