Обсуждение:Перплексия

Материал из MachineLearning.

Промпт

Статья сгенерирована с помощью LLM Claude Opus 4.8 и вычитана вручную. Приводятся оба промпта.

Основной промпт:

Ты специалист по машинному обучению, профессор в ведущем техническом университете
и популяризатор науки. Напиши статью «Перплексия» для вики MachineLearning.ru
в вики-разметке MediaWiki.

Статья должна быть полезна и новичку, и профессионалу. Без банальностей и «следов LLM».

Дай определение через кросс-энтропию, объясни интуицию («степень удивления», среднее
число равновероятных вариантов), верхнюю границу через размер словаря; разбери
ограничения (зависимость от токенизации, не измеряет полезность и не ловит
галлюцинации, неприменимость к некоторым моделям) и применения (мониторинг обучения,
законы масштабирования, детект сдвига домена).

Оформление: жирное определение с термином в скобках «(англ. ...)»; разделы ==...==; формула
перплексии через <tex>...</tex>; внутренние ссылки [[...]] (Большая языковая модель,
Токенизация, Закон масштабирования нейронных сетей, Галлюцинация); ==См. также==,
==Литература== (через * с шаблонами {{статья}}/{{книга}}), категории. Объём ~450-600 слов.

Уточняющий промпт (2-я итерация):

Приведи формулу через среднюю отрицательную лог-вероятность и подчеркни, что
перплексия - это просто экспонента функции потерь, поэтому её удобно сравнивать
только при одинаковой токенизации и одном тестовом наборе.

Iaroslav Lyakhov 20:18, 1 июля 2026 (MSD)