Обсуждение:LoRA

Материал из MachineLearning.

Промпт

Статья сгенерирована с помощью LLM Claude Opus 4.8 и вычитана вручную. Промпт приводится дословно.

Ты специалист по машинному обучению, профессор в ведущем техническом университете
и популяризатор науки. Напиши статью «LoRA (Low-Rank Adaptation)» для вики
MachineLearning.ru в вики-разметке MediaWiki.

Статья должна быть полезна и новичку (понятные определения, популярные объяснения),
и профессионалу (актуальные результаты и ссылки на первоисточники). Без банальностей
и «следов LLM».

Раскрой: проблему дороговизны полного дообучения LLM, идею низкого ранга обновления
весов (W = W0 + BA), преимущества (память, размер адаптера, отсутствие задержки на
инференсе, горячая замена), QLoRA и развитие, место LoRA в семействе PEFT, ограничения.

Оформление: жирное определение с термином в скобках «(англ. ...)»; разделы ==...==; формулы <tex>...</tex>;
внутренние ссылки [[...]] (Большая языковая модель, Дообучение, Квантование нейронных
сетей, Дистилляция моделей, Трансформер); в конце ==См. также==, ==Литература==
(через * с шаблонами {{статья}}), категории. Объём ~500-650 слов.

Iaroslav Lyakhov 20:13, 1 июля 2026 (MSD)