Обсуждение:Адаптация низкого ранга
Материал из MachineLearning.
История создания статьи «Адаптация низкого ранга (LoRA)» с помощью LLM
Первый промпт к DeepSeek-v3 был таким:
| Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Напиши энциклопедическую статью про адаптацию низкого ранга (Low‑Rank Adaptation, LoRA) на русском языке. Придерживайся структуры и стиля, принятого в Википедии. Сделай акцент не только на тонкой настройке больших языковых моделей, но и на более широком применении LoRA в машинном обучении. Например, в статье Википедии мало обсуждается вопрос выбора ранга и инициализации матриц, а также использование LoRA за пределами архитектуры Transformer, хотя это очень важно для практики.
Целевая аудитория - это студенты и инженеры в области анализа данных и машинного обучения, в том числе начинающие. Статья должна быть информативна и полезна именно им для совершенствования в своей профессии. Читателям должны быть понятны основы из первых разделов - определения и мотивации. Можно добавить исторический раздел: например, кто первым предложил метод, для каких прикладных задач, или откуда пришла идея использовать низкоранговую аппроксимацию для адаптации предобученных моделей. Не выдумывай факты. Ищи надёжные источники в научной литературе. Добавляй ссылки на них в текст статьи. В конце собери список научной литературы. Всегда проверяй корректность ссылок. Важные понятия оформляй как ссылки на другие статьи энциклопедии. Используй форматирование вики‑разметки. Придерживайся структуры секционирования, принятой для статей о важных научных понятиях. |
Первоначальный вариант статьи, сгенерированный моделью, содержательно покрывал все ключевые аспекты LoRA и был хорошо структурирован. Однако обнаружился ряд технических недочётов:
- формулы были записаны в тегах <math>, не поддерживаемых движком энциклопедии;
- примечания и список литературы были оформлены не по вики-стандартам, часть ссылок оказалась нерабочей или вела на неверные работы;
- в тексте присутствовали источники, не поддающиеся проверке.
Был составлен второй промпт:
|
| Приведи статью к стандартам вики-разметки:
1. Замени все формулы с math на tex, сохранив корректное отображение переменных и индексов. 2. Оформи все ссылки (сноски и список литературы) единообразно с авторами, названием, изданием и годом. 3. Удали из текста и списка литературы источники, которые не удаётся подтвердить, оставив только надёжные. Если метод важен, упомяни его без сноски. Выведи исправленную статью целиком. |
Ручное вмешательство было минимальным и заключалось в основном в корректировке литературы. Опыт считаю успешным. — Mihail Mishin 17:55, 18 июня 2026 (MSD)
