Обсуждение:Долгая краткосрочная память

Материал из MachineLearning.

Первый промпт к Deepseek-V3 (режим Глубокое мышление + умный поиск):

Ты — эксперт по машинному обучению, профессор ведущего технического университета и научный редактор портала MachineLearning.ru. Напиши глубокую и энциклопедическую вики-статью на русском языке на тему «Долгая краткосрочная память» (Long Short-Term Memory, LSTM). Целевая аудитория — мотивированные студенты технических вузов, начинающие специалисты и практикующие инженеры-исследователи. Стиль — спокойный, академический, строгий, но доступный. Избегай школьной структуры «Введение - Основная часть - Заключение» — придерживайся структуры секционирования, принятой для статей о важных научных понятиях в Википедии.Начни с чёткого строгого определения. Читателям должны быть понятны основы из первых разделов. Обязательно добавь историческую справку: от фундаментальной проблемы классических рекуррентных сетей (статья Бенджио 1994 года об исчезающем градиенте) до прорывной работы Зеппа Хохрайтера и Юргена Шмидхубера (1997) и последующего внедрения «вентиля забывания» (Феликс Герс, 1999). Новизна и глубина. Раскрой тему не только концептуально, но и математически. Детально опиши внутреннее устройство ячейки LSTM: состояние ячейки (cell state) и скрытое состояние (hidden state). Объясни математику работы системы вентилей: вентиль забывания (forget gate), вентиль входа (input gate) и вентиль выхода (output gate). Опиши, как алгоритм обратного распространения ошибки сквозь время (BPTT) работает в LSTM и как механизм Constant Error Carousel (CEC) решает проблему исчезающего градиента (vanishing gradient). Сделай обзор ключевых модификаций и альтернатив: peephole connections (глазковые фильтры) и GRU (Gated Recurrent Unit), объяснив мотивацию перехода к ним. Кратко затронь место LSTM в современном мире ИИ: от эпохи доминирования в задачах NLP и обработки временных рядов до конкуренции с архитектурой Трансформер. Затронь вопрос вычислительной специфики (сложность распараллеливания последовательных вычислений на GPU/TPU по сравнению с механизмами внимания и роль оптимизированных библиотек вроде cuDNN). Текст должен читаться так, будто его написал доцент кафедры ИИ. Делись глубоким пониманием процессов, а не просто пересказывай базовую документацию. Не выдумывай факты. Опирайся на реальные классические научные работы (Хохрайтер, Шмидхубер, Герс, Чо, Бахданау). Добавляй ссылки на источники прямо в текст статьи (используй теги <ref>). В конце собери список научной литературы, оформи по шаблону. Всегда проверяй корректность ссылок и авторов. Важные понятия и смежные термины при первом упоминании оформляй как внутренние ссылки на другие статьи энциклопедии (через двойные квадратные скобки). Используй форматирование вики‑разметки. Важные математические формулы (уравнения вентилей, функцию обновления состояния ячейки и скрытого состояния) обязательно оформляй в LaTeX-подобном виде через тег <tex>.

Полученная статья получилась в целом хорошей, но был ряд замечаний (особенно по оформлению), поэтому второй промпт был такой:

Отличный результат! Но есть несколько замечаний: 1.Полностью переработай раздел «Литература». Каждая позиция должна быть оформлена строго через шаблон: {{статья |автор= ... |заглавие= ... |издание= ... |год= ... |страницы= ... |ссылка= |ref= ... }} В параметре `ref` укажи короткий идентификатор (например, `Hochreiter1997`). 2.Переведи все сноски в гарвардский стиль. Внутри тегов `<ref>` в тексте не должно быть полного описания. Оставь только краткую запись вида: `<ref name="Hochreiter1997">Hochreiter, Schmidhuber, 1997</ref>`. Удали все конструкции `{{,}}` между сносками 3. Полностью удали любые упоминания и ссылки на саму Википедию (сноски вида `lstm_wiki`). Замени их ссылками на классические обзорные статьи (например, Lipton et al., 2015 "A Critical Review of Recurrent Neural Networks for Sequence Learning"). 4. Замени абсолютно все теги `<math>` на `<tex>`. Не смешивай их. Исправь опечатку в уравнении обновления состояния ячейки: должно быть `c_t = f_t \odot c_{t-1} + i_t \odot \tilde{c}_t`. Исправь производную: должно быть `\partial c_t / \partial c_{t-1}` (индекс внизу). Сделай оговорку, что равенство производной `f_t` — это математическое упрощение, описывающее главный путь протекания градиента (так как `f_t` и `i_t` тоже зависят от `c_{t-1}`). Упомяни, что начальные состояния `h_0` и `c_0` обычно инициализируются нулями. Для наглядности распиши конкатенацию матриц более привычно: вместо `W_f [h_{t-1}, x_t]` напиши `W_{fx} x_t + W_{fh} h_{t-1} + b_f`. 5.Во введении замени шаблон `{{lang-en|...}}` на текст: `(англ. ''Long Short-Term Memory, LSTM'')`. В разделе «См. также» оформи все пункты как маркированный список (добавь `*` перед каждой внутренней ссылкой `[[...]]`). В разделе «Примечания» замени шаблон `{{примечания}}` на тег `<references />`.

После этого текст никак не менялся. В целом опыт считаю успешным и очень интересным! - А. Клёсов 11.07.2026