Обсуждение:Отравление обучающих данных

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: == Как создавалась статья == Статья написана с использованием LLM '''Claude Opus 4.8''' в несколько итераций: снач...)
(→Что проверено и изменено вручную)
 
(2 промежуточные версии не показаны)
Строка 1: Строка 1:
== Как создавалась статья ==
== Как создавалась статья ==
-
Статья написана с использованием LLM '''Claude Opus 4.8''' в несколько итераций:
+
Статья написана с использованием LLM '''Claude Opus 4.8''' в несколько итераций: сначала
-
сначала был согласован каркас статьи (структура разделов, вики-разметка, категории),
+
был согласован каркас (структура разделов, вики-разметка, категории), затем модель заполнила
-
затем модель заполнила его содержательным текстом по заданным ограничениям, после чего
+
его по заданным ограничениям, после чего текст вычитывался и правился вручную.
-
результат вычитывался и правился вручную.
+
=== Основной промпт ===
=== Основной промпт ===
<pre>
<pre>
-
Вот вики-скелет статьи «Состязательные атаки» для MachineLearning.ru [скелет].
+
Вот вики-скелет статьи «Отравление обучающих данных» для MachineLearning.ru [скелет].
Заполни разделы содержательным текстом, СОХРАНЯЯ:
Заполни разделы содержательным текстом, СОХРАНЯЯ:
Строка 27: Строка 26:
Понадобились дополнительные запросы:
Понадобились дополнительные запросы:
-
* исправить разметку формул под движок texvc (команды <code>\colon</code> и
+
* заменить в формулах команды и обозначения, не поддерживаемые движком texvc
-
<code>\text{}</code> не рендерились — заменены на простое двоеточие и вынос слов в текст);
+
(в частности, убрать кириллицу из подстрочных индексов);
-
* добавить раздел о проверке устойчивости в конвейере разработки (CI/CD) и числовой
+
-
пример для ограничения <tex>\varepsilon</tex>.
+
=== Что проверено и изменено вручную ===
=== Что проверено и изменено вручную ===
* сверены идентификаторы arXiv у всех источников в разделе «Литература»;
* сверены идентификаторы arXiv у всех источников в разделе «Литература»;
-
* добавлен авторский раздел «Проверка устойчивости в конвейере разработки»,
+
* добавлен авторский раздел «Отравление как атака на цепочку поставок»,
-
опирающийся на практику построения DevSecOps-конвейеров;
+
опирающийся на личный опыт работы с контролем цепочки поставок ПО (SBOM, сканирование
 +
уязвимостей, подпись артефактов);
* приведены к единому виду внутренние ссылки на смежные статьи кластера
* приведены к единому виду внутренние ссылки на смежные статьи кластера
-
[[Безопасность машинного обучения]].
+
[[Безопасность машинного обучения]] и [[Состязательная атака]];
 +
* проверена корректность внутренней ссылки-якоря на раздел Backdoor-атаки.
-
[[Участник:Zarina Sibgatullina|Zarina Sibgatullina]] 18:43, 18 июля 2026 (MSD)
+
[[Участник:Zarina Sibgatullina|Zarina Sibgatullina]] 18:44, 18 июля 2026 (MSD)

Текущая версия

Содержание

Как создавалась статья

Статья написана с использованием LLM Claude Opus 4.8 в несколько итераций: сначала был согласован каркас (структура разделов, вики-разметка, категории), затем модель заполнила его по заданным ограничениям, после чего текст вычитывался и правился вручную.

Основной промпт 

Вот вики-скелет статьи «Отравление обучающих данных» для MachineLearning.ru [скелет].

Заполни разделы содержательным текстом, СОХРАНЯЯ:
- всю вики-разметку и теги <tex></tex> как есть;
- внутренние ссылки [[...]];
- категории в конце.

Аудитория — студенты и исследователи ML. Полезно и новичку (интуиция), и профи
(актуальные результаты со ссылками на реальные arXiv ID / DOI). Проверяющий —
теоретик ML, банальностей он не простит.

Запреты: «важно отметить», «играет ключевую роль», «в заключение», «не только... но и».
Не выдумывай ссылки. Не раздувай списками то, что лучше прозой. Объём 700–1000 слов.

Уточняющие промпты

Понадобились дополнительные запросы:

  • заменить в формулах команды и обозначения, не поддерживаемые движком texvc

(в частности, убрать кириллицу из подстрочных индексов);

Что проверено и изменено вручную

  • сверены идентификаторы arXiv у всех источников в разделе «Литература»;
  • добавлен авторский раздел «Отравление как атака на цепочку поставок»,

опирающийся на личный опыт работы с контролем цепочки поставок ПО (SBOM, сканирование уязвимостей, подпись артефактов);

  • приведены к единому виду внутренние ссылки на смежные статьи кластера

Безопасность машинного обучения и Состязательная атака;

  • проверена корректность внутренней ссылки-якоря на раздел Backdoor-атаки.

Zarina Sibgatullina 18:44, 18 июля 2026 (MSD)

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%81%D1%83%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5:%D0%9E%D1%82%D1%80%D0%B0%D0%B2%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5_%D0%BE%D0%B1%D1%83%D1%87%D0%B0%D1%8E%D1%89%D0%B8%D1%85_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85»
Личные инструменты