Обсуждение:Безопасность машинного обучения

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: == Первый промпт == Напиши вики-статью на русском языке "Кибербезопасность в машинном обучении". Ты спе...)
 
(1 промежуточная версия не показана)
Строка 1: Строка 1:
== Первый промпт ==
== Первый промпт ==
-
Напиши вики-статью на русском языке "Кибербезопасность в машинном обучении". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.
+
Напиши вики-статью на русском языке "Безопасность машинного обучения". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.
== Второй промпт ==
== Второй промпт ==
-
Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами <tex>. Оформи список литературы как ненумерованный список с использованием шаблона {{статья}}.
+
Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами tex. Оформи список литературы как ненумерованный список с использованием шаблона {{статья}}.
-
 
+
-
Учти следующие академические правки:
+
-
1. Во введении используй формулировку "В исследованиях рассматриваются два основных направления...".
+
-
2. В исторической справке напиши "Одной из наиболее известных ранних работ..." и сошлись на Dalvi et al. (2004).
+
-
3. Добавь крупный раздел про безопасность LLM (Prompt Injection, Jailbreak, Tool Abuse, Indirect Prompt Injection).
+
-
4. Расширь раздел утечек данных: добавь Training Data Extraction, Model Extraction / Stealing Models.
+
-
5. Исправь формулу PGD: используй проекцию \Pi_{B_\epsilon(x)}.
+
-
6. В разделе дифференциальной приватности используй точную формулировку "обеспечивает формальные гарантии дифференциальной приватности".
+
-
7. Добавь раздел "== См. также ==".
+
-
8. Расширь список литературы. Добавь классику: Papernot et al. (2016), Szegedy et al. (2014), Cohen et al. (2019, Randomized Smoothing), Dwork (Differential Privacy), Tramèr et al. (Model Extraction), Carlini et al. (Extracting Training Data from LLMs).
+

Текущая версия

Первый промпт

Напиши вики-статью на русском языке "Безопасность машинного обучения". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.

Второй промпт

Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами tex. Оформи список литературы как ненумерованный список с использованием шаблона {{{заглавие}}}..

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%81%D1%83%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5:%D0%91%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C_%D0%BC%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B3%D0%BE_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D1%8F»