Обсуждение:Безопасность машинного обучения

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: == Первый промпт == Напиши вики-статью на русском языке "Кибербезопасность в машинном обучении". Ты спе...)
Строка 1: Строка 1:
== Первый промпт ==
== Первый промпт ==
-
Напиши вики-статью на русском языке "Кибербезопасность в машинном обучении". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.
+
Напиши вики-статью на русском языке "Безопасность машинного обучения". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.
== Второй промпт ==
== Второй промпт ==
Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами <tex>. Оформи список литературы как ненумерованный список с использованием шаблона {{статья}}.
Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами <tex>. Оформи список литературы как ненумерованный список с использованием шаблона {{статья}}.
-
 
-
Учти следующие академические правки:
 
-
1. Во введении используй формулировку "В исследованиях рассматриваются два основных направления...".
 
-
2. В исторической справке напиши "Одной из наиболее известных ранних работ..." и сошлись на Dalvi et al. (2004).
 
-
3. Добавь крупный раздел про безопасность LLM (Prompt Injection, Jailbreak, Tool Abuse, Indirect Prompt Injection).
 
-
4. Расширь раздел утечек данных: добавь Training Data Extraction, Model Extraction / Stealing Models.
 
-
5. Исправь формулу PGD: используй проекцию \Pi_{B_\epsilon(x)}.
 
-
6. В разделе дифференциальной приватности используй точную формулировку "обеспечивает формальные гарантии дифференциальной приватности".
 
-
7. Добавь раздел "== См. также ==".
 
-
8. Расширь список литературы. Добавь классику: Papernot et al. (2016), Szegedy et al. (2014), Cohen et al. (2019, Randomized Smoothing), Dwork (Differential Privacy), Tramèr et al. (Model Extraction), Carlini et al. (Extracting Training Data from LLMs).
 

Версия 14:30, 14 июля 2026

Первый промпт

Напиши вики-статью на русском языке "Безопасность машинного обучения". Ты специалист в области машинного обучения, профессор в ведущем техническом университете и популяризатор науки. Целевая аудитория - это студенты и инженеры в области анализа данных. Статья должна быть полезна как новичку, так и профессионалу. Термины из области ML и ИИ должны быть оформлены как внутренние ссылки с англоязычным термином в скобках. Не выдумывай факты.

Второй промпт

Перепиши текст, значительно расширив его. Добавь историческую справку. Раздели статью на "ML для кибербеза" и "Adversarial ML". В разделе состязательного обучения нужна строгая математика (FGSM, PGD, минимаксная задача) с тегами . Оформи список литературы как ненумерованный список с использованием шаблона {{статья}}.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9E%D0%B1%D1%81%D1%83%D0%B6%D0%B4%D0%B5%D0%BD%D0%B8%D0%B5:%D0%91%D0%B5%D0%B7%D0%BE%D0%BF%D0%B0%D1%81%D0%BD%D0%BE%D1%81%D1%82%D1%8C_%D0%BC%D0%B0%D1%88%D0%B8%D0%BD%D0%BD%D0%BE%D0%B3%D0%BE_%D0%BE%D0%B1%D1%83%D1%87%D0%B5%D0%BD%D0%B8%D1%8F»