Обсуждение:Кибербезопасность
Материал из MachineLearning.
История создания статьи (итеративный промптинг):
Промпт 1:
«Ты профессор технического университета. Напиши статью "Кибербезопасность" для энциклопедии MachineLearning.ru.
Раздели тему на два аспекта: защита самих моделей (Adversarial ML) и использование ML для защиты сетей (Defensive ML).
Для новичков приведи понятную интуицию исторического развития безопасности. Приведи классический пример состязательной атаки (когда наклейка на дорожном знаке может привести к неверной классификации), а также пример того, как ML автоматизирует поиск вирусов. Избегай публицистических заголовков вроде "гонка вооружений".»
Промпт 2:
«Отлично. Теперь создай строгий раздел для профессионалов. Опиши главные уязвимости моделей: 1. Состязательные атаки (Evasion). Опиши метод FGSM математически. 2. Отравление данных (Data Poisoning) и создание бэкдоров. 3. Атаки на конфиденциальность: объясни кражу модели (Model Extraction) как процесс воспроизведения функционального поведения модели через публичный API. Кратко упомяни Membership Inference и Prompt Injection.
Во втором разделе опиши, как ML защищает классическую ИТ-инфраструктуру: обнаружение сетевых аномалий (IDS), поведенческий анализ (UEBA) и поиск вредоносного ПО. Напиши аккуратно, что ML является одним из ключевых инструментов, а не заменой всей классической безопасности.»
Промпт 3:
«Оформи весь текст в строгую вики-разметку. Формулу для FGSM напиши обычным текстом, используя подстрочные индексы (HTML-тег sub) для корректного отображения без использования LaTeX-рендерера.
Сделай внутренние ссылки на термины: Машинное обучение, Нейросеть, Обучение без учителя, LLM. Англоязычные термины оставь в скобках.
Список литературы оформи как ненумерованный список (через *). Обязательно используй шаблон {{{заглавие}}}.. Включи фундаментальную статью Goodfellow (2014) про FGSM, классический обзор Biggio & Roli (2018) про Adversarial ML, статью Папернота и классическую работу Sommer по обнаружению вторжений (IDS). Добавь категории:,,.»
