Обсуждение:Красное тестирование ИИ

Материал из MachineLearning.

Как создавалась статья

Статья написана с использованием LLM Claude Opus 4.8 в несколько итераций: сначала был согласован каркас (структура разделов, вики-разметка, категории), затем модель заполнила его по заданным ограничениям, после чего текст вычитывался и правился вручную.

Основной промпт

Вот вики-скелет статьи «Красное тестирование ИИ» для MachineLearning.ru [скелет].

Заполни разделы содержательным текстом, СОХРАНЯЯ:
- всю вики-разметку и внутренние ссылки [[...]];
- категории в конце.

Аудитория — студенты и исследователи ML. Полезно и новичку (интуиция), и профи
(актуальные результаты со ссылками на реальные источники). Проверяющий — теоретик ML,
банальностей он не простит.

Тема процессная, без искусственной математизации: формальную постановку не добавляй,
если она не отражает суть явления.

Запреты: «важно отметить», «играет ключевую роль», «в заключение», «не только... но и».
Не выдумывай ссылки. Не раздувай списками то, что лучше прозой. Объём 700–1000 слов.

Что проверено и изменено вручную

• сверены выходные данные и идентификаторы arXiv у всех источников в разделе «Литература»;
• добавлен авторский абзац о встраивании красного тестирования в конвейер разработки и о

различии критериев «пройдено / не пройдено» по сравнению с анализом безопасности приложений, опирающийся на практический опыт работы с инструментами SAST/DAST;

• приведены к единому виду внутренние ссылки на смежные статьи кластера, в том числе на

промпт-инъекцию (статья существует под этим названием);

• проверено соответствие названий категорий существующим на ресурсе.

Zarina Sibgatullina 19:42, 18 июля 2026 (MSD)