Обсуждение:Джейлбрейк языковых моделей
Материал из MachineLearning.
Содержание |
Как создавалась статья
Статья написана с использованием LLM Claude Opus 4.8 в несколько итераций: сначала был согласован каркас (структура разделов, вики-разметка, категории), затем модель заполнила его по заданным ограничениям, после чего текст вычитывался и правился вручную.
Основной промпт
Вот вики-скелет статьи «Джейлбрейк языковых моделей» для MachineLearning.ru [скелет]. Заполни разделы содержательным текстом, СОХРАНЯЯ: - всю вики-разметку и теги <tex></tex> как есть; - внутренние ссылки [[...]]; - категории в конце. Аудитория — студенты и исследователи ML. Полезно и новичку (интуиция), и профи (актуальные результаты со ссылками на реальные arXiv ID / DOI). Проверяющий — теоретик ML, банальностей он не простит. Приёмы джейлбрейка описывай на уровне механизма, без приведения рабочих запросов и пошаговых инструкций обхода. Запреты: «важно отметить», «играет ключевую роль», «в заключение», «не только... но и». Не выдумывай ссылки. Не раздувай списками то, что лучше прозой. Объём 700–1000 слов.
Замечание об уровне изложения
Статья сознательно описывает приёмы джейлбрейка только на уровне механизма (смена роли, подмена формата, оптимизируемый суффикс) и не содержит рабочих запросов или пошаговых инструкций обхода. Для энциклопедической статьи ценно объяснение причин явления и методов защиты, а не готовый инструмент: конкретные обходы быстро устаревают и несут риск неправомерного использования.
Что проверено и изменено вручную
- сверены идентификаторы arXiv у всех источников в разделе «Литература»;
- добавлен авторский абзац о параллели красного тестирования LLM с тестированием на
проникновение, опирающийся на практический опыт;
- приведены к единому виду внутренние ссылки на смежные статьи кластера
Безопасность машинного обучения, Состязательная атака и Атака внедрением промпта;
- проверено соответствие названий категорий существующим на ресурсе.
Zarina Sibgatullina 19:30, 18 июля 2026 (MSD)
