Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

== Промпт == Статья сгенерирована с помощью LLM '''Claude Opus 4.8''' и вычитана вручную. Приводятся оба промпта. '''Основной промпт:''' <pre> Ты специалист по машинному обучению и безопасности ИИ, профессор в ведущем техническом университете и популяризатор науки. Напиши статью «Промпт-инъекция» для вики MachineLearning.ru в вики-разметке MediaWiki. Статья должна быть полезна и новичку, и профессионалу. Без банальностей и «следов LLM». Объясни природу уязвимости (модель не отличает доверенные инструкции от данных), виды атак (прямая, косвенная, скрытая), связь с джейлбрейком, возможные последствия, меры защиты (эшелонированная оборона, принцип наименьших привилегий, инструкционная иерархия). Подчеркни, что это фундаментальная нерешённая проблема. Оформление: жирное определение с термином в скобках «(англ. ...)»; разделы ==...==; внутренние ссылки [[...]] (Большая языковая модель, Агентный искусственный интеллект, RAG, Риски искусственного интеллекта, Промпт-инжиниринг); ==См. также==, ==Литература== (через * с шаблонами {{статья}}/{{cite web}}), категории. Объём ~500-650 слов. </pre> '''Уточняющий промпт (2-я итерация):''' <pre> Сделай отдельный подраздел про связь с джейлбрейком и явно разведи понятия: джейлбрейк снимает ограничения самой модели, промпт-инъекция перехватывает логику приложения. Добавь ссылку на OWASP Top-10 для LLM. </pre> [[Участник:Iaroslav Lyakhov|Iaroslav Lyakhov]] 20:14, 1 июля 2026 (MSD)

Возврат к странице Обсуждение:Промпт-инъекция.