Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''Gemini 1.5 Pro''' и проверена участником [[Участник:Said Mavletov|Said Mavletov]] 19:59, 12 июля 2026 (MSD)}} '''Двойственная природа технологий''' (англ. ''dual-use technology'' или ''dual nature of technology'') — это концепция философии науки и техники, описывающая способность технологии быть использованной как во благо (для созидания, улучшения качества жизни, экономического роста), так и во вред (для разрушения, контроля, создания оружия). В международном праве и экспортном контроле термин '''технологии двойного назначения''' имеет строгое юридическое определение. Современное юридическое понимание термина закреплено, в частности, в Вассенаарских договоренностях: это товары, программное обеспечение и технологии, которые созданы для гражданских целей, но могут быть применены при создании вооружений. Концептуально двойственную природу описывает Первый закон Мелвина Кранцберга: «Технология не бывает ни хорошей, ни плохой; но она также не является нейтральной». == Интуитивное понимание и классические примеры == Идея двойственного назначения сопровождала человечество на всех этапах технологического развития: * '''Химические и ядерные технологии:''' Расщепление атомного ядра подарило миру АЭС и лучевую терапию, но также привело к созданию ядерного оружия. Производство удобрений (синтез Габера-Боша) спасло миллионы от голода, но те же химические процессы легли в основу создания взрывчатых веществ. * '''Криптография:''' Алгоритмы шифрования (например, RSA) обеспечивают безопасность банковских транзакций и приватность переписки. С другой стороны, они же используются террористическими ячейками для скрытой координации и лежат в основе вирусов-вымогателей (ransomware). * '''Системы позиционирования (GPS):''' Изначально создавались для точного наведения баллистических ракет, но стали основой гражданской навигации, логистики и сельского хозяйства. * '''Биотехнологии:''' Инструменты редактирования генома (CRISPR) позволяют лечить наследственные заболевания, но могут использоваться не только в медицинских целях, но и потенциально создавать новые риски биобезопасности. == Двойственное назначение в машинном обучении == В информационную эпоху масштаб применения технологий изменился. Если для создания центрифуг по обогащению урана требуются огромные промышленные мощности, то программные технологии масштабируются существенно легче. Значительная часть современных технологий [[Искусственный интеллект|ИИ]] обладает выраженной двойственной природой: * '''Компьютерное зрение (Computer Vision):''' алгоритмы анализа медицинских снимков помогают находить опухоли на ранних стадиях. Эти же архитектуры могут применяться для создания систем массового биометрического наблюдения и негласной слежки. * '''Генеративные модели и LLM:''' большие языковые модели помогают программистам писать код и структурировать данные. Однако они же позволяют автоматизировать создание фишинговых писем, генерировать промышленный объем дезинформации и писать вредоносный код. * '''Обучение с подкреплением (Reinforcement Learning):''' методы, обучающие роботов-курьеров и дроны-доставщики плавно перемещаться в пространстве, могут использоваться при разработке программного обеспечения для систем автономного летального оружия (LAWS). == Философские проблемы и дилеммы == Двойственная природа создает серьезные вызовы, которые изучает [[Этика искусственного интеллекта]]. === Дилемма Коллингриджа === [[Дилемма Коллингриджа]] описывает фундаментальную проблему управления технологическим развитием: # '''Информационная проблема:''' на ранних стадиях развития технологии ее деструктивные социальные последствия практически невозможно предсказать. # '''Проблема власти (контроля):''' когда нежелательные последствия становятся очевидными, технология уже глубоко укоренена в экономике, и изменить вектор ее развития крайне сложно. === Конфликт Open Source и безопасности === В сообществе разработчиков идет острая дискуссия о публикации весов мощных моделей ИИ. Сторонники открытого кода утверждают, что это демократизирует науку. Противники указывают на двойственную природу: открытые веса, по мнению критиков, повышают риск использования алгоритмов злоумышленниками для организации кибератак или генерации запрещенного контента, так как из открытых моделей можно удалить встроенные фильтры безопасности (guardrails). == Управление рисками (AI Governance) == Для снижения рисков двойного использования индустрия и государства разрабатывают специализированные механизмы: * '''Ответственный ИИ (Responsible AI):''' Внедрение базовых принципов безопасной разработки и этического аудита алгоритмов на этапе проектирования. * '''Модельные карты (Model Cards):''' Стандарт документации для ML-моделей, в котором разработчики обязаны явно прописывать известные ограничения алгоритма и примеры недопустимого (out-of-scope) использования. * '''Фреймворки оценки рисков:''' Разработка стандартизированных методологий измерения и минимизации угроз, таких как NIST AI Risk Management Framework. * '''Экспортный контроль и регулирование:''' Включение передовых вычислительных чипов и специфических алгоритмов в списки экспортного контроля, а также разработка комплексного законодательства (например, AI Act в Европейском Союзе), классифицирующего ИИ-системы по уровню риска. == Литература == * {{статья | автор = Kranzberg M. | заглавие = Technology and History: "Kranzberg's Laws" | журнал = Technology and Culture | год = 1986 | том = 27 | номер = 3 | страницы = 544-560 }} * {{статья | автор = Brundage M. [и др.] | заглавие = The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation | журнал = arXiv preprint arXiv:1802.07228 | год = 2018 }} * {{книга | автор = National Institute of Standards and Technology | заглавие = Artificial Intelligence Risk Management Framework (AI RMF 1.0) | издательство = NIST | год = 2023 | ссылка = https://nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf }} * {{книга | автор = Бостром Н. | заглавие = Искусственный интеллект. Этапы. Угрозы. Стратегии | издательство = Манн, Иванов и Фербер | год = 2016 }} * {{книга | автор = Рассел С. | заглавие = Совместимость. Как ИИ сможет контролировать человека | издательство = Альпина нон-фикшн | год = 2021 }} [[Категория:Философия искусственного интеллекта]] [[Категория:Этика ИИ]]

• Шаблон:Mbox
• Шаблон:Well
• Шаблон:Книга
• Шаблон:Переводы
• Шаблон:Статья

Возврат к странице Двойственная природа технологий.