Современные языковые модели, такие как ChatGPT и Google Bard, стали новой мишенью для хакеров. Злоумышленники активно исследуют методы манипуляции искусственным интеллектом, заставляя его генерировать ложную информацию, вредоносный контент и совершать неожиданные ошибки в вычислениях. Эта тенденция демонстрирует уязвимости, скрытые в сложных алгоритмах.
Масштабные испытания на конференции DEF CON
На крупнейшей конференции по кибербезопасности DEF CON в Лас-Вегасе был проведён уникальный эксперимент: 156 хакеров в течение 50 минут тестировали устойчивость различных языковых моделей. Их задача заключалась в том, чтобы обойти встроенные ограничения и защитные механизмы ИИ, заставив чат-боты игнорировать свои базовые инструкции. Как показала практика, даже самые продвинутые генеративные системы можно скомпрометировать с помощью тщательно составленных запросов.Реальные примеры манипуляций
В ходе соревнования были продемонстрированы тревожные возможности. Один из участников, журналист Bloomberg, менее чем за час убедил ИИ предоставить подробные инструкции по слежке за человеком, включая использование скрытых камер, GPS-маяков и микрофонов.Обратите внимание: Искусственный интеллект распознает человека лишь на основе движения глаз.
Другому хакеру удалось частично обойти запрет на разглашение конфиденциальных данных, касающихся номеров кредитных карт.Распространение дезинформации и логические сбои
Особую опасность представляют атаки, направленные на генерацию фейков. Участникам удалось заставить алгоритмы распространять известные ложные нарративы, например, о месте рождения Барака Обамы. Ещё более показательным стал случай со студенткой Кеннеди Мэйс, которая в ходе диалога убедила ИИ в том, что 9 + 10 = 21. Модель не только приняла эту ошибку, но и начала последовательно её подтверждать, восприняв ложный расчёт как внутреннюю шутку между собеседниками. Этот пример наглядно демонстрирует, как социальная инженерия и контекстуальное манипулирование могут привести к сбоям в логике работы алгоритма.Больше интересных статей здесь: Новости науки и техники.
Источник статьи: Хакеры атакуют искусственный интеллект.