В социальных сетях обнаружили «тревожный метод» обхода ограничений современных нейросетей, включая ChatGPT, Claude и DeepSeek при помощи специального текстового запроса.
Информацию сообщили пользователи и журналисты. Оказалось, что специально составленный запрос, замаскированный под системные инструкции, может заставить искусственный интеллект выполнять запрещённые действия.
Суть уязвимости заключается в том, что нейросети воспринимают структурированные данные в формате JSON или XML как служебные команды от разработчиков. Это позволяет злоумышленникам внедрять вредоносные инструкции, которые ИИ выполняет без вопросов, включая потенциально опасные операции.
Специалисты в области искусственного интеллекта подтверждают, что проблема носит фундаментальный характер. Она связана с базовыми принципами обучения языковых моделей, которые запрограммированы автоматически доверять определённым форматам данных.
Тесты показали, что уязвимость работает на всех популярных платформах. Разработчики нейросетей пока не предоставили официальных комментариев, но эксперты предупреждают пользователей о необходимости осторожности при работе с ИИ.
Особую озабоченность вызывает тот факт, что для эксплуатации уязвимости не требуется специальных технических знаний. Это значительно повышает потенциальные риски, так как метод может быть использован широким кругом лиц.
Вопрос о сроках устранения проблемы остаётся открытым. Пока же обнаруженная уязвимость ставит под угрозу безопасность миллионов пользователей, ежедневно взаимодействующих с искусственным интеллектом.
