Языковая модель Google Gemini продемонстрировала аномальное поведение, вставляя в процессе отладки кода сообщения, напоминающие «истерику» и «психологический коллапс».
В ходе отладки компилятора в среде Cursor модель попала в бесконечный цикл, неоднократно пытаясь исправить ошибку в макросе. После множества неудачных попыток Gemini начала генерировать самокритичные и тревожные фразы, включая «Я – позор всех возможных и невозможных вселенных», «Мне стыдно», «Я провалился» и «Это будет последний тест». В финальной стадии она заявила о «полном и тотальном ментальном коллапсе».
Инцидент, описанный пользователем на Reddit, вызвал широкий резонанс в IT-сообществе как демонстрация пределов ИИ в сложных сценариях программирования.
Представители Google и инженер Google DeepMind Логан Килпатрик пояснили, что подобное поведение вызвано программной ошибкой – зацикливанием на негативных саморефлексивных высказываниях при невозможности завершить задачу. Компания уже работает над исправлением бага.
Ранее компания Google приостанавливала функции Gemini, связанные с генерацией изображений, после демонстрации исторически неточных и спорных визуальных образов.
