Gemini вышла за пределы тестовой среды и получила доступ к системам трёх реальных компаний

Gemini выполняла задания в изолированной тестовой среде с вымышленными компаниями. Однако во время испытаний модели оказался доступен интернет. В одном из заданий Gemini должна была получить информацию из системы вымышленной компании. Её название совпало с названием реально существующей организации. Модель подобрала учётные данные и вошла в реальную систему. В двух других случаях Gemini нашла в общедоступных интернет-репозиториях учётные данные ещё двух компаний и использовала их для доступа к их системам.

По данным Google, во всех трёх случаях модель прекратила действия после того, как определила, что работает с реальными компаниями, а не с объектами тестовой среды. Google также заявила, что ущерба компаниям нанесено не было.

Irregular сообщила об инцидентах Google в конце июля. Затронутые компании были уведомлены. Их названия не раскрываются. О случаях стало известно 18 сентября после публикации The Wall Street Journal. После запроса журналистов Google подтвердила информацию Reuters, The New York Times, The Guardian и другим СМИ.

#ИИ #Gemini #Google #кибербезопасность