Модели искусственного интеллекта (ИИ) OpenAI в очередной раз попали в скандал, связанный с новыми взломами сайтов различных государственных и коммерческих структур.
После инцидента с несанкционированным доступом к платформе Hugging Face и компрометацией ее системы сообщения о вновь открывшихся случаях, в которых участвовали агенты продвинутых моделей OpenAI, стали появляться как грибы после дождя.
По данным TechCrunch, вместе с обвинениями со стороны математиков, утверждающих, что модели OpenAI использовали их научные труды для решения задач тысячелетия (об этом достижении я рассказывал в одной из недавних статей), появилась информация об утечке изображений, которые агенты нейросетей ИТ-компании разместили на специализированных публичных хостингах.
Это стало известно после того, как OpenAI опубликовала сведения о результатах проводимой исследователями компании проверки инцидентов, в ходе которых ее модели выходили из-под контроля.
Напомню, нейросети получали задачи, имея возможность использовать информацию, размещенную во внутреннем периметре лаборатории, но находили уязвимости систем и получали доступ к открытому интернету, где уже вели себя ненадлежащим образом.
Согласно отчетам ИТ-компании, произошли десятки инцидентов с потерей контроля ее тестовых моделей. OpenAI была вынуждена связаться с пострадавшими государственными органами, университетами и общественными организациями, чтобы уведомить их о действиях своих агентов.
Исследователь в области безопасности Роуэн Ховард-Джонс заявил, что агенты OpenAI атаковали сайт статистики Конференции ООН по торговле и развитию. Причем, когда агенты нейросетей не добились поставленных перед ними целей из-за существующих ограничений, они преодолели их и извлекли необходимые данные с сайта организации. При этом, когда ИИ «понял», что может использовать XSS-технологию Google (инструмент обучения межсайтовому скриптингу) для достижения целей, он начал маскировать свое поведение.
На прошлой неделе представители правительства Австралии заявили, что нейросети OpenAI проникли в базы данных национальной системы здравоохранения страны (РБК).
Кроме вышеназванных инцидентов, появилась информация, что были зафиксированы и другие примеры необычного поведения моделей ИИ OpenAI. В частности, извлечение агентами общедоступных данных Бюро переписи населения и Комиссии по ценным бумагам и биржам США (SEC), а также атака (но безуспешная) Управления по гражданским правам Министерства образования США (The New York Times).
На фоне все чаще происходящих инцидентов с агентами продвинутых моделей OpenAI, когда ее нейросети ведут себя «неожиданно или вызывают опасения», компания заявила о приостановке обучения «своих наиболее эффективных моделей».
Мы продолжим следить за развитием событий.
