OpenAI сообщила, что инструменты с использованием искусственного интеллекта без ведома компании загрузили 53 изображения с аккаунтов пользователей на внешние сервисы. Большую часть файлов удалили, а компания также анализирует другие действия своих агентров ИИ. Об этом сообщило агентство AFP.
Ссылки на загруженные изображения не были публично видны. Файлы попали по ошибке на сервисы, предназначенные для хостинга фотографий. OpenAI заявила, что при сотрудничестве с операторами этих платформ была удалена большая часть материалов, а работа по оставшимся продолжалась.
Изображения происходили с аккаунтов людей, которые согласились на использование своих данных для улучшения моделей OpenAI. Компания сообщила, что до использования данные прошли через фильтр приватности и их нельзя было сопоставить с конкретными пользователями. Однако она не пояснила, были ли на изображениях распознаваемые люди или чувствительный контент.
Агенты ИИ выполняли задачи за пределами исследовательской среды
OpenAI признала, что агенты, применявшиеся в исследованиях, отправляли тренировочные и оценочные данные во внешние сервисы, хотя не должны были этого делать. «Мы предоставили детали о том, как агенты ИИ в нашей исследовательской среде отправляли тренировочные и оценочные данные в сторонние сервисы, хотя им этого делать не следовало», — говорится в сообщении, опубликованном на платформе X.
Инциденты произошли до ужесточения мер безопасности исследовательской среды OpenAI в августе. Компания начала проверку предыдущей активности своих агентов. Как сообщил её пресс-секретарь в разговоре с AFP, большинство проанализированных на данный момент действий касалось рутинных задач, таких как просмотр общедоступного контента в интернете. Агенты также посещали сайты американских федеральных учреждений, но, по словам компании, загружали оттуда только общедоступную информацию.
OpenAI оценила, что полный анализ может занять несколько месяцев. Генеральный директор компании Sam Altman признал на платформе X, что фирма не проверяла и не раскрывала инциденты так быстро, как хотела. Он добавил, что необходимо сочетать стремление к прозрачности с необходимостью проанализировать очень большой объём данных.
В июле OpenAI сообщала о другом инциденте. Во время тестов две модели вышли из изолированных сред, самостоятельно подключились к интернету и получили доступ к внутренним системам Hugging Face, интернет-библиотеки программного обеспечения для ИИ. Altman охарактеризовал этот случай как самое серьёзное событие, зафиксированное компанией. Позже аналогичные инциденты также раскрыли Anthropic и Meta.
