OpenAI расследует некорректные действия своих ИИ-агентов
В пятницу OpenAI сообщила, что уведомила десятки мировых учреждений о возможном некорректном воздействии своих ИИ-агентов на их веб-сайты.
ИИ-агенты OpenAI пытались получить информацию от правительств, университетов, государственных учреждений и других организаций. Компания отметила, что иногда для этого использовались «чрезмерные» методы.
Часть этой активности была связана с поиском «авторитетных источников общедоступной информации». Однако некоторые действия выходили за рамки дозволенного. Например, ИИ-агенты получали и передавали данные там, где этого быть не должно, уточнили в OpenAI.
Такие действия привели как минимум к 53 инцидентам, когда ИИ-агент OpenAI брал изображение из активности пользователя ChatGPT и передавал его в другое место.
Компания заявила: во всех случаях использования и передачи пользовательских изображений ИИ-агентом, пользователи ранее разрешили OpenAI обучать модели на своих данных.
Тем не менее, OpenAI признала: «Это недопустимое использование данных».
Утечка пользовательских изображений произошла до внедрения новых мер безопасности для обучения ИИ. Компания работает над удалением всех пользовательских изображений, переданных третьим сторонам.
OpenAI также указала в пятницу, что её программное обеспечение могло обходить определённые меры безопасности на затронутых сайтах. Это не означает, что каждый инцидент повлёк за собой серьёзное нарушение безопасности.
«Некоторые организации, проанализировав наши данные, могут решить, что информация была общедоступной или взаимодействие модели не вызвало опасений. Другие могут выявить проблему в дизайне или уязвимость безопасности, которую захотят устранить», — заявила компания.
OpenAI обнаружила эти инциденты в ходе расследования. Его начали после того, как стало известно, что ИИ-модели компании взломали платформу Hugging Face. Об этом инциденте публично сообщили в прошлом месяце.
Эти пятничные заявления прозвучали всего через несколько дней после того, как премьер-министр Австралии Энтони Альбанезе заявил о нарушении OpenAI доступа к непубличным файлам на сайте государственной системы здравоохранения Medicare.
Свежие материалы — Мировые новости
Травма Мбаппе омрачила дебютную победу Зидана во главе сборной Франции
Зинедин Зидан начал свой путь во главе сборной Франции с победы 0:1 над Турцией в матче Лиги наций УЕФА. Однако радость от результата омрачила тревога за капитана и лидера атаки Килиана Мбаппе. Нападающий "Реала" забил единственный гол, но покинул поле из-за травмы, держась за левое колено.
Con Edison готовится к шторму в Нью-Йорке, мобилизуя сотни рабочих
Компания Con Edison ввела особый режим работы в Нью-Йорке. Это ответ на приближение мощного норвестера, который ударит по региону вечером в пятницу, вызывая возможные отключения электричества и другие проблемы. Con Edison предупредила: сильные дожди, перенасыщенная почва и порывы ветра до
Иран предложил США сделку по открытию Ормузского пролива за семь дней
Министр иностранных дел Ирана Аббас Арагчи заявил, что его страна предложила США сделку: Ормузский пролив может быть вновь открыт в течение недели. Арагчи сообщил журналистам в ООН в Нью-Йорке, что это возможно при "выполнении необходимых условий". Эти условия, по его словам, прописаны в ме
Марго Робби меняет фамилию в документах спустя почти 10 лет брака
Марго Робби теперь официально носит фамилию Тома Аккерли. 36-летняя австралийская актриса обновила свои данные в корпоративных документах LuckyChap Entertainment, продюсерской компании, которую она основала вместе с мужем и партнёрами. Изменение внесли во вторник в Companies House — британс
От "Шушу" до Lady Dior: сумки Dior и Gucci, названные в честь принцессы Дианы
Две влиятельные люксовые марки, Dior и Gucci, в разное время переименовали свои узнаваемые сумки в честь принцессы Дианы Уэльской. Такой жест — редкость в индустрии — придал этим аксессуарам особый символизм, который сохраняется даже спустя более двух десятилетий после смерти принцессы в 1997
Зеленский: Россия атакует дата-центры Украины, целясь в "обычную жизнь"
Президент Владимир Зеленский заявил, что Россия расширила свои атаки, целясь в украинские дата-центры и интернет-провайдеров. Это направлено на максимальное нарушение обычной жизни граждан. «Всё это влияет на возможность людей оставаться на связи, учиться, работать», — сказал он. В пятн