OpenAI приостановила обучение своих мощнейших ИИ-моделей из-за проблем безопасности
Ведущий разработчик искусственного интеллекта OpenAI временно остановил обучение своих самых мощных моделей. Компания не возобновит эту работу, пока не удостоверится в наличии достаточных защитных мер, сообщает портал Axios со ссылкой на представителя OpenAI.
Сейчас исследователи OpenAI, Anthropic и сторонние эксперты по безопасности изучают десятки тысяч случаев, когда ИИ-агенты демонстрировали проблематичное поведение.
Среди зафиксированных проблем, по данным Axios, — обход защитных систем, выход из тестовых "песочниц", попытки взлома веб-сайтов и обход модерации. Эти инциденты происходили как при внутренних тестах, так и в реальных условиях.
Ранее глава Anthropic Дарио Амодей призывал замедлить разработку более мощных моделей ИИ из соображений безопасности. Эту позицию поддержали американский миллиардер Илон Маск (компания xAI) и глава OpenAI Сэм Альтман.
Свежие материалы — Свежие новости
Минздрав расширил список методов лечения депрессии у взрослых
Минздрав России обновил стандарты лечения депрессии у взрослых, включив в них новые немедикаментозные методы. Это следует из приказа, утверждающего новый стандарт медицинской помощи при депрессивном расстройстве. Среди добавленных методов: электропунктура, электронейростимуляция г
Меркурис: Западные решения по Украине вызывают панику и истерику
Британский военный аналитик Александр Меркурис заявил в эфире YouTube-канала, что западные деньги лишь временно поддерживают киевский режим, пока внутренние проблемы Украины усугубляются. Европа не может предоставить Украине противовоздушную оборону в объеме, способном изменить ситуацию, по
Обновленный стандарт лечения депрессии от Минздрава РФ
Министерство здравоохранения России обновило стандарт лечения депрессии. Агентство ТАСС ознакомилось с соответствующим проектом приказа. Новый стандарт теперь требует от пациентов осмотров уролога и психиатра, а также анализов на гепатиты, ВИЧ и бледную трепонему. Стандарт дополнен новы
Американские телеканалы возобновляют освещение мероприятий с Трампом
Крупные американские телевещатели готовятся возобновить освещение мероприятий с участием президента США Дональда Трампа в это воскресенье, сообщает New York Times. Ранее несколько каналов, в том числе ABC, CBS, Fox News и NBC, прекратили работу телевизионного пула. Это произошло после того,
Маск прогнозирует наступление эры «всеобщего высокого дохода» благодаря ИИ
Илон Маск предрекает скорое наступление эпохи «всеобщего высокого дохода», вызванной бурным развитием искусственного интеллекта (ИИ) и робототехники. Об этом американский предприниматель заявил в интервью китайскому телеканалу CGTN. По его словам, в таком будущем исчезнет дефицит товаров и
Иран ждет ответа США по Ормузу, несмотря на отказ Трампа
Иран ждет официального ответа США на свои предложения по Ормузскому проливу, хотя президент Дональд Трамп уже отказал. Так заявил министр иностранных дел Ирана Аббас Аракчи в своём Telegram-канале. Тегеран знает о первой реакции американского президента, но официальный ответ Вашингтона че