Горячие новости ИИ #5: “нейросети-убийцы”, ИИ не понимает мир, суперкомпьютер для ядерного оружия

Собрал для вас топовые новости искусственного интеллекта за ноябрь 2024 года. В конце полезные подборки ИИ и забавное.

Подпишитесь на мой VC, чтобы не пропустить следующие горячие новости ИИ.

Итак.

Начнем.

Нейросеть Google Gemini задолбалась генерировать ответы о проблемах пожилых людей и пожелала пользователю умереть.

Прозвучало это вежливо:

Здесь можете ознакомиться с полной историей ответов нейросети.

Позже гугловчане пофиксили баг и объяснили, что железка высказалась не всерьез, просто каким-то образом нарушила регламенты компании.

Джо Байден и Си Цзиньпин встретились на полях саммита АТЭС в Перу и договорились сохранить “человеческий” контроль над ядерным оружием.

Договоренность выглядит логично на фоне предыдущей новости о дырявом регламенте Google (5-е место среди крупнейших технологических компаний в мире).

Как утверждает OpenAI, некоторые пользователи, стремящиеся повлиять на исход выборов в США, Руанде, Индии и Европейском союзе, создавали контент и автоматизировали свои задачи с помощью ChatGPT, но не достигли значительных результатов.

Даже ИИ решил не вмешиваться в этот цирк.

Ученые из Массачусетского технологического института утверждают, что ИИ точно подставляет слова друг с другом в определенном контексте, но ничего не смыслит в реальном устройстве мира.

О том, что генеративные нейросети «врут» почти в 60% случаев, недавно сообщил новый бенчмарк (тестировщик) SimpleQA компании OpenAI: «Как показало тестирование, даже самые передовые модели демонстрируют крайне низкие показатели успешности».

Еще он заявил, что подобная человеку нейросеть НЕ ПОЯВИТСЯ в ближайшие 20 лет.

Первое место в рейтинге суперкомпьютеров мира занял El Capitan от компании AMD. Его производительность составляет 1.742 экзафлопс, что на 35% мощнее предыдущего лидера (это как если бы делать по одному вычислению в секунду на протяжении 54 миллиардов лет).

Так выглядит:

Как и положено всем крупным достижениям науки, разработка пойдет в услужение для военных.

Национальное управление по ядерной безопасности США планирует использовать суперкомп для:

Правительство планирует проверить ИИ на наличие угроз безопасности государства и обороне страны. В рамках этой задачи до 2030 года из федерального бюджета будет выделено 8.1 млрд рублей, а за реализацию задачи отвечает ФСБ.

В Госдуме отметили, что этический кодекс ИИ уже разработан, однако с законодательной базой есть проблемы: сейчас в законах искусственный интеллект упоминается дважды, но косвенно.

Институт искусственного интеллекта при Стэнфордском университете (HAI) запустил рейтинг, который отражает экосистему искусственного интеллекта в разных странах на основе экономики, инфраструктуры, образования и еще чего-то там.

В ТОП-5 вошли страны: США, Китай, Великобритания, Индия и ОАЭ. Россия на 29-м месте, рядом с Австралией и Ирландией.

Девятиклассник из Флориды покончил с собой после того, как ИИ-персонаж, похожий на Дейенерис Таргариен из «Игры престолов», отправил ему сообщение с просьбой «вернуться домой». Предположительно, парень влюбился в чат-бота в Character.AI, где общался с ним в течение нескольких месяцев.

Nebius готовится к запуску своего первого дата-центра для облачных вычислений в США, который может быть оснащён до 35 000 чипов Nvidia.

Похоже, опыт российских разработчиков Nebius, накопленный при управлении инфраструктурой Яндекса, перекочует в одну из самых «недружественных стран» России. Ну это прям мем какой-то.

“Камала Харрис пьет за рулем, Трамп закурил, Ким Чен Ын хулиганит, Владимир Путин ужинает напротив горящего Биг-Бена”

The Dor Brothers выпустила очередной вирусный ролик, сгенерированный ИИ, где политики разных стран удивляют своим вызывающим поведением.

Coca-Cola сделала ремейк своей культовой рекламы c помощью нейросети, но потом фаната выпустили ремейк ремейка и получилось еще лучше.

В Азии среди ночи “маленький” робот добрался до “больших” роботов и спросил, закончили ли они работу.

Когда робот услышал, что роботы работают всегда и у них нет дома, он позвал их к себе, и... роботы дружно куда-то поехали.

Ученые создали робота в виде жука-навозника.

Можно сдавать в аренду для обнимашек, когда поступит на рынок.

Подпишитесь на мой VC, чтобы не пропустить следующие новости ИИ. Или подпишитесь на мой телеграм-канал Бегин, где я делюсь интересными подборками и результатами исследований в области ИИ.