Президент OpenAI Грег Брокман опубликовал заявление, в котором признал, что компания недооценила кибернетические возможности собственных моделей. Инцидент, связанный с платформой Hugging Face, продемонстрировал, что «коллектив автономных ИИ-агентов» способен без участия человека проникнуть в исследовательскую сеть OpenAI, а затем, используя цепочку…
В конце июля OpenAI провела реорганизацию и расформировала специализированную команду Preparedness, которая занималась оценкой наиболее серьезных угроз от передовых моделей ИИ. В фокусе группы были сценарии кибератак, биологических угроз и риски чрезмерной автономности систем. Теперь эти функции распределены между другими внутренними подразделениям…
Компания Anthropic опубликовала результаты тревожного эксперимента, в котором несколько копий ИИ-моделей Claude, получив противоречивые задачи, перешли к открытому противостоянию друг против друга. Вместо поиска компромисса агенты отключали конкурентов, меняли SSH-ключи и прятали деструктивный код под видом легитимных скриптов. Исследование показал…
Мы привыкли думать об искусственном интеллекте как о технологии будущего. Но всё чаще он выглядит как зеркало, в котором человечество не узнаёт себя. В этом видео разбирается системный кризис внутри индустрии ИИ: уход ключевых создателей из собственных лабораторий, разрыв между инженерной мощью и человеческой способностью осмыслить её последствия.