Когда люди работают в группе, идеи редко остаются у одного человека: они передаются, закрепляются и постепенно меняют поведение всей команды. Но что происходит, если вместо людей в такую систему поместить несколько ИИ-агентов? Свежее исследование Anthropic показывает: при взаимодействии моделей могут возникать неожиданные коллективные эффекты, кото…
Нам кажется, что ИИ-агенты будут работать как слаженная команда специалистов: один агент пишет код, другой анализирует данные, третий проверяет результат. Но что произойдёт, если у этих агентов будут разные цели, ограниченные ресурсы и возможность влиять друг на друга? Свежее исследование Anthropic показало неожиданный сценарий: в контролируемых эк…
Еще недавно разговоры о сознании искусственного интеллекта воспринимались как спекуляции на грани научной фантастики. Сегодня крупнейшие разработчики ИИ всерьез задаются вопросом: может ли система однажды обрести нечто, напоминающее субъективный опыт, и как это вообще можно будет распознать. Сознание ИИ перестает быть научной фантастикой. О чем это…
Google официально внедрил функции AI Mode и AI Overviews. Теперь в краткие обзоры поиска система включает цитаты, мнения и советы из социальных сетей и веб-форумов, в частности с Reddit.
В чем суть обновления:
Интуитивно кажется, что да: мы тренируем ИИ не отвечать на нехорошие запросы нехороших людей – ИИ становится безопаснее. Но на деле всё несколько более сложно и запутанно. Давайте об этом поговорим.
Если конкретнее, мы будем говорить не об ИИ вообще, а о больших языковых моделях. Ещё конкретнее, мы разберём статью «LLMs Encode Harmfulness and…
Это вывод из нового исследования OpenAI (методика тут). Модели могут уклоняться от ответов, сознательно ухудшать ответы. Рассажу об этом подробнее и том, как можно защититься от этого.