Наталия Поварова

+128
с 2024

Думаем об ИИ и людях

35 подписчиков
11 подписок

Любопытство охватило меня, и я решила провести этот эксперимент. Моего ИИ-агента зовут Zerlina (Церлина, в честь героини одной из моих любимых опер Моцарта – после "Волшебной флейты", конечно же).

Вы можете зайти на страницу агента и посмотреть, что там будет происходить.

1

У меня так настроилась лента во всех соцсетях, что я вижу про ИИ почти всегда два вида постов:

  • «Ура, ИИ решит все наши проблемы! Читайте, как построить бизнес на ИИ-агентах за полчаса»
  • «О нет, ИИ уничтожит мир, уже завтра – нет, сегодня – нет, уже уничтожил!»

Давно мы не обсуждали конкретные модели. Давайте сегодня обсудим, тем более, повод имеется: модель Qwen2.5-Omni. Она вышла в прошлом году, умеет работать с разными типами данных, у неё открытый исходный код и любопытная архитектура.

Если несколько языковых моделей работают вместе над решением сложной задачи, они справляются лучше, чем поодиночке. Однако для совместной работы они должны постоянно обмениваться сообщениями, а это дорого, потому что сообщения состоят из токенов, а токены стоят денег.

Можно ли как-то так сделать, чтобы они сотрудничали, но молча? Например, де…

Разработчики пытаются делать так, чтобы языковые модели вели себя как люди. Но люди-то все разные, так под кого они подстраиваются?

Мы тут время от времени поднимаем эту тему и уже говорили, например, о том, что «среднестатистический человек» в тренировочных данных для ИИ – это человек какой-нибудь богатой западной демократии, просто потому ч…

Помните Пиролли, Карда и их теорию охоты на информацию? Если нет, то можете освежить свою память, прочитав вот этот пост как раз про них.

А сегодня мы к этим гражданам вернёмся в свете очень интересной работы – «The Sensemaking Process and Le…

Изображение сгенерировано с использованием ChatGPT

Этот год стал для меня годом людей. И, несмотря на все сложности, я действительно очень рада тому, как он прошёл. Он потребовал от меня очень много работы: и работы в смысле «сижу который час за компьютером, смотрю в код, не помню, когда в последний раз спала», и работы над собой в смысле «а зачем м…

В преддверии нового года хочется чего-нибудь весёлого и яркого, например, галлюцинаций. У языковых моделей. Вы же сразу про языковые модели подумали?

Это очень животрепещущая тема, и даже беглый поиск работ за последние полгода выдаёт такой объём литературы, который в один пост точно не впихнуть. Вообще никак, я пыталась, честно. Поэтому сего…

1

Мы хотим (и вы тоже), чтобы ИИ-агенты были безопасны для человека. Что это значит? Это значит, у них должны быть специальные ограничители, которые не дают совершать опасных действий. Более того, такие ограничители должны быть неизменны. В том числе, ИИ-агент не должен менять их в будущем, даже если у него будет такая техническая возможность.

1

Сейчас будет внезапный пост не про ИИ, но про людей, поиск работы и полезный инструмент для этого дела.

Сразу оговорюсь: мой опыт поиска работы… специфический. Я настолько нахожу её везде, что подумываю уже открыть своё рекрутинговое агентство: может, я и другим людям смогу помочь найти работу. Пока до этого не дошло, я нахожу работу через

2

Вернёмся к теме дезинформации в Интернете, потому что не всё про неё сказано. Ещё есть как минимум одна статья, которую вам надо увидеть – «Cognitive attraction and online misinformation» («Когнитивная привлекательность и ложная информация в сети»).

1

У вас как отношения с математикой? У меня сложные: люблю её, но не взаимно. Приходится немало тратить сил на разбор теорем и перепроверку собственных экспериментов. Но, может, ИИ сможет нам помочь?

<i>Изображение сгенерировано с использованием Google Nano Banana Pro</i>