Думаем об ИИ и людях
Любопытство охватило меня, и я решила провести этот эксперимент. Моего ИИ-агента зовут Zerlina (Церлина, в честь героини одной из моих любимых опер Моцарта – после "Волшебной флейты", конечно же).
Вы можете зайти на страницу агента и посмотреть, что там будет происходить.
У меня так настроилась лента во всех соцсетях, что я вижу про ИИ почти всегда два вида постов:
Давно мы не обсуждали конкретные модели. Давайте сегодня обсудим, тем более, повод имеется: модель Qwen2.5-Omni. Она вышла в прошлом году, умеет работать с разными типами данных, у неё открытый исходный код и любопытная архитектура.
Если несколько языковых моделей работают вместе над решением сложной задачи, они справляются лучше, чем поодиночке. Однако для совместной работы они должны постоянно обмениваться сообщениями, а это дорого, потому что сообщения состоят из токенов, а токены стоят денег.
Можно ли как-то так сделать, чтобы они сотрудничали, но молча? Например, де…
Разработчики пытаются делать так, чтобы языковые модели вели себя как люди. Но люди-то все разные, так под кого они подстраиваются?
Мы тут время от времени поднимаем эту тему и уже говорили, например, о том, что «среднестатистический человек» в тренировочных данных для ИИ – это человек какой-нибудь богатой западной демократии, просто потому ч…
Помните Пиролли, Карда и их теорию охоты на информацию? Если нет, то можете освежить свою память, прочитав вот этот пост как раз про них.
А сегодня мы к этим гражданам вернёмся в свете очень интересной работы – «The Sensemaking Process and Le…
Этот год стал для меня годом людей. И, несмотря на все сложности, я действительно очень рада тому, как он прошёл. Он потребовал от меня очень много работы: и работы в смысле «сижу который час за компьютером, смотрю в код, не помню, когда в последний раз спала», и работы над собой в смысле «а зачем м…
В преддверии нового года хочется чего-нибудь весёлого и яркого, например, галлюцинаций. У языковых моделей. Вы же сразу про языковые модели подумали?
Это очень животрепещущая тема, и даже беглый поиск работ за последние полгода выдаёт такой объём литературы, который в один пост точно не впихнуть. Вообще никак, я пыталась, честно. Поэтому сего…
Мы хотим (и вы тоже), чтобы ИИ-агенты были безопасны для человека. Что это значит? Это значит, у них должны быть специальные ограничители, которые не дают совершать опасных действий. Более того, такие ограничители должны быть неизменны. В том числе, ИИ-агент не должен менять их в будущем, даже если у него будет такая техническая возможность.
Сейчас будет внезапный пост не про ИИ, но про людей, поиск работы и полезный инструмент для этого дела.
Сразу оговорюсь: мой опыт поиска работы… специфический. Я настолько нахожу её везде, что подумываю уже открыть своё рекрутинговое агентство: может, я и другим людям смогу помочь найти работу. Пока до этого не дошло, я нахожу работу через
Вернёмся к теме дезинформации в Интернете, потому что не всё про неё сказано. Ещё есть как минимум одна статья, которую вам надо увидеть – «Cognitive attraction and online misinformation» («Когнитивная привлекательность и ложная информация в сети»).
У вас как отношения с математикой? У меня сложные: люблю её, но не взаимно. Приходится немало тратить сил на разбор теорем и перепроверку собственных экспериментов. Но, может, ИИ сможет нам помочь?