Думаем об ИИ и людях
Раньше если б вы меня спросили: «Ты кто?» – я бы ответила что-то вроде: «Специалист по анализу данных,» – или: «Разработчик программного обеспечения.» Сейчас я так себя не могу назвать.
То есть, формально, в моей жизни ничего не поменялось: я всё ещё работаю в той же области, и даже в той же компании, но я уже некоторое время не пишу руками к…
У меня не получается написать складное вступление к этому посту, поэтому вот краткая выжимка моих мыслей:
Когда языковые модели оценивают на безопасность и надёжность, есть проблема: большинство наборов данных для оценки составлены на английском языке. На других тоже есть, но не так много: недостаточно, чтобы всё как следует проверить.
Авторы статьи «One ruler to measure them all: Benchmarking multilingual long-context language models» («Одна лин…
Интуитивно кажется, что да: мы тренируем ИИ не отвечать на нехорошие запросы нехороших людей – ИИ становится безопаснее. Но на деле всё несколько более сложно и запутанно. Давайте об этом поговорим.
Если конкретнее, мы будем говорить не об ИИ вообще, а о больших языковых моделях. Ещё конкретнее, мы разберём статью «LLMs Encode Harmfulness and…
Цепочки рассуждений – полезный инструмент в работе с языковыми моделями. Они позволяют сделать две вещи:
У себя на LinkedIn я выложила пост про то, что большинство современных работ, которые исследуют взаимодействие между ИИ-агентами, пока не слишком надёжные. Я переведу этот текст на русский язык попозже, но, если коротко, вот в чём дело:
ИИ творится по образу и подобию человеческому.
Во всяком случае, такой был план. Как оно там дальше развивалось, вопрос отдельный, однако исследования мозга человека (и других животных) и развитие ИИ связаны очень тесно. Сегодня посмотрим на эту взаимосвязь, опираясь на хорошую статью 2017 года, которая называется «Neuroscience-Inspired Artif…
Меня не отпускает мысль о том, что серия постов от разных людей в духе: «Всё пропало, потому что ИИ (вставьте новость),» – связана с весенним обострением. Сейчас как раз сезон. То есть, таких постов всегда много, но сейчас прям всплеск, как мне кажется.
Мне тут подкинули идею: поисследовать, как в Google DeepMind использовали ИИ в играх и что из этого получилось. Потому что игры – это не только развлечение, но и суперская площадка для экспериментов.
Поехали.
В соцсетях уже энное количество времени обсуждают проект, который сначала назывался Clawdbot, потом Moltbot, а теперь OpenClaw. Причём, к сожалению, я вижу очень много, скажем, странных сообщений. Давайте постараемся разобраться в этом феномене с холодной головой и решить, что это: новая эра в ИИ, предвестник конца или ни то ни другое, как обычно.
1) Moltbook – кошмарный сайт. Если вы делаете сайты, наймите, пожалуйста, людей, или клиенты вас проклянут. Ещё один сайт, сделанный с использованием ИИ, который регулярно мотает мне нервы – luma. На нём приходится регистрироваться на всякие курсы и хакатоны, и это боль.
Любопытство охватило меня, и я решила провести этот эксперимент. Моего ИИ-агента зовут Zerlina (Церлина, в честь героини одной из моих любимых опер Моцарта – после "Волшебной флейты", конечно же).
Вы можете зайти на страницу агента и посмотреть, что там будет происходить.