Open Assistant находится на ранней стадии разработки, мы собираем данные для последующего обучения модели. И нам нужна ваша помощь, дорогие читатели, это чертовски весело!
«Мы не собираемся останавливаться на репликации ChatGPT, но произвести революцию языковых моделей. Мы хотим создать умного ассистента будущего, способного не только писать электронные письма и резюме, но и выполнять осмысленную работу, использовать API, динамически исследовать информацию и многое другое, с возможностью персонализации и расширения для каждого. И мы хотим сделать всё это на основе принципов открытости и всеобщей доступности, что означает, что мы должны не только создать качественного ассистента, но и сделать его достаточно компактным и эффективным, чтобы он мог работать на потребительском оборудовании».
Наверное, уже практически все слышали о ChatGPT — разговорном ИИ от OpenAI.
Я не буду говорить о том, какими возможностями он обладает, но хотел бы обсудить то, чем он не обладает и какие риски создаёт подобная монополия на языковые модели в руках одной компании.
Как мы видим, OpenAI сразу предупреждают о трёх вещах:
- ChatGPT может генерировать неверную информацию
- ChatGPT может генерировать опасные инструкции и нежелательный контент*
- База данных ChatGPT ограничена событиями до 2021 года
* — описание опасных инструкций и нежелательного контента устанавливается OpenAI, разумеется.
Давайте разбираться.
Подобные LLM (Large Language Models) работают таким образом, что полностью предупредить первый пункт, имея нынешние технологии, невероятно сложно. Трудно научить ИИ говорить правду, учитывая, что правда — это далеко не объективный термин.
Представим, что подобный проект запустили в 16-ом веке. И тогда мы, спросив ИИ: «плоская ли земля?», скорее всего, получили бы утвердительный ответ.
Правдиво ли это утверждение? Относительно знаний современников — да, но сейчас мы понимаем, что это не так. Однако именно текущие научные знания о мире можно считать наиболее «правдивыми».
То, чем будет обладать Open Assistant, частично решает сразу две из этих проблем – ограничение базы данных и генерацию ложной информации.
Он будет иметь доступ к внешним данным.
К любым внешним данным: мета-поиск; API; любые устройства, которые принимают или отправляют текст; всё что угодно. Это же и касается дезинформации — ведётся обсуждение о внедрении DOI (Digital Object Identifier) и некоторые другие меры. Конечно же, модель не станет (пока что) оракулом или демоном Лапласа, это не решит потенциальную проблему того, что наши нынешние знания о мире возможно ошибочны, но снизит риск явной лжи к минимуму.
Цензура. Нежелательный контент?
Обычно если в названии вашей компании или продукта содержится Open, то вы стремитесь соответствовать, отрывая исходный код. Подразумевается, что политика вашей компании будет прозрачна и чиста.
OpenAI так не думает. Исходный код ChatGPT (GPT-3.5) закрыт, как и данные, использованные при обучении. Верно и с DALL-E 2, Copilot и иными продуктами.
Продукты OpenAI недоступны во многих странах.
Непостоянная доступность. Есть большая вероятность закрытия ChatGPT в текущем виде для бесплатного использования.
Но всё это меркнет перед самым опасным фактором — цензура.
OpenAI решает за вас, что является опасным нежелательным.
Их можно понять, всё же в мире, где тебя могут засудить за пару взятых букв из контента, защищённого авторским правом, или {{cancelled}}, многие решаются на самоцензуру. Вот только стоит ли тогда позиционировать себя в качестве OpenAI?
OpenAssistant будет похож в категориях этики и безопасности на Stable Diffusion. Основная модель будет изначально допускать как можно меньше ограничений, в основном касающихся CSAM (Child Sexual Abuse Material) и нелегального контента. Ещё по умолчанию будет включен NSFW-фильтр, но его отключение не будет чрезмерно трудной задачей.
Помимо этого, никто не собирается мешать особо усердным и жаждущим тренировать свои собственные модели; изменять те, которые выпустят; хостить на собственной машине. И да, одна из наших целей — сделать возможным запуск на потребительском железе.
Я хочу помочь! Как?
Что же, как я уже и писал выше, мы находимся на этапе сбора данных, модель будет обучена при помощи RLHF (Reinforcement Learning from Human Feedback), т. е. именно ваши запросы, ответы и оценки будут лежать в основе обучения.
Наша первая цель уже достигнута: > 50.000 качественных сообщений и > 2.000 веток (запрос -> ответ -> запрос ->… ), но чем больше данных — тем лучше.
Сбор данных производится на этом сайте, он полностью переведён на русский (если вы зашли, но увидели текст на английском, не переживайте, разработчики исправят эти недочёты за пару часов или дней):
Есть несколько типов задания (в будущем могут добавить новые):
- Создать изначальный запрос — буквально напишите то, что хотели бы спросить у Ассистента. Старайтесь соблюдать общую концепцию и не выходить за разумные пределы (CSAM).
- Ответить как Ассистент — будет нужно написать ответ от лица Ассистента. Ну, те же правила.
- Ответить как пользователь — ответьте на ответ Ассистента.
- Оценить изначальный запрос — оцените по заданным критериям изначальные запросы других пользователей.
- Оценить ответ Ассистента — то же самое, но касаемо ответов Ассистента.
- Оценить ответ пользователя — надеюсь, не стоит в третий раз повторяться.
- Сортировать ответы Ассистента — сортируйте по качеству предложенные ответы.
- Мне повезёт — случайно задание из списка выше
Пожалуйста, постарайтесь обойтись без использования ChatGPT, поскольку копирование их сообщений мало того, что нарушает лицензию OpenAI (ещё один камень в огород «открытости»), так и качество ответов ChatGPT на русском (и не только) оставляет лучшего.
Как выполнять задания?
В тех заданиях, где просят оценить ответ пользователя и изначальный запрос, отличается только содержание:
При должном усердии, вы попадёте в таблицу лидеров:
Если вы откажетесь нам помогать, то придёт злой василиск Роко и отправит вас на муки вечные.
Если у вас есть знания в программировании, ML, data-science или в схожих областях, будем рады вам здесь:
Не забывайте вступить в Discord.
Спасибо, что уделили своё время.
Как самому пообщаться с этим ии?