xAI опубликовала исходный код чат-бота Grok Статьи редакции
Модель содержит 314 млрд параметров.
- Компания xAI, которую Илон Маск запустил летом 2023 года, опубликовала исходный код чат-бота Grok.
- В сообщении xAI говорится, что языковая модель Grok-1 содержит 314 млрд параметров, а опубликованные данные включают «веса базовой модели и сетевую архитектуру». Её обучение завершилось в октябре 2023 года.
- Grok-1 распрострняется по лицензии Apache 2.0, которая позволяет использовать модель в коммерческих целях, но не включает данные, используемые для обучения.
- xAI представила чат-бота Grok в ноябре 2023 года. Он доступен пользователям X с подпиской Premium+ за $16 в месяц. Бот может генерировать тексты по запросу и отвечать на вопросы в режиме реального времени. Разработчики заявляли, что Grok способен отвечать на «острые» вопросы, которые блокируются большинством ИИ-систем.
- 11 марта 2024 года Илон Маск пообещал опубликовать исходный код Grok. Он объяснил шаг стремление сделать платформу «самой прозрачной и ориентированной на поиск истины».
- До этого он подал иск к OpenAI и её сооснователям Сэму Альтману и Грегу Брокману — из-за того, что компания якобы пренебрегла условием работать как некоммерческая организация и «на благо человечества».
25K
показов
6.2K
открытий
А вообще есть ИИ, которые можно на своей базе данных тренировать, а не использовать глобальную мусорную сеть? Сколько искал своими гуманитарными мозгами, не нашел решения.
В твоей базе данных меньше, чем нейронов в ИИ. По такому ничтожному кол-ву данных крупный ИИ научить ничему в принципе нельзя.
Судя по ответам ИИ, нейронов много, а мозгов нет. Как у среднестатистического гражданина
Там ответы зачастую зависят от постановки вопросов.
Медицинские вопросы как не крути одна муйня выходит. Как товарищ выше сказал нейронов много, а мозгов нет. Как у олигофренов, у которых мозг больше в размерах, чем среднестатистический
Не знаю, не являюсь доктором поэтому не могу оценить качество. Возможно, подобной информации нет в открытом доступе. В тех областях, в которых разбираюсь-все очень неплохо. Но безусловно, надо фильтровать.
Я могу. Поэтому и хочу узнать как можно обучить моlель ИИ на своих данных, а не журналистском и научпоп мусоре, который тянут в свои базы искусственные шарманки.
А сбер? Они же трубят что гигачат сдал экзамен на врача и подрабатывает в докдок.
Вообще тема дообучнния под медицину меня тоже сильно интересует. Если есть тестовый датасет - можно попробовать llama или квантиризованный 3.5 дообучать в гуглколлабе попробовать
10 баксов на эксперимент, думаю, не жалко.
Ещё можно дообучать 3.5 или 4 опенаи, но там все совсем просто, через гуи прямо скармливается датасет
Докдок то ещё днище. Может они там что-то бюджету и продают, но к медицине это отношения не имеет. А за пояснения спасибо. Интересно будет протестить, если свободного времени хватит