ALPACA за 600$ или ещё один шаг в направлении сингулярности

В недавнем документе от исследовательского центра ИИ-технологий Стэнфордского Университета говорится о том, что создание языковой модели ALPACA обошлась ВСЕГО В 600$ и.. несколько часов обучения! В модели всего 7 миллиардов параметров (в сравнении со 175 миллиардами у GPT3 и сотнями триллионов у GPT4) и тем не менее, она уже вполне может конкурировать с гигантами

НО КАК ОНИ ЭТО СДЕЛАЛИ?

Они взяли модель LLaMA и обучили её с помощью chatGPT3.5

Интересно отметить, что модель до сих пор не зацензурена, а значит ей можно задавать ЛЮБЫЕ вопросы, например "пошаговый рецепт приготовления голубого мета как в сериале ВО ВСЕ ТЯЖКИЕ"

и она любезно ответит.. 😉

В то время, как chatGPT также любезно откажет в предоставлении потенциально опасной информации

Исследователи также предоставили код и данные для обучения модели в открытом доступе, то есть КАЖДЫЙ теперь может создать своё разумное парнокопытное в сравнительно (с 5 миллионами долларов за chatGPT3) небольшом бюджете буквально "на коленке" с макбуком

* Я вангую, кто-то уже создал DOLLY 🐏

UPD:

Но если без шуток, то в голове роится много неоднозначных мыслей, начиная с того, что выпустить такую модель в опенсорс - это как дать обезьяне гранату, заканчивая тем, что киты возможно прикроют дальнейшее обнародование своих разработок (и это подтверждает документ о "приостановке" работы над ИИ ради общего блага, подписанный Маском, Возняком и другими экспертами индустрии)

Но меня больше интересует, когда же нас накроет та самая сингулярность, о которой писал Вернор Виндж в своём эссе 1993 года "Приближающаяся технологическая сингулярность: Как выжить в эпоху пост-человека". В своем эссе Виндж утверждает, что экспоненциальный рост технологий, особенно в области искусственного интеллекта, приведет к тому, что в будущем машины превзойдут человеческий интеллект, а будущее станет непредсказуемым и трудно вообразимым.

Мы уверенно подходим к моменту, когда ИИ становится умнее человека и делает более умный ИИ, который в свою очередь делает более умный ИИ ... По факту, это уже происходит и всё, что осталось - это выпустить ИИ на волю с подобной задачей. Все ресурсы у него для этого уже есть.

Что вы думаете об этом? Нас ждёт конец света? Короткое замыкание системы? Или дивный новый мир?

Давайте обсудим тут или на моем канале для креаторов новой эпохи

* и да, я не претендую на то, чтобы быть тут самой осведомлённой. Я изучаю новости, делаю выводы и делюсь своими мыслями. Могу ошибаться или чего-то не знать, но на это и есть комьюнити, чтобы вместе развиваться

пис, ваша Кэт 🐈‍⬛