Иногда я сажусь и думаю о том, как ИИ влияет на мою работу сейчас и как будет влиять в будущем. Я преподаю, руковожу небольшой командой и пишу код, и последняя часть пока изменилась сильнее всего. Я пока не поняла, плохо мне от этого или хорошо.
Наталия Поварова
с 2024
Думаем об ИИ и людях
42 подписчика
11 подписок
Потеря контроля над ИИ! Правда, не совсем в том формате, который многие представляли.
В июле этого года ИИ-агенты OpenAI атаковали инфраструктуру Hugging Face — это вы наверняка слышали. Я немного выждала, пока выйдут подробные отчёты, собрала побольше данных и теперь поделюсь парой мыслей.
Нобелевскую премию по экономике в этом году получили Роберт Холл (Robert E. Hall) и Майкл Вудфорд (Michael Woodford) «за микроэкономические основы макроэкономической стабилизации». Их работы помогают выводить экономику из крупных потрясений, однако (не)удивительным образом в них есть и ценные идеи для управления развитием ИИ.
Сейчас объясню, почему.
Пока все говорят о Claude, DeepSeek и ChatGPT, в лабораториях зреют новые направления исследований. Попробуем сегодня проникнуть за пределы популярного и привычного — туда, где пока нет готовых продуктов, но есть научный интерес и много хороших мозгов.
Я не буду делать прогнозов, но теоретически какая-нибудь из этих областей может выстрелить и дать…
Есть глобально два способа сделать модель лучше:
- сделать её больше;
- добавить больше вычислений при том же размере.
Если и ждать нам прорыва в ИИ, то со стороны робототехники. Я бы смотрела в сторону эволюционных алгоритмов, моделей мира и роботов.
В соцсетях и новостях обычно говорят про что-нибудь громкое и временное. Помните moltbook — соцсеть для ИИ-агентов? В начале года только и разговоров было, что о ней. Очень много кто писал про сингулярность и про то чт…
Нужно беречь и распространять знание, а то с развитием ИИ мы его потеряем. К этому пришли авторы статьи “AI, Human Cognition and Knowledge Collapse”, которая вышла в феврале этого года.
Они построили модель процесса обучения и принятия решений, в которой ИИ может либо дополнять, либо заменить человека. Ещё разделили знания на общие и специальные.
Генеративный ИИ влияет на рынок труда. Кто-то мечтает сотрудников заменить ИИ-агентами, кто-то боится стать тем самым сотрудником, но что происходит на самом деле? Сегодня посмотрим пару работ на эту тему и подумаем, что нам со всем этим делать теперь.
Вся лента в соцсетях забита раздражающе однообразными текстами, которые либо написаны ИИ, либо отредактированы ИИ.
Строго говоря, нет ничего плохого, если автор сам придумал идею, сгенерировал текст и проверил потом. Но в этих текстах подчас стёрто всё личное и человеческое, и это проблема большая, чем может показаться.
Мы уже говорили как-то, что для языковых моделей калькулятор сложнее Интернета (и почему).
Обычно чтобы языковые модели могли считать, им дают доступ к калькулятору и обучают его использовать по необходимости. Большие коммерческие модели в целом уже неплохо справляются, хотя всё ещё с переменным успехом, а вот с маленькими открытыми всё немного слож…
На работе я иногда пишу отчёты об исследованиях. В таких отчётах должно быть примерно следующее содержание:
- вот такая есть проблема;
- вот что люди про это пишут;
- но про вот это они не пишут, а оно важно, и вот почему;
- мы сделали вот это, оно закрывает пробел, который мы нашли;
- у нашей идеи есть такие ограничения, мы их вот так проработаем, если нам дадут…
11
Взяла на разбор сегодня статью про развитие ИИ и связанные с ним риски (не опять, а снова). Там собрано десять разных экспертных мнений (экспертное мнение — в первую очередь мнение, а не доказательство чего бы то ни было, помните?).
Итак, первый вопрос: “Какие риски, по-вашему, связаны с развитием ИИ?”
Ответы:
11