Думаем об ИИ и людях
Пока все говорят о Claude, DeepSeek и ChatGPT, в лабораториях зреют новые направления исследований. Попробуем сегодня проникнуть за пределы популярного и привычного — туда, где пока нет готовых продуктов, но есть научный интерес и много хороших мозгов.
Я не буду делать прогнозов, но теоретически какая-нибудь из этих областей может выстрелить…
Есть глобально два способа сделать модель лучше:
Если и ждать нам прорыва в ИИ, то со стороны робототехники. Я бы смотрела в сторону эволюционных алгоритмов, моделей мира и роботов.
В соцсетях и новостях обычно говорят про что-нибудь громкое и временное. Помните moltbook — соцсеть для ИИ-агентов? В начале года только и разговоров было, что о ней. Очень много кто писал про сингулярность и пр…
Нужно беречь и распространять знание, а то с развитием ИИ мы его потеряем. К этому пришли авторы статьи “AI, Human Cognition and Knowledge Collapse”, которая вышла в феврале этого года.
Они постр…
Генеративный ИИ влияет на рынок труда. Кто-то мечтает сотрудников заменить ИИ-агентами, кто-то боится стать тем самым сотрудником, но что происходит на самом деле? Сегодня посмотрим пару работ на эту тему и подумаем, что нам со всем этим делать теперь.
Вся лента в соцсетях забита раздражающе однообразными текстами, которые либо написаны ИИ, либо отредактированы ИИ.
Строго говоря, нет ничего плохого, если автор сам придумал идею, сгенерировал текст и проверил потом. Но в этих текстах подчас стёрто всё личное и человеческое, и это проблема большая, чем может показаться.
Мы уже говорили как-то, что для языковых моделей калькулятор сложнее Интернета (и почему).
Обычно чтобы языковые модели могли считать, им дают доступ к калькулятору и обучают его использовать по нео…
На работе я иногда пишу отчёты об исследованиях. В таких отчётах должно быть примерно следующее содержание:
Взяла на разбор сегодня статью про развитие ИИ и связанные с ним риски (не опять, а снова). Там собрано десять разных экспертных мнений (экспертное мнение — в первую очередь мнение, а не доказательство чего бы то ни было, помните?).
Итак, первый вопрос: “Какие риски, по-вашему, связаны с развитием ИИ?”
Ответы:
Это третья часть большого разбора большой работы “Creating Friendly AI 1.0” (“Создаём дружелюбный ИИ 1.0”). Вторая часть здесь. Если вы её пропустили, заходите почитать. Вкратце, там про то, что мы думаем об ИИ, способном ставить цели, но сами не то чтобы очень способны ставить цели. Или описать, что значит “ставить цели”.
Обсудим сегодня одну любопытную работу: там взяли данные по стартапам, взяли случайный лес и обучили его предсказывать для стартапов успешность. И он справился лучше нейросетей.
Там разные нюансы, я обо всех написала дальше. Но работа интересная, и не в последнюю очередь именно тем, что авторы не пихают большие и сложные модели куда не надо,…
Аж в 2024 году я написала пост про нейроморфные вычисления, и он мне до сих пор нравится. И сама тема нейроморфных вычислений тоже нравится, и сегодня мы про них опять поговорим.
Нейроморфные вычисл…