Думаем об ИИ и людях
Вся лента в соцсетях забита раздражающе однообразными текстами, которые либо написаны ИИ, либо отредактированы ИИ.
Строго говоря, нет ничего плохого, если автор сам придумал идею, сгенерировал текст и проверил потом. Но в этих текстах подчас стёрто всё личное и человеческое, и это проблема большая, чем может показаться.
Мы уже говорили как-то, что для языковых моделей калькулятор сложнее Интернета (и почему).
Обычно чтобы языковые модели могли считать, им дают доступ к калькулятору и обучают его использовать по нео…
На работе я иногда пишу отчёты об исследованиях. В таких отчётах должно быть примерно следующее содержание:
Взяла на разбор сегодня статью про развитие ИИ и связанные с ним риски (не опять, а снова). Там собрано десять разных экспертных мнений (экспертное мнение — в первую очередь мнение, а не доказательство чего бы то ни было, помните?).
Итак, первый вопрос: “Какие риски, по-вашему, связаны с развитием ИИ?”
Это третья часть большого разбора большой работы “Creating Friendly AI 1.0” (“Создаём дружелюбный ИИ 1.0”). Вторая часть здесь. Если вы её пропустили, заходите почитать. Вкратце, там про то, что мы думаем об ИИ, способном ставить цели, но сами не то чтобы очень способны ставить цели. Или описать, что значит “ставить цели”.
Обсудим сегодня одну любопытную работу: там взяли данные по стартапам, взяли случайный лес и обучили его предсказывать для стартапов успешность. И он справился лучше нейросетей.
Там разные нюансы, я обо всех написала дальше. Но работа интересная, и не в последнюю очередь именно тем, что авторы не пихают большие и сложные модели куда не надо,…
Аж в 2024 году я написала пост про нейроморфные вычисления, и он мне до сих пор нравится. И сама тема нейроморфных вычислений тоже нравится, и сегодня мы про них опять поговорим.
Нейроморфные вычисл…
Мы привыкли говорить, что кто-то в чём-то «одарён». И как-то привыкли верить, что некоторым людям некоторые вещи даются легко. Естественным образом. Возможно, это совершенно безобидное убеждение.
Но есть и обратная сторона: иногда мы верим, что определённые вещи нам «не даны». «Да мне медведь на ухо наступил» или «Математика не мой конёк». Мы…
Я сейчас перед сном читаю книгу Станисласа Деана “Как мы учимся”. Хорошая книга.
Там есть раздел про внимание, и в нём автор рассказывает, почему мы не можем эффективно выполнять несколько дел одновременно: мозг физически может удерживать внимание только на одной задаче за раз. Если вы делаете два дела параллельно, он скачет между ними, и вам…
Есть такая мрачная шутка: “Жизнь в России — игра на повышенном уровне сложности”. У нас тут регулярно какой-то местный Армагеддон, а в довесок к нему все глобальные экономические пертурбации.
Взять хотя бы рынок труда.
Некоторое время назад моя лента в соцсетях наполнилась постами людей, которые перешли с ChatGPT на Claude и остались довольны.
Я довольно консервативна в том, что касается новых инструментов: работает — НЕ ТРОГАЙ. Но в конце концов даже во мне проснулось любопытство, я попробовала Claude AI, и вот описание моего опыта (спойлер: мне понравилос…
Есть такая организация — Machine Intelligence Research Institute (MIRI, Институт исследования машинного интеллекта). У этой организации есть много любопытных работ, в основном про ИИ и его влияние на человечество.
Влияние их достаточно велико, их много кто цитирует. Я тоже цитировала и считаю их работу важной, хотя во многом с ними не согласн…