Думаем об ИИ и людях
Сегодня в меню статья про «AGI». Опять. Я отказываюсь воспринимать этот термин всерьёз: в нём больше маркетинга, чем смысла*.
Но эта статья предлагает совокупный и весьма глубокий анализ ИИ, нейробиологии, психологии и ряда других областей, на пересечении которых случаются интересные вещи. Авторы сделали очень качественный обзор, за что испол…
Давайте поговорим о «личностях» у больших языковых моделей. На то есть весомая причина: в начале этого года сборная команда из MATS и Anthropic Fellows выпустила статью «The Assistant Axis: Situating and Stabilizing the Default Persona of Language Models» («Ось Ассистента: выявление и стабилизация “личности по умолчанию” у языковых моделей»).
Один из моих любимых текстов – пост про нейроморфные вычисления. Это невероятная совершенно область про то, как бы нам всю красоту и мощь собственных мозгов описать математически и сделать красивые и мощные компьютеры.
Попалась мне ещё одна статья про то, как разные сложные концепции представлены внутри больших языковых моделей. Там интересный подход, хотя и не без шероховатостей, поэтому давайте почитаем.
Раньше если б вы меня спросили: «Ты кто?» – я бы ответила что-то вроде: «Специалист по анализу данных,» – или: «Разработчик программного обеспечения.» Сейчас я так себя не могу назвать.
То есть, формально, в моей жизни ничего не поменялось: я всё ещё работаю в той же области, и даже в той же компании, но я уже некоторое время не пишу руками к…
У меня не получается написать складное вступление к этому посту, поэтому вот краткая выжимка моих мыслей:
Когда языковые модели оценивают на безопасность и надёжность, есть проблема: большинство наборов данных для оценки составлены на английском языке. На других тоже есть, но не так много: недостаточно, чтобы всё как следует проверить.
Авторы статьи «One ruler to measure them all: Benchmarking multilingual long-context language models» («Одна лин…
Интуитивно кажется, что да: мы тренируем ИИ не отвечать на нехорошие запросы нехороших людей – ИИ становится безопаснее. Но на деле всё несколько более сложно и запутанно. Давайте об этом поговорим.
Если конкретнее, мы будем говорить не об ИИ вообще, а о больших языковых моделях. Ещё конкретнее, мы разберём статью «LLMs Encode Harmfulness and…
Цепочки рассуждений – полезный инструмент в работе с языковыми моделями. Они позволяют сделать две вещи:
У себя на LinkedIn я выложила пост про то, что большинство современных работ, которые исследуют взаимодействие между ИИ-агентами, пока не слишком надёжные. Я переведу этот текст на русский язык попозже, но, если коротко, вот в чём дело:
ИИ творится по образу и подобию человеческому.
Во всяком случае, такой был план. Как оно там дальше развивалось, вопрос отдельный, однако исследования мозга человека (и других животных) и развитие ИИ связаны очень тесно. Сегодня посмотрим на эту взаимосвязь, опираясь на хорошую статью 2017 года, которая называется «Neuroscience-Inspired Artif…
Меня не отпускает мысль о том, что серия постов от разных людей в духе: «Всё пропало, потому что ИИ (вставьте новость),» – связана с весенним обострением. Сейчас как раз сезон. То есть, таких постов всегда много, но сейчас прям всплеск, как мне кажется.