Думаем об ИИ и людях
Так, мы что, обсуждаем тут ИИ, но так и не поговорили, как и почему в Интернете распространяется ложная информация? Вот это промах, конечно. Ладно, сейчас поправим.
На русском языке очень доступно и остроумно про слухи, сплетни, анекдоты и прочие побочки жизни в обществе рассказывает и пишет социальный антрополог Александра Архипова*. Поэтому…
Больше всего этических вопросов связано с применением ИИ в образовании и медицине (и военной промышленности, но её сегодня трогать не будем). А что насчёт ИИ в медицинском образовании? Нашла как раз про это статью, свеженькую, прошлого года: «Artificial intelligence in medical education: Typologies and ethical approaches» («Искусственный интеллект…
Иногда я хулиганю и придумываю кликбейтные заголовки. Сегодня как раз такой день.
Итак, про тест Тьюринга все слышали, а саму статью, в которой он предлагается, все читали? Если нет, давайте исправлять: мы здесь за то, чтобы читать первоисточники.
Сегодня делюсь с вами хорошей обзорной статьёй «LLMs Working in Harmony: A Survey on the Technological Aspects of Building Effective LLM-Based Multi Agent Systems» («Гармоничная работа больших языковых моделей: обзор технологических аспектов построения эффективных мультиагентных систем на основе больших языковых моделей»). Далее я буду говорить «мо…
Сегодня у меня пост в формате эссе. Это значит, что я не пользуюсь дополнительными источниками, не привожу ссылки и все свои аргументы беру из памяти. Я вычитываю эссе после публикации, но только на предмет выявления грамматических или стилистических ошибок и не проверяю факты.
Стандартный алгоритм работы с языковыми моделями такой: сначала обучаем на очень большом наборе текстов, а потом адаптируем под новые задачи, используя небольшие наборы примеров. Эти небольшие наборы примеров работают действительно хорошо, но почему это так, мы ещё не обсуждали. Предлагаю исправить сие досадное недоразумение и совместно прочитать с…
Это кликбейтный заголовок, простите. Мы здесь про научную публикацию будем разговаривать.
Накопала статью аж 2016 года, которая называется «Social Learning and Distributed Hypothesis Testing» («Социальное обучение и распределённое тестирование гипотез»). На первый взгляд, это что-то из социологии, но на деле работа существенно шире – и это очень интересно. Пошли разбираться.
Теория охоты на информацию (она же «информационно-продовольственная теория», information foraging theory) – это подход к изучению того, как стратегии поиска, сбора и потребления информации адаптируются к окружающей среде. Она была сформулирована в 1990-х годах исследователями Питером Пиролли (Peter Pirolli) и Стюартом Кардом (Stuart Card).
Продолжим разговор о калибровке ИИ в соответствии с человеческими ценностями: что это значит вообще и какой ИИ можно считать «правильным» или «соответствующим человеческим ценностям»? О каких ценностях идёт речь, если они разные в разных странах и в разные эпохи? Да и вообще в одной стране, в один день, в одном доме и на одном этаже могут спокойно…