Думаем об ИИ и людях
Разработчики пытаются делать так, чтобы языковые модели вели себя как люди. Но люди-то все разные, так под кого они подстраиваются?
Мы тут время от времени поднимаем эту тему и уже говорили, например, о том, что «среднестатистический человек» в тренировочных данных для ИИ – это человек какой-нибудь богатой западной демократии, просто потому ч…
Помните Пиролли, Карда и их теорию охоты на информацию? Если нет, то можете освежить свою память, прочитав вот этот пост как раз про них.
А сегодня мы к этим гражданам вернёмся в свете очень интересной работы – «The Sensemaking Process and Le…
Этот год стал для меня годом людей. И, несмотря на все сложности, я действительно очень рада тому, как он прошёл. Он потребовал от меня очень много работы: и работы в смысле «сижу который час за компьютером, смотрю в код, не помню, когда в последний раз спала», и работы над собой в смысле «а зачем м…
В преддверии нового года хочется чего-нибудь весёлого и яркого, например, галлюцинаций. У языковых моделей. Вы же сразу про языковые модели подумали?
Это очень животрепещущая тема, и даже беглый поиск работ за последние полгода выдаёт такой объём литературы, который в один пост точно не впихнуть. Вообще никак, я пыталась, честно. Поэтому сего…
Мы хотим (и вы тоже), чтобы ИИ-агенты были безопасны для человека. Что это значит? Это значит, у них должны быть специальные ограничители, которые не дают совершать опасных действий. Более того, такие ограничители должны быть неизменны. В том числе, ИИ-агент не должен менять их в будущем, даже если у него будет такая техническая возможность.
Сейчас будет внезапный пост не про ИИ, но про людей, поиск работы и полезный инструмент для этого дела.
Сразу оговорюсь: мой опыт поиска работы… специфический. Я настолько нахожу её везде, что подумываю уже открыть своё рекрутинговое агентство: может, я и другим людям смогу помочь найти работу. Пока до этого не дошло, я нахожу работу через
Вернёмся к теме дезинформации в Интернете, потому что не всё про неё сказано. Ещё есть как минимум одна статья, которую вам надо увидеть – «Cognitive attraction and online misinformation» («Когнитивная привлекательность и ложная информация в сети»).
У вас как отношения с математикой? У меня сложные: люблю её, но не взаимно. Приходится немало тратить сил на разбор теорем и перепроверку собственных экспериментов. Но, может, ИИ сможет нам помочь?
Так, мы что, обсуждаем тут ИИ, но так и не поговорили, как и почему в Интернете распространяется ложная информация? Вот это промах, конечно. Ладно, сейчас поправим.
На русском языке очень доступно и остроумно про слухи, сплетни, анекдоты и прочие побочки жизни в обществе рассказывает и пишет социальный антрополог Александра Архипова*. Поэтому…
Больше всего этических вопросов связано с применением ИИ в образовании и медицине (и военной промышленности, но её сегодня трогать не будем). А что насчёт ИИ в медицинском образовании? Нашла как раз про это статью, свеженькую, прошлого года: «Artificial intelligence in medical education: Typologies and ethical approaches» («Искусственный интеллект…
Иногда я хулиганю и придумываю кликбейтные заголовки. Сегодня как раз такой день.
Итак, про тест Тьюринга все слышали, а саму статью, в которой он предлагается, все читали? Если нет, давайте исправлять: мы здесь за то, чтобы читать первоисточники.