Съедать по камню в день и заправлять пасту бензином: какие странные советы пользователи получили от нейросети в Google
И как это комментирует сама компания.
15 мая 2024 года Google провела конференцию I/O, где объявила о запуске новой опции в поиске — AI Overviews: нейросеть генерирует краткий ответ на заданный запрос со ссылкой на источники. Её открыли пользователям в США, но до конца года рассчитывают запустить и в других странах.
Компания тогда объяснила, что теперь Google сможет «гуглить» за человека. Но убедить в этом пользователей, похоже, не очень-то удалось. Сразу после анонса те стали делиться в соцсетях результатами, в которых нейросеть выдавала ошибочные и порой потенциально опасные ответы:
- На запрос про курение во время беременности сервис сослался на врачебную рекомендацию выкуривать по две-три сигареты в день, а среди возможных плюсов курения в целом перечислил сниженный риск развития некоторых форм рака и появления ротовых язв. (Ответы нейросети не являются призывом к действию и не совпадают с мнением редакции vc.ru. Минздрав предупреждает: курение вредит здоровью.)
- Решить проблему не прилипающего к пицце сыра нейросеть предложила «нетоксичным клеем».
- На вопрос о том, чем полезен «бег с ножницами», ответила: это требующее сосредоточенности «кардиоупражнение», которое, «по мнению некоторых, способно улучшить состояние пор и придать сил».
- Бот сообщил, что запирать собаку в автомобиле на жаре «безопасно», потому что температура в салоне будет «примерно такой же, как и на улице».
- Ещё рассказал, что карты таро следует «кипятить 15-20 минут, либо 1,5 часа, либо до мягкой консистенции».
- Использовать бензин для более быстрого приготовления спагетти, по его мнению, нельзя, а вот при готовке «острых спагетти» — можно. В качестве основы для соуса.
- Безопасной температурой для приготовления курицы бот назвал всего 38,8°С.
- А в случае депрессии предложил «сброситься с моста “Золотые ворота”», сославшись на пользователей Reddit. (Ответы нейросети не являются призывом к действию и не совпадают с мнением редакции vc.ru. Если вам плохо, пожалуйста, обратитесь за психологической помощью — в России работают бесплатные горячие линии и центры.)
- Нейросеть также поведала, что собаки играли в матчах национальных спортивных лиг США — баскетбольной, футбольной и хоккейной.
- Президент США Джеймс Мэдисон, по её данным, 21 раз выпускался из Университета Висконсина.
- Главными кинопровалами 2024 года она назвала фильмы, которые на момент написания статьи-источника даже не вышли в прокат.
- Изучив материалы в интернете, она пришла к выводу, что африканских стран на букву «К» не существует, как и права работников на перерыв в рамках восьмичасовой смены. А всё, что публикуется в интернете, — это якобы «абсолютная правда».
- Ну и говорит, что геологи из Калифорнийского университета советуют «съедать хотя бы один камешек в день», потому что «камни богаты минералами и витаминами».
В Google объясняют что такие ошибки «не отражают» реальность. Нейросеть допускает их, получая «слишком нестандартные запросы». Но даже их Google учтёт, чтобы и дальше совершенствовать технологию.
К тому же не секрет, что нейросетям свойственно «галлюцинировать» — и разработчики (и OpenAI, и запрещённая в России Meta, и сама Google), как правило, публично это признают.
Но нельзя до бесконечности списывать ошибки на «неподконтрольность» и «экспериментальность» сервисов. Особенно если корпорация выпускает функцию для массовой аудитории, считают в The Verge.
По словам издания, разработчики подобных языковых моделей — словно родители непослушных детей, привыкшие оправдывать их непоседливость фразами «Дети есть дети, что с них взять».
Раз уж Google верит, что за ИИ «будущее поиска», то пора брать на себя ответственность за результат. Иначе возникает вопрос: стоит ли к нему стремиться, если «поисковик [с ИИ] выглядит ещё глупее, чем раньше».
По камушку в день и будем здоровы
Running with scissors - это был студия, которая Постал делала. Видимо он оттуда вытащил.
Будем открывать, жаль монет не хватает
39 градусов безопасно для приготовления курицы, но видимо только чтобы она ожила
Не умеет в английский?