Ошибки искусственного интеллекта угрожают результатам поиска Google

На ежегодной конференции разработчиков Google I/O, прошедшей в середине мая в Маунтин-Вью, Калифорния, компания представила обновленную поисковую систему на базе искусственного интеллекта, помощников искусственного интеллекта в наборе приложений Workspace для Gmail, Drive и Docs, инструменты для интеграции искусственного интеллекта в приложения разработчиков, и будущее видение искусственного интеллекта под кодовым названием Project Astra. Специальная модель поиска Gemini, объединяющая информацию в реальном времени, рейтинг Google, длинный контекст и мультимодальные функции, будет использоваться для планирования поездок, мероприятий и т.п.

Google изо всех сил старается не отставать от своих более успешных конкурентов OpenAI и Perplexity, и добавляет больше искусственного интеллекта во все приложения. Но похоже это стремление привело к множеству проблем, главная из которых — галлюцинации искусственного интеллекта.

Социальные сети переполнены примерами нового поиска Google, выдающего странные результаты, вроде Барак Обама был первым президентом-мусульманином в Америке, предложения намазать пиццу клеем или съедать маленький камень каждый день. При этом Google вручную удаляет «странные результаты» поисковых запросов после того, как информация о них появляется в соцсетях. Во всяком случае пытается это делать. После проверки портала The Verge выяснилось, что предложения намазать пиццу клеем до сих пор актуально.

По мнению Лиз Рейд (Liz Reid), назначенной в марте этого года вице-президентом и главой поискового подразделения Google, ошибки будут возникать по мере того, как искусственный интеллект все больше интегрируется в интернет-поиск, но компания должна работать над обновлениями и, с помощью пользователей, находить и устранять проблемы. “Важно, чтобы мы не ограничивали возможности разработки только потому, что иногда могут возникать проблемы, но, как только мы их обнаруживаем, мы их решаем” - заявила Лиз Рейд прошлой неделе: “Я не думаю, что мы должны делать вывод, что не должны рисковать”.

Google продолжает утверждать, что поиск с поддержкой ИИ в основном предоставляет пользователям «высококачественную информацию». Как написала представитель Google Меган Фарнсворт в электронном письме порталу The Verge: «Многие примеры, которые мы видели, были необычными запросами, но мы также видели запросы, которые были подделаны или результаты которых мы не смогли повторить». Фарнсворт также подтвердила что компания «принимает срочные меры» по удалению результатов ИИ-поиска по определенным запросам.

Это не первый неудачный опыт Google по выпуску новых приложений с функцией ИИ. В феврале этого года компания представила Gemini - чат-бота, который мог генерировать изображения и выступать в качестве цифрового помощника с голосовым управлением. Но уже первые пользователи выяснили, что Gemini, в большинстве случаев, отказывался генерировать изображения «белых» людей и рисовал изображения исторических личностей, совсем не похожие на оригинал. Из-за ошибок искусственного интеллекта Google пришлось отключить приложение «для дальнейшего тестирования».

Галлюцинации искусственного интеллекта - проблема не только Google. Лидеры отрасли - OpenAI, Meta и Perplexity также сталкиваются с ней, но у Google ошибки ИИ носят массовый характер.

Неправильные ответы могут подорвать доверие к поисковой системе, к которой более двух миллиардов человек обращаются за правдивой информацией. И когда ответ на экстренный вопрос содержит малозаметную ошибку - это становится проблемой. Некоторые эксперты по искусственному интеллекту уже давно предостерегают Google от выдачи в результатах поиска ответов, сгенерированных искусственным интеллектом. “Чем больше вы испытываете стресс или торопитесь, тем больше вероятность того, что вы просто примете первый попавшийся ответ”, - говорит Эмили М. Бендер, профессор лингвистики и директор лаборатории компьютерной лингвистики Вашингтонского университета. - "И в некоторых случаях это могут быть критические для жизни ситуации”.

Похоже, что вскоре с аналогичными проблемами столкнется и компания Apple. Она представила свою новую систему Apple Intelligence с функцией искусственного интеллекта для iPhone, iPad и Mac 10 июня на Всемирной конференции разработчиков в Купертино (Калифорния). Генеральный директор Apple Тим Кук в интервью газете The Washington Post высказал опасения, что Apple не сможет полностью исключить галлюцинации ИИ.

Гэри Маркус, эксперт по искусственному интеллекту и почетный профессор нейронаук в Нью-Йоркском университете, рассказал, что многие компании, занимающиеся искусственным интеллектом, «продают мечты» о том, что точность этой технологии увеличится с 80 до 100 процентов. По его словам, достичь начальных 80 процентов относительно просто, поскольку для этого необходимо аппроксимировать большой объем человеческих данных, но последние 20 процентов представляют собой чрезвычайно сложную задачу. На самом деле, эти 20 процентов могут быть самыми трудными.