Владельцам гаджетов Apple угрожают «галлюцинации» искусственного интеллекта?

В понедельник, на Всемирной конференции разработчиков в Купертино (Калифорния) Apple представила свою новую систему Apple Intelligence с функцией искусственного интеллекта для iPhone, iPad и Mac. Уже в конце года пользователи Apple получат бесплатный доступ к модели OpenAI ChatGPT без необходимости создания учетной записи. ChatGPT будет интегрирован с новой улучшенной Siri от Apple, что позволит модели искусственного интеллекта просматривать интернет и быстро отвечать на вопросы пользователей.

А во вторник,11 июня, генеральный директор Apple Тим Кук дал большое интервью газете The Washington Post о том, как новый искусственный интеллект изменит ваш гаджет Apple. Как написал в комментариях один из читателей: «Шаблонные вопросы, шаблонные ответы. Типичное корпоративное интервью. С таким же успехом можно было бы взять интервью у ChatGPT».

Но было и кое-что интересное. Тим Кук не уверен, что Apple сможет полностью исключить галлюцинации ИИ. Он заявил, что «никогда не будет утверждать», что его новая система Apple Intelligence не будет генерировать ложную или вводящую в заблуждение информацию со 100-процентной уверенностью. «Я думаю, что мы сделали все, что могли, в том числе очень глубоко задумались о готовности технологии в тех областях, где мы ее используем», — сказал Тим Кук. «Поэтому я уверен, что это будет очень качественно. Но я бы сказал, честно говоря, что это не 100 процентов. Я бы никогда не сказал, что это на 100 процентов».

Галлюцинации искусственного интеллекта начали представлять серьезную проблему. Конечно, пока большинство ситуаций способны вызвать лишь улыбку, вроде недавнего случая, когда на вопрос о приготовлении пиццы ИИ Gemini от Google, рекомендовал: “Добавьте немного клея. Смешайте примерно 1/8 стакана клея Elmer's с соусом. Подойдет нетоксичный клей”. Кстати, эта «галлюцинация» до сих пор актуальна.

Но сегодня искусственный интеллект все чаще используются для принятия важных решений в таких областях, как финансы, здравоохранение и юриспруденция. Галлюцинации могут привести к неправильному выбору с серьезными последствиями. Вводящие в заблуждение результаты чреваты потенциальной юридической ответственностью и разработчиков, и пользователей.

Так, в июне 2023 года в США федеральный суд отклонил иск и назначил штраф в размере 5000 долларов адвокатам истца, использовавшим ChatGPT для исследования судебных документов, в которых упоминались несуществующие судебные заключения с фальшивыми цитатами.

В иске восьми ежедневных газет, принадлежащих Alden Global Capital, к Open AI и Microsoft, упомянут случай, когда на запрос о том, какой шезлонг для младенцев рекомендовала бы газета Chicago Tribune, ChatGPT ответил - шезлонг для новорожденных Boppy. Этот шезлонг был отозван из магазинов после того, как его признали одной из причин детской смертности, и газета его никогда не рекомендовала.

В иске газеты New York Times к Open AI и Microsoft также подчеркивается потенциальный ущерб бренду из-за так называемых “галлюцинаций искусственного интеллекта”. Отмечены несколько случаев, когда чат Microsoft Bing предоставлял неверную информацию, которая, как утверждалось, была взята из газеты, например результаты поиска по запросу: “15 самых полезных для сердца продуктов”, 12 из которых не были упомянуты в статье.

Генеральный директор OpenAI Сэм Альтман тоже не в восторге от того, на каком этапе развития находится GPT-4 на данный момент: «Я думаю, что это какой-то отстой по сравнению с тем, куда нам нужно попасть и куда, я верю, мы попадем». Альтман отметил, что GPT-4 был огромным достижением по сравнению с GPT-3. Но люди, которые использовали GPT-4, теперь насмехаются над его предшественником, который в то время казался революционным. “Послушайте, я не хочу преуменьшать достижения GPT-4, но и преувеличивать их тоже не хочу” - сказал Альтман.

За последние несколько месяцев в интернете появились сообщения о том, что новая модель GPT-5 будет намного лучше, а Сэм Альтман даже пообещал с "высокой степенью научной достоверности", что GPT-5 станет «умнее». Значит ли это, что искусственный интеллект перестанет «галлюцинировать» - скоро узнаем.