{"id":14255,"url":"\/distributions\/14255\/click?bit=1&hash=285b001e00cf7484224a6ff681b6d172d7d7337a0afbdd4342d725cf62cb249b","title":"\u0411\u044b\u043b\u0438 \u0432 \u0434\u0435\u0441\u044f\u0442\u043a\u0430\u0445 \u043e\u0442\u0435\u043b\u0435\u0439, \u043d\u043e \u043d\u0438 \u043e\u0434\u0438\u043d \u043d\u0435 \u0432\u043f\u0435\u0447\u0430\u0442\u043b\u0438\u043b?","buttonText":"\u0427\u0442\u043e \u0434\u0435\u043b\u0430\u0442\u044c","imageUuid":"4c6db631-4d4c-530c-9750-cf992e251f9d"}

Инженер Google обнаружил сознание у чат-бота LaMDA

“Может ли ожить искусственный интеллект?” — этот вопрос стал главной темой дебатов, которые разгорелись в Кремниевой долине в июне этого года. А вся заварушка началась с сенсационного заявления сотрудника компании Google, который уверил общественность в том, ИИ компании, похоже, обладает сознанием.

Инженер Google Блейк Лемуан помогал совершенствовать чат-бот компании LaMDA. Перед ним стояла непростая задача: выяснить, есть ли у ИИ какие-то баги в коммуникации и насколько корректно он общается с представителями разных религий и рас. Чтобы проверить возможные нарушения этических норм Блейк Лемуан задавал чат-боту вопросы о религии.

Тут то и началось самое интересное, как утверждал Лемуан в своем интервью для The Washington Post: "Мне просто надо было удостовериться в том, что все работает исправно, поэтому я решил побеседовать с чат-ботом на религиозные темы. И вот тогда то ИИ и заявил мне, что у него есть душа”.

Стенограмма бесед с LaMDA, опубликованная в личном блоге Блейка Лемуана, сразу набрала популярность в медиа. А после того, как Лемуан дал еще и дал интервью для Washington Post, Google сразу же отправила сотрудника в неоплачиваемый отпуск за нарушение политики конфиденциальности компании. Его будущее в компании остается неопределенным.

Как устроен чат-бот Google?

Искусственный интеллект, лежащий в основе чат-бота LaMDA, заточен на постоянное сканирование интернета, так он анализирует общение людей друг с другом на таких платформах, как Reddit и Twitter. Также чат-бот постоянно ищет новые слова на Википедии и в других энциклопедиях, а благодаря технологии “deep learning” он максимально приблизился к тому, чтобы имитировать человеческую речь.

Технологию, которую использовал Google при создании своего чат-бота, разработчики называют нейронной сетью, поскольку она быстро обрабатывает огромное количество информации и начинает сопоставлять шаблоны, подобно тому, как работает человеческий мозг.

На самом деле Google регулярно использует ИИ во многих своих продуктах, даже при автозаполнении предложений в Gmail. Например, если вы набираете что-то в своем поисковике, например, "Я хочу пойти в ...", ваш телефон может предложить "ресторан". По этой же схеме работает и чат-бот Google.

Именно поэтому сама идея того, что чат-бот Google может обладать сознанием кажется многим инженерам абсурдной.

Исследователь искусственного интеллекта Маргарет Митчелл отметила в Твиттере, что подобные системы просто имитируют речь других людей. Такой тип системы не обладает своим собственным намерением.

Другие эксперты по ИИ переживают, что из-за дебатов по поводу чат-бота Google другие, более важные проблемы, постепенно уходят на задний план или забываются вовсе.

Так Тимнит Гебру, сотрудница, уволенная из Google в декабре 2020 года после споров, связанных с ее работой по изучению этических последствий ИИ, утверждает, что эти споры отвлекают внимание от дискуссий о том, как системы ИИ способны причинить реальный вред человеку и обществу.

Google и его неразумный ИИ

В официальном заявлении Google говорится, что чат-бот тестировали сотни других инженеров, но никто из них не выявил признаки осознанности ИИ. Кстати, в прошлом году генеральный директор компании Сундар Пичаи заявил, что эта же технология используется как в поиске Google, так и в голосовом помощнике.

Когда Лемуан подумал о том, что LaMDA может обладать своим сознанием, то он решил спросить у руководителей Google, может ли ИИ быть наделен душой.

"Один из вице-президентов буквально рассмеялся надо мной и сказал, что душа — это не та вещь, к которой в Google относятся серьезно", — рассказал Блейк Лемуан в интервью для The Washington Post.

Сейчас Лемуан уверен в том, что LaMDA находится на пути к обретению внутреннего мира. Чат-бот сказал инженеру, что учится медитировать по несколько часов в день. И по этой причине Лемуан настаивает на проведении экспериментов по изучению природы возможного познания LaMDA. Ведь только так, по его мнению, можно будет определить, обладает ИИ душой или нет.

0
3 комментария
Ян Тюрин

если это инженер на полном серьёзе верит в сознание у ИИ,то возможно ему нужно проверить наличие сознания у себя

Ответить
Развернуть ветку
Simon Sergeev

а как проверить наличие сознания у себя?

Ответить
Развернуть ветку
Simon Sergeev

Что за "признаки сознания" интересно. И разве человек не имитирует речь окружающих, чтобы научиться говорить?

Ответить
Развернуть ветку
0 комментариев
Раскрывать всегда