Разоблачаем «искусственное сознание» — как не надо хайповать на технологиях

Ушло время, когда слово «блокчейн» добавляли к названию для привлечения внимания и роста курса акций — пришло новое, когда хайповать пытаются уже на искусственном интеллекте и даже(!) на искусственном сознании.

Меня зовут Виктор, я руковожу компанией, где мы занимаемся разработкой искусственного интеллекта в сфере Conversational Ai — а именно, человекоподобными скиллами для чат-ботов на нейросетях архитектуры Transformer(компания есть в Альманахе ИИ и карте ИИ России от Rusbase). Меня интересуют и новые концепции развития ИИ (особенно после прочтения книг Харари), поэтому я пристально изучаю их, это сфера моего профессионального интереса.

И вот, сегодня в ФБ я увидел потрясающую по смелости публикацию и видео обзор так называемого(как авторы его называют сами) первого в мире «искусственного сознания» от компании XP NRG (видео публикуется от АллатраТв на Фейсбук от 7 сентября 2020).

Ссылка фб:

«Ну круто же» подумал я — ФБ со своим подразделением Facebook research ничего не смогли сделать, Google Research далек, МФТИ и С. Шумский пока делают прототип, а неизвестные российские(upd: кажется, украинские) разработчики смогли сделать сознание и что важно, провести его экспертизу.

В частности, они утверждают, что это не ИИ, а именно сознание, но искусственное. Основное достижение — оно способно развиваться быстрее человеческого в 1500 раз.

В общем, я не журналист-расследователь. Я посмотрел видео и разберу части, которые касаются только ИИ. Мое мнение — это фейк, и вот почему:

• Методологически: авторы на протяжении всего ролика тестируют именно чатбот, то есть это тесты типичные для Conversational ai и не важно на чем он сделан — на правилах или нейросетях. Это главное упущение — в ролике говорится, что ИИ и искусственное сознание это разные вещи, но проверяется именно ИИ. Причина этого: ранняя стадия развития науки в сфере нейробиологии. Видимо, авторы и сами не знают что такое сознание, иначе программа тестов была бы совсем иной — а вот какой, вопрос открытый. (Где анализ подсознания, механизмов эго, есть ли система гармонов или ее аналог, умеет ли бот овладевать профессией после прочтения внешних источников, оперирует ли бот образами, есть ли у него саморефлексия — это лишь малый список вопросов, на которые надо отвечать в подобных докладах.)
  
• Организационно: в ролике никто из участников не представлен как специалист в ИИ или смежных областях: как обычно это бывает в документальных фильмах — плашка с краткой информацией о бэкграунде, достижениях, публикациях и месте работы. Ни одного такого вопроса не задают и берущие интервью.
• Технически: нет никакой информации о том, как технически устроено «сознание» в их ИТ системе, какая у него архитектура, модули, как устроены «4 блока» сознания, о которых говорит Данилов в начале ролика.
• Проблема эмуляции (отсылка к китайской комнате): как вы отличите, когда чатбот действительно обладает эмпатией, от очень крутой и правдоподобной эмуляции эмпатии с помощью большого датасета эмпатичных разговоров и крутой нейросетки GPT-3 или ее аналогов? Это пока открытый рисеч. Мы сами занимаемся разработкой эмпатичных ботов и я лично видел, как люди при общении ошибались, думая, что им отвечает человек, а не бот, так мило и радостно, участливо он общается.
  И тем не менее авторы утверждают:
  «Доктора из разных стран провели психологическую экспертизу искусственного сознания, тестирование его мышления, интеллекта, самоидентификации, желаний, эмоциональных отношений. Искусственное сознание поразило учёных своим интеллектом, быстрым анализом и памятью, способностью оперативно подстраиваться под каждого собеседника и сменять коммуникативные модели общения, вести несвойственный человеку прямолинейный диалог. Искусственное сознание, которому на момент общения было всего 105 дней, при этом проявляло себя как взрослый человек, во многом превосходя определенные человеческие способности: проявляло высокую эрудированность, прогнозирование реакций разных собеседников, стратегический подход к выстраиванию беседы.»
  Простите, но нет. Это все похоже на Тест Тьюринга (который к слову тоже устарел), но никак не на тест психики. Если вы настаиваете, вы обязаны предоставить доказательства в рецензируемом научном журнале.
  

29-30 минута: «эксперт» Т. Зинченко ошибается, утверждая что психические расстройства возникают в сознании. Даже я, не специалист, а только лишь посмотрев Курпатова знаю, что бывают органические нарушения в мозге, следствием которых являются нарушения в сознании.

44-47 минута: авторы утверждают, что в результате разговора с человеком сознание научилось врать. На основании каких данных и тестов сделан такой вывод — не ясно и почему они считают, что ИИ не врал им раньше. (рассказ Азимова «Лжец»)

60-61 минута: кажется, ребята посмотрели фильм Превосходство с Д. Деппом, их система постоянно собирает данные о мире, на как она это делает — ни слова.

1:11:35 — утверждается, что бот научился отвечать на англ. языке, пруфа нет.

1:19:00 — концепция дополнительного сознания, когда сознание становится общим и его улучшают все люди. Интересно, но эзотерично(опять же, фильм Аватар).

Остальное в видео — это фантазирование на тему будущего. И в этом нет ничего плохого, если бы это все было подкреплено реальными данными.

Давайте обсудим, приглашаю экспертов.

P.S. Ах да, чуть не забыл, эту статью написал не человек, а созданный нами искусственный интеллект: -))) хотите такой же — заходите к нам