Разоблачаем «искусственное сознание» — как не надо хайповать на технологиях
Ушло время, когда слово «блокчейн» добавляли к названию для привлечения внимания и роста курса акций — пришло новое, когда хайповать пытаются уже на искусственном интеллекте и даже(!) на искусственном сознании.
Меня зовут Виктор, я руковожу компанией, где мы занимаемся разработкой искусственного интеллекта в сфере Conversational Ai — а именно, человекоподобными скиллами для чат-ботов на нейросетях архитектуры Transformer(компания есть в Альманахе ИИ и карте ИИ России от Rusbase). Меня интересуют и новые концепции развития ИИ (особенно после прочтения книг Харари), поэтому я пристально изучаю их, это сфера моего профессионального интереса.
И вот, сегодня в ФБ я увидел потрясающую по смелости публикацию и видео обзор так называемого(как авторы его называют сами) первого в мире «искусственного сознания» от компании XP NRG (видео публикуется от АллатраТв на Фейсбук от 7 сентября 2020).
Ссылка фб:
«Ну круто же» подумал я — ФБ со своим подразделением Facebook research ничего не смогли сделать, Google Research далек, МФТИ и С. Шумский пока делают прототип, а неизвестные российские(upd: кажется, украинские) разработчики смогли сделать сознание и что важно, провести его экспертизу.
В частности, они утверждают, что это не ИИ, а именно сознание, но искусственное. Основное достижение — оно способно развиваться быстрее человеческого в 1500 раз.
В общем, я не журналист-расследователь. Я посмотрел видео и разберу части, которые касаются только ИИ. Мое мнение — это фейк, и вот почему:
Почему это фейк
- Методологически: авторы на протяжении всего ролика тестируют именно чатбот, то есть это тесты типичные для Conversational ai и не важно на чем он сделан — на правилах или нейросетях. Это главное упущение — в ролике говорится, что ИИ и искусственное сознание это разные вещи, но проверяется именно ИИ. Причина этого: ранняя стадия развития науки в сфере нейробиологии. Видимо, авторы и сами не знают что такое сознание, иначе программа тестов была бы совсем иной — а вот какой, вопрос открытый. (Где анализ подсознания, механизмов эго, есть ли система гармонов или ее аналог, умеет ли бот овладевать профессией после прочтения внешних источников, оперирует ли бот образами, есть ли у него саморефлексия — это лишь малый список вопросов, на которые надо отвечать в подобных докладах.)
- Организационно: в ролике никто из участников не представлен как специалист в ИИ или смежных областях: как обычно это бывает в документальных фильмах — плашка с краткой информацией о бэкграунде, достижениях, публикациях и месте работы. Ни одного такого вопроса не задают и берущие интервью.
- Технически: нет никакой информации о том, как технически устроено «сознание» в их ИТ системе, какая у него архитектура, модули, как устроены «4 блока» сознания, о которых говорит Данилов в начале ролика.
- Проблема эмуляции (отсылка к китайской комнате): как вы отличите, когда чатбот действительно обладает эмпатией, от очень крутой и правдоподобной эмуляции эмпатии с помощью большого датасета эмпатичных разговоров и крутой нейросетки GPT-3 или ее аналогов? Это пока открытый рисеч. Мы сами занимаемся разработкой эмпатичных ботов и я лично видел, как люди при общении ошибались, думая, что им отвечает человек, а не бот, так мило и радостно, участливо он общается.
И тем не менее авторы утверждают:
«Доктора из разных стран провели психологическую экспертизу искусственного сознания, тестирование его мышления, интеллекта, самоидентификации, желаний, эмоциональных отношений. Искусственное сознание поразило учёных своим интеллектом, быстрым анализом и памятью, способностью оперативно подстраиваться под каждого собеседника и сменять коммуникативные модели общения, вести несвойственный человеку прямолинейный диалог. Искусственное сознание, которому на момент общения было всего 105 дней, при этом проявляло себя как взрослый человек, во многом превосходя определенные человеческие способности: проявляло высокую эрудированность, прогнозирование реакций разных собеседников, стратегический подход к выстраиванию беседы.»
Простите, но нет. Это все похоже на Тест Тьюринга (который к слову тоже устарел), но никак не на тест психики. Если вы настаиваете, вы обязаны предоставить доказательства в рецензируемом научном журнале.
Ляпы в докладе
29-30 минута: «эксперт» Т. Зинченко ошибается, утверждая что психические расстройства возникают в сознании. Даже я, не специалист, а только лишь посмотрев Курпатова знаю, что бывают органические нарушения в мозге, следствием которых являются нарушения в сознании.
44-47 минута: авторы утверждают, что в результате разговора с человеком сознание научилось врать. На основании каких данных и тестов сделан такой вывод — не ясно и почему они считают, что ИИ не врал им раньше. (рассказ Азимова «Лжец»)
60-61 минута: кажется, ребята посмотрели фильм Превосходство с Д. Деппом, их система постоянно собирает данные о мире, на как она это делает — ни слова.
1:11:35 — утверждается, что бот научился отвечать на англ. языке, пруфа нет.
1:19:00 — концепция дополнительного сознания, когда сознание становится общим и его улучшают все люди. Интересно, но эзотерично(опять же, фильм Аватар).
Остальное в видео — это фантазирование на тему будущего. И в этом нет ничего плохого, если бы это все было подкреплено реальными данными.
Мнение индустрии
Давайте обсудим, приглашаю экспертов.
P.S. Ах да, чуть не забыл, эту статью написал не человек, а созданный нами искусственный интеллект: -))) хотите такой же — заходите к нам
Комментарий недоступен
Я с вами соглашусь, что наверное всем компаниям хотелось бы достичь крутого уровня, и тут скрывать нечего, да, и мы хотим такое сделать и пока этого у нас нет.
Лейтмотив статьи что да, их оплошность, что презентация такого уровня достижения никак не соответствует качеству и детализированности представленного материала.
То есть можно сказать что все мои пункты и это требование лучше соблюдать стандарты публикаций научных исследований.
Товарищи, в общем я изучил что это такое. Как оказалось «Аллатра» это секта на тему «просветления», но уж слишком оторвана от реальности. Не знаю почему автор вообще решил потратить на это время, ведь с первых минут видно, что это какая-то «дичь». У них материалы про рептилоидов, Атлантиду и прочее.
не конструктивная критика, чем подпитаны ваши утверждения насчет секты? где докозательства? или это ваше личное мнение основанное на недоверии никому и ничему что выходит за рамки вашей повседневности. Ущербная логика не правда ли?
Для того, чтобы хотя бы ряды ИИ спецов были чистыми и не было проходимцев.
В других сферах такие проблемы есть, но в ИИ я такое встретил впервые
Что ты имеешь ввиду когда говоришь что изучил Аллатра?
"С первых минут видно, что это какая-то «дичь»"
5 минут потратил? 10, 15, час?
День? Сколько?
...да я наткнулся как-то на видео Аллатры в тик-токе и поначалу смотрел и так вдохновлялся, что ушам и глазам своим не верил, думал - ну вот же оно, наконец-то!
Не всё так плохо в нашем мире , что люди есть нормальные, которые говорят про совесть и духовное развитие и про то почему в стране нашей всё "так", да и в мире в целом,
Молодцы это всё правильно и поднимать такие темы нужно.
Но всё время закрадивалась какая-то странная мысль, вернее я всё время замечал странность в интонации ведущего и какую-то щенячую преданность женщины которая "так и заглядывала к ведущему в рот" - есть такое образное выражение)).А когда они стали говорить про рептилойдов и т.д. думаю, ну ладно пусть верят во что хотят, говорят-то о хороших вещах, ну а когда ведущий попросил женщину показать свои "настоящие" глаза, я чуть не заржал как уонь, думаю, ну "Ё" моё - так как же так можно, вот взяли и всё мнение о себе испортили, а я уж так рад был, что есть ещё хорошие люди)) , и тут меня осенило, да это ж секта ё моё))) и вспомнил лет 10 назад такое было )))))))))))))))))))))))))),
Жаль, а так хорошо всё начаналось))), ну а так да идеи хорошие есть!!!)))
В общем желаю им вставать на нормальное русло и всё тогда получиться!!!