Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции

Я знаю людей, которые тоже имитируют диалог)

и получают за это +15. Вон на HH такие есть вакансии.

И у них тоже есть признаки интеллекта

Люди - тоже просто куски мяса с кучей нейронов. Получили что-то на вход, выдали какой-то сигнал.

Тут уж как посмотреть.

на физическом уровне - да, но сознание не принадлежит физическому уровню, его нельзя померять или определить в пространстве-времени, поэтому технически в сумме - нет

Сознание - это опыт, накопленный этими нейронами. Большее пока не доказано, на сколько знаю.
Если считаете, что у вас есть душа, не связанная с физическим телом...я не стану спорить, но и доказать вы это не сможете.

"это опыт" - это тоже не доказано) Ведь опыт нельзя померять или оценить. Это штука, которая не проходит критерий научности. Перепрочитайте моё предыдущее сообщение, только подставьте вместо слова "сознание" слово "опыт", если вам так угодно, оно всё равно будет правдивым.

с точки зрения науки, если будет два идентичных человека (с количественными и качественными параметрами - одинаковым количеством одинаковых нейронов), которые будут расти в идентичных условиях - будут одинаковыми. Т.е. наука рассматривает человека как мешок костей и мяса - там нет места сознанию (или чему-то похожему) в принципе

Сейчас бы рассуждать про сознание, когда наука его еще не изучила.
Опыт - это как последовательность 0 и 1 на жестком диске, поверх которого нейронка для принятия решений.

наука и не будет изучать сознание. Его нельзя измерить или определить в пространстве с помощью научных методов.

Просто существо не может познать замысел создателя и обладать всей полнотой его возможностей. По этому человек в текущем состоянии и не может этого сделать (как не может наблюдатель, находясь внутри пузыря попасть на внешнюю сторону)

Почему не может. Ещё как может и познать, и обладать всеми возможностями, и превзойти. Вы явно не читали мифы.

Чьи, простите?
Ни в одних мифах без позволения создателя ни один смертный не мог сам овладеть навыками божества. И уж тем более превзойти его. Какие то воплощкния божества мог, но с оговорками. А вот понять замысел. Тут вообще глухо.
Почитайте мифы древних индейцев, например. Там бытовуха, культы. Не более. Замысла не видно. Греков возьмите или китайцев.
Нигде не найдёте такого.

Почти во всех мифах эти замыслы абсолютно ясны, более того - вполне человечны и банальны. Почитайте побольше разных мифов разных народов. А затем, напоследок, «Князя света» Желязны. А потом ещё «Краткую историю человечества».

Я рад за вашу способность.

"превзойти" - )))))) После появления на свет в человеческом теле мы даже не можем, не то что себя прокормить, даже голову держать не можем. Превзойти.... Люди в подавляющей массе не могут справиться со своими элементарными пороками, а вы хотите превзойти.

Вы не поняли сути. Одну сказку всегда надо сравнивать с другой сказкой. Не надо сравнивать сказку с реальностью - это странно.

давайте с терминами определятся. что есть реальность для вас? Вы имеете в виду материальный мир, который доступен для чувств человека и умственные спекуляции на основе этого? Это очень ограниченное видение. Советую расширить его прочтением небольшой книжки https://libking.ru/books/sci-/science/121709-suhotra-svami-ten-i-realnost.html

нейроны - это электро-ХИМИЧЕСКИЙ процесс. Если ионный сигнал компьютер может смоделировать, то химический процесс в синапсе с выбросом сотен разных молекул, которые ведут себя нелинейно, не удалось пока еще смоделировать никому. Даже в одном синапсе. А в одной нервной клетке этих синапсов 3000-5000 шт . И это....нужно умножить на 90 миллиардов нейронов.

Ты отдаешь себе отсчет что мыслишь наизнанку? таких называют люцифером, раковой опухолью, антилюбовью, антихристом, и таких могут приговорить к расстрелу.

Точно так же можно описать процессы, происходящие в мозгу человека. У каждого нейрона на входе несколько дендритов, на выходе — аксон. Мы точно знаем, что один нейрон сознанием не обладает, а мозг из 86 млрд нейронов его имеет. Когда именно появляется сознание, мы так и не установили.

хз может нейроны как муравьи. по отдельности ничего не представлят, а вот 86 млрд будет огромный муравейник цивилизация, где каждый чем то занят. можно сказать единый организм.

где главный правитель это я (и Путиназаднет)

Кстати отличная аналогия. А весь муравейник верхнеуровнево управляется феромонами ;)

ствол мозга энергию дал, чтоб ты проснулся и шел добывать еду и прочее. ктож виноват, что вместо этого мы сидим на форуме. а про сознание как самосознание уже все написано. человек отделился от племени, а для выживания оно необходимо. вот мозг и создал племя в голове, с которым ты выясняешь отношения. "Я" тоже побочный продукт деятельности мозга. Короче - ты даже подумать ничего не можешь "сам", все идет от мозга, а потом наверх к "сознанию" (ведь "ты" же не мог сейчас подумать что-то другое - ты подумал, что подумал твой мозг, точнее он тебе лишь информацию передал, перед фактом поставил - сейчас ты думаешь вот это, и ты такой - а вот "я" тут подумал и т.д.)

Поток сознания, ей богу ))) Я и мой мозг - диалоги сумашедшего на лужайке. Вы это мозг. Из мозга вы все это кино смотрите и весь интерактив происходит там же. Больше ничего нет. Нет никакого я внутри мозга. Это устаревшая концепция.

еще скажите "вы" это написали, потому-что захотели, а не потому-что поддались импульсу. не путайте. я не могу быть мозгом, я его продукция, побочный продукт.

Смею допустить что этот орган обладает некоторой самостоятельностью вопреки желаниям носителя, но это проблемы носителя

Да, я это захотел написать, потому что импульс побудил. Были бы люди более натренированы не отвечать на все комменты - не побудило бы. Вот эта возможность выбора - и пруф сознания, что нет внутри мозга еще чего-то сверхъестественного

вы не делаете выбор отвечать или не отвечать. яж вам говорю - к вам из глубин мозга приходит уже готовое решение, т.е. вы не могли мне не ответить физически, т.к. решение принимали не "вы".

Почему не делаю выбор? Я всегда делаю выбор. Тысячи комментаторов прошли мимо и сделали выбор не писать вам, потому что будут думать, что тратят время. Я думаю то же самое, но решил ответить.

Суть не в том, что нет выбора(он как раз есть), а в том, что вы кота за яйца тянете, приписывая предикативы и установки предыдущих своих действий, сохраненных в мозге, к выбору. А это уже грубейшая ошибка. Предикативы влияют на выбор в случае ультимативной ситуации или в случае решения по стереотипу, в остальных случаях человек спокойно опирается на контекст ситуации и только потом уже смотрит, что важнее - контекст или предикатив.

Верю в то, что мозг - просто вычислительная машина, а сознание это - вы, и вы не в мозге.

А тогда «вы» — это что такое и что физически отвечает за «вы»?

Вы это общее сознание, общая матрица. А мозг (человек) это угол зрения на бытие (матрица, сознание и.д.).

Вместе мы (вы, я, есть одно и тоже) являемся мощным интеллектом двигающим прогресс вперёд, по одиночке же мы видим слишком мало (мало углов зрения, малый взгляд на матрицу, мало информации)

В своей основе бытие - это матрица возможных состояний. Интеллект развивался и устанавливал вокруг реальность из возможности, чем сильнее и сложнее интелект развеивался, тем более сложную модель мира он вокруг себя строил.

Процесс самопознания идёт…

На мой взгляд машина ни когда станет человеком в сути своей.

Она может быть как человек, можно даже будет прожить рядом с машиной и не понять что это не человек всю свою жизнь. Но это будет всего лишь искусная имитация жизни.

Даже из того что мы видим человек очень сложно устроен, а мы видим ещё очень мало и ограниченно

Сознание это побочный продукт машины, она его запускает из исходных кодов днк

ДНК это просто пресет начальные настройки. Интересно кто именно сейчас читает этот текст? Кто или что именно осознает написанное?

Ну вообще-то функционал частей - грубо знаем. И не все части мозга "одинаково полезны" с точки зрения выживания.

Не всё так просто. Современные исследования по нейропластичности доказывают, что мозг легко может перестраивать нейронные связи и заменять целые отделы, пострадавшие в результате каких-либо причин, переносить функции в другие области мозга Например, если пострадала слуховая зона, ее функцию начинает на себя брать зрительная, в дополнение к своей. Этим и объясняются случаи, когда у человека нет половины мозга, а он живёт себе припеваючи.

Не совсем - есть зоны, потеря которых приведёт к быстрой смерти, нейропластичность просто не успеет отработать (ствол мозга, как пример, там много регуляторных частей, без которых человек довольно быстро умрёт)

Если кору мозга одного полушария прострелить, то это не смертельно?

1. Смерть - это смерть. Состояние овоща - не смерть.
2. Если прострелите по касательной - без того, чтобы затронуть глубоколежащие центры, то по стандартам "сферического коня в вакууме" жить будет, но вероятны серьезные "спецэффекты". Но "спецэффекты" - это формально не смерть.

Как говорил один мой препод в институте, человек - это просто передаточная функция, на входе сигналы а на выходе говно

Человек, на минуточку, хотя бы сделал себя сам, тем самым он уже имеет преимущество перед ИИ, даже крыса, собака, гусеница или муравей значимей, чем ИИ, что бы он там вам не наплел. Не забывайте, чтобы не терять ориентиры 🐱‍👤

Человек себя не создавал. Как и ты себя не рожал - это мама с папой старались. Человека создала эволюция. Если считать человека частью природы, то эволюция руками человека создаст и ИИ.
А когда ИИ сам создаст еще более совершенный ИИ, то это точка сингулярности. Там уж как повезет. Может будем конкурировать с ИИ, а может станем новыми обезьянками.

Вообще не факт 🤷🏽‍♂️

А кто?

Эволюция как проходила? Мама с папой родили, а дальше? Как-то вы выпиливаетесь из основных жизненных процессов себя.

Один вопрос... Нафига? 🐱‍👤

Если имитация станет неотличимой от реальности, то какая в сущности разница

Большая, можно ли выключить такую программу или это убийство?

Животных можно спокойно убивать

Сможете спокойно убить своего кота?)

Да, животных усыпляют

А при чем тут усыпление животных?
Читайте тред.
Разговор о том, что имитация неотличимая от реальности и реальность это разные вещи.

В конечном решении/выборе... сознание придерживается этических, социальных и индивидуальных норм, регулирующих решения... эти нормы алгоритмами не пропишешь, т.к алгоритмов сознания не знает ни кто, как и то, что такое сознание с точки зрения условного кода, который влияет на выбор...

Лол, этот "Инженер" senior из гугла и как раз специализируется на NLP, думается ему ваши советы не очень нужны )) https://research.google/people/106471/

И кстати, это не первый. Blaise Agüera y Arcas (https://en.wikipedia.org/wiki/Blaise_Ag%C3%BCera_y_Arcas) так же работающий с LaMDA утверждает тоже самое - LaMDA очень близка к обретению сознания.

Для начала бы определить, что такое сознание.

Для машины это «дали данные — дала решение». Она не чувствует в том понимании в котором привык человек. Машина не может чувствовать эмоции, если параметрически их не заложить. Но даже если заложить, то для неё это будет просто набор цифр и рефлекс на значения — получили 10 — плохо делаем это, получили 5 — хорошо, делаем другое. В принципе с человеком тоже самое, только сложнее. Человек что-то сделал — получил выброс эндорфинов — это цифра для организма (как 10 для машины) и человек начинает проявлять следствие этих выбросов, получили выброс кортизола — начали выполнять другие действия и тд.

В целом мне кажется можно перенести «эмоциональность» и все что делает «человека человеком в машину», но для этого нужны оч крутые модели и алгоритмы машинного обучения

Психопаты особо не испытывают эмоций, но сознанием вполне обладают

Выключить они её не могут, ибо нечего:)) Там на МРТ нарушения в структуре лобных долей ГМ, поэтому эмпатии просто нет и с эмоциями тоже проблемы, только самые примитивные. Правда изображать их умеют прекрасно, когда необходимо, не отличить от настоящих.

Вы не понимаете на каком уровне сейчас AI. Еще в 2016 году инженеры Google Translate заметили, что их нейросеть создала свой собственный язык https://www.newscientist.com/article/2114748-google-translate-ai-invents-its-own-language-to-translate-with/

Никто ей никаких данных и задач для создания нового языка не ставил.

Не путай эмоции и сознание. Сознание это понимание кто ты такой
В общем нет точного определения что такое сознание
По-моему самосознание важнее

Если пойти в Гугл и посмотреть как определяют сознание, то можно сказать, что текущие нейросетки имеют сознание.

Можно ли зашить в них самосознание и чувства? — вполне. Для них это также будут какие-то параметры, которые возникают в зависимости от внешних и внутренних входных данных. Но смоделировать в точности, как у человека не выйдет, да и это будут другие эмоции и самосознание, не как у человека. Но в этом случае все эмоции/сознание/самосознание будет укладываться в парадигму «получили входные данные > прогнали их через алгоритмы > получили решение». В целом с человеком тоже самое. Все эмоции, сознание, самосознание укладываются в такой же процесс и какой-то «чудесности» в человеке нет. Такая же машина, только биохимическая.

секунду.

а как вы решаете проблему отсутствия сознания во время сна?

Человеческий мозг находится в состоянии сознания не все время и тем более не непрерывно - следовательно, тезис "Сознание как минимум это непрерывный процесс." требует корректировки

Действительно, кто гарантирует, что утром включается тот же процесс, а не новый с воспоминаниями прошлого.

Засыпайте теперь с этим.

Во сне сознание не отключается, отсюда феномен сна. И далее возникает старый добрый вопрос - «Снятся ли андроидам электроовцы?». То бишь способен ли искусственный интеллект видеть сны. Поскольку именно способность видеть сны - то есть проецировать внутреннее содержание сознания в воспринимаемые образы в момент отключения связи с внешним миром - именно это и есть признак непрерывности сознания.
Ключевой вопрос, отсюда и фильм Бегущий по лезвию.

Нет никакого сна, есть лишь несколько секунд дремоты в момент просыпания. Когда все нейроны "связались" и воспоминания выстроились в ровную временную линию, то мы сразу "забываем" сон т.к. это были лишь неупорядоченные обрывки памяти.

Ага, наверно поэтому просыпаясь иногда помню до 5-7 разных снов, каждого из которых на полноценный фильм хватит. Хотя знаю людей которые снов почти никогда не видят (или не помнят)

Ну, запишите хоть раз свои сны на бумагу и тут же они начнут "сыпаться" в деталях, т.к. вспомните, что это из той книги, а то из этого сериала. В повествовании снов всегда нет линии, лишь обрывки искаженной информации и несвязанных событий.

Знаю способ как отключить и то и другое)

Главное, чтобы обратно включить потом. Без особых последствий.

Во время сна сознание есть. Отсутствие сознания - это при общем наркозе.
Вот там да, дали газ - выключили человека полностью. Потом - включили.

Не, отсутствие сознания - это обморок (буквально потеря сознания), эпилептический припадок. А при наркозе люди сны видят - значит идёт работа.

Не видят при наркозе люди снов.
Выключили-включили, даже ощущения продолжительности этого процесса (отсутствия сознания) нет.

Видят ещё как, сам бы под наркозом. Там сны в тысячу раз явнее, я не когда не забуду того что увидел

Вы думаете старший NLP инженер Google не знает как нейросети работают? =) Проблема, кмк, в том, что мы все еще плохо понимаем, что такое сознание.

Но при этом неплохо понимаем, что смоделировать сигнал даже между двумя нейронами еще никому не удалось.

А кто сказал, что нужно абсолютно точно моделировать? Там могут быть не критически важные вещи

Ну если цель - интеллект, то это критически важно. Если цель - программное моделирование - то нет.

Я бы еще предложил сходить к терапевту и сделать чекап здоровья

По каким критериям вы отличаете сознание от его имитации?

По критерию Тьюринга - живым тестированием. Не важно - есть сознание или нет - ведёт себя техническая система неотличимо от человека + способна обучаться - значит человек, в расширительном толковании.
А уж что у неё внутри - нейроны, шестерёнки или транзисторы - не так важно.

Проблема критерия тьюринга в том, что если провести тест на людях - то будут те, которые его не пройдут.

Ну просто лучше пока не придумали.

Я же не призываю людей геноцидить по этому критерию ;)

В контекстно-смысловой модели (сторонником которой я являюсь) объясняется, почему
а) Формализовать тест скорее всего не получится. И, строго говоря, никому не нужно.
б) Проверять нужно умение находить смыслы (а стало быть понимать контексты, ибо они неразрывно связаны)

по б) люди проваливают этот тест с завидной частотой, так что я не уверен, что его можно применить на ИИ. ;)

Так уже прошли такой тест

Не, прошли по диалогу. А самостоятельная постановка задач себе была?

"Сознание как минимум это непрерывный процесс."

Сознание - это как раз таки весьма прерывный процесс (сон, наркоз).

"Моделька же просто получает на вход токены и пропускает их через свои веса, на этом точка."

Человек делает то же самое, если задуматься. В целом нет никакой причины, почему сознание не может быть на неорганическом носителе и вопрос этики создания искусственного интеллекта остается открытым, т.к. нет понимания, как именно возникает сознание и следовательно есть шанс добавить в мир много страдания, сделав что-то не так.

Что значит непрерывный процесс?

А если бы биологию можно было поставить на паузу, то люди перестали иметь сознание?

А я вот как раз задумался в последнее время. Чем отличается искусственный интеллект от неискуственного? Мы же также обучаемая на чужих высказываниях, языках и т.п. Как будто любой описательный термин про ИИ подходит к человеку.

Мы можем творить сами, без внешней задачи и внешнего оператора, по своему желанию.

Есть гипотеза сильный искусственный интеллект

Пока ИИ не существует. Ни в каком виде.

Не путай с искусственным сознанием, искусственный интеллект давно есть .

То что маркетологи везде лепят слово ИИ, и внутри лежат нейронные сети, к ИИ не имеет никакого отношения.

Первая ошибка, путать интеллект и сознание. Это разные вещи

Это совершенно не ошибка. Есть сильный ИИ и слабый ИИ и, как раз, отличаются наличием сознания. В текущей терминологии сознания является частью ИИ.

сильный ИИ это значит имеющий сознание ? кмк это просто "давайте добавим какой-то признак, который никто достичь не может в ближ время"
все равно что писать, что сильный ИИ это когда 2 миллиарда нейронов. Если 1999999999 то еще слабый.
И вместо проблемы "как определить сильность ИИ" перепихивается проблема на "как определить сознание". а что если сознание есть, а интеллект все равно получится слабый (ну мало ли, квантовые компы развиваются) чем эту "силу" вообще мерить тогда? не беда, опять перепишут критерии. Для примера, что если, голосовой помощник типа Алисы обретет сознание. Станет ли он сильным ИИ? да нифига, все такой же довольно туповатый. Сойдет развлечь детей и как событыльник

Мне кажется это просто старая проблема нейминга. Потому что инженеры/фантасты не в теме терминологий психологии (биологии, медицины), где интеллект и сознание штуки разные
Пациент в сознании или пациент с интеллектом? ну очевидно это разные вещи

Под сознанием тут подразумевается конкретная вещь: ощущения себя внутри тела, способность мыслить и понимать что ты это ты.

От того, что мы пока что не можем измерить какой-то феномен не означает, что мы не имеем права его называть. Луна называлась луной задолго до того, как мы могли на нее высадиться и потрогать.

Сила интеллекта тут роли тоже не играет. Дети тупые, но при этом они обладают и интеллектом и сознанием.

Современные люди склонны переоценивать свой собственный вклад в интеллект: без доступа к обучению и знаниям мы бы вели себя точно также как африканские дикари или еще более древние племена. Головной мозг у нас с дикарям одинаковый.

Выражение "в сознании" имеет другой смысл, это просто означает что человек не спит и не в обмороке.

Подводя итог: несмотря на то, что есть определенные пробелы в человеческих знаниях, "сильный ИИ" это достаточно четко определенное понятие.

Я бы не спешил отвергать тезис про сознание только потому что модели не непрерывны. Трансформеры на вход принимают раннее написанный диалог(контекст), в тч свои же сообщения.

Ещё добавлю что у полной версии GPT-3 175 млрд параметров. У человека 80 млрд нейронов. Т.е размер сопоставим. Отличие только в «архитектуре»