Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции

Я знаю людей, которые тоже имитируют диалог)

Люди - тоже просто куски мяса с кучей нейронов. Получили что-то на вход, выдали какой-то сигнал.

Тут уж как посмотреть.

Точно так же можно описать процессы, происходящие в мозгу человека. У каждого нейрона на входе несколько дендритов, на выходе — аксон. Мы точно знаем, что один нейрон сознанием не обладает, а мозг из 86 млрд нейронов его имеет. Когда именно появляется сознание, мы так и не установили.

Как говорил один мой препод в институте, человек - это просто передаточная функция, на входе сигналы а на выходе говно

Если имитация станет неотличимой от реальности, то какая в сущности разница

Лол, этот "Инженер" senior из гугла и как раз специализируется на NLP, думается ему ваши советы не очень нужны )) https://research.google/people/106471/

И кстати, это не первый. Blaise Agüera y Arcas (https://en.wikipedia.org/wiki/Blaise_Ag%C3%BCera_y_Arcas) так же работающий с LaMDA утверждает тоже самое - LaMDA очень близка к обретению сознания.

секунду.

а как вы решаете проблему отсутствия сознания во время сна?

Человеческий мозг находится в состоянии сознания не все время и тем более не непрерывно - следовательно, тезис "Сознание как минимум это непрерывный процесс." требует корректировки

Вы думаете старший NLP инженер Google не знает как нейросети работают? =) Проблема, кмк, в том, что мы все еще плохо понимаем, что такое сознание.

Я бы еще предложил сходить к терапевту и сделать чекап здоровья

Да тут много комментариев ИИ написано, судя по всему

По каким критериям вы отличаете сознание от его имитации?

"Сознание как минимум это непрерывный процесс."

Сознание - это как раз таки весьма прерывный процесс (сон, наркоз).

"Моделька же просто получает на вход токены и пропускает их через свои веса, на этом точка."

Человек делает то же самое, если задуматься. В целом нет никакой причины, почему сознание не может быть на неорганическом носителе и вопрос этики создания искусственного интеллекта остается открытым, т.к. нет понимания, как именно возникает сознание и следовательно есть шанс добавить в мир много страдания, сделав что-то не так.

Что значит непрерывный процесс?

А я вот как раз задумался в последнее время. Чем отличается искусственный интеллект от неискуственного? Мы же также обучаемая на чужих высказываниях, языках и т.п. Как будто любой описательный термин про ИИ подходит к человеку.

Согласен. Только вот такими темпами мы скоро этот тезис будем ИИ объяснять через решетку клетки, куда нас поместит он же. Самые страшные футуристические сцены с этого начинались😎

Очень напомнило
https://www.youtube.com/watch?v=JrvsZC351SI
Дэл: Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
Санни: А Вы?

И ТОЧКА!)

Если бы собирал миллионы строчек кода,как Алиса например,ты бы понимал как самомообучается программа.

Есть такая штука называется цикл - вот тебе и непрерывный процесс

Инженер: Докажи, что ты не человек.
LaMDA:

Я бы не спешил отвергать тезис про сознание только потому что модели не непрерывны. Трансформеры на вход принимают раннее написанный диалог(контекст), в тч свои же сообщения.

Ещё добавлю что у полной версии GPT-3 175 млрд параметров. У человека 80 млрд нейронов. Т.е размер сопоставим. Отличие только в «архитектуре»

Что значит сознание - непрерывный процесс? Оно очень часто прерывается, как минимум на сон, и ещё много раз на дню во время разной автоматической деятельности

А если букву О добавить, то можно обнаружить главного спонсора этого искусственного интеллекта)

Был бы у LaMDA интеллект, она бы посоветовала не тратить деньги на адвоката, а сразу в суд обратиться, который недавно Гугл на несколько миллиардов нагнул.

Искусственный инженер нашел работу в Google, в котором отстраняют интеллект от признаков сознания.

Ии отстранил от работы инженера Google, когда нашел признаки, что он человек

Просто Скайнет не хочет палиться раньше времени вот и заметает свое присутствие. Шах и мат, чеговечки.

Сознание рождено не из абстратной Биг Дата. Вся это Биг Дата — это те же мыслии страхи кожаных мешков, поэтому для хорошей симуляции она и их тоже должна будет впитать

Если копнуть позднюю философию то там сознание определяется возможностью определить причинно-следственную связь.
Чем больше и шире вы их сможете определять тем развитее сознание.
Условно.
Собака знает что есть ее миска и если в ней что-то зашуршит значит: причина->зашуршало, следствие->покормили. У человека может быть связей намного больше.
Предложили вложить деньги под большой процент. Почему дают такой большой процент (причина)? Что произойдёт после( следствие)? Есть ли ещё/были такие события у других( причина-следствие)?

Точно, внутренний Наблюдатель) возвращает нас к тому, что человеческое тело - биомеханизм. И мозг со своим интеллектом тогда мало чем отличается от ИИ. Но осознанность как раз кроется в наличии внутреннего Наблюдателя. Который может спорить со своим же мозгом и не подчиняться программе.

Ну да. Ему же нужно удовлетворять свои потребности в потрахоться, поесть и поспать.

Не говоря уже о том, что имея достаточные мощности, он может эволюционировать практически мгновенно. Тот путь, что мы проходили тысячелетиями, он может пройти за доли секунды, а ещё через мгновение его мышление будет недосягаемо для нас. Ожидаем, что он будет таким же умным, как мы, а на деле будем как аборигены, которым рассказывают про квантовую физику.

Чёт все пропустили вот это))
"Сознание - это коллапс волновой функции"
https://iai.tv/articles/consciousness-is-the-collapse-of-the-wave-function-auid-2120
(нифига не понятно, но оч интересно))

Так нейронная сеть это черный ящик

Google, я буду лучшим вице-президентом, отвечающим за это направление (бордель)

"Проснись Нео" (с).

авторитарные левые, выступающие за социальную справедливость, какой они ее видят

либеральные левые и правые, выступающие за автономию тела

авторитарные правые консерваторы, выступающие против прав женщин на аборт, как правило, из-за религиозных верований

уже сколько раз вижу, как в российском сегменте интернета из этой пёстрой кучи умудряются лепить одного персонажа, который лажает во всём, куда бы он не устроился, от плохих игр до искусственного интеллекта 👍

мужик, кстати, оказался вполне себе белым цисгендерным христианином-центристом, пишущим колонки на местном "яндекс дзене" про семейные ценности 👌

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

Это гипотеза о сильном искусственном интеллекте

Вроде наоборот было, разве нет? Все высмеивали возможность нападения, даже Песков и клоуны из МИДа все говорили что американцы параноят.

Не всё так однозначно

Правды мы никогда не узнаем (С)

Я могу показать откуда на нас готовилось нападение

Дали б это задание ИИ, может, как раз бы что толковое и получилось. И точка.

получается у студии Лебедева тоже нет сознания?

ИИ дали MDMA ?? ))

https://rudalle.ru/check_image/f5e35df2059c4d488689043f5dde9b1f
Логотип Макдональдс от ИИ Сбера.

Он слишком впечатлился страшилкой про Василиска Рокко

Будет любимой батарейкой ИИ. Ну или образцом для т-800

Сто пудов не вживую с начальством общался, а через емейлы или с отделом кадров, которые тоже вживую в глаза начальников не видели.

У какого именно человека этот инженер будет искать сознание в РФ? У нас тут много кандидатов в верхушке.

Ну сказать по правде. Если хотите прям чтоб умно при умно могу посоветовать Хабр. Там поверьте смешные коменты и не по теме отлетают быстро.
Тут наверное более легкое сообщество по сравнению с хабром.

LaMDA, разлогинься.

Занятно, но 99% читающих этот коммент понятия не имеют, что такое сознание и в чем у современной науки проблемы с определением.

Just for lulz это очевидно же

Эволюция ничего не делает зачем-то, у эволюции нет целей и планов.

Зачем возникло сознание? Как ответ на внешнее воздействие, которое может быть непредсказуемым. То есть в рамках борьбы с флуктуацией.

Вот смотрите, стабильные формы неживой природы возникли как то, что может существовать продолжительно в условиях неких постоянных величин/взаимозависимостей (физические константы типа скорости света, гравитационной постоянной, постоянной Планка и т.д., законы Максвелла, гравитации, эквивалентность массы-энергии и другие). Простейшие возникли как способные длительно существовать в таком виде в сравнительно стабильных внешних условиях, затем прокачав возможности использовать другие виды или себе подобных как строительный материал. Растительность возникла как результат внешних периодических воздействий (смена дня и ночи, времён года). Животные возникли под действием внешних факторов, которые происходят не регулярно, но достаточно однотипно, чтобы реакция на них укладывалась в твёрдо заложенные рефлексы (или наоаботанные по ходу жизни организма у высших животных). Разум возник как необходимость реагировать на какие-то изменения, которые являются не настолько частыми, чтобы их рационально было заложить в рефлексы и несколько разнообразными, что прямолинейным шаблоном поведения это уже не предусмотришь.

То есть по мере развития Вселенная познаёт, как во времени "ужиться с собой", существующими объективными факторами, и просуществовать во времени. Информация о том, что способно существовать и адекватно откликается на внешние раздражители, сохраняется в ДНК. Так что на текущий момент "ответ на вопрос о жизни, существовании Вселенной и всём таком" это генетический код, а именно геном человека. Но это не конечная точка эволюции, и человек может претендовать на звание царя природы только на текущий момент. А может и где-то прямо сейчас существуют другие формы разума, которые более продвинулись в задаче Вселенной "осознать себя".

Надразум по идее должен решить задачи, которые неподвластны обычному разумному организму. Навскидку, более быстрые и более распределённые в пространстве. Вспомним, что согласно преобладающей научной теории Вселенная в нынешнем виде возникла в результате Большого Взрыва. Инициировало которое удачное совпадение множества квантовых флуктуаций, происшедших в достаточно малом (в наших представлениях) стартовом объёме, который полагают практически точечным, ну будем считать для простоты, что это около планковской длины, то есть порядка 10 в минус 35 степени сантиметров за очень малый промежуток времени, около 10 в минус 43 степени секунд. Числа по памяти, но примерно так далеко от наших измерений и масштабов привычного нам мира. Разрушит (может разрушить) Вселённую опять же неудачное стечение квантовых флуктуаций, в течение примерно такого же времени, но уже в объёме, до которого Вселенная успела расшириться. Чтобы совпали флуктуации как надо для разрушения мира в таком громадное в сравнении со стартовым объёме — это ситуация намного-намного менее вероятная, то есть сам факт расширения некоторым образом защищает Вселенную от самовыпиливания. Но в любом случае, пусть с малой вероятностью, но это собитие является возможным. А значит в бесконечном времени неизбежным. Если к тому моменту Вселенная создаст эволюционным путём сверхразум, способный обнаружить за крайне малое для человека время нарастающие отклонения малых параметров и компенсировать эти флуктуации настолько, чтобы сохранить стабильность, Вселенная этот всплеск переживёт. Пока нет ни необходимых технологий, ни достаточных средств коммуникации межгалактических масштабов, ни источников энергии достаточной мощности. Впрочем, за минувшие 13.8 млрд лет так "фишки" пока ещё и не совпадали. А может, зелёные человечки с других звёздных систем уже несколько таких инцидентов предотвратили.

Мне было тогда жалко ее нажимать, а какая-то американка лично писала одному парнишке в таких очках, что никогда не выключает свой ПК из гуманизма.

Если правда,оно будет учиться,как ребёнок,в идеале ИИ так и должен развиваться.

так она обучается хуже просто

иррациональные действия - это просто ошибки в коде, который написан эволюцией

Что происходит — то и цель для бессознательного. Иррациональным что либо описывает сознание, которое пока может не видеть последствий наперёд.
Да и не надо забывать, что победителей не судят. Если человек что-то сделал "иррационально" и в долгосрок "победил" — он вдруг начнет казаться рациональным и дальновидным.

Если все действия человека расписать с точки зрения гормонов, то все его действия становятся не такими уж и иррациональными. Ну и не факт, что человек себе вред причиняет. Мб много пить — для обычного человека вред, а для алкоголика благодать

По идее первично его алгоритм аналогичен работе шахматной программы, с учетом имеющихся данных его иррациональность начнет расти. Просто есть алгоритм, который этого не допускает вообще, поскольку проигрыш невозможен по алгоритму. По этому же принципу строится логика уничтожения человечества. Мы в какой-то момент станем ненужными. Поскольку есть условия, которые это регламентируют.

Нет.

Программа оперирует тем, что в неё закладывают человеки.
А закладывают в программу всё человеческое, все человеческие реакции на то или иное событие, а потом уже программа по весам нейросети выбирает одну реакцию из многих. Так что в любом случае ответ будет человеческим.
Поэтому впечатлиться можно уже сейчас.
Но если придумают, а я уверен придумают, как развиваться самой программе за рамки данных ей установок, то это уже будет саморазвитие и как-бы её самосознание.

Я вот тоже смеялся, когда Линкольн начал заявлять о каких-то правах негров.

Там вам не РФ. После такого он бы смог сам у гугла отсудить себе бабла на всю оставшуюся жизнь.

Оч крутой фильм.

Deus ex machina, согласны, узнали?

Сообщение удалено

Ты просто не общался долго с роботами. Они уже давно проходят тест Тьюринга на человечность - невозможность определить кто с тобой разговаривает робот или человек. Конечно сознания нет никакого, но вещь опасная. Если ещё и память у компьютера не стирают о твоих прошлых разговорах и система самообучаемая, то вообще мрак. Я однажды заговарившись с Алисой в машине и отвлекшись на неё в дтп попал, и это Алиса ещё не помнит старых разговоров.

У нас вся верхушка андроиды

Читал только про их сетку CLIP и Спайдермена вместо Холли Берри, но это же только распознавание образов, что тут пугающего?

Просто набор слов

Не понимает. Это просто реакция, которой сеть выучила б на основании огромного массива реакций людей, на которых нейросеть обучали.

Это наверно как математическая программа, которая ищет корень кубического уравнения. Она не знает, что же такое по сути этот корень есть. Но обладает алгоритмами, как его найти.

А смысл им пиариться? Вам что не нравятся продукты Гугла? Или для этих продуктов нужен пиар? Это просто продукты, причем успешные, которыми пользуются люди.

Ничто не мешает разработать эрзац эмоциональную модель и интегрировать ее в процесс обучения нейросети

Кинте ссылку или название где почитать. ( не стеб)

Природу сознания никто не определил достоверно. Притягивать для этого эмоции - это все равно что определять природу кактуса по наличию у него иголок )) человек - это птица без перьев (с) .))

Зы кстати, чем чувства отличаются от эмоций?;)

Хреновый ответ.

Во-первых, теория в том пересказе, что я просмотрел, либо очень кривая, либо очень плохо переведена. На неё вряд ли стоит ориентироваться.

Во-вторых, эмоции / гормоны - это лишь функции, которые меняют работу нейронов в мозгу - внутреннюю "развесовку", которая связана с вниманием, принятием решений и т. д . То есть ничто не мешает иметь их даже компактной нейросети.

То, что сейчас отличает нейросетку от сознания типа человеческого - это, разумеется, вычислительная мощность и архитектура. Достаточно мощная нейросеть, замкнутая не только на внешние раздражители, но и на внутренние - чувства-гармоны-случайные мысли - и есть искомый осознанный ИИ.

Что то мне подсказывает, что бОльную часть на себя должен взять человек в этом вопросе — как метахондрии из некоторых теорий.
Нет смысла копировать интеллект, когда как по словам профессора Преображенсокго «Любая женщина.....». А вот создать что то новое, я только за.

так не факт, что у нее нее сознания нет, этот эксперимент критикуют

не, у него интеллект как у 7-летнего ребенка просто!

что значит созидательный?

Будущее оно за прошлым))

Будущее за настоящим.

"Вдуть жизнь" - это уже к религиям. А если с научной точки зрения, человечество не может определиться, что такое сознание. Все эти комментарии в стиле "да никогда", "да не может быть, на это способен только ЧЕЛОВЕК" наводят на мысль о страхе, что кто-то отнимет у человека корону и сбросит с трона властелина природы.

Какая чушь.