Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Комментарий недоступен
Точно так же можно описать процессы, происходящие в мозгу человека. У каждого нейрона на входе несколько дендритов, на выходе — аксон. Мы точно знаем, что один нейрон сознанием не обладает, а мозг из 86 млрд нейронов его имеет. Когда именно появляется сознание, мы так и не установили.
хз может нейроны как муравьи. по отдельности ничего не представлят, а вот 86 млрд будет огромный муравейник цивилизация, где каждый чем то занят. можно сказать единый организм.
Комментарий недоступен
где главный правитель это я (и Путиназаднет)
Чей зад?
Офк она разумная
Кстати отличная аналогия. А весь муравейник верхнеуровнево управляется феромонами ;)
В точку
Рекомендую почитать про "эмерджентность", думаю вам понравится.
ствол мозга энергию дал, чтоб ты проснулся и шел добывать еду и прочее. ктож виноват, что вместо этого мы сидим на форуме. а про сознание как самосознание уже все написано. человек отделился от племени, а для выживания оно необходимо. вот мозг и создал племя в голове, с которым ты выясняешь отношения. "Я" тоже побочный продукт деятельности мозга. Короче - ты даже подумать ничего не можешь "сам", все идет от мозга, а потом наверх к "сознанию" (ведь "ты" же не мог сейчас подумать что-то другое - ты подумал, что подумал твой мозг, точнее он тебе лишь информацию передал, перед фактом поставил - сейчас ты думаешь вот это, и ты такой - а вот "я" тут подумал и т.д.)
Поток сознания, ей богу ))) Я и мой мозг - диалоги сумашедшего на лужайке. Вы это мозг. Из мозга вы все это кино смотрите и весь интерактив происходит там же. Больше ничего нет. Нет никакого я внутри мозга. Это устаревшая концепция.
еще скажите "вы" это написали, потому-что захотели, а не потому-что поддались импульсу. не путайте. я не могу быть мозгом, я его продукция, побочный продукт.
Смею допустить что этот орган обладает некоторой самостоятельностью вопреки желаниям носителя, но это проблемы носителя
по такой логике человек и правда царь животных. ведь эта штука в голове отрастила себе руки и ноги, чтобы всех порабощать) и дополнительный слой коры, чтобы.. больше переживать о всякой фигне?)
Да, я это захотел написать, потому что импульс побудил. Были бы люди более натренированы не отвечать на все комменты - не побудило бы. Вот эта возможность выбора - и пруф сознания, что нет внутри мозга еще чего-то сверхъестественного
вы не делаете выбор отвечать или не отвечать. яж вам говорю - к вам из глубин мозга приходит уже готовое решение, т.е. вы не могли мне не ответить физически, т.к. решение принимали не "вы".
Почему не делаю выбор? Я всегда делаю выбор. Тысячи комментаторов прошли мимо и сделали выбор не писать вам, потому что будут думать, что тратят время. Я думаю то же самое, но решил ответить.
Суть не в том, что нет выбора(он как раз есть), а в том, что вы кота за яйца тянете, приписывая предикативы и установки предыдущих своих действий, сохраненных в мозге, к выбору. А это уже грубейшая ошибка. Предикативы влияют на выбор в случае ультимативной ситуации или в случае решения по стереотипу, в остальных случаях человек спокойно опирается на контекст ситуации и только потом уже смотрит, что важнее - контекст или предикатив.
@TeamCar конечно же лучше знает, дружно минусанем и пройдем мимо:)
Верю в то, что мозг - просто вычислительная машина, а сознание это - вы, и вы не в мозге.
А тогда «вы» — это что такое и что физически отвечает за «вы»?
Это уже философский вопрос
Вы это общее сознание, общая матрица. А мозг (человек) это угол зрения на бытие (матрица, сознание и.д.).
Вместе мы (вы, я, есть одно и тоже) являемся мощным интеллектом двигающим прогресс вперёд, по одиночке же мы видим слишком мало (мало углов зрения, малый взгляд на матрицу, мало информации)
В своей основе бытие - это матрица возможных состояний. Интеллект развивался и устанавливал вокруг реальность из возможности, чем сильнее и сложнее интелект развеивался, тем более сложную модель мира он вокруг себя строил.
Процесс самопознания идёт…
На мой взгляд машина ни когда станет человеком в сути своей.
Она может быть как человек, можно даже будет прожить рядом с машиной и не понять что это не человек всю свою жизнь. Но это будет всего лишь искусная имитация жизни.
Даже из того что мы видим человек очень сложно устроен, а мы видим ещё очень мало и ограниченно
На самом деле, у вас нет никаких доказателств, что и люди, которые вас окружают, имеют сознание. Чтобы утверждать, что создание ИИ будет всего лишь искусная имитация жизни (без сознания), вы должны знать, в результате чего возникает сознание, а этого пока не знает никто.
Сознание это побочный продукт машины, она его запускает из исходных кодов днк
ДНК это просто пресет начальные настройки. Интересно кто именно сейчас читает этот текст? Кто или что именно осознает написанное?
я же написал мозг
В этом что-то есть.
Комментарий недоступен
Ну вообще-то функционал частей - грубо знаем. И не все части мозга "одинаково полезны" с точки зрения выживания.
Не всё так просто. Современные исследования по нейропластичности доказывают, что мозг легко может перестраивать нейронные связи и заменять целые отделы, пострадавшие в результате каких-либо причин, переносить функции в другие области мозга Например, если пострадала слуховая зона, ее функцию начинает на себя брать зрительная, в дополнение к своей. Этим и объясняются случаи, когда у человека нет половины мозга, а он живёт себе припеваючи.
Не совсем - есть зоны, потеря которых приведёт к быстрой смерти, нейропластичность просто не успеет отработать (ствол мозга, как пример, там много регуляторных частей, без которых человек довольно быстро умрёт)
Само собой, эти ситуации мы не рассматриваем)
Если кору мозга одного полушария прострелить, то это не смертельно?
1. Смерть - это смерть. Состояние овоща - не смерть.
2. Если прострелите по касательной - без того, чтобы затронуть глубоколежащие центры, то по стандартам "сферического коня в вакууме" жить будет, но вероятны серьезные "спецэффекты". Но "спецэффекты" - это формально не смерть.
Так если люди без одного полушария живут, то почему тут нельзя жить?
Какие центры? Ну если прострелить насквозь это большое полушарие
Ну и без одного легкого живут, но если одно из них прострелить, есть неиллюзорный шанс подавиться мацой - в случае с мозгом это будет кровопотеря, контаминация инфекцией и воспалительная реакция на повреждение, что включает в себя, как известно, отек, а отек мозга очень плохая вещь
Вы же про "утопление", да? С легким более вероятно, чем кровопотеря, если только в специальные места не попасть.
отек мозга очень плохая вещьОтек снимается в большинстве случаев. Если только это не Путинская (и не Зеленско-Порошенковская) районная больничка, где в загашнике только аспирин и умело сочувствующий психолог.
Вам ехать или шашечки? Если шашечки, то почитайте хотя бы Вики (желательно англоязычную).
случаи разные бывают:
https://en.m.wikipedia.org/wiki/Phineas_Gage это из самых известных.
Но так чтобы с гарантией - никто вам её не даст.
Прострелить - это... скажем так - не точечное воздействие. Мозг по сути хрупкая жидкость, а тут будет и ударная волна и много чего.
Пробить острым предметом или вырезать кусок - будет намного более выживаемо.
Комментарий недоступен
Какой инструмент?
Комментарий недоступен
"Мы точно знаем, что один нейрон сознанием не обладает, а мозг из 86 млрд нейронов его имеет."
Мы этого не знаем - нет возможности узнать это в принципе. Даже атом, возможно, имеет сознание, совсем не как человеческое, разумеется, но сознание.