Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Комментарий недоступен
Ничто не мешает разработать эрзац эмоциональную модель и интегрировать ее в процесс обучения нейросети
Комментарий недоступен
Кинте ссылку или название где почитать. ( не стеб)
Комментарий недоступен
Комментарий недоступен
Природу сознания никто не определил достоверно. Притягивать для этого эмоции - это все равно что определять природу кактуса по наличию у него иголок )) человек - это птица без перьев (с) .))
Зы кстати, чем чувства отличаются от эмоций?;)
Комментарий недоступен
;))) есть принципиальная невозможность на данном этапе наших знаний определить природу сознания. Поэтому мне не нужно читать всяких фриков, чтобы в очередной раз узнать ни о чем.
Но ради интереса почитал - это такая дичь - буэээ. Плюс Фрейд, ага.
Зы вы так на мой вопрос и не ответили.
Комментарий недоступен
Фрейд в своё время тоже был светилом всей психологии, и что? Я же не просто так про него упомянул.
Чтобы закончить эту бессмысленную беседу с вами - последний раз предлагаю ответить на мой вопрос из первого комментария.
Зы ссылка на авторитеты - последнее спасение утопающего, мнда...
Комментарий недоступен
Как хотите - увольняю ;))
Зы таки если вы потрудитесь почитать критику на нейропсихологию, поймёте, почему я данных авторов назвал фриками. Ну, и, может быть, перестанете чужие теории принимать столь легкомысленно на веру и пытаться ими оперировать. Ибо езда на велосипеде по скоростной трассе может сделать бо- бо.;)
Удачи!
Что порекомендуете почитать про сознание из современников?
По возможности коротко почему посоветовали.
«Критика чистого разума» ;)
Никакой принципиальной невозможности нет, если варит голова. Если голова не варит-порой и вилку до рта донести принципиально невозможно.
Хреновый ответ.
Во-первых, теория в том пересказе, что я просмотрел, либо очень кривая, либо очень плохо переведена. На неё вряд ли стоит ориентироваться.
Во-вторых, эмоции / гормоны - это лишь функции, которые меняют работу нейронов в мозгу - внутреннюю "развесовку", которая связана с вниманием, принятием решений и т. д . То есть ничто не мешает иметь их даже компактной нейросети.
То, что сейчас отличает нейросетку от сознания типа человеческого - это, разумеется, вычислительная мощность и архитектура. Достаточно мощная нейросеть, замкнутая не только на внешние раздражители, но и на внутренние - чувства-гармоны-случайные мысли - и есть искомый осознанный ИИ.
Комментарий удален модератором
Комментарий удален модератором
Комментарий удален модератором
Комментарий удален модератором
Комментарий удален модератором
Комментарий удален модератором
Комментарий удален модератором
не гормоны, а нейромедиаторы
Что то мне подсказывает, что бОльную часть на себя должен взять человек в этом вопросе — как метахондрии из некоторых теорий.
Нет смысла копировать интеллект, когда как по словам профессора Преображенсокго «Любая женщина.....». А вот создать что то новое, я только за.