Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Дискуссия в комментах интересная. Хотелось бы для начала определиться с термином сознания, критерием его наличия/отсутствия, причиной возникновения и ответом на вопрос «зачем эволюции понадобилось создать сознание?». Насколько я знаю, современная наука ещё не все ответы знает
Занятно, но 99% читающих этот коммент понятия не имеют, что такое сознание и в чем у современной науки проблемы с определением.
Строго говоря я тоже не знаю. Я б сказал, что незнающих - 100%. Не?
Согласен и про все 100%, с исчезающе малой долей тех, кто реально знает. Есть попытки в рамках научного поля продвинуться в определениях, но пока они ни к чему не привели.
Подозреваю, что в рамках современной научной парадигмы, когда просто закрываются глаза на факты, опровергающие официальные теории, ничего не изменится.
Только слом цивилизации что-то может изменить. Вряд ли при нашей жизни...
А можете привести примеры подобного «закрывания глаз»?
Да любые сверхспособности. В научном поле их как бэ нет.
сверхспособности должны быть доказуемыми.
экстрасенсы на шару все говорят
есть необъяснимые факты, а кто там что говорит о своих способностях, естественно, никого не интересует.
приведи эти факты
Чувак, ты не в цирке
Как я люблю Habr и VC где таких балаболов как ты быстро выводят на чистую воду.
Распространяй свой бред в другом месте. Попробуй Twitter.
При чем тут цирк? В чем проблема сказать