Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Дискуссия в комментах интересная. Хотелось бы для начала определиться с термином сознания, критерием его наличия/отсутствия, причиной возникновения и ответом на вопрос «зачем эволюции понадобилось создать сознание?». Насколько я знаю, современная наука ещё не все ответы знает
Занятно, но 99% читающих этот коммент понятия не имеют, что такое сознание и в чем у современной науки проблемы с определением.
Строго говоря я тоже не знаю. Я б сказал, что незнающих - 100%. Не?
Согласен и про все 100%, с исчезающе малой долей тех, кто реально знает. Есть попытки в рамках научного поля продвинуться в определениях, но пока они ни к чему не привели.
Подозреваю, что в рамках современной научной парадигмы, когда просто закрываются глаза на факты, опровергающие официальные теории, ничего не изменится.
Только слом цивилизации что-то может изменить. Вряд ли при нашей жизни...
А можете привести примеры подобного «закрывания глаз»?
Да любые сверхспособности. В научном поле их как бэ нет.
сверхспособности должны быть доказуемыми.
экстрасенсы на шару все говорят
есть необъяснимые факты, а кто там что говорит о своих способностях, естественно, никого не интересует.
приведи эти факты
Чувак, ты не в цирке
Как я люблю Habr и VC где таких балаболов как ты быстро выводят на чистую воду.
Распространяй свой бред в другом месте. Попробуй Twitter.
При чем тут цирк? В чем проблема сказать
Шопенгауэр и Кант в помощ))))
Сознание - возможность оперировать причинно-следственными связями.
То есть у собаки, которая на уровне условного рефлекса выучила, что «хозяин открыл холодильник - значит будет еда», есть сознание? Сомнительно
Мне кажеться глупо отрицать наличие сознания у собаки. Как трудно отрицать наличие сознания у 2-х летнего ребёнка.
И я думаю рефлексы базируются на принципе приятно-следственных связей тоже.
Если называть сознанием те рефлексы, которые есть у собаки (а также, по той же логике, у хомяков, мышей и прочих кого попроще) - то в таком случае конечно ИИ уже обладает таким сознанием
у тебя самого такие же рефлексы
у собак есть зачатки neocortex
А где я это отрицал?
Наличие у меня рефлексов не говорит о том, что «сознание» - это только рефлексы
так у собаки есть сознание?
На мой взгляд - нет. Но чтоб точно на этот вопрос ответить - надо решить «что вы имеете ввиду под сознанием»
Just for lulz это очевидно же
Эволюция ничего не делает зачем-то, у эволюции нет целей и планов.
Случайное движение атомов. И только человек ищет смысл, придумывает кучу проблем на свою "умную" голову.
Зачем возникло сознание? Как ответ на внешнее воздействие, которое может быть непредсказуемым. То есть в рамках борьбы с флуктуацией.
Вот смотрите, стабильные формы неживой природы возникли как то, что может существовать продолжительно в условиях неких постоянных величин/взаимозависимостей (физические константы типа скорости света, гравитационной постоянной, постоянной Планка и т.д., законы Максвелла, гравитации, эквивалентность массы-энергии и другие). Простейшие возникли как способные длительно существовать в таком виде в сравнительно стабильных внешних условиях, затем прокачав возможности использовать другие виды или себе подобных как строительный материал. Растительность возникла как результат внешних периодических воздействий (смена дня и ночи, времён года). Животные возникли под действием внешних факторов, которые происходят не регулярно, но достаточно однотипно, чтобы реакция на них укладывалась в твёрдо заложенные рефлексы (или наоаботанные по ходу жизни организма у высших животных). Разум возник как необходимость реагировать на какие-то изменения, которые являются не настолько частыми, чтобы их рационально было заложить в рефлексы и несколько разнообразными, что прямолинейным шаблоном поведения это уже не предусмотришь.
То есть по мере развития Вселенная познаёт, как во времени "ужиться с собой", существующими объективными факторами, и просуществовать во времени. Информация о том, что способно существовать и адекватно откликается на внешние раздражители, сохраняется в ДНК. Так что на текущий момент "ответ на вопрос о жизни, существовании Вселенной и всём таком" это генетический код, а именно геном человека. Но это не конечная точка эволюции, и человек может претендовать на звание царя природы только на текущий момент. А может и где-то прямо сейчас существуют другие формы разума, которые более продвинулись в задаче Вселенной "осознать себя".
Надразум по идее должен решить задачи, которые неподвластны обычному разумному организму. Навскидку, более быстрые и более распределённые в пространстве. Вспомним, что согласно преобладающей научной теории Вселенная в нынешнем виде возникла в результате Большого Взрыва. Инициировало которое удачное совпадение множества квантовых флуктуаций, происшедших в достаточно малом (в наших представлениях) стартовом объёме, который полагают практически точечным, ну будем считать для простоты, что это около планковской длины, то есть порядка 10 в минус 35 степени сантиметров за очень малый промежуток времени, около 10 в минус 43 степени секунд. Числа по памяти, но примерно так далеко от наших измерений и масштабов привычного нам мира. Разрушит (может разрушить) Вселённую опять же неудачное стечение квантовых флуктуаций, в течение примерно такого же времени, но уже в объёме, до которого Вселенная успела расшириться. Чтобы совпали флуктуации как надо для разрушения мира в таком громадное в сравнении со стартовым объёме — это ситуация намного-намного менее вероятная, то есть сам факт расширения некоторым образом защищает Вселенную от самовыпиливания. Но в любом случае, пусть с малой вероятностью, но это собитие является возможным. А значит в бесконечном времени неизбежным. Если к тому моменту Вселенная создаст эволюционным путём сверхразум, способный обнаружить за крайне малое для человека время нарастающие отклонения малых параметров и компенсировать эти флуктуации настолько, чтобы сохранить стабильность, Вселенная этот всплеск переживёт. Пока нет ни необходимых технологий, ни достаточных средств коммуникации межгалактических масштабов, ни источников энергии достаточной мощности. Впрочем, за минувшие 13.8 млрд лет так "фишки" пока ещё и не совпадали. А может, зелёные человечки с других звёздных систем уже несколько таких инцидентов предотвратили.
Единственный адекватный коммент.