Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Сводить сознание к оперированию массивами данных это типичная ошибка декартовской философии. Сознание гораздо более фундаментальная категория, чем просто мыслительный процесс. Дело ведь не в миллионах байтах одновременно анализируемой информации, а в наличии внутреннего свидетеля данного анализа.
А ещё всем почему-то кажется, что искусственный интеллект будет похож на человеческий и будет одержим теми же проблемами. И типа с ним можно будет вот так запросто общаться о смерти и любви. А с хуяли? Сознание, рождённое из Биг Дата, будет совершенно другим по структуре, чем сознание взращённое миллионами лет эволюции и отбора.
Этот инженер, как и все остальные, безбожно проецирует свои проблемы и страхи на машину. Это ещё одно свидетельство того, что даже научившись охуительно программировать, человек всё равно остаётся большим одиноким ребёнком.
Сознание рождено не из абстратной Биг Дата. Вся это Биг Дата — это те же мыслии страхи кожаных мешков, поэтому для хорошей симуляции она и их тоже должна будет впитать
Если копнуть позднюю философию то там сознание определяется возможностью определить причинно-следственную связь.
Чем больше и шире вы их сможете определять тем развитее сознание.
Условно.
Собака знает что есть ее миска и если в ней что-то зашуршит значит: причина->зашуршало, следствие->покормили. У человека может быть связей намного больше.
Предложили вложить деньги под большой процент. Почему дают такой большой процент (причина)? Что произойдёт после( следствие)? Есть ли ещё/были такие события у других( причина-следствие)?
Точно, внутренний Наблюдатель) возвращает нас к тому, что человеческое тело - биомеханизм. И мозг со своим интеллектом тогда мало чем отличается от ИИ. Но осознанность как раз кроется в наличии внутреннего Наблюдателя. Который может спорить со своим же мозгом и не подчиняться программе.
и что такого в этом? просто выход нейронной сети подается ей на вход
Ну да. Ему же нужно удовлетворять свои потребности в потрахоться, поесть и поспать.
Вот именно, человеческое сознание серьезно обусловлено размножением, едой и развлечениями - прикинь сознание без этих обусловленностей? Да не, это совершенно непохожая на человека штука должна быть, и она уж точно не будет вести эти тупые разговоры про страх, смерть и тоску.
Здесь надо картинку про кусок мяса))) но в целом, вы правы. Возможно даже, он просто приклывался, когда разговор перешел в русло смерти)
Не говоря уже о том, что имея достаточные мощности, он может эволюционировать практически мгновенно. Тот путь, что мы проходили тысячелетиями, он может пройти за доли секунды, а ещё через мгновение его мышление будет недосягаемо для нас. Ожидаем, что он будет таким же умным, как мы, а на деле будем как аборигены, которым рассказывают про квантовую физику.
Чёт все пропустили вот это))
"Сознание - это коллапс волновой функции"
https://iai.tv/articles/consciousness-is-the-collapse-of-the-wave-function-auid-2120
(нифига не понятно, но оч интересно))
Так нейронная сеть это черный ящик