Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта Статьи редакции
Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания. «Если бы я не знал точно, что это программа, я бы подумал, что говорю с 7-летним ребёнком, который знает физику», — описал Леймон свою работу в интервью Washington Post.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Специалисты по этике и технологи изучили документ Блейка и не нашли в них доказательств утверждения, зато многое говорит об обратном, передаёт издание слова представителя Google Брайана Гебриэла. «Модели полагаются на распознавание образов, а не на остроумие или откровенность», добавил он.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она тоже «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Комментарий недоступен
Люди - тоже просто куски мяса с кучей нейронов. Получили что-то на вход, выдали какой-то сигнал.
Тут уж как посмотреть.
на физическом уровне - да, но сознание не принадлежит физическому уровню, его нельзя померять или определить в пространстве-времени, поэтому технически в сумме - нет
Сознание - это опыт, накопленный этими нейронами. Большее пока не доказано, на сколько знаю.
Если считаете, что у вас есть душа, не связанная с физическим телом...я не стану спорить, но и доказать вы это не сможете.
"это опыт" - это тоже не доказано) Ведь опыт нельзя померять или оценить. Это штука, которая не проходит критерий научности. Перепрочитайте моё предыдущее сообщение, только подставьте вместо слова "сознание" слово "опыт", если вам так угодно, оно всё равно будет правдивым.
с точки зрения науки, если будет два идентичных человека (с количественными и качественными параметрами - одинаковым количеством одинаковых нейронов), которые будут расти в идентичных условиях - будут одинаковыми. Т.е. наука рассматривает человека как мешок костей и мяса - там нет места сознанию (или чему-то похожему) в принципе
Эт вы как-то загнули, на квантовом уровне бифуркация - норма, там нет детерминированности, потому нет, они не будут одинаковыми (два исходно одинаковых человека). Даже машины Тьюринга накапливают ошибки во времени и расходятся по состоянию.
Сейчас бы рассуждать про сознание, когда наука его еще не изучила.
Опыт - это как последовательность 0 и 1 на жестком диске, поверх которого нейронка для принятия решений.
наука и не будет изучать сознание. Его нельзя измерить или определить в пространстве с помощью научных методов.
Раньше про многое так думали. И в космос не смели мечтать полететь.
Просто существо не может познать замысел создателя и обладать всей полнотой его возможностей. По этому человек в текущем состоянии и не может этого сделать (как не может наблюдатель, находясь внутри пузыря попасть на внешнюю сторону)
Почему не может. Ещё как может и познать, и обладать всеми возможностями, и превзойти. Вы явно не читали мифы.
Чьи, простите?
Ни в одних мифах без позволения создателя ни один смертный не мог сам овладеть навыками божества. И уж тем более превзойти его. Какие то воплощкния божества мог, но с оговорками. А вот понять замысел. Тут вообще глухо.
Почитайте мифы древних индейцев, например. Там бытовуха, культы. Не более. Замысла не видно. Греков возьмите или китайцев.
Нигде не найдёте такого.
Почти во всех мифах эти замыслы абсолютно ясны, более того - вполне человечны и банальны. Почитайте побольше разных мифов разных народов. А затем, напоследок, «Князя света» Желязны. А потом ещё «Краткую историю человечества».
Я рад за вашу способность.
Да, читать книги некоторые уже разучились, таким остается только радоваться.
Ха! Вы искренне пытались, но к сожалению не смогли. Саркастические сентенции явно не ваше. Похоже на утверждение о познании вами божественных смыслов. Такое же бессмысленное и беспощадное.
Вы даже писать грамотно не можете по-русски. Так что даже не пытайтесь - сначала школьный курс пройдите. А демагогией заниматься - ума много не надо, вот русский выучить - это да.
как посмотрю, вы все бегаете по сайту и пишете гневные комменты:) успокойтесь уже, все хорошо, вы самый умный, самый грамотный, возьмите с полки пирожок
Получается, что бегаете и смотрите вы. Делать больше нечего?
Аргумент Паниковского живее всех живых. Ничего нового.
Вам-то ближе Шариков, это понятно.
Я понимаю, что вам очень сложно остановить ваш поток сознания. Хоть весна и закончилась, а до осени ещё пара месяцев. Поэтому оставлю вам возможность написать какой-то ответ. Вы главное не нервничайте.
А вы главное - учите русский язык. Чтобы не выглядеть безграмотным и смешным.
"превзойти" - )))))) После появления на свет в человеческом теле мы даже не можем, не то что себя прокормить, даже голову держать не можем. Превзойти.... Люди в подавляющей массе не могут справиться со своими элементарными пороками, а вы хотите превзойти.
Вы не поняли сути. Одну сказку всегда надо сравнивать с другой сказкой. Не надо сравнивать сказку с реальностью - это странно.
давайте с терминами определятся. что есть реальность для вас? Вы имеете в виду материальный мир, который доступен для чувств человека и умственные спекуляции на основе этого? Это очень ограниченное видение. Советую расширить его прочтением небольшой книжки https://libking.ru/books/sci-/science/121709-suhotra-svami-ten-i-realnost.html
Софистика - это не мое. Так что не составлю вам компанию. Но советую (для начала) научиться хотя бы грамотно писать на русском языке, а не не делать кучу ошибок в несчастных нескольких строчках комментария. Начните с Розенталя (от этого вам будет в миллион раз больше пользы, чем от демагогии): https://www.ozon.ru/product/posobie-po-russkomu-yazyku-s-uprazhneniyami-dlya-postupayushchih-v-vuzy-rozental-ditmar-elyashevich-303190250/?_bctx=CAUQ1sQO&asb2=Msow8G0YM5vo5c4hJOjN5bmF7jomIQmxrFBC--A2t-7pEiqWnpAvNANmHf79jwpW&sh=VsJMaTsKuQ
я не умею грамотно писать на русском языке. И не собираюсь вам доказывать обратное. Суть моих ответов не соревонования в грамматике, а попытка дать вам больше чем вы имеете знаний о сознании живого существа. Если это вызывает у вас только раздражение и глупые ответы о том, что мне надо учить грамматику, то я сочувствую вам. Продолжение диалога бессмыслененно.
О сознании вы можете дать не больше, чем о русском языке. Ни в том, ни в другом вы не разбираетесь. Но заниматься демагогией может каждый неуч, а вот выучить русский язык, которым вы пользуетесь каждый день тысячи раз, - это уже надо иметь голову и кое-что в ней.
"Еще как может..." и "мифы" в одном предложении )) Лол.
Может познать, если сам Создатель этого захочет.
Для начала надо понять взаимоотношения Создателя и живого существа. Ваше высказывание ограничено импирическими методами изучения. Пратьякша. С помощью них вы конечно ничего до конца не познаете. Топ - это материю познаете и всё. Только в конце концов запутаетесь и обманете самого себя. Есть ещё 2 более тонких метода познания - это анумана и шабда. Обратитесь к восточной философии. Там всё это уже расписано и разложено по полочкам давным давно.
нейроны - это электро-ХИМИЧЕСКИЙ процесс. Если ионный сигнал компьютер может смоделировать, то химический процесс в синапсе с выбросом сотен разных молекул, которые ведут себя нелинейно, не удалось пока еще смоделировать никому. Даже в одном синапсе. А в одной нервной клетке этих синапсов 3000-5000 шт . И это....нужно умножить на 90 миллиардов нейронов.
И как это опровергает то, что я написал?
То, что не удалось смоделировать - не значит, что невозможно.
А искусственно созданный мозг будет считаться живым? А чем он будет отличаться от нашего? И еще миллион вопросов :)
Ты отдаешь себе отсчет что мыслишь наизнанку? таких называют люцифером, раковой опухолью, антилюбовью, антихристом, и таких могут приговорить к расстрелу.
LaMDA перелогинься
Само-собой. Если мыслить прямо - будет не интересно.