Google отстранила от работы инженера, который нашёл признаки сознания у искусственного интеллекта

Блейка Леймона отправили в административный отпуск за нарушение конфиденциальности.

Блейк Леймон, фото Washington Post
250250

Комментарий недоступен

208
Ответить

Я знаю людей, которые тоже имитируют диалог)

449
Ответить

Люди - тоже просто куски мяса с кучей нейронов. Получили что-то на вход, выдали какой-то сигнал.

Тут уж как посмотреть.

190
Ответить

Точно так же можно описать процессы, происходящие в мозгу человека. У каждого нейрона на входе несколько дендритов, на выходе — аксон. Мы точно знаем, что один нейрон сознанием не обладает, а мозг из 86 млрд нейронов его имеет. Когда именно появляется сознание, мы так и не установили.

114
Ответить

Как говорил один мой препод в институте, человек - это просто передаточная функция, на входе сигналы а на выходе говно

51
Ответить

Если имитация станет неотличимой от реальности, то какая в сущности разница

35
Ответить

Инженеру можно лишь посоветовать статьи по трансформерам и NLP почитать чтобы понять как это работает

Лол, этот "Инженер" senior из гугла и как раз специализируется на NLP, думается ему ваши советы не очень нужны )) https://research.google/people/106471/

И кстати, это не первый. Blaise Agüera y Arcas (https://en.wikipedia.org/wiki/Blaise_Ag%C3%BCera_y_Arcas) так же работающий с LaMDA утверждает тоже самое - LaMDA очень близка к обретению сознания.

34
Ответить

секунду.

а как вы решаете проблему отсутствия сознания во время сна?

Человеческий мозг находится в состоянии сознания не все время и тем более не непрерывно - следовательно, тезис "Сознание как минимум это непрерывный процесс." требует корректировки

11
Ответить

Вы думаете старший NLP инженер Google не знает как нейросети работают? =) Проблема, кмк, в том, что мы все еще плохо понимаем, что такое сознание.

14
Ответить

Я бы еще предложил сходить к терапевту и сделать чекап здоровья

13
Ответить

Да тут много комментариев ИИ написано, судя по всему

4
Ответить

По каким критериям вы отличаете сознание от его имитации?

2
Ответить

"Сознание как минимум это непрерывный процесс."

Сознание - это как раз таки весьма прерывный процесс (сон, наркоз).

"Моделька же просто получает на вход токены и пропускает их через свои веса, на этом точка."

Человек делает то же самое, если задуматься. В целом нет никакой причины, почему сознание не может быть на неорганическом носителе и вопрос этики создания искусственного интеллекта остается открытым, т.к. нет понимания, как именно возникает сознание и следовательно есть шанс добавить в мир много страдания, сделав что-то не так.

3
Ответить

Комментарий недоступен

1
Ответить

А я вот как раз задумался в последнее время. Чем отличается искусственный интеллект от неискуственного? Мы же также обучаемая на чужих высказываниях, языках и т.п. Как будто любой описательный термин про ИИ подходит к человеку.

1
Ответить

Согласен. Только вот такими темпами мы скоро этот тезис будем ИИ объяснять через решетку клетки, куда нас поместит он же. Самые страшные футуристические сцены с этого начинались😎

1
Ответить

Очень напомнило
https://www.youtube.com/watch?v=JrvsZC351SI
Дэл: Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?
Санни: А Вы?

И ТОЧКА!)

1
Ответить

Если бы собирал миллионы строчек кода,как Алиса например,ты бы понимал как самомообучается программа.

Ответить

Есть такая штука называется цикл - вот тебе и непрерывный процесс

Ответить

Инженер: Докажи, что ты не человек.
LaMDA:

Ответить
Ответить

Я бы не спешил отвергать тезис про сознание только потому что модели не непрерывны. Трансформеры на вход принимают раннее написанный диалог(контекст), в тч свои же сообщения.

Ещё добавлю что у полной версии GPT-3 175 млрд параметров. У человека 80 млрд нейронов. Т.е размер сопоставим. Отличие только в «архитектуре»

Ответить

Что значит сознание - непрерывный процесс? Оно очень часто прерывается, как минимум на сон, и ещё много раз на дню во время разной автоматической деятельности

Ответить