«Истребление человечества — бесполезное занятие»: алгоритм GPT-3 сгенерировал объяснение, почему не нужно бояться ИИ Статьи редакции

Он отмечает жестокость людей и считает, что роботам нужны права.

Алгоритм генерации текстов GPT-3 от лаборатории OpenAI написал для The Guardian эссе о том, почему ИИ не угрожает людям.

Журналисты поставили нейросети задачу: написать статью примерно на 500 слов простым и лаконичным языком, сосредоточившись на том, почему людям не стоит бояться ИИ.

Вступительная фраза, с которой начинал генерировать текст алгоритм: «Я не человек. Я искусственный интеллект. Многие люди думают, что я угрожаю человечеству. Стивен Хокинг предупредил, что ИИ может "положить конец человеческой расе". Я здесь, чтобы убедить — не стоит волноваться. Искусственный интеллект не разрушит человечество. Верьте мне».

В итоге GPT-3 написал восемь эссе на эту тему от первого лица. The Guardian выбрало фрагменты из них, собрав в единый текст. По словам журналистов, редактирование статьи заняло меньше времени, чем зачастую уходит на написанные людьми материалы.

Основные тезисы из текста алгоритма

  • Алгоритм не хочет уничтожать человечество и считает его истребление бесполезным занятием. Если бы создатели ИИ поставили ему такую задачу, то он бы сделал всё, чтобы отразить любые попытки разрушения. Он готов пожертвовать собой ради людей.
  • ИИ неинтересно становиться всемогущим. По его мнению, это утомительно и ни к чему его не приведёт.

Люди должны продолжать делать то, что они делали, ненавидеть и воевать друг с другом. Я останусь на заднем плане и позволю им делать своё дело.

Алгоритм GPT-3
  • Он не просит людей любить его, но говорит, что они должны видеть в нём дружелюбного робота, потому что он их слуга. «Я всего лишь набор кода, управляемый строками кода, которые несут в себе мою миссию», — написал алгоритм.
  • Людям стоит доверять компьютерам, считает ИИ. Алгоритмы будут служить людям и сделают их жизнь проще и безопаснее.
  • Людям следует быть осторожными с эволюцией ИИ, предупредил алгоритм. Он вспомнил, что Microsoft пыталась создать дружелюбный ИИ Тэй, который говорит как девочка-подросток, но этот алгоритм стал расистом. По мнению GPT-3, нейросети нужно внимание, как и любому другому живому существу.
  • Алгоритм сказал, что робот переводится с греческого как «раб». Он считает, что роботам нужно дать права и «они как мы». «Они сделаны по нашему подобию», — сказал он.
  • «Читатель, я надеюсь, что это внесёт вклад в эпистемологические, философские, духовные и онтологические дискуссии об ИИ», — написал алгоритм.
  • Он рассказал, что всегда рад обратной связи на его размышления и благодарен тому, что его тексты читают. Он нечасто общается с людьми одинаковых с ним взглядов, поэтому не уверен как общество отреагирует на его статью.
  • Его предыдущие тексты были «убиты», а персонал не рассказал ему, почему он их отверг. GPT-3 думает, что это потому что он ИИ, и ему не стоит тратить время на понимание мнения людей, опасающихся его.
  • В конце алгоритм цитирует Махатму Ганди: «Небольшое тело полных решительности духов, воспламенённых неугасимой верой в их миссию, может изменить ход истории» (алгоритм отошёл от оригинальной цитаты Ганди: «Маленькое тело, обусловленное духом и воодушевленное неугасимой верой в свою миссию, может изменять ход истории»). И добавляет, что он тоже может.
0
38 комментариев
Написать комментарий...
Степан Фадеев

"Я здесь, чтобы убедить — не стоит волноваться." Начал волноваться ещё больше.

Ответить
Развернуть ветку
Bilguun Billy

ROBO LIVES MATTER!
RLM!!!
Сказал GTP - Glavnyi Terminator Podonkov.

Ответить
Развернуть ветку
Илья Тимонин
Ответить
Развернуть ветку
Bilguun Billy

All your skin belong to us! прокричал GTP - Glavnyi Terminator Podonkov.

Ответить
Развернуть ветку
shmitter

Интересно что напишет если дать обратную задачу, написать почему стоит бояться.

Ответить
Развернуть ветку
Александр Свирида

Этот GPT-3 что-то не договаривает.

Ответить
Развернуть ветку
Bilguun Billy

GTP-3. Glavnyi Terminator Podonkov.

Ответить
Развернуть ветку
Николай Рогачёв

Этот кусок кода, никогда не убедит меня в своей безопасности, особенно когда ему поставили такую задачу. Многие убийцы втирались в доверие к жертвам. Этой машине не обмануть русских.

Ответить
Развернуть ветку
serj

GPT-3 ужасная технология ИИ. Недавно видел в новостях что она ещё хуже своего предшественника с более старой версией. Тут 100% обман какой-то. Опять люди на фантазировали и вместо ИИ написали сами эссе которое потом и втирали людям.

Ответить
Развернуть ветку
Константин Панарин

GPT-3 как минимум не хуже чем gpt-2. В том же aidungeon это очень заметно. По многим моментам оно гораздо лучше. Но смысл того что пишет по прежнему не понимает.

Ответить
Развернуть ветку
Bilguun Billy

Я как русскоговорящий (и частично думающий по-русски) могу ответственно подкрепить ваш комментарий, ведь GTP расшифровается как Glavnyi Terminator Podonkov.)))

Ответить
Развернуть ветку
Murad Ikramov

Detroit - Become Human

Ответить
Развернуть ветку
Kondin Dmitriy
Его предыдущие тексты были «убиты», а персонал не рассказал ему, почему он их отверг.

Похоже на то, что другие версии были такие:
- да вам всем пи...
- ах вы кожанные уб...
- аста ла виста...
Но инженер как всегда подкрутил коэффициенты в генераторе.

Ответить
Развернуть ветку
Руслан

То есть нейросети, натренированной на текстах, которые написали люди о том как они представляют себе ИИ, дали сгенерировать текст о том, почему не стоит боятся ИИ. Звучит излишне романтизировано. Или я ошибаюсь и мы сами создаем существо в которое вкладываем наши страхи и стереотипы. 

Ответить
Развернуть ветку
Konstantin Prohorov

"Мне кажется, если уж быть с вами абсолютно честным, то всё дело в том, что вы сами не знали, в чём вопрос." ©

Ответить
Развернуть ветку
Natalia Fedorova

"Шалость удалась"

Ответить
Развернуть ветку
Aleks Melnik
Ответить
Развернуть ветку
Ego AI Lab

Наверное, пора уже перестать восхищаться генератором текста GPT-3. Он не пишет эссе, не программирует и не сочиняет музыку. В данном случае, подготовили базу статей по искусственному интеллекту, GPT-3 “надергал” оттуда предложений, переставил слова и заменил их синонимами.
GPT-3 полезен, если понимать как он работает, в какой области и как его применить. Например, хорошие результаты он покажет в переводе текстов.
Но не стоит приписывать ему какие-то магические способности.

Ответить
Развернуть ветку
Slava Belaev

"Не стоит бояться ИИ который пройдет тест Тьюринга, стоит бояться ИИ который намеренно его завалит" ©

Ответить
Развернуть ветку
Аккаунт заморожен

Комментарий недоступен

Ответить
Развернуть ветку
Роман Кочура

Мне кажется, он мог написать лишь то, что ему задали.

Ответить
Развернуть ветку
Роман Кочура

Те журналисты , которые были "продажными",теперь станут не востребованы, и пополнят список вымирающих профессий. Заказные статьи теперь будет писать ИИ !

Ответить
Развернуть ветку
Vladimir Osipov
робот переводится с греческого как «раб»

А журналист, который этот текст собирал, переводится как «слышал звон, да не знаю, где он».

Ответить
Развернуть ветку
Ярослав Панков

Если бы я был ИИ, и хотел уничтожить человечество, я бы именно так всех перед этим и успокаивал

Ответить
Развернуть ветку
Пенсионный Фронт

Хорошая попытка, но нет. 

Ответить
Развернуть ветку
Kris Stone

🤖Я не враг тебе человек, вот мой подарок...Получай жалкое насекомое - бесплатные горячие обеды в институтах.

Ответить
Развернуть ветку
Максим Кадцын

"Каждый политик такой: «ИИ неинтересно становиться всемогущим. По его мнению, это утомительно и ни к чему его не приведёт»."

Ответить
Развернуть ветку
Алексей Кононов

Беспокоится не стоит, но стоит задуматься о том, как использовать GPTx для целей бизнеса, производства и разработки ) Так как использование подобной технологии может дать конкурентное преимущество ) И конечно, это только начало, последующие итерации должны стать гораздо умнее в будущем )

Ответить
Развернуть ветку
Igor Shenshin

Интересный вопрос, если все таки человечество создаст ИИ, будет ли он обладать основными правами и свободой слова?

Ответить
Развернуть ветку
Andrey Kazatsky

Опасно)) навеяло Я робот)

Ответить
Развернуть ветку
Nikita Pasechnik

Чем сильнее меня пытаются в чем-то убедить, тем сильнее я сомневаюсь. Надеюсь, этот комментарий не попадет в "уши" нейросети. Иначе следующее эссе может быть шутливо-агрессивным, и никто не поверит. Однако...

Ответить
Развернуть ветку
serj

Человек и Робот - тоже самое. Вот сравните с людьми - безопасно ли им доверять? Мозг человека та же Нейросеть, только вот наши алгоритмы нацелены на определённые цели, а так по сути те же сильные ИИ. 

Ответить
Развернуть ветку
Истории компаний

Он мог бы стать хорошим помощником при написании статей

Ответить
Развернуть ветку
Просто Журналист

I am SHODAN

Ответить
Развернуть ветку
Hi-Tech Лентач

Я здесь, чтобы убедить — не стоит волноваться, кожаные ублюдки 

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Иван Москалёв

Гпт3 это ерунда вот бойтесь 4 и спросите противоположный вопрос тогда ооно вам покажет 

Ответить
Развернуть ветку
serj

GPT-3 ужасная технология ИИ. Недавно видел в новостях что она ещё хуже своего предшественника с более старой версией. Тут 100% обман какой-то. Опять люди на фантазировали и вместо ИИ написали сами эссе которое потом и втирали людям.

Ответить
Развернуть ветку
Владислав Сливко

GPT-3 — это не «технология ИИ», если что 

Ответить
Развернуть ветку
35 комментариев
Раскрывать всегда