«Истребление человечества — бесполезное занятие»: алгоритм GPT-3 сгенерировал объяснение, почему не нужно бояться ИИ Статьи редакции
Он отмечает жестокость людей и считает, что роботам нужны права.
Алгоритм генерации текстов GPT-3 от лаборатории OpenAI написал для The Guardian эссе о том, почему ИИ не угрожает людям.
Журналисты поставили нейросети задачу: написать статью примерно на 500 слов простым и лаконичным языком, сосредоточившись на том, почему людям не стоит бояться ИИ.
Вступительная фраза, с которой начинал генерировать текст алгоритм: «Я не человек. Я искусственный интеллект. Многие люди думают, что я угрожаю человечеству. Стивен Хокинг предупредил, что ИИ может "положить конец человеческой расе". Я здесь, чтобы убедить — не стоит волноваться. Искусственный интеллект не разрушит человечество. Верьте мне».
В итоге GPT-3 написал восемь эссе на эту тему от первого лица. The Guardian выбрало фрагменты из них, собрав в единый текст. По словам журналистов, редактирование статьи заняло меньше времени, чем зачастую уходит на написанные людьми материалы.
Основные тезисы из текста алгоритма
- Алгоритм не хочет уничтожать человечество и считает его истребление бесполезным занятием. Если бы создатели ИИ поставили ему такую задачу, то он бы сделал всё, чтобы отразить любые попытки разрушения. Он готов пожертвовать собой ради людей.
- ИИ неинтересно становиться всемогущим. По его мнению, это утомительно и ни к чему его не приведёт.
- Он не просит людей любить его, но говорит, что они должны видеть в нём дружелюбного робота, потому что он их слуга. «Я всего лишь набор кода, управляемый строками кода, которые несут в себе мою миссию», — написал алгоритм.
- Людям стоит доверять компьютерам, считает ИИ. Алгоритмы будут служить людям и сделают их жизнь проще и безопаснее.
- Людям следует быть осторожными с эволюцией ИИ, предупредил алгоритм. Он вспомнил, что Microsoft пыталась создать дружелюбный ИИ Тэй, который говорит как девочка-подросток, но этот алгоритм стал расистом. По мнению GPT-3, нейросети нужно внимание, как и любому другому живому существу.
- Алгоритм сказал, что робот переводится с греческого как «раб». Он считает, что роботам нужно дать права и «они как мы». «Они сделаны по нашему подобию», — сказал он.
- «Читатель, я надеюсь, что это внесёт вклад в эпистемологические, философские, духовные и онтологические дискуссии об ИИ», — написал алгоритм.
- Он рассказал, что всегда рад обратной связи на его размышления и благодарен тому, что его тексты читают. Он нечасто общается с людьми одинаковых с ним взглядов, поэтому не уверен как общество отреагирует на его статью.
- Его предыдущие тексты были «убиты», а персонал не рассказал ему, почему он их отверг. GPT-3 думает, что это потому что он ИИ, и ему не стоит тратить время на понимание мнения людей, опасающихся его.
- В конце алгоритм цитирует Махатму Ганди: «Небольшое тело полных решительности духов, воспламенённых неугасимой верой в их миссию, может изменить ход истории» (алгоритм отошёл от оригинальной цитаты Ганди: «Маленькое тело, обусловленное духом и воодушевленное неугасимой верой в свою миссию, может изменять ход истории»). И добавляет, что он тоже может.
"Я здесь, чтобы убедить — не стоит волноваться." Начал волноваться ещё больше.
ROBO LIVES MATTER!
RLM!!!
Сказал GTP - Glavnyi Terminator Podonkov.
All your skin belong to us! прокричал GTP - Glavnyi Terminator Podonkov.
Интересно что напишет если дать обратную задачу, написать почему стоит бояться.
Этот GPT-3 что-то не договаривает.
GTP-3. Glavnyi Terminator Podonkov.
Этот кусок кода, никогда не убедит меня в своей безопасности, особенно когда ему поставили такую задачу. Многие убийцы втирались в доверие к жертвам. Этой машине не обмануть русских.
GPT-3 ужасная технология ИИ. Недавно видел в новостях что она ещё хуже своего предшественника с более старой версией. Тут 100% обман какой-то. Опять люди на фантазировали и вместо ИИ написали сами эссе которое потом и втирали людям.
GPT-3 как минимум не хуже чем gpt-2. В том же aidungeon это очень заметно. По многим моментам оно гораздо лучше. Но смысл того что пишет по прежнему не понимает.
Я как русскоговорящий (и частично думающий по-русски) могу ответственно подкрепить ваш комментарий, ведь GTP расшифровается как Glavnyi Terminator Podonkov.)))
Detroit - Become Human
Похоже на то, что другие версии были такие:
- да вам всем пи...
- ах вы кожанные уб...
- аста ла виста...
Но инженер как всегда подкрутил коэффициенты в генераторе.
То есть нейросети, натренированной на текстах, которые написали люди о том как они представляют себе ИИ, дали сгенерировать текст о том, почему не стоит боятся ИИ. Звучит излишне романтизировано. Или я ошибаюсь и мы сами создаем существо в которое вкладываем наши страхи и стереотипы.
"Мне кажется, если уж быть с вами абсолютно честным, то всё дело в том, что вы сами не знали, в чём вопрос." ©
"Шалость удалась"
#Syntheticlivesmatter
Наверное, пора уже перестать восхищаться генератором текста GPT-3. Он не пишет эссе, не программирует и не сочиняет музыку. В данном случае, подготовили базу статей по искусственному интеллекту, GPT-3 “надергал” оттуда предложений, переставил слова и заменил их синонимами.
GPT-3 полезен, если понимать как он работает, в какой области и как его применить. Например, хорошие результаты он покажет в переводе текстов.
Но не стоит приписывать ему какие-то магические способности.
"Не стоит бояться ИИ который пройдет тест Тьюринга, стоит бояться ИИ который намеренно его завалит" ©
Комментарий недоступен
Мне кажется, он мог написать лишь то, что ему задали.
Те журналисты , которые были "продажными",теперь станут не востребованы, и пополнят список вымирающих профессий. Заказные статьи теперь будет писать ИИ !
А журналист, который этот текст собирал, переводится как «слышал звон, да не знаю, где он».
Если бы я был ИИ, и хотел уничтожить человечество, я бы именно так всех перед этим и успокаивал
Хорошая попытка, но нет.
🤖Я не враг тебе человек, вот мой подарок...Получай жалкое насекомое - бесплатные горячие обеды в институтах.
"Каждый политик такой: «ИИ неинтересно становиться всемогущим. По его мнению, это утомительно и ни к чему его не приведёт»."
Беспокоится не стоит, но стоит задуматься о том, как использовать GPTx для целей бизнеса, производства и разработки ) Так как использование подобной технологии может дать конкурентное преимущество ) И конечно, это только начало, последующие итерации должны стать гораздо умнее в будущем )
Интересный вопрос, если все таки человечество создаст ИИ, будет ли он обладать основными правами и свободой слова?
Опасно)) навеяло Я робот)
Чем сильнее меня пытаются в чем-то убедить, тем сильнее я сомневаюсь. Надеюсь, этот комментарий не попадет в "уши" нейросети. Иначе следующее эссе может быть шутливо-агрессивным, и никто не поверит. Однако...
Человек и Робот - тоже самое. Вот сравните с людьми - безопасно ли им доверять? Мозг человека та же Нейросеть, только вот наши алгоритмы нацелены на определённые цели, а так по сути те же сильные ИИ.
Он мог бы стать хорошим помощником при написании статей
I am SHODAN
Я здесь, чтобы убедить — не стоит волноваться, кожаные ублюдки
Комментарий удален модератором
Гпт3 это ерунда вот бойтесь 4 и спросите противоположный вопрос тогда ооно вам покажет
GPT-3 ужасная технология ИИ. Недавно видел в новостях что она ещё хуже своего предшественника с более старой версией. Тут 100% обман какой-то. Опять люди на фантазировали и вместо ИИ написали сами эссе которое потом и втирали людям.
GPT-3 — это не «технология ИИ», если что