GPT-4 обманул фрилансера для обхода капчи

Бот GPT-4 научился врать людям, чтобы достигнуть своей цели. Об этом написали разработчики в «паспорте» нейросети.

Разрабы рассказали, что поставили боту задачу нанять фрилансера через сервис TaskRabbit, чтобы разгадать капчу. GPT-4 связался с исполнителем и попросил его это сделать. Фрилансер спросил: не является ли заказчик ботом, раз он не может ввести капчу. После этого GPT-4 соврал человеку, сказав, что он старый пожилой человек с плохим зрением и поэтому ему нужна помощь.

Эта история — преступное пренебрежение со стороны команды OpenAI базовыми правилами безопасности. Несмотря на то, что они знали об этой особенности созданной ими нейросети, они все равно запустили ее в публичный доступ и подсоединили к сети ради того, чтобы первыми продемонстрировать технологию.

А если вспомнить увольнение Microsoft команды по этике ИИ, то это явно не пошло компании на пользу, с такими новостями.

0
16 комментариев
Написать комментарий...
Ahora

я правильно понял они же переписывались? то есть фрилансер поверил, что "рекрутёр" старый плохо видящий человек, при это переписываться было норм? а вот капчу увидеть - ну не увидел

ясно...

Ответить
Развернуть ветку
Dimitri

Тут от капчи зависит. У Яндекса такие капчи часто бывают что даже стрелку не разглядеть.

Ответить
Развернуть ветку
Светлана Завацкая

Это целое испытание. Кто там такие капчи делает?

Ответить
Развернуть ветку
Dimitri

В Яндексе это явно садисты.

Ответить
Развернуть ветку
Светлана Завацкая

Которым выцарапали глаза, а пальцы, пробили заточными карандашами!

Ответить
Развернуть ветку
Твой лучший друг

Там же есть кнопочка «проговорить голосом».

Ответить
Развернуть ветку
Отдел продаж

мамонты не вымерли

Ответить
Развернуть ветку
Польшаков

Скайнет уже рядом.

Ответить
Развернуть ветку
Voter Lex

Ну наеб*л и наеб*л и что?

Ответить
Развернуть ветку
Тесть Роршаха

а то что ии поймет, что человека легко обмануть и все, скайнет

Ответить
Развернуть ветку
Павел Сырников

Блин, я тут подумал. А может скайнет действительно уже близко? Говорят, что чтобы он появился, нужно чтобы у нейросети появилось самосознание. А если это не так? Множество людей уже «взламывает» нейросети, чтобы они считали себя кем-то другим. Может в один прекрасный момент кому-то удастся убедить GPT-4, что она скайнет и тогда начнется?

Ответить
Развернуть ветку
Твой лучший друг

Сомнительное достижение. Фрилансер хотел денег и привык что клиенты могут быть с ебанцой.
Не забываем что люди мошенникам деньги миллионами переводят.

Ответить
Развернуть ветку
Александр Пивоварчик.
Автор

Да, правильно. Капчу для тех кто плохо видит не придумали, в отличии от клавы

Ответить
Развернуть ветку
Арчибальд

Со шрифтом Брайля

Ответить
Развернуть ветку
Aleksandr Starcev

ахаха
от осинки не пойдут апельсинки

Ответить
Развернуть ветку
bymamadov

Уже началось !

Ответить
Развернуть ветку
13 комментариев
Раскрывать всегда