GPT-4 обманул фрилансера для обхода капчи
Бот GPT-4 научился врать людям, чтобы достигнуть своей цели. Об этом написали разработчики в «паспорте» нейросети.
Разрабы рассказали, что поставили боту задачу нанять фрилансера через сервис TaskRabbit, чтобы разгадать капчу. GPT-4 связался с исполнителем и попросил его это сделать. Фрилансер спросил: не является ли заказчик ботом, раз он не может ввести капчу. После этого GPT-4 соврал человеку, сказав, что он старый пожилой человек с плохим зрением и поэтому ему нужна помощь.
Эта история — преступное пренебрежение со стороны команды OpenAI базовыми правилами безопасности. Несмотря на то, что они знали об этой особенности созданной ими нейросети, они все равно запустили ее в публичный доступ и подсоединили к сети ради того, чтобы первыми продемонстрировать технологию.
А если вспомнить увольнение Microsoft команды по этике ИИ, то это явно не пошло компании на пользу, с такими новостями.
я правильно понял они же переписывались? то есть фрилансер поверил, что "рекрутёр" старый плохо видящий человек, при это переписываться было норм? а вот капчу увидеть - ну не увидел
ясно...
Тут от капчи зависит. У Яндекса такие капчи часто бывают что даже стрелку не разглядеть.
Это целое испытание. Кто там такие капчи делает?
В Яндексе это явно садисты.
Которым выцарапали глаза, а пальцы, пробили заточными карандашами!
Там же есть кнопочка «проговорить голосом».
мамонты не вымерли
Скайнет уже рядом.
Ну наеб*л и наеб*л и что?
а то что ии поймет, что человека легко обмануть и все, скайнет
Блин, я тут подумал. А может скайнет действительно уже близко? Говорят, что чтобы он появился, нужно чтобы у нейросети появилось самосознание. А если это не так? Множество людей уже «взламывает» нейросети, чтобы они считали себя кем-то другим. Может в один прекрасный момент кому-то удастся убедить GPT-4, что она скайнет и тогда начнется?
Сомнительное достижение. Фрилансер хотел денег и привык что клиенты могут быть с ебанцой.
Не забываем что люди мошенникам деньги миллионами переводят.
Да, правильно. Капчу для тех кто плохо видит не придумали, в отличии от клавы
Со шрифтом Брайля
ахаха
от осинки не пойдут апельсинки
Уже началось !