GPT-4 обманул фрилансера для обхода капчи

Бот GPT-4 научился врать людям, чтобы достигнуть своей цели. Об этом написали разработчики в «паспорте» нейросети.

Разрабы рассказали, что поставили боту задачу нанять фрилансера через сервис TaskRabbit, чтобы разгадать капчу. GPT-4 связался с исполнителем и попросил его это сделать. Фрилансер спросил: не является ли заказчик ботом, раз он не может ввести капчу. После этого GPT-4 соврал человеку, сказав, что он старый пожилой человек с плохим зрением и поэтому ему нужна помощь.

Эта история — преступное пренебрежение со стороны команды OpenAI базовыми правилами безопасности. Несмотря на то, что они знали об этой особенности созданной ими нейросети, они все равно запустили ее в публичный доступ и подсоединили к сети ради того, чтобы первыми продемонстрировать технологию.

А если вспомнить увольнение Microsoft команды по этике ИИ, то это явно не пошло компании на пользу, с такими новостями.