Cоздатель ChatGPT создаст команду, которая будет держать сверхинтеллектуальных ботов с ИИ под контролем

Создатель ChatGPT OpenAI обеспокоен тем, что они сделали монстра, популяризируя ИИ. Теперь они планируют создать команду инженеров-людей и экспертов по искусственному интеллекту, которым будет поручено держать сверхинтеллектуальных роботов с искусственным интеллектом под контролем человека.

Cоздатель ChatGPT создаст команду, которая будет держать сверхинтеллектуальных ботов с ИИ под контролем

Для устранения потенциальных неправомерных действий и опасностей OpenAI создает команду для контроля и регулирования сверхинтеллектуальных систем ИИ.

Охота на сверхразумный ИИ

Компания поручила своим исследователям Суцкеверу и Яну Лейке возглавить эту инициативу. OpenAI также активно ищет талантливых исследователей и инженеров машинного обучения в свою команду.

В сообщении в блоге создатели ChatGPT подчеркивают, что суперинтеллект станет самой революционной технологией из когда-либо изобретенных и может помочь решить критические глобальные проблемы. Однако они предупреждают, что развитие таких технологий требует создания новых институтов управления и решения проблемы согласования сверхразума с человеческими ценностями.

Чтобы снизить эти риски, OpenAI выделила 20% своих вычислительных ресурсов в течение следующих четырех лет для решения проблемы согласования сверхразума.

Cоздатель ChatGPT создаст команду, которая будет держать сверхинтеллектуальных ботов с ИИ под контролем

ИИ нельзя модулировать и регулировать с помощью ИИ

OpenAI планирует обучать свои модели с использованием обратной связи с людьми и активно нанимает людей-исследователей. Заинтересованные кандидаты могут подать заявку на вакансию через официальный сайт OpenAI.

В то время как OpenAI принимает меры предосторожности в отношении согласования сверхразума, компания постоянно выражает обеспокоенность по поводу технологий, основанных на больших языковых моделях, таких как ChatGPT.

Он считает, что технологии ИИ нельзя игнорировать, и люди должны их использовать. Альтман также выступает за строгое государственное регулирование для снижения рисков ИИ.

Cоздатель ChatGPT создаст команду, которая будет держать сверхинтеллектуальных ботов с ИИ под контролем

Важным событием стало то, что в этом месяце Совет Безопасности ООН запланировал свое первое заседание для рассмотрения потенциальных угроз, создаваемых искусственным интеллектом. Генеральный секретарь ООН Антониу Гутерриш подчеркнул необходимость достижения консенсуса в отношении основных правил, регулирующих разработку и внедрение ИИ на благо всех, признавая, что мощные инструменты ИИ могут способствовать достижению Глобальных целей.

А если вам еще больше интересна тема ИИ, вы хотите знать больше и не пропускать новинки и обзоры, подпишитесь на канал в тг, мне будет приятно -

55
Начать дискуссию