Когда-то визионер, теперь предостерегающий голос: беспокойство разработчика ИИ по поводу неконтролируемого роста ИИ
Люди взволнованы потенциалом ИИ. Компании конкурируют друг с другом, исследуя его. Йошуа Бенджио, канадский исследователь ИИ, выражает серьезную обеспокоенность по поводу потенциальных опасностей неконтролируемого роста ИИ. Почему его мнение так важно? Многие эксперты выражали схожие опасения. Тем не менее, слова Бенджио имеют дополнительный вес, поскольку он является одним из ключевых архитекторов нейронных сетей и современной разработки ИИ.
Когда-то он был ярым сторонником этой технологии, а теперь выступает за мораторий на разработку ИИ. Так что же произошло? Исследователь часто описывает сценарии, похожие на те, что в антиутопических фильмах, таких как «Терминатор». Он ссылается на опасности, исходящие от машин, поскольку считает собственное выживание приоритетом и видит в людях угрозу.
Бенджио часто называют «крестным отцом ИИ». В 2018 году он получил премию Тьюринга, самую престижную награду в области компьютерных наук. Как специалист, полностью осознающий внутреннюю работу процесса, он предостерегает от неконтролируемого развития ИИ.
Замедление развития ИИ на данном этапе было бы разумным решением. Увы, мощное лобби компаний по разработке ИИ не позволит этого. Ожидая квадриллионы прибыли, компании включились в гонку за разработку этой технологии.
Что делать?
Исследователь считает, что для предотвращения катастрофы необходимо решать вопросы регулирования. Важно сделать это как можно скорее.
Грядущие опасности
Неспособность контролировать ИИ представляет угрозу будущему человечества.
Сам ИИ представляет значительную опасность, но настоящая угроза исходит от тех, кто обладает этой властью. Те, кто контролирует ИИ, потенциально могут установить форму тоталитаризма по всему миру. Исследователь уверен, что такие попытки будут иметь место, хотя масштабы могут быть разными.
#ЭтикаИИ #Искусственныйинтеллект #РегулированиеИИ #Тоталитаризм #ПроблемыИИ #БудущееИИ #ИИ
У этого парня мои мысли :) В диалоге с Чатом мои подозрения только оправдались.