Израиль подписывает глобальный договор по борьбе с рисками искусственного интеллекта
Договор, инициированный Советом Европы и подписанный 57 государствами, включая США, представляет собой правовую основу для борьбы с пагубными и дискриминационными результатами использования систем ИИ.
Израиль присоединился к Соединенным Штатам, Соединенному Королевству и ряду других стран Европейского союза, подписав международный договор о том, как использовать искусственный интеллект для общего блага, гарантируя при этом, что демократия, права человека и верховенство закона не будут подрываться.
«Подписание Израилем первой глобальной конвенции по искусственному интеллекту подчеркивает нашу приверженность ответственным инновациям и ценностям прав человека», — заявила министр инноваций, науки и технологий Гила Гамлиэль. «Эта конвенция делает Израиль полноправным партнером в создании международной политики в этой области в ближайшие годы и выведет нас в авангард передовых стран мира».
Это первый обязательный международный договор по ИИ, подписанный 57 странами, включая 46 государств-членов Совета Европы, который теперь ожидает ратификации государствами. После ратификации страны-подписанты будут нести ответственность за любые вредные и дискриминационные результаты систем ИИ. Это происходит в то время, когда законодатели по всему миру размышляют о регулировании технологии и о том, как решать проблемы безопасности и другие виды неправильного использования и опасности, которые она уже представляет.
Подписанная в четверг Конвенция Совета Европы об искусственном интеллекте была создана с целью сформулировать глобальные основополагающие принципы, правила и стандарты, гарантирующие, что внедрение новаторских и быстро развивающихся технологий будет соответствовать правам человека, демократии и верховенству закона.
Этот шаг был предпринят на фоне опасений, что Израиль отстает от США и Европы в плане привлечения инвестиций в стартапы, разрабатывающие технологии на основе искусственного интеллекта на фоне продолжающейся войны с террористической группировкой ХАМАС.
Искусственный интеллект — технология, которая дает компьютерам возможность быстро обучаться — существует с 1950-х годов. Но в последнее десятилетие он переживает ренессанс, который стал возможен благодаря более высокой вычислительной мощности чипов и огромному количеству данных, доступных онлайн.
Достижения в этой области позволили компьютерам анализировать наборы данных и находить полезные закономерности для решения проблем, причем порой машина перехитрила человеческий мозг. ИИ и машинное обучение уже используются в широком спектре приложений: от распознавания лиц до обнаружения заболеваний на медицинских снимках и глобальных соревнований в играх и войнах.
Выступая на конференции в Тель-Авиве на этой неделе, эксперт по ИИ профессор Амнон Шашуа, соучредитель израильского стартапа AI21 Labs, сказал, что достижения в области генеративного ИИ для создания изображений, улучшения исследования данных и текста, а также других инструментов очень хороши и полезны, но пока не являются революцией. AI21 Labs — это компания по обработке естественного языка (NLP), которая стремится сделать генеративный ИИ доступным для масс и конкурирует с OpenAI.
«Это технологическая волна, которая имеет потенциал имитировать человеческий интеллект в решении сложных проблем во всех областях человеческих знаний вместо экспертов-людей», — сказал Шашуа. «Среди тех, кто участвует в работе над передовыми моделями ИИ, есть мнение, что она уже не за горами».
«Очень быстрое развитие этих моделей создает ощущение, что в ближайшем будущем эти системы смогут не только резюмировать статьи, но и решать проблемы, как эксперт-человек, и тогда все изменится, а это значит, что отношения между нами и машинами претерпят кардинальные изменения», — добавил он.
Между тем, страны вкладывают огромные средства в эту сферу, поскольку ожидается, что она станет сердцем будущих технологий и ключом к экономическому росту во всем мире.
Многие эксперты, стоящие за разработкой систем ИИ, предупреждают, что, хотя технологии ИИ потенциально способны изменить мир, в котором мы живем, в ближайшие годы, эти большие перспективы также несут в себе катастрофические риски, могут нанести значительный вред и подорвать демократию.
Генеральный директор OpenAI Сэм Альтман настаивает на том, что вмешательство правительства будет иметь решающее значение для снижения рисков все более мощных систем ИИ. Альтман предложил создать международный регулятор мониторинга по типу ядерного агентства ООН для пресечения вредоносного использования ИИ.
Среди опасений — потенциальное злоупотребление ИИ в критически важной инфраструктуре, образовании, человеческих ресурсах и общественном порядке. Развитие генеративного ИИ (GenAI), который может создавать сложный контент, напоминающий человеческое творчество, в виде ChatGPT от OpenAI, привело к использованию инструмента для создания дипфейков, что может привести к распространению в сети ложных и вводящих в заблуждение заявлений о Холокосте ; к обману при выполнении домашних заданий; к распространению лжи; и к нарушению защиты авторских прав. Помимо этого, опасения заключаются в том, что в будущем передовые системы ИИ смогут манипулировать людьми, чтобы они уступили им контроль.
«Несмотря на текущую войну и всю боль и проблемы, которые она приносит, нам нужно оставаться настроенными на международные процессы и организации и участвовать в них», — сказал заместитель генерального прокурора д-р Гилад Ноам. «Не менее важно, что мы хотим подать сигнал нашим союзникам и друзьям по всему миру, что мы разделяем общее желание, а именно: содействовать инновациям, защищая права человека».
Договор обязывает подписавшие его стороны гарантировать, что системы ИИ не будут использоваться для «подрыва целостности, независимости и эффективности демократических институтов и процессов, включая принцип разделения властей, уважение независимости судебной системы и доступа к правосудию».
Правовая база также возлагает на государства общую обязанность контролировать результаты работы систем ИИ и принимать меры по защите прав человека в соответствии с международным и национальным законодательством, включая защиту прав на неприкосновенность частной жизни отдельных лиц и правовую защиту их персональных данных.
Чтобы соответствовать стандартам договора, подписавшие его государства должны будут действовать для выявления, оценки и минимизации рисков, создаваемых системами ИИ, на основе оценки рисков, которая взвешивает практические и потенциальные последствия для прав человека, демократии и верховенства закона. Однако договор не перечисляет никаких санкций или штрафов в случаях несоблюдения, что вызывает вопросы относительно его эффективной принудительной реализации.
Перевод с английского
учитывая что данная отрасль развивается прям очень быстро, подобные решения просто необходимы, тем более что многим просто совершенно не понятны процессы которые грядут.