Сбер разовьет ИИ по правилам
Основные принципы ИИ, которые принял Сбер: контролируемость и управляемость его систем, их стабильность и надежность, прозрачность и предсказуемость и использование технологий только для улучшения клиентского опыта. Чтобы контролировать соблюдение новых правил, в корпорации создали рабочую группу по этике разработки и применения технологий ИИ. Она будет рассматривать этические споры, связанные с разработкой и применением технологий, и проводить экспертизу рисков применения ИИ в дочерних компаниях.
"Принципы обсуждали и разрабатывали с сотрудниками компаний группы, - рассказал исполнительный директор Центра обработки данных для госорганов Сбербанка Андрей Незнамов. - Мы изучили опыт создания и применения корпоративных принципов искусственного интеллекта других мировых разработчиков. Проанализировали научные публикации и исследования по этике ИИ".
В пресс-службе Сбера не уточнили, будут ли работники подписывать обязывающие документы по этике ИИ, и не ответили, какие санкции применят к сотрудникам, которые нарушат новые правила.
По словам вице-президента по управлению проектами Abbyy Татьяны Даниэлян, этика искусственного интеллекта - тренд и одна из самых обсуждаемых тем прошлого и этого года. Во всем мире и госорганизации, и бизнес начали предлагать этические правила разработки интеллектуальных решений. "В основном подобные кодексы этики содержат общие рекомендации для ИТ-компаний: создавать безопасные технологии, защищать персональные данные, не использовать ИИ во вред, исключать манипуляции со стороны системы и пользователей. Свои рекомендации по этике ИИ предложили в Пентагоне и Ватикане", - напомнила представитель Abbyy. Пока бизнес и общество только начали формировать отраслевые стандарты разработки ИИ, но, предполагает эксперт, с развитием технологий и их массовым распространением не исключено, что подобные кодексы этики станут принимать повсеместно.
Внутренние правила и регламенты компаний не имеют юридической силы, однако могут использоваться разработчиками как ориентиры. Председатель совета директоров компании 3iTech Алексей Любимов считает, что время таких правил для ИИ пришло.
"Все больше систем получают "интеллект", который принимает решения без участия человека. Соответственно, возникают вопросы юридического характера. Если за декларацией моральных принципов не последует создания технических регламентов, то они будут лишь интеллектуальным упражнением, в духе трех законов робототехники Айзека Азимова. Сформулированные принципы не детализированы, и их практическое применение зависит от интерпретации каждым отдельным разработчиком. Скоро ИИ станет повсеместным, поэтому обществу крайне важно оперативно внести необходимые изменения в законодательство и выработать принципы и подходы для создания и работы с интеллектуальными системами", - уверен Алексей Любимов.
По оценке руководителя центра компетенций больших данных компании "Рексофт" Сергея Назаренко, Сбер сделал хороший документ верхнего уровня. Однако, по его мнению, за декларацией должны последовать открытые кейсы по применению, которые покажут индустрии, как действовать. Также продвигать новую этику стоит и на уровне независимых ассоциаций.
"Россия могла бы проявить международную инициативу, вырабатывая такой стандарт, и стать лидером в этой области, - считает генеральный директор DZ Systems и создатель "Яндекс.Маркета" Дмитрий Завалишин. - Сообщество, какое-то некоммерческое партнерство в таких случаях, на мой взгляд, - наиболее удачное решение. Традиционно именно профессиональные гильдии вырабатывали первые своды этических правил для своих членов. К сегодняшнему дню в России есть большой, хороший, удачный опыт работы отраслевых ИТ-ассоциаций, и уместно использовать механизмы совместной работы такого плана, которые они разработали".
Исполнительный директор Национальной ассоциации участников рынка робототехники (НАУРР) Алиса Конюховская говорит, что в обществе есть недоверие к роботам и искусственному интеллекту. На ее взгляд, разработка и публикация сводов этических правил способствуют формированию доверия потребителей к решениям на базе искусственного интеллекта. "Довольно много существует публикаций в СМИ или фильмов, которые создают негативный фон для искусственного интеллекта. Некоторые люди боятся, относятся скептически и даже могут отказываться от некоторых технологий. Очень важно, кроме разработки самих решений, готовить общество к этим технологиям. Если есть продукт, а люди не хотят им пользоваться, это тормозит отрасль, - описывает проблему представитель НАУРР. - С учетом того, какая большая инфраструктура у Сбера, важно, конечно, обеспечивать надежность и контролируемость тех систем ИИ, которые создаются. И технологии действительно должны быть прозрачными".
Принципы, сформулированные Сбером для своей экосистемы, скорее всего, не будут иметь широкого применения в других организациях, предполагает исполнительный директор НПО "Андроидная техника" Евгений Дудоров: "Нужно понимать, что Сбер работает в эргатической системе "человек - ИИ - Сбер", и в ней большая часть процессов, особенно в банковском направлении, отдается высокоуровневому ПО: ИИ принимает решение о выдаче кредита, составляет рейтинг благонадежности заемщиков, подбирает банковские продукты в зависимости от предпочтений клиента. Для Сбера вопрос создания принципов ИИ давно назрел". Эту тенденцию, убежден Евгений Дудоров, со временем подхватят и другие российские банки.
#сбер, #ИТ, #дмитрийзавалишин, #DZSystems, #ИИ