Право Daria Nikolaeva
219

Мы в ответе за тех, кого обучили. Юридическая ответственность разработчиков нейросетей

В стремительную эпоху развития технологий, мы не успеваем регулировать возникающие правоотношения. Появление новых участников и цифровых решений невольно стимулирует нас к рефлексии на тему разграничения зон ответственности за принимаемые ими решения и совершаемые действия.

В закладки

Ученые и юристы ведут дискуссии на тему какие же нормы возьмут верх в регулировании отношений, возникающих в связи с развитием цифровой экономики: технические или правовые?

На мой взгляд, очевидно, что это будет безусловная коллаборация технического и правового коммьюнити, ведь юристы остро нуждаются в разъяснении технологических нюансов для принятия осознанных и исполняемых законов.

В данной статье, я коротко расскажу и покажу с чем столкнутся юристы и разработчики при создании и внедрении новых технологий в нашу реальность.

Итак, поговорим о месте нейронных сетей в Data Mining и Machine Learning.

Сначала простым языком о Data Mining.

Data Mining - это обработка данных человеком с использованием собственных интеллектуальных ресурсов. Другими словами человек осуществляет анализ данных самостоятельно, разрабатывает алгоритм, задает параметры оценки и обработки данных. Пример классического Data Mining - кредитный скоринг в банке. Однако, известные банковские мастодонты говорят, что уже используют искусственный интеллект для этой цели.

Machine Learning представляет собой запуск алгоритма на Data Mining в соответствии с которым и происходит работа с данными по заранее определенным закономерностям.

Итак, чем отличается классическое машинное обучение от нейронных сетей и какие риски существуют при использовании нейронных сетей?

Как известно, нейронные сети используются для решения интеллектуальных задач. Другими словами, нейронная сеть обучается в процессе решения самой задачи. Поскольку заданных алгоритмов и последовательностей для решения таких задач нет, нейронная сеть использует принцип, по которому она обучается сама. Таким образом, для работы нейросетям достаточно лишь дать выборку для обучения и она запустит механизм самообучения. В классическом машинном обучении активное участие принимает человек, который определяет архитектуру алгоритма, параметры, их соотношение, последовательности и взаимосвязи. Например, для решения задачи распознавания лиц, с использованием метода классического Machine learning, человек задаёт программе параметры: расстояние между глаз, расположение бровей, носа и др., на основании которых машина осуществляет распознавание. С нейросетями все обстоит гораздо интереснее, ведь человек не пишет алгоритм решения, а лишь подаёт обучающую выборку, давая машине самой разобраться в сущности явления и принять решение. При таких условиях, преимущества использования этой технологии следующие:

- самообучение;

- для получения результата, не требуется глубокое понимание сущности явления, поскольку достаточно лишь быть экспертом в нейронных сетях, чтобы решить любую задачу в экспертной области;

- высокая точность результата.

Безусловно имеются минусы, о которых следует знать, перед тем как сделать выбор в пользу нейросетей.

- обучающая выборка. Это огромный массив данных о конкретном явлении, а также их предобработка.

- никто не знает, как она мыслит. Нейросеть - это чёрный ящик и разгадать то, как она решает ту или иную задачу невозможно!

Фактически, мы имеем дело с сущностью, на которую мы не можем оказывать никакого влияния, ни технического ни правового.

В связи с этим, возникает сугубо юридический вопрос: а кто же будет нести ответственность за решения, принятые нейросетью?

Разработчик архитектуры сети, программист, загрузивший в сеть обучающую выборку, поставщик данных для обучающей выборки или заказчик продукта, на основе этой технологии?

На сегодняшний день, самыми известными библиотеками для обучения нейронных сетей, которые используются разработчиками для обучения являются:

- TensorFlow (Google)

- CNTK(Microsoft)

- Pytorch (Facebook) и другие.

Таким образом, мы сталкиваемся с трансграничностью передачи и использования данных, что осложняет закрепление ответственности за поставщиками данных и придает вопросу закрепления ответственности международный характер.

На российском рынке очень мало аналогов иностранных библиотек, мне удалось найти описание одной - PuzzleLib. Это исключительно российская разработка, выполнена компанией-резидентом Фонда «Сколково» Нейросети Ашманова. Библиотека, позволяет собрать нейронную сеть под различные задачи, включена в Единый реестр российских программ для электронных вычислительных машин и баз данных.

Мне, как юристу, сложно дать качественную техническую оценку данному продукту, но с точки зрения действующего законодательства, применение данного программного обеспечения (ПО) позволяет оказывать услуги государственным заказчикам и дает возможность создавать нейросетевые технологии специального применения.

Очевидно, что при широком распространении технологии нейронных сетей и увеличения предметной области исследования сущностей явлений, потребуется регулирование не только механизмов разработки, использования данных, но и разработка новых моделей взаимодействия с участниками правоотношений и как следствие издание новых нормативно - правовых актов.

Специфика данных отношений приведет к формированию экспертного кластера, способного давать объективную оценку качеству и адекватности используемой технологии и принимаемых ей решений, в том числе и оценку ПО, программно - аппартных комплексов и специалистов, разрабатывающих и внедряющих технологии.

Для юридического сообщества это новый вызов, связанный с переподготовкой кадров и расширением областей компетенции.

Материал опубликован пользователем. Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Daria Nikolaeva", "author_type": "self", "tags": [], "comments": 2, "likes": -1, "favorites": 5, "is_advertisement": false, "subsite_label": "legal", "id": 69572, "is_wide": false, "is_ugc": true, "date": "Wed, 29 May 2019 11:14:56 +0300" }
{ "id": 69572, "author_id": 224942, "diff_limit": 1000, "urls": {"diff":"\/comments\/69572\/get","add":"\/comments\/69572\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/69572"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199120, "last_count_and_date": null }

2 комментария 2 комм.

Популярные

По порядку

0

Вот мне кажется, что как раз проблема с невозможностью объяснить решение нейросети и станет ключевой. Потому что часто наша работа как юристов и состоит в том, чтобы объяснить клиенту, почему так или эдак. А тут будет просто «ответ такой-то».

Ответить
1

И не просто ключевой проблемой в объяснении решения, а ключевой проблемой в развитии и применении технологий. Разработчики не задаются вопросом, а как она работает и повлияет ли на жизнь и здоровье людей, правоотношения, будут ли правовые последствия и т.д. Это все равно что предъявить Джоржу Мартину: какого черта ты убиваешь моих любимых героев (прим.автора - я не смотрела ни одной серии :)) Но ведь он художник - он так видит. Наша задача, как юристов, взять под контроль вопрос о распределении ответственности между всеми участниками процесса создания новых технологий, а для этого нам необходимо получить от технологического коммьюнити полную расшифровку идеи и ролей. Пока сами не поймем, как устроены они изнутри и клиентам объяснять то нечего будет)

Ответить
0
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "240х200_mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "flbq" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Плашка на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } } ]
Компания отказалась от email
в пользу общения при помощи мемов
Подписаться на push-уведомления
{ "page_type": "default" }