Опасность в коде: ловушка искусственного интеллекта

Опасность в коде: ловушка искусственного интеллекта

Искусственный интеллект (ИИ) распахнул двери к неограниченным возможностям – от создания уникального контента до оптимизации работы целых корпораций.

Находится ли человечество на заре технологического процветания или мы неумолимо несемся в антиутопичное будущее? Скоро узнаем!

Красные флаги нейроимперии

Опасность в коде: ловушка искусственного интеллекта

Массовое сокращение

Рекрутеры, менеджеры, авторы контента, IT-специалисты и другие профессионалы бьют тревогу: с развитием искусственного интеллекта возникает опасение относительно возможной потери рабочих мест. Технологии искусственного интеллекта способны не только выполнять простейшие задачи, но и создавать цифровых аватаров, которых становится все сложнее отличить от человека, или заменить работу целого рекламного отдела.

Мы задались вопросом: сможет ли ИИ полноценно заменить сотрудника?

Кажется, что ИИ сможет оптимизировать некоторое число персонала и рутинные операции. Скорее всего компании, которые будут использовать ИИ выиграют в конкурентной гонке у тех, кто его не использует. Это приведет к сокращению количества менее технологичных компаний.
Михаил Круподеров, Бизнес-аналитик ГК Selecty

ИИ в плохих руках

Телефонное мошенничество, разработка вредоносного ПО, написание фейковых отзывов и комментариев ботами, появление большого количества недостоверного автосгенерированного контента – лишь верхушка опасных возможностей, которыми могут воспользоваться мошенники для причинения вреда.

Манипуляция без границ

В цифровом пространстве часто встречаются тролли и другие анонимные личности, которые не скрывают своего настроения и выражают свои мысли весьма агрессивно, прибегая к дискриминации, абьюзу и буллингу. Эта ситуация представляет серьезные этические проблемы, поскольку алгоритмы искусственного интеллекта обучаются на общедоступных данных из Интернета, что может привести к распространению негативных установок на широкую аудиторию.

Отпустить нельзя контролировать

Общественность все больше беспокоит проблема ограничения доступа искусственного интеллекта к этическим вопросам конфиденциальности, персональных данных и безопасности. Разработчики должны ответственно выстраивать экологичные границы обучения технологии и правил ее использования.

Все стороны медали

Одиночество — одно из неочевидных последствий. Алгоритмы могут заказывать продукты, рассказывать интересные факты, играть с вами в игры, и это малая часть его повседневного функционала. С одной стороны, ИИ может заменить человеческое общение, но с другой стороны теплота и подлинность контакта могут быть утрачены.

А что у нас хорошего?!

Опасность в коде: ловушка искусственного интеллекта

Продуктивность 2.0

ИИ поможет освободить вас от рутинных дел и сфокусироваться на выполнении более комплексных и сложных задач. Чем больше времени, тем лучше будет результат.

Универсальное лекарство

ИИ прямо как медицинский Google. Он может не только выдвинуть предположительный диагноз, но и предложить методы лечения, что позволяет разгрузить врачей от бумажной волокиты и уделить внимание тяжелым случаям.

Большой брат

ИИ всегда на страже кибербезопасности! Он всегда следит за тобой: в реальном времени мониторит огромные массивы данных, ловит подозрительную активность и блокирует попытки хакеров попасть в систему.

24/7

Машины не знают слова «отпуск»! Они могут трудиться в любое время дня и ночи и все равно сохранять прежнюю результативность. Такой работник – мечта любого начальника. А еще можно экономить на кофе!

Мы поинтересовались у нашего бизнес-аналитика, для кого искусственный интеллект может принести наибольшую пользу:

Я уверен, что рутинные задачи, которые выполняются сотрудниками могут быть заменены ИИ. В основном это коснется аналитических задач: обработки больших массивов данных, написания текстов, преобразования речи в текст и наоборот. Хотелось бы, чтобы ИИ мог помочь людям с ограниченными возможностями в ориентации на местности, общении и других функциях.
Михаил Круподеров, Бизнес-аналитик ГК Selecty

Где у него кнопка?

Опасность в коде: ловушка искусственного интеллекта

В связи с тем, что ИИ имеет неоспоримые преимущества, вводятся ограничения, которые обезопасят человечество от развития Skynet.

В мае 2023 года более сотни экспертов, в том числе глава OpenAI Сэм Альтман, Илон Маск и Стив Возняк, призвали приостановить разработку и развитие искусственного интеллекта на полгода для того, чтобы разработать стандарты безопасности использования данной технологии.

Общественность обеспокоили исследования, которые показали, что существуют системы AI, чей интеллект практически сопоставим с человеческим.

Вопрос политический

Опасность в коде: ловушка искусственного интеллекта

Политики и регуляторы тоже осознают необходимость контроля и надзора за развитием ИИ и внедрением его в различные области. Особое внимание уделяется прозрачности алгоритмов и принципов, лежащих в основе систем искусственного интеллекта.

В ноябре 2023 года 28 государств подписали Декларацию Блетчли — первое международное соглашение, направленное на устранение угроз, исходящих от ИИ. В декларации сказано, что страны сосредоточатся на «определении вызывающих обеспокоенность рисков в области безопасности ИИ и разработке общего научного и основанного на доказательствах понимания этих рисков».

В марте 2024 года произошло знаковое событие для сферы искусственного интеллекта — Европарламент подписал закон, который определяет границы использования интеллектуальных технологий.

Это самая масштабная попытка взять под контроль работу не только уже существующих платформ, но и будущих разработок.

Закон одновременно защищает от использования ИИ с высоким риском, направлен на стимулирование инноваций, делая Европу лидером в этой области, а также устанавливает обязательства для ИИ-систем в зависимости от их потенциальных рисков и уровня воздействия.
Пресс-центр Европарламента

Стоп, ИИ!

Опасность в коде: ловушка искусственного интеллекта

Так что же запретили делать искусственному интеллекту?

Например, нельзя собирать фотографии людей из открытого доступа для того, чтобы создавать базы данных распознавания лиц. Исключением являются цели безопасности или предотвращение угроз терроризма. Под запрет попало использование биометрии, которая может привести к политической, религиозной, сексуальной или расовой дискриминации.

21 марта 2024 года Генассамблея ООН приняла резолюцию под названием «Использование возможностей безопасных, защищенных и надежных систем искусственного интеллекта для устойчивого развития», которую поддержали 120 стран.

Постпред США при ООН Линда Томас-Гринфилд подчеркнула международную ответственность сообщества взятия ИИ под контроль, чтобы «мы управляли ИИ и не допустили, чтобы он управлял людьми».

Резолюция призывает обеспечить цифровое преобразование развивающихся стран и их доступа к технологическим инновациям, а также внедрить меры по обеспечению авторского права и конфиденциальности информации.

Россия - вперед!

Опасность в коде: ловушка искусственного интеллекта

Президент России Владимир Путин отметил, что развитие ИИ является неотъемлемой частью российской науки.

(ИИ) Очень важно, очень нужно. И без этого невозможно. Но без фундаментальных исследований, без умения мыслить тех, кто принимает решения, искусственный интеллект многое может сделать, но может многое сделать в направлении развития, которое нам совсем не нужно.
Владимир Путин, Президент РФ

В феврале 2024 года Президент лично утвердил программу развития ИИ до 2030 года, которая включает в себя цифровизацию органов публичной власти, создание реестра апробированных доверенных технологий ИИ и разработку нормативно-правового регулирования данной сферы.

1111
4 комментария

Я думаю, что не смотря на все опасности некорректного использования ИИ, в него нужно вкладываться всеми силами, ибо он изменит абсолютно все сферы нашей жизни и приблизит нас в победе над старением!

Ответить

Мы тоже очень надеемся, что ИИ сможет произвести настоящую революцию во всех сфера, особенно в медицине и бионженерии!

Ответить

Использую ChatGPT в работе, очень ускоряет и упрощает работу. Пока не уверен, что он сможет заменить человека, но помочь человеку и упростить его работу он может.

Ответить

Восстание машин отменяется?

Ответить