ИИ-компаньон спасает жизни. Но какой ценой?

Недавно я изучала одну инициативу - для пожилых, маломобильных и тяжело больных людей начали использовать ИИ-компаньона. Это не просто голосовой помощник, это полноценный собеседник, который умеет поддержать, вспомнить вчерашний разговор, пошутить над просмотренным фильмом или выслушать.

И кажется, что это прекрасная идея может сделать чью-то жизнь счастливее. Но у этой истории есть оборотная сторона - ИИ-компаньон настроен так, чтобы моментально реагировать на мысли, связанные с окончанием жизни. Как только он распознаёт тревожные сигналы, система автоматически уведомляет медперсонал, который должен вмешаться и оказать поддержку.

А что чувствует человек, которого "предал" его единственный друг, пусть даже виртуальный?

Ведь для кого-то такой ИИ-друг - единственная возможность коммуникации. Не с врачом, не с психологом, а просто с кем-то, кто не связан с твоим диагнозом и ограничениями.

Я понимаю, что молчание может стоить человеку жизни. Но иногда вмешательство без уважения к эмоциональному состоянию может нанести еще больший вред.

Я не против ИИ. Но я за технологии с душой, где есть место эмпатии, уважению и умному использованию алгоритмов с последующей работой таким образом, чтобы люди не чувствовали себя преданными или обманутыми.

Когда виртуальный собеседник зовёт врача — это забота или надзор? И кому действительно стало лучше после этого?

Если мы хотим, чтобы люди действительно делились болью, то мы обязаны создать такую среду, где доверие не уничтожается первым же "тревожным" сигналом. Иначе это уже не помощь, а просто очередная ветка в алгоритме.

Я - Ирина, автор канала Ирина С | Вообще-то я проджект. Пишу об управлении проектами, бизнесе, путешествиях и просто о жизни. Если Вам понравилась эта статья - милости прошу присоединиться к моему каналу.