Дивный новый мир: искусственный интеллект в сфере душевного здоровья

Скрининг и надзор за состоянием психики через телефоны, приложение и соцсети — для мониторинга поведения; компьютерные программы — для предсказывания психических расстройств и рекомендации психиатрического или психологического вмешательства.

Методы диагностики психиатрии издавна критиковали за ненаучность, свойственную гаданию по чайным листьям или смотрению в хрустальный шар. Не имеется ни единого физикального или медицинского теста, позволяющего подтвердить какое-либо психическое расстройство из Руководства по диагностике и статистике психических расстройств Американской психиатрической ассоциации. Психиатры в буквальном смысле методом голосования вводят в существование диагнозы, основанные главным образом на видах поведения, определенных произвольным образом.

Широко распространяют статистические данные о финансовых затратах на «требующие лечения» психические заболевания, но никто не задается вопросом о правдивости этой статистики и о том, почему, несмотря на многомиллиардные расходы на исследования и лечение психических заболеваний, ситуация становится все хуже и хуже. Связанный со всем этим многомиллиардный рынок психиатрических препаратов — только в США его объем превышает $35 млрд в год — потенциально обрекает потребителей на пожизненные побочные эффекты и прямой вред вместо обеспечения помощью в долгосрочной перспективе.

Сейчас в рамках этого фарса в основу скрининга и диагностики вводится «искусственный интеллект ради психического здоровья». Что выводит на совершенно новый уровень «дивный новый мир» Олдоса Хаксли о футуристическом программируемом обществе. Искусственный интеллект (ИИ) в настоящее время предлагают как средство «предотвратить» или быстро выявить «все увеличивающееся» число людей, в том числе детей и молодежь, считающихся психически больными. И когда говорят «предотвратить», это включает и то, что кого-то отнесут к «группе риска развития психического расстройства» и назначат ему препараты в качестве профилактики.

Группа исследователей из Колорадского университета в Боулдере работает над применением машинного обучения ИИ в психиатрии, чтобы использовать мобильное приложение на основе речи, которое позволит классифицировать состояние психического здоровья пациента. Питер Фольц, профессор-исследователь Института когнитивистики и соавтор статьи, считает, что они «могут создать инструменты, которые позволят им лучше следить за своими пациентами». [Курсив добавлен]

«Язык — это важнейшее направление распознавания психического состояния пациента», — говорит Фольц. «Используя мобильные устройства и искусственный интеллект, мы получаем возможность ежедневно отслеживать пациентов и выявлять эти тонкие изменения».[1]

В ходе дальнейшего развития этого Дивно-ново-мирового сценария, приложение, выявив тревожное изменение, предупреждает врача о том, что требуется диагностика. Как заявил Фольц, поскольку пациенты «часто нуждаются в том, чтобы за ними наблюдали, и обученные специалисты проводили с ними клинические интервью», приложение может помочь в условиях нехватки врачей.[2.]

«Это неминуемый путь к катастрофе», — заявила Энн Кавукян, три срока подряд занимавшая пост уполномоченного представителя по вопросам невмешательства в частную жизнь в Онтарио, а теперь возглавляющая как приглашенный эксперт Центр передового опыта по вопросам невмешательства в частную жизнь в Университете Райерсона в Торонто. «Я говорю это как психолог», — объяснила она в интервью. «Ощущение, будто за вами постоянно наблюдают или следят, — это самое последнее из того, что Вы хотели бы». [3.]

Фольц и его коллеги разработали мобильное приложение, побуждающее пациентов выполнить ряд повторяющихся вербальных упражнений, например рассказать историю и ответить на вопросы о своем эмоциональном состоянии. Затем система искусственного интеллекта оценивает эти звуковые сигналы на наличие признаков психического расстройства, анализируя, как они соотносятся с реакциями индивидуума, наблюдавшимися в прошлом, а также сравнивая эти записи с реакциями широкого круга пациентов.[4.]

Команда попросила клиницистов прослушать и оценить образцы разговоров 225 участников. Половину из них составили лица с тяжелыми психиатрическими проблемами, остальными были здоровые добровольцы, выходцы из сельских районах Луизианы и Северной Норвегии. Затем они сравнили результаты, полученные клиницистами, с результатами системы машинного обучения. Фольц заявил: «Мы обнаружили, что компьютерные модели ИИ во всяком случае не менее точны, чем клиницисты».[5.]

Фольц приводит такой пример — если фразы и высказывания выбиваются из логических установившихся схем, это может быть критическим симптомом при шизофрении. Изменения в тоне голоса или темпе речи могут указывать на манию или депрессию, а провалы в памяти — сигнализировать о когнитивных и психических проблемах.

Психиатр из Медицинского центра Университета Цинциннати Генри Насралла также писал о возможностях ИИ в этой сфере. Он утверждает, что монотонная речь может быть проявлением депрессии, быстрая речь — указывать на манию, а бессвязный выбор слов — связан с шизофренией. Когда эти характерные особенности достаточно ярко выражены, клиницист способен их уловить, однако алгоритмы искусственного интеллекта, по словам Насраллы, можно обучить более чутко распознавать сигналы и установившиеся схемы, которые люди выявить не способны.[6.]

Нейробиолог, работающий на IBM, рассказал об исследовании, проведенном с психиатрами Колумбийского университета. По его словам, они способны со 100-процентной точностью предсказать, у кого из подростков из группы риска в течение двух лет разовьется первый психотический эпизод. IBM создает автоматизированное приложение для анализа речи, которое работает с мобильного устройства. Приняв примерно минуту речевых данных, система использует преобразование текста в речь, продвинутую аналитику, машинное обучение, технологии обработки естественного языка и вычислительную биологию для того, чтобы в режиме реального времени предоставить отчет о психическом здоровье пациента.[7.]

В докладе Национального совета по охране психического здоровья за 2017 г. утверждалось, что в ближайшие пять лет и без того «перегруженная» система охраны психического здоровья в США может столкнуться с нехваткой как минимум в 15 600 психиатров. Некоторые приложения и программы, предназначенные для этой сферы, уже включают в себя ИИ, как например, Woebot — трекер настроения на основе приложения и чат-бот, сочетающий ИИ и принципы когнитивно-поведенческой терапии. Однако, по словам психиатров, опрошенных TIME в 2019 г., вероятно, пройдет от пяти до десяти лет, прежде чем алгоритмы будут регулярно использоваться в клинической практике, говорится в докладе. [8.]

Woebot — это интегрированный с сетью Facebook бот [устройство и программное обеспечение, выполняющие команды], чей ИИ «разбирается в когнитивно-поведенческой терапии». Чат-бот разработала клинический психолог д-р Элисон Дарси с командой психологов и экспертов по искусственному интеллекту. Через Woebot пользователь и чат-бот обмениваются сообщениями. Как сообщается, такой обмен позволяет ИИ «узнавать о человеке все больше» и соответствующим образом подстраивать беседу с ним. Поскольку эта технология интегрирована с Facebook Messenger — платформой с 1,3 млрд пользователей ежемесячно, не связанной правилами о соблюдении врачебной тайны — бот Дарси открывает возможность назначения психиатрического лечения сотням миллионов людей, которые в противном случае не смогли бы получить к ним доступ.[9.] Дарси несколько лет проработала на кафедре психиатрии в Медицинской школе Стэнфорда, а исследователи из этой медицинской школы Стэнфордского университета изучали эффективность Woebot.[10.]

Companion и mind.me — это приложения, которые можно установить на телефон или смарт-часы. Если их оставить работать в фоновом режиме, их ИИ собирает данные от пользователя 24 часа в сутки, без прямого ввода сообщений. Companion был разработан совместно с Министерством по делам ветеранов США. Это решение «слушает» разговоры пользователя, отмечая количество произносимых слов, энергию и проявление аффекта в голосе. Приложение также «следит» за такими поведенческими индикаторами, как время, скорость и продолжительность взаимодействия человека со своим устройством. [11.]

В IBM ученые уже применяют речевой ввод и транскрипты для психиатрических интервью в сочетании с машинным обучением, для того чтобы обнаружить речевые установившиеся схемы и тем самым помочь клиницистам точно предсказывать и отслеживать психоз, шизофрению, манию и депрессию. Утверждается, что достаточно всего около 300 слов, чтобы помочь клиницистам предсказать вероятность психоза у пользователя, сообщает IBM.[12.] Эта перспектива пугает, и ГКПЧ уже разоблачала нечто подобное, а именно - попытки психиатров предугадать, ожидает ли человека психическое расстройство, и в связи с этим назначение ему мощных антипсихотиков для профилактики психоза. [13.]

Председатель Комитета Американской психиатрической ассоциации по информационным технологиям в области психического здоровья д-р Джон Торус согласился, что диагностика в сфере психического здоровья не достаточно хорошо поддается измерению для того, чтобы запрограммировать алгоритм.[14.]

Выпущенный недавно обзор 28 исследований ИИ и психического здоровья, в которых электронные медицинские карты, шкалы оценки настроения, данные визуализации головного мозга, новые системы мониторинга (например, смартфон, видео) и платформы социальных сетей использовались для прогнозирования, классификации или группировки заболеваний в сфере душевного здоровья, включая депрессию, шизофрению или другие психические заболевания, а также попытки самоубийства и размышления о нем. Исследование предсказывало возможность оказания помощи практикующим специалистам в психиатрии в том, чтобы проводить повторную диагностику психических заболеваний более точно, чем это делается сейчас в соответствии с DSM-5, а также выявить эти заболевания на более ранней или продромальной стадии [до появления начальных симптомов], когда вмешательство может быть более эффективным, и предоставить лечение, основанное на уникальных характеристиках человека. Отмечалась, однако, необходимость соблюдать осторожность в отношении чрезмерного истолкования предварительных результатов и потребность новых исследований для преодоления разрыва между ИИ в области исследований психического здоровья и клинической помощи.[15.]

Даже в статье в «Psychiatry Today» отмечается, что «дискуссии об искусственном интеллекте в здравоохранении вызвали озабоченность в связи с возможностью дегуманизации в отношениях, касающихся исцеления». Главным аргументом было то, что «сгенерированные компьютером рекомендации могут оказаться основанными на ложном авторитете, который отменит экспертное суждение специалиста» и «вызовет ложные надежды на то, что машины способны объяснят секреты психического здоровья и психических заболеваний». [16.] Настоящая проблема, однако, в том, что и DSM-5, и умения психиатрии диагностировать любое психическое расстройство в принципе не имеют научных оснований; они опираются на произвол и прихоть, а ИИ только усугубит это положение.

«Алгоритм машинного обучения» уже разработан. Как говорится в одной статье: «В будущем пациенты, пришедшие в больницу со сломанной рукой, будут покидать ее, получая заодно с гипсом направление на обязательный психиатрический сеанс в связи с отметкой о риске самоубийства». Согласно предварительным исследованиям, «изменения скорости набора текста, тона голоса, выбора слов и того, как часто дети остаются дома, могут сигнализировать о проблемах. До 1000 «биомаркеров», установленных на смартфоне, могут помочь определить депрессию...»[17.]

В настоящее время мы наблюдаем стремительный рост рынка «искусственного интеллекта в области психического здоровья». Главные ключевые игроки в этой области — IBM Watson AI XPRIZE, Acadia Healthcare Co., Inc., Universal Health Services, Inc. (UHS), Magellan Health Inc., National Mentor Holdings Inc., Behavioral Health Services Inc., Behavioral Health Network Inc., North Range Behavioral Health и Strategic Behavioral Health, LLC. В отчете о положении на этом рынке говорится, что в настоящее время большинство компаний на мировом рынке искусственного интеллекта в сфере психического здоровья внедряет новые технологические решения.[18.]

Публикацию 1 апреля 2019 г. доклада «Искусственный интеллект в глобальном здравоохранении» финансировали Центр инноваций и воздействия Агентства США по международному развитию (USAID) и Фонд Рокфеллера в тесной координации с Фондом Билла и Мелинды Гейтс.[19.]

В вышедшей в марте 2020 г. статье Питер Саймонс рассказал, что в 2018 г. правительство Калифорнии решило развивать новую инициативу в отношении «психического здоровья». Штат был готов поддержать технологические компании Кремниевой долины, которые разрабатывали приложения для смартфонов, побуждающие пользователей обращаться за психиатрической помощью. Из тысяч существующих на сегодня приложений, направленных на психическое здоровье, штат выбрал два. Первое из них называется 7 Cups, предложенное компанией 7 Cups of Tea. Это решение организует общение обращающихся в службу психического здоровья в текстовых чатах с так называемыми «слушателями» — добровольцами, обученными «активному слушанию». Между тем, по данным The New York Times, эта компания испытывает серьезные проблемы в связи с расследованием предполагаемых финансовых нарушений, а также из-за «слушателей», которые вели неподобающие беседы со своими клиентами.[20.]

Калифорния также сотрудничает с компанией Mindstrong Health. Их приложение, ранее известное как Health, а с17 марта 2020 г. — под брендом Mindstrong, доступно в Google Play Store и Apple App Store. По словам Саймонса, «это приложение Mindstrong, которое в наибольшей степени оживляет призрак Дивного Нового мира, классического антиутопического романа Олдоса Хаксли о евгенике и психиатрическом надзоре. … Все время пока мы пользуемся нашими смартфоном и компьютерами, все данные — касательно ритма набора текста, привычек что-то пролистывать, типичных опечаток и т. д. — могут быть скомпилированы в портрет психического здоровья пользователя, с помощью которого, как утверждают создатели Mindstrong, можно успешно диагностировать депрессию, тревогу и другие психические расстройства». [21.]

Приложение устанавливает специальную клавиатуру на ваш телефон. Таким образом, приложение может записывать информацию о манере ввода данных в любое время (независимо от того, открыто ли приложение или нет). Веб-сайт Mindstrong утверждает, что его приложение связывает пользователей с психиатрами и «терапевтами, заслуживающими доверия». Пользователи могут по видеочату советоваться с психиатрами о своих рецептурных препаратах, хотя и не совсем ясно, как часто это происходит, пишет Саймонс.[22.]

В октябре 2018 г. State News писала: «Выполняет ли это приложение свои обещания? Нет ответа на этот вопрос. Почти никто за пределами компании понятия не имеет, работает ли оно». [23.]

Начало Mindstrong Health положил доктор Пол Дагум, выпускник и исследователь Стэнфорда, обладатель научных степеней в области теоретической физики и теоретической информатики. Он также владеет множеством патентов в рамках технологии искусственного интеллекта — на алгоритмы, предназначенные для оценки больших объемов данных для прогнозирования.[24.] Его соучредитель — Ричард Д. Клаузнер, доктор медицины, занимавший пост исполнительного директора по всемирному здравоохранению Фонда Билла и Мелинды Гейтс.[25.]

Бывший директор Национального института душевного здоровья США (NIMH), психиатр Томас Инсел — еще один соучредитель Mindstrong Health.[26.]

В 2013 г., при уходе в отставку с должности директора NIMH, Инсел отметил недостаточную эффективность DSM-5. Он заявил: «Хотя DSM трактуют как «Библию» для этой сферы, это, в лучшем случае, словарь, содержащий набор ярлыков с определением каждого из них … Его слабость кроется в недостаточной достоверности. В отличие от наших определений ишемической болезни сердца, лимфомы или СПИДа, диагнозы из DSM опираются на консенсус по поводу наличия ряда клинических симптомов, а не на каких-либо объективных лабораторных показателях» [27.]. Два года спустя он предсказал, что психическое здоровье изменят технологии. «В будущем, размышляя о частном бизнесе и медицинских исследованиях, мы, возможно, будем подразумевать Apple и IBM гораздо чаще, чем Lilly и Pfizer. В ходе своей поездки на прошлой неделе я обнаружил два увлекательных предвестника этого нового мира. Один из них — публикация результатов сотрудничества между Колумбийским университетом и IBM», — писал Инсел.

И далее: «Биомаркеры депрессии, психоза и посттравматического стрессового расстройства, скорее всего, являются объективными показателями когнитивных способностей и поведения, которые можно собрать с помощью смартфонов».[28.]

В 2015 г. Инсел начал работать в компании Verily, занимающейся технологиями в сфере наук о живой природе и принадлежащей Google Alphabet, Inc. После недолгого пребывания там он ушел и вместе с Дагумом основал Mindstrong Health. В 2020 г. губернатор Калифорнии Гэвин Ньюсом назначил Инсела «специальным советником» по системе душевного здоровья в штате, при этом Инсел продолжает оставаться на посту президента Mindstrong, с которым штат заключил контракт.[29.]

В системе здравоохранения в целом этот рынок уже выгоден: сейчас он оценивается в $ 2,1 млрд, а в 2025 и 2026 гг. этот показатель ожидается на уровне $ 36,15 млрд и $ 54,1 млрд соответственно.[30.] В феврале 2020 г. Mobi Health News сообщила со ссылкой на исследование венчурной компании Octopus Ventures, что в 2019 г. общемировые инвестиции в технологии душевного здоровья достигли $769 млн. В 2014 г. этот показатель составлял $159 млн, таким образом объем инвестиций в эту сферу за последние шесть лет увеличился почти в пять раз.[31.]

Приход ИИ в индустрию душевного здоровья (психиатрии и психологии) — это всего лишь новый прибыльный, но в конечном счете разрушительный инструмент, который повлечет за собой только то, что миллионы людей получат произвольно назначенное клеймо, изменяющие сознание препараты, к ним станут применять электрошок, если не что-то худшее.

[1.] “AI in psychiatry: detecting mental illness with artificial intelligence,” Health Europa, 19 Nov. 2019, https://www.healtheuropa.eu/ai-in-psychiatry-detecting-mental-illness-with-artificial-intelligence/95028/

[2.] Ibid.

[3.] “The Brave New World of Mental Health,” The Washington Spectator, 8 Mar. 2019, https://washingtonspectator.org/the-brave-new-world-of-mental-health/

[4.] “Artificial Intelligence Could Help Solve America’s Impending Mental Health Crisis,” TIME, 20 Nov. 2019, https://time.com/5727535/artificial-intelligence-psychiatry/

[5.] Op. cit., Health Europa.

[6.] Op. cit., TIME.

[7.] https://www.ibm.com/blogs/research/2017/1/ibm-5-in-5-our-words-will-be-the-windows-to-our-mental-health/

[8.] Op. cit., TIME.

[9.] Op. cit., The Washington Spectator.

[10.] “Entrepreneur of the Week: Dr. Alison Darcy, Woebot Labs, Inc.,” The Longevity Network, 18 Jul. 2017, https://www.longevitynetwork.org/spotlight/entrepreneur-of-the-week/alison-darcy-woebot-labs-inc

[11.] Op. cit., The Washington Spectator.

[12.] https://www.research.ibm.com/5-in-5/mental-health/

[13.] https://www.cchrint.org/2019/12/19/cchr-warns-of-psychiatrist-patrick-mcgorry-others-brave-new-world/

[14.] Op. cit., TIME.

[15.] S. Graham, et al., “Artificial Intelligence for Mental Health and Mental Illnesses: an Overview,” Current Psychiatry Reports, 2019 Nov 7;21(11):116. doi: 10.1007/s11920-019-1094-0, https://www.ncbi.nlm.nih.gov/pubmed/31701320

[16.] https://ps.psychiatryonline.org/doi/10.1176/appi.ps.201900464

[17.] https://medicalfuturist.com/artificial-intelligence-in-mental-health-care/

[18.] https://coleofduty.com/market-reports/2020/05/14/rapid-growth-of-artificial-intelligence-in-mental-health-care-market-positioning-of-vendors-growth-insights-and-competitive-scenario-ibm-watson-ai-xprize-acadia-healthcare-co/

[19.] https://www.thelancet.com/journals/lancet/article/PIIS0140-6736(19)30814-1/fulltext

[20.] “Mental Health Apps: AI Surveillance Enters Our World,” Mad in America, 21 Mar. 2020, https://www.madinamerica.com/2020/03/mental-health-apps-ai-surveillance/

[21.] Ibid.

[22.] Ibid.

[23.] https://www.statnews.com/2018/10/04/mindstrong-questions-over-evidence/

[24.] Op. cit., Mad in America.

[25.] https://mindstrong.com/team/rick-klausner-md/

[26.] https://mindstrong.com/team/tom-insel-md/

[27.] https://www.nimh.nih.gov/about/directors/thomas-insel/blog/2013/transforming-diagnosis.shtml