Конфиденциальность не гарантируется: в США школы используют искусственный интеллект для поиска проблемных школьников

Программы с искусственным интеллектом помогают выявлять школьников с аномальным поведением, ментальными расстройствами, способных к суициду, а также тех, кто подвергался буллингу или насилию.

Только за первую неделю после начала обучения, одна из компаний, которая занимается мониторингом учащихся, сообщила о 5 тысячах тревожных случаях.

В школах США программы наблюдения за школьниками очень распространены. В опросе среди учителей, 71% подтвердили, что их учебные заведения используют подобный софт.

Несмотря на формально благородные цели, такой метод «слежки» получил и критические отзывы — некоторые считают, что использование программ по мониторингу за подростками может привести к нарушению их личного пространства, и, тем самым, нанести им вред.

По данным The Wall Street Journal, ИИ-система сканирует определенные ключевые слова и фразы в из личных переписок учащихся и предупреждает администратора о случаях нетипичного поведения. Специалист же в свою очередь должен проанализировать проблему и определить, насколько она значима или опасна. Если он решает вмешаться, то предупреждает об этом и родителей школьника.

Компания по мониторингу за школьниками Bark всего за одну неделю выявила 5 тысяч случаев в переписках, где фигурировали разговоры о самоубийствах. Из них было получено пять достоверных предупреждений о суицидах.

Администраторы программы сообщили в школу об одном из учащихся, который в дневнике на Google Doc написал, что хочет умереть. В результате преподаватели уведомили об этом родителей, а те обратились за квалифицированной помощью.

По данным опроса, пандемия коронавируса привела к ухудшению психического здоровья детей. Родители сообщали о повышенной возбудимости у детей, частой печали, беспокойствах и других проблем с нервной системой.

Программы мониторинга подвергаются критике со стороны экспертов по конфиденциальности и безопасности. Однако 66% учителей согласились с тем, что безопасность перевешивает все риски. 50% школьников же отметили, что это не вызывает у них дискомфорта.

Некоторые участвовавшие в опросе учителя и родители остерегаются, что если сейчас программы для мониторинга никак не сказываются на детях, то проблемы могут проявиться в будущем.

С принятием различных мер по защите и безопасности в школах, сами учащиеся наоборот чувствуют себя менее защищенными. А чрезмерное и ненужное наблюдение за их частной жизнью может пагубно сказаться на их жизни и способности выражать свое мнение.