Предсказал будущее интернета в 90-ых и пропал, когда его прогнозы стали сбываться: история Филипа Агре

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал The Washington Post один из его друзей. Как рассказывал Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии», пишет The Washington Post.

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет, пишет The Washington Post. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала в разговоре с The Washington Post профессор Калифорнийского университета и коллега Агре Кристин Боргман.

#прогнозы #ии