Предсказал будущее интернета в 90-ых и пропал, когда его прогнозы стали сбываться: история Филипа Агре Статьи редакции

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

Филип Агре NPR

Детство и образование

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал The Washington Post один из его друзей. Как рассказывал Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

Я потратил год на путешествия и чтение, пытаясь самостоятельно стать образованным человеком.

Филип Агре

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии», пишет The Washington Post.

Филип Агре Interaction Design Foundation

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

Работы и прогнозы

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

Корпорации и сбор данных

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

Критика ИИ

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет, пишет The Washington Post. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».

Тимнит Гебру потеряла работу из-за вопросов, которые поднял Агре ещё в 1997 году NDTV Gadgets 360

Распознавание лиц и тоталитаризм

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

  • Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.
  • Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.
  • Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.
  • Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.
  • Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют. Через 20 лет китайское правительство сможет использовать распознавание лиц для слежки за людьми в общественных местах.

Филип Агре

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

Спустя почти 20 лет после прогноза Агре технологию распознавания лиц внедрили в Китае The New York Times

Уход из публичного поля

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

Мы живём в мире, который сформировался из-за игнорирования таких людей, как Фил.

Марк Ротенберг, основатель Center for AI and Digital Policy, бывший коллега Агре

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Одна из фотографий Агре, которую использовали при его поисках TeleRead

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала в разговоре с The Washington Post профессор Калифорнийского университета и коллега Агре Кристин Боргман.

По-настоящему тревожные события могут показаться не такими уж плохими только потому, что они лучше ужасов антиутопий Оруэлла.

Филип Агре
0
136 комментариев
Написать комментарий...
Zoringer

"Он чувствовал, что люди не понимают того, что он говорит. Он писал для слепых" (с) Джеффри Боукер

Ответить
Развернуть ветку
Раися Вперде

лучше бы спел для глухих

Ответить
Развернуть ветку
Black Jack

Лучше бы танцевал об архитектуре.

Ответить
Развернуть ветку
Сергей Токарев

Лучше бы жарил котлетки для тех, кто питается в Макдональдсе

Ответить
Развернуть ветку
133 комментария
Раскрывать всегда