Предсказал будущее интернета в 90-ых и пропал, когда его прогнозы стали сбываться: история Филипа Агре Статьи редакции

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

Филип Агре NPR

Детство и образование

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал The Washington Post один из его друзей. Как рассказывал Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

Я потратил год на путешествия и чтение, пытаясь самостоятельно стать образованным человеком.

Филип Агре

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии», пишет The Washington Post.

Филип Агре Interaction Design Foundation

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

Работы и прогнозы

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

Корпорации и сбор данных

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

Критика ИИ

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет, пишет The Washington Post. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».

Тимнит Гебру потеряла работу из-за вопросов, которые поднял Агре ещё в 1997 году NDTV Gadgets 360

Распознавание лиц и тоталитаризм

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

  • Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.
  • Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.
  • Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.
  • Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.
  • Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют. Через 20 лет китайское правительство сможет использовать распознавание лиц для слежки за людьми в общественных местах.

Филип Агре

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

Спустя почти 20 лет после прогноза Агре технологию распознавания лиц внедрили в Китае The New York Times

Уход из публичного поля

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

Мы живём в мире, который сформировался из-за игнорирования таких людей, как Фил.

Марк Ротенберг, основатель Center for AI and Digital Policy, бывший коллега Агре

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Одна из фотографий Агре, которую использовали при его поисках TeleRead

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала в разговоре с The Washington Post профессор Калифорнийского университета и коллега Агре Кристин Боргман.

По-настоящему тревожные события могут показаться не такими уж плохими только потому, что они лучше ужасов антиутопий Оруэлла.

Филип Агре
0
136 комментариев
Написать комментарий...
Вик Довнар

Возможно, он и есть Сатоши Накамото))

Ответить
Развернуть ветку
Melissa Warner

Уж лучше чем Нео. А то перспектива быть "батарейкой" для чего-то не впечатляет)

Ответить
Развернуть ветку
Эмилия Теплова

Идея с батарейкой кстати не очень. Испортила же фильм🤦‍♀.

Ответить
Развернуть ветку
Марк Опыт

Вероятно, вы не прочувствовали суть аллюзии "батарейка"?
Это элемент питания, путания, который используют и потом, когда заряд, то бишь возможности питать и путать, кончается, то выбрасывают. Кстати, если прочитать слово "питать" на украинском языке, то получится пытать, — спрашивать или русское пытки.
От пыток и путать в аллюзиях мысли человеческой существует защита, — блок питания, блок путать, ибо права личности, или ЕН, — когда вас энным персонажем "Е" скотного двора хотят сделать, — это буквенная маркировка микросхем, которые в основе блоков питания.

Ответить
Развернуть ветку
Chainmaille My Heart

Если на украинском языке прочитать слово "питать", то получится что-то похожее на "пытаты" - спрашивать. А слово "пытки" в украинском звучит как в английском и француском - "тортуры".
Ты бот безграмотный😂

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Chainmaille My Heart

Если бобра вывернуть мехом внутрь, он единорогом не станет..
А "суржик" всегда был признаком безграмотности..

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
jorдж

Какого-какого? Суржик - смесь транскрибированного русского и полностью заимствованных слов. украинского языка не существует.

Ответить
Развернуть ветку
133 комментария
Раскрывать всегда