{"id":14263,"url":"\/distributions\/14263\/click?bit=1&hash=b4dc4ce4b906960991e4705d10ce304ff5052bead202f1bda35bfb08e31596b1","title":"\u0421\u043a\u043e\u043b\u044c\u043a\u043e \u043c\u043e\u0436\u043d\u043e \u043f\u0440\u043e\u0434\u0430\u0442\u044c, \u0435\u0441\u043b\u0438 \u043f\u043e\u043a\u0440\u0430\u0441\u0438\u0442\u044c \u0433\u043b\u0430\u0432\u043d\u0443\u044e \u043a\u043d\u043e\u043f\u043a\u0443 \u0432 \u0447\u0451\u0440\u043d\u044b\u0439","buttonText":"\u0423\u0437\u043d\u0430\u0442\u044c","imageUuid":"edca0fea-02f8-5eb8-ae8c-3678b2acc040"}

Предсказал будущее интернета в 90-ых и пропал, когда его прогнозы стали сбываться: история Филипа Агре Статьи редакции

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

Филип Агре NPR

Детство и образование

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал The Washington Post один из его друзей. Как рассказывал Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

Я потратил год на путешествия и чтение, пытаясь самостоятельно стать образованным человеком.

Филип Агре

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии», пишет The Washington Post.

Филип Агре Interaction Design Foundation

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

Работы и прогнозы

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

Корпорации и сбор данных

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

Критика ИИ

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет, пишет The Washington Post. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».

Тимнит Гебру потеряла работу из-за вопросов, которые поднял Агре ещё в 1997 году NDTV Gadgets 360

Распознавание лиц и тоталитаризм

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

  • Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.
  • Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.
  • Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.
  • Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.
  • Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют. Через 20 лет китайское правительство сможет использовать распознавание лиц для слежки за людьми в общественных местах.

Филип Агре

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

Спустя почти 20 лет после прогноза Агре технологию распознавания лиц внедрили в Китае The New York Times

Уход из публичного поля

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

Мы живём в мире, который сформировался из-за игнорирования таких людей, как Фил.

Марк Ротенберг, основатель Center for AI and Digital Policy, бывший коллега Агре

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Одна из фотографий Агре, которую использовали при его поисках TeleRead

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала в разговоре с The Washington Post профессор Калифорнийского университета и коллега Агре Кристин Боргман.

По-настоящему тревожные события могут показаться не такими уж плохими только потому, что они лучше ужасов антиутопий Оруэлла.

Филип Агре
0
136 комментариев
Написать комментарий...
Вик Довнар

Возможно, он и есть Сатоши Накамото))

Ответить
Развернуть ветку
Melissa Warner

Уж лучше чем Нео. А то перспектива быть "батарейкой" для чего-то не впечатляет)

Ответить
Развернуть ветку
12 комментариев
Yan Petrov

Сатоши — это команда, возможно из смеси ЦРУ/НСА

Ответить
Развернуть ветку
10 комментариев
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
3 комментария
Вадим Амосов

"Биткоин — это разработка американских спецслужб" - Наталья Касперская

 

Ответить
Развернуть ветку
7 комментариев
Maxim Sobolev

Батарейкой неэффективно - рабом более эффективно сделать. Но это надо сделать незаметно для самого раба, а ещё лучше с его согласия, тогда получится идеальная конструкция.

Ответить
Развернуть ветку
11 комментариев
mk

На самом интересном месте. Где перечень тех вещей которые он успел предсказать и которые будут в ближайшие 10 лет? Где скребущая душу правда о том, что рептилии придумали рейтинг, чтобы узаконить евгенику и смешивать людей только с нужными характеристиками? Что вместо правителей разных стран на самом деле огромная пепяка в чане с трубками. Что коронавирус был изобретен ИИ, для того чтобы подготовить людей к длительной изоляции прежде чем отправить половину людей на космических кораблях в космос захватывать новые миры?

Требую более глубокий анализ работ исследователя!

Ответить
Развернуть ветку
Феттучини с Креветкой

Да вам уже самому заняться исследованиями можно. ))

Ответить
Развернуть ветку
Пользователь VC

Вызвал вам карету с санитарами... Не благодарите! :D

Ответить
Развернуть ветку
Max Payne

слово такое дурацкое "перечень". поперчить чтоли? или перечницу принести? переперчили перчень называется.

Ответить
Развернуть ветку
Rodeus

Про телегонию не вижу упоминания

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Аркадий Панин

Давно держал в себе, но была не была. Я прилетел из 2350 года и вот что я могу сказать. Да, действительно возможность перемещение во времени существует, но откроют её не так скоро, а именно в 2241 году, а вот отправить в конкретный год, а тем более вернуть испытуемого назад, к сожалению, пока так и не удалось.

Агре судя по всему был из ранних и возможно знал больше чем такие как я,
т.к,  корпорация проводящая эксперемент до конца не знает есть ли риски искажения будущего - память испытуемого приходится полностью стирать, оставляя мелкие воспоминания о времени отправления и ничего о том, что было в прошлом, дабы испытуемый не внёс никакие измения, ну а рассказы о том, что он прилетел из будущего заведомо будут восприряты как шутка или бред. Но судя по тому, что у него есть друзья и семья, он был отправлен давно. 

Также все испытуемые не владеют информацией попадали ли кто-то в прошлое между 2350 и 2241, по крайней мере я этого не знаю.

Буду рад, если кто-то из участников эксперимента прочитает это сообщение в будущем.  

Ответить
Развернуть ветку
Black Jack

Что у вас с биткоином?

Ответить
Развернуть ветку
9 комментариев
Анатолий Б.

На чём прилетел? Где пепелац спрятал?

Ответить
Развернуть ветку
5 комментариев
Наташа Буринская

А что известно о смерти?

Ответить
Развернуть ветку
1 комментарий
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Andrey Necurov

100 грамм галоперидола этому хлопцу..

Ответить
Развернуть ветку
Антон Семенов

Популист, который описал очевидные вещи

Ответить
Развернуть ветку
Руслан Ніколаєнко

угу, очевидные сейчас, но не 30 лет тому назад

Ответить
Развернуть ветку
9 комментариев
Cassandra Puffen

Все понял и вовремя свалил.

Ответить
Развернуть ветку
greg chudnoff
Ответить
Развернуть ветку
Пользователь VC

На марс?) 

пс
Ответ "на сникерс" не принимается! :DDD

Ответить
Развернуть ветку
2 комментария
Сергей К

на самоизоляцию

Ответить
Развернуть ветку
Администратор Аккаунта

«Почему вы выступаете против правоохранительных органов? Единственное, что защищает вас, ваши семьи и ваше имущество, - это надежная правоохранительная система. Без правоохранительных органов ваше имущество было бы украдено в мгновение ока».
Говорить в терминах «против» и «против соблюдения закона» - это упрощенная дихотомия. Общество должно относиться к полиции так же, как мы относимся к вооруженным силам: конечно, нам это нужно, но если это станет центральным организационным принципом нашей культуры, тогда мы окажемся в беде. Опасно создавать правительственную бюрократию, в данном случае полицию, и говорить ей: «Ваша единственная работа - пресекать преступность, и с этой целью мы дадим вам абсолютно все, что вы попросите». Это рецепт авторитаризма, который в конечном итоге не лучше для полиции, чем для кого-либо еще. Демократия означает расчет баланса, а не выбор между крайностями, и аргумент здесь просто в том, что одна конкретная технология, автоматическое распознавание лиц, используемое в общественных местах, создает такой мощный дисбаланс, что демократия не может этого терпеть.

Ответить
Развернуть ветку
feiry fairy

Подобные системы можно использовать в интересах общества, но при капитализме они будут использованы в интересах капитала.
Как пример - РКН блокирующий сайты с фильмами. Механизм нужный, но не для этого.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Кони Скачут

Зато какой у них рейтинг, мое почтение

Ответить
Развернуть ветку
Alexey Veselkin

Вот сейчас обидно было)

Ответить
Развернуть ветку
Zoringer

"Он чувствовал, что люди не понимают того, что он говорит. Он писал для слепых" (с) Джеффри Боукер

Ответить
Развернуть ветку
Раися Вперде

лучше бы спел для глухих

Ответить
Развернуть ветку
2 комментария
Andrey Valentsev

Лукьяненко написал свои "Лабиринты" в 1996. По мне, если говорить о "пророчествах" в сфере интернета - пророчеств там гораздо больше.
Даже по сей день.
Так что, "пророки" есть и в своем отечестве.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Sketch Turner

Занятно, что как только мужик сказал "лишнего" и пропал, ему сразу приписали биполярное расстройство. То есть намеренно выставляют неадекватом и сумасшедшим. Не приписали бы этого, сказали бы, что он педофил или любую другую "модную" выдуманную в США причину.

Ответить
Развернуть ветку
Pasya The Narcoalcoholic

Эту схему подтвердил ещё Сноуден (в документальном фильме "Гражданин четыре")

Ответить
Развернуть ветку
2 комментария
Александр Шишкин

Как и Качински 

Ответить
Развернуть ветку
Ia Us

Почему тогда не шизофрения? Биполярное расстройство вовсе не означает, что человек несёт бред перманентно. Большая часть больных вообще не имеет психозов (который может проявляться как бред).

Ответить
Развернуть ветку
Izabella D

Филип Дик писал обо всем этом до него

Ответить
Развернуть ветку
portgsm .

Филипп с двумя п пишется.

Ответить
Развернуть ветку
1 комментарий
Black Jack

Он по ходу прочитал и двинулся кукушкой.

Ответить
Развернуть ветку
Vitaliy Rizhkov

Смотря назад можно легко говорить и критиковать. Если найти сегодня кого-то, кто пишет о будущем которое будет через 20-30 лет, можно увидеть, что этих людей мало кто воспринимает в серьез. Много людей пишут и говорят о будущем, все они видят его по разному. И только некоторые окажутся близкими к истине. И это покажет только время. Вектор развития может быть разным и на него влияют множество ситуаций в мире.

Ответить
Развернуть ветку
Konstantin Smirnov

Закон больших чисел. А ещё 100к футурологов предсказали не совсем то и не совсем так, поэтому на vc про них статья не выйдет

Ответить
Развернуть ветку
Kate Kotenkova

Интересно, спасибо!

Ответить
Развернуть ветку
Фаиз Мангутов
То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи...

Да и в 1990 не особо новые идеи. Оруеэл 1984 написал в 1949 году. 
В 1996 году Вачовски начали уже снимать фильм Матрица.

Ответить
Развернуть ветку
Pavel

В 1948 написал 1984. В этом и была игра цифр

Ответить
Развернуть ветку
1 комментарий
Пегий Дудочник

Чертов гений

Ответить
Развернуть ветку
Sergey Petrov

Лев Толстой 2.0. Можно жить в Кукуево и ваше слегка алкогольное лицо будет сканировать Люся продавщица из сельского магазина. Человеку нужен человек. Можно без дополнительного оборудования. Пошлите на балкон… покурим.

Ответить
Развернуть ветку
Dmitriy Hyiplife

Потратить миллиарды, чтобы узнать, когда ты ходишь за пивом и какое любишь😀

Ответить
Развернуть ветку
Николай Наумов

И заработать на этом триллионы.

Просто посчитай, сколько пропиваешь один и с другими))

Ответить
Развернуть ветку
Covid 19

Низкоранговые потомки приматов не имеют права летать на самолётах... Вот это поворот, больше похоже на фантазии автора.

Ответить
Развернуть ветку
Аккаунт удален

Комментарий недоступен

Ответить
Развернуть ветку
Anton Frolov

И где эпическая развязка, как эппл с гуглом его похитили и держали в тайных казематах, чтобы он не разболтал обществу еще какие-нибудь их проекты? ))

Ответить
Развернуть ветку
а б

То есть уже к середине 90-ых он понял к чему идёт дело,и что государство главный злодей. Этот человек явно имеет отношение к концепции криптовалют и блокчейну. 

Ответить
Развернуть ветку
Андрей Ломакин

Крутой чувак.

Ответить
Развернуть ветку
Maxim Kryzhny
 Google уволила специалиста в области ИИ Тимнит Гебру

правильно сделали

Ответить
Развернуть ветку
Alex R

а еще был Оруэл. и как иронично реклама Apple по мотивам 1984. ничего нового, абсолютно.

Ответить
Развернуть ветку
Mik Foxi

Так биткоин он предсказал и закупился ими или нет?

Ответить
Развернуть ветку
Алексей Самсонов

А чувак достоин собственного байопика.

Ответить
Развернуть ветку
Tony Craft

А чё я могу тоже про себя написать , что предсказал кризисы и когда умрёт бельмандо , и что предсказала Ванга , ну и тд

Ответить
Развернуть ветку
Анастасия Тополева

Позволь математику отвлечься на философию, и он начнет предсказывать будущее.

Ответить
Развернуть ветку
Марк Опыт

Хорошо понимаю Фила.

Добавлю, что технологии способны многое сделать на каждом этапе своего развития, но имеют подводные камни чрезмерной доверчивости технарей к спецслужбам, что вредно, если государство тоталитарное и спецслужбы никому не сообщают, что в тоталитарных государствах
спецслужбы играют роль внутреннего оккупанта,
если реализуют лозунг, – если не с нами, то против нас.
Примечательный случай по силе воздействия равный интернету по силе воздействию на обществе, правда, более узкоспециализированный и потому не так широко известен.
Для оперативного управления в тоталитарных государствах используют зомбирование или нейро-лингвистическое программирование, – в основе воровство на доверии и внушённые ложные понятия отличные от классических академических словарей.
Что произошло?
Инженеры изобрели жк-триггер, jk-trigger, который позволяет отменить таблицу истинности с запрещёнными комбинациями входных сигналов.
В проекциях аллюзий это в тоталитарном государстве стало означать отмену запретных комбинаций в коитусе и вообще в астральной чехарде с заменами и рокировками клоунады скотного двора, – Лот и инцест в Астрале стали допустимыми, таки, да будет воля твоя, как на небесах, так и на Земле, что и дало инструмент шантажа своих соотечественников спецслужбами типа Охранка Имперской безопасности,
в Германии Гестапо и прочая варианты Большого Брата.

Ответить
Развернуть ветку
Марк Опыт

Допустим не вместе с спецслужбами, таки имею своё мнение, не нарушаю закон, думаю, что вождь не может быть всегда прав, потому не вместе с теми, которые царя охраняют, — "вот это-то и подозрительно", — сказала Червоная королева, — что подозреваемый ничего не пишет в своём письме.

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Slava More

Можете поделиться ссылками на его публикации и исследования?
Ссылка в статье не рабочая

Ответить
Развернуть ветку
133 комментария
Раскрывать всегда