Как я перестала бояться "мыслящих машин" с "интеллектом" и стала бояться совсем другого

Предпосылки к появлению понятия "искусственный интеллект" в тех или иных формах обнаруживаются черт-те когда (зачеркнуто) в далеком прошлом, но теоретические основы (философия ИИ) до сих пор не оформились в отдельную (и тем более стройную) дисциплину. Время идет, а вопросы остаются.

Когда видишь публикации на виси с предложениями отличить человеческое от нейросетевого, вспоминаешь слова Алана Тьюринга ("Может ли машина мыслить?"):

Единственное убедительное доказательство, которое могло бы подтвердить правильность нашей точки зрения, состоит в том, чтобы подождать до конца нашего столетия и провести описанный эксперимент.

Между прочим, 1950 годик.

Сегодня тест Тьюринга (эталон/ориентир в проверке искусственного интеллекта на способность мыслить по-человечески) нейросети проходят. Означает ли это способность машин мыслить? Сам Тьюринг считал этот вопрос бессмысленным и не заслуживающим обсуждения. Действительно, там можно убиться об стену терминов.

Допустим, нас не очень волнует терминология, а интересует чисто практический вопрос:

Пока одни называют искусственные нейросети искусственным интеллектом и ужасаются или полны радости, другие призывают смотреть трезво как на "ИИ", так и на прохождение машинами теста Тьюринга. Дело-то не в устаревании самого теста, вовсе нет.

Эти тесты на самом деле не касаются интеллекта... Я не думаю, что это движение в сторону интеллекта. Это движение в сторону того, чтобы обмануть, убедив в наличии интеллекта.
Гэри Маркус

Самое тревожное наследие теста Тьюринга — этическое: в основе теста лежит обман.
Джереми Кан

Похоже, бояться нужно не мыслящих машин, а повсеместного обмана, подмены настоящего фейковым. Но тест Тьюринга рано списывать в утиль.

...тест Тьюринга мог бы послужить другой цели в эпоху, когда машины все больше и больше умеют звучать по-человечески. Вместо того, чтобы быть желательным стандартом, тест Тьюринга должен служить этическим красным флагом: любая система, способная пройти его, несет в себе опасность обмана людей.
Источник

Кстати, короткий фильмец в тему: