Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе

История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?

Илон Маск считает риск «глобальной катастрофы из-за ИИ» реальной проблемой – так что, может быть, и вам стоит разобраться, что там и как
22K22K показов
33K33K открытий
66 репостов

Не могу не сослаться здесь на книгу известного математика Роджера Пенроуза "Новый ум короля" (и её продолжение - "Тени разума"). Пенроуз приводит математические доказательства того, что человеческое мышление не является машиной Тьюринга и способно решать "невычислимые" задачи, которые компрьютер не способен решить, какие бы вычислительные мощности не находились в его распоряжении (напомню, что любой компьютер - кроме квантового - это машина Тьюринга; нейронка, исполняемая на компьютере - это тоже машина Тьюринга).

Помимо интересной аргументации эта книга - ещё и велоколепный экскурс в историю математики. Читал с огромным интересом.

Ответить

Можете здесь привести пример невычислимой задачи, которую может решить человек. Желательно с решением

Ответить