История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Не могу не сослаться здесь на книгу известного математика Роджера Пенроуза "Новый ум короля" (и её продолжение - "Тени разума"). Пенроуз приводит математические доказательства того, что человеческое мышление не является машиной Тьюринга и способно решать "невычислимые" задачи, которые компрьютер не способен решить, какие бы вычислительные мощности не находились в его распоряжении (напомню, что любой компьютер - кроме квантового - это машина Тьюринга; нейронка, исполняемая на компьютере - это тоже машина Тьюринга).
Помимо интересной аргументации эта книга - ещё и велоколепный экскурс в историю математики. Читал с огромным интересом.
Можете здесь привести пример невычислимой задачи, которую может решить человек. Желательно с решением