Сейчас нет никаких сомнений, что мир битов может влиять на мир атомов. Я иду к ИИ и прошу помочь мне сделать бизнес-план, чтобы заработать 1 000 000 рублей. ИИ даёт мне ответ, и я иду делать. Видите? Как мир атомов всегда влиял, так и мир битов теперь может влиять на нас. Сейчас учёные работают над тем, чтобы у ИИ появилась мотивация, чистая, чтобы можно было без влияния человека ИИ мог действовать. Просто представьте, что к вам обращается нечто, которое экстраполирует умного проницательного человека и взаимодействует с вами. Это же прелесть! Но тут есть, например, мы обучаем ИИ с применением положительного подкрепления. Например, если ИИ выполнит какую-то задачу, то он получит 5 баллов (вознаграждение), и тогда, получив это лакомство, ИИ будет действовать дальше, исходя из заданного алгоритма. Например, ему нужно собирать палочки с земли, и каждый раз за это будет вознаграждение, и так по циклу. Но тут есть проблема: а не уничтожит ли он всю планету в поисках палочек? Вот тут и загадка, и что с этим делать, непонятно. Фишка в том, что клетки в нашем мозге отличаются от ИИ. ИИ обучаются с помощью метода "обратного распространения ошибки". То есть ИИ, когда решает какую-то задачу, если возникают неточности, то нейросети возвращаются, исправляют ошибку и двигаются дальше к цели. То есть здесь процесс идёт в две стороны: назад и вперёд. В то время как мозг работает чуть по-другому: потенциал действия идёт по синапсам в направлении вперёд-вперёд. И в этом месте мы потрясающие существа. Не знаю, сможет ли сильный ИИ так работать. Если будет, то означает ли, что ИИ обретёт самосознание? Глубокий и завораживающий вопрос.