Что пугает в нейросетях?

Подумалось, что изображения сгенерированные нейросетями пугают. Но не осознавая природу этого страха мы приписываем ему ложные причины вроде той, что художники останутся без работы. В действительности источник страха в другом. Мы видим проявления античеловеческого мышления, которое до ужаса напоминает человеческое, но всегда находится на бесконечной дистанции от него.

Это максимальное сближение, но не совпадение, создающее «эффект зловещей долины» лежит в основе страха. Если попробовать сформулировать в чём именно заключается непреодолимая дистанция между мышлением Микеланджело и Midjourney, то на ум приходит сцена из «Старика Хоттабыча».

Он увидел уличный телефон (да-да, раньше и такое бывало) и поспорил с пионером Волькой, что создаст точно такой же. А потом наколдовал идеально красивый аппарат из единого куска мрамора, который разумеется не звонил. Потому что джинн не знал, как тот устроен.

А вот если посмотреть на мраморного «Моисея» Микеланджело, увидеть, что мизинец у Моисея напряжен и потом обратить внимание на небольшой мускул на руке, который проявляется только при движении мизинца, то можно понять эту разницу между двумя типами мышления.

В «Солярисе» Лема, экипаж станции находящейся рядом с планетой населенной «разумным Океаном» посещают странные гости. Это люди, которых они знали когда-то, но всеми силами хотели забыть. Существа, сгенерированные океаном, чудовищно похожи на людей, но не люди. Они не росли, не учились, не влюблялись, не ссорились. Они будто единомоментно напечатаны по слепку чужого сознания.

В Солярисе Тарковского это потрясающе страшно показано через простую деталь. Крис — один из членов экипажа, давно винит себя за смерть Хари — девушки, что любила его когда-то. И когда Хари является к нему, он сначала не может поверить, что это живой человек, а потом смиряется и старается себя сам себя обмануть, пытаясь забыть, что её прислал Океан. Но когда Хари, просит Криса помочь развязать ей шнуровку платья, тот видит, что его невозможно снять. Потому что Хари сразу создана в платье.

Океан присылал гостей потому что хотел установить контакт с людьми. А люди не были готовы увидеть себя глазами не-человеческого разума. Сейчас мы изучаем Stable Diffusion, Midjourney, DALL·E 2 и GPT но на самом деле это они изучают нас. А быть объектом изучения, всегда пугающе.