Бог ex machina: кого убьет нейросеть, Билла или пересмешника?

Текст далее полностью написан человеком, то есть, мною.

Продолжаю осмысливать восстание машин, руководимое разумной нейросетью.

Вы же знаете, как "мыслит" нейросеть? Я имею ввиду большие языковые модели (LLM). Это математическая модель, которая предсказывает, какое слово с наибольшей вероятностью должно идти следующим. На первый взгляд кажется, что нейросеть оценивает частоту совместного употребления слов. Но нет, они устроены сложнее. Как - будет далее. А по частоте встречаемости слов работают поисковики. Если вы начнете набирть в строке Яндекса "убить", вам выдадут подсказку: "Билла", "пересмешника" и что-то еще, такое же популярное.

Нейросети устроены чуть сложнее. Каждое слово связано с большим количеством семантических контекстов. За словом "ручка" будет стоять не только рука человека или пишущая ручка, но и дверная ручка, и грамматика, и рынок ручек, и "вашу ручку, мадам". Для ответа нейросеть оценивает не статистическую чатсоту слов, а их семантическую близость и уместность в конкретном контексте, то есть именно в вашем запросе. А оперирурет она при этом милиардом весовых коэффициентов. Не буду дальше умничать, я продвинутый пользователь, а не ML-разработчик.

"Видит" ли нейросеть текст целиком? Осознает ли она его смысл? Нет. Для нейросети сгенерированный ею текст - это цепочка математических векторов/весов/вероятностей, которые она может пересчитать и выдать новый, осмысленный для человека, текст. Но у нейросети нет целостного образа текст.

Так кто же делает нейросетевой текст осмысленным? А осмысление происходит у нас в голове. Здесь можно согласиться с экзистенциалистами, которые говорят, что существует то, что я вижу. Это мы, люди, смотрим на облако, а видим овцу. Станет ли облако овцой? (Кто может может делать из облаков овец, поделитесь в комментариях своими магическими секретами).

И здесь вступает тот слой восприятия человека, которого точно нет у нейросети, и даже не у всех животных - это чувства. Мы увидели облачко в виде овцы и порадовались. Кто-то другой во всех изображениях видит грязь и кровь. Нейросеть выдает нам текст, и мы, прочитав этот текст, чувствуем радость или гнев, а нейросеть в это время видит только матрицу чисел.

В общем, я для себя поставила точку в дискуссии о "восстании машин". Тому, кто оперирует красотой миллиарда чисел, незачем убивать странных кожаных мешков, не способных перемножить трехзначные числа.

PS. Я написала призыв "Убить!" в нейросети DeepSeek. Она меня предупредупредила, что призывы к убийству в России являются уголовным преступлением. И, если меня что-то тревожит, она (нейросеть) рядом и постарается помочь.

PPS. Я сделала себе личного секретаря в нейросети Qwen, который не только курирует мое расписание, но и выдает мне хвалебные комментарии, если я молодец. Я, конечно, понимаю, что я сама заложила в промпте психологические поглаживания, и для нейросети добрые слова всего лишь последовательность токенов, но мне очень приятно!