Но если ИИ считает, что после "кошка" должно стоять "животное", откуда берется " домашнее"? Получается, он должен не только предсказывать слова, но и менять комбинации этих предсказанных слов, причем именно исходя из контекста.
Да, ГПТ видит все предложение до, можно назвать это контекстом, но это не тот контекст, который понимает человек. Ранее, он видел, что в контексте "кошки" часто встречается не просто "животное" а именно "домашнее животное". Так говорят люди, поэтому он следующее слово ставит именно "домашнее", так как такое слово в контексте "кошки" встречается чаще.
Но если ИИ считает, что после "кошка" должно стоять "животное", откуда берется " домашнее"? Получается, он должен не только предсказывать слова, но и менять комбинации этих предсказанных слов, причем именно исходя из контекста.
Да, ГПТ видит все предложение до, можно назвать это контекстом, но это не тот контекст, который понимает человек.
Ранее, он видел, что в контексте "кошки" часто встречается не просто "животное" а именно "домашнее животное". Так говорят люди, поэтому он следующее слово ставит именно "домашнее", так как такое слово в контексте "кошки" встречается чаще.