GPT-4: Чему научилась новая нейросеть, и почему это немного жутковато
В этой статье мы разберем новые удивительные способности последней языковой модели из семейства GPT (от понимания мемов до программирования), немного покопаемся у нее под капотом, а также попробуем понять – насколько близко искусственный интеллект подошел к черте его безопасного применения?
Более того, прирост качества в среднем тем выше, чем ниже базовый навык человека. То есть, нейросеть как бы подтягивает низкоквалифицированных работников до уровня нормальных середнячков.
Вот тут и кроется причина того, что ИИ не станет в ближайшее время слишком сильно умнее, чем он есть уже. Обучающая выборка для ИИ создана обычными людьми. Поэтому ИИ может подняться до их уровня. Но может ли он переплюнуть этот уровень? За счёт чего?
На данный момент у ИИ, в нынешнем его виде, нет потенциала превзойти по "интеллекту" обучающую выборку. И чем шире будет выборка, тем хуже будет конечный интеллект. Человечество в массе своей очень далеко от гениальности.
На сейчас ИИ пока что просто быстро находит взаимосвязи между фактами по заданному шаблону. Вот и весь "интеллект". Когда в эту штуку добавят возможность самому щупать мир, добывать неизвестные ранее факты и создавать новые шаблоны - вот тогда и наступит жопа для кожанных мешков. Придётся доказывать этой железяке свою полезность просто для того, чтобы жить. Тут-то мы и узнаем, что такое настоящий диктатор!
Интересно, как мы сделали алгоритмы, которые играют в Го, шахматы и разные компьютерные игры лучше, чем человек? откуда эти знания взялись, как их туда "вложили"? Эти знания были в выборке, да? (нет)