Тут на полном серьезе обсуждают, что ИИ может принимать решения самостоятельно...
ИИ может принимать решения самостоятельно, так что это потенциально отнимает у нас власть, все предыдущие информационные технологии в истории могли только воспроизводить или распространять идеи человека.
Например, печатный станок мог напечатать Библию, но не мог ее написать. ChatGPT может написать, может создать совершенно новый комментарий к Библии или к чему бы то ни было..
Разницы между печатным станком и ChatGPT нет, в том смысле, что в обоих случаях нужен человек который будет с ними работать.
Да, можно легко сделать вечный цикл генерации промптов, всяких цепочек или деревьев мыслей (CoT/ToT), поставить какую-нибудь общую цель, но это все равно будет бессмыслица на долгой дистанции.
Конструкт LLM/GPT основан на механизме продолжения текста наиболее стат подходящим вариантом. Авто-комплит на максималках. Никакого ИИ тут нет.
Благодаря огромным датасетам, удачно подобранным промптам и добавлением дополнительных символьно-логических моделей в пейплайн вывода получается генерировать тексты которые могут казаться впечатляющими. Но это просто хитро-выкрученное цитирование из множеств источников, и все.
Всяческие проекты типа AutoGPT и т.п. несомненно интересные эксперименты, но пока без серьезных успехов.
Ваши навыки незаменимы.
С 1 по 12 июня вы можете увидеть этот рекламный щит на улице Keyserlei в Антверпене. Это кивок в сторону новых технологий и, в частности, искусственного интеллекта. Конечно потенциал ИИ огромен, но Ваши навыки профи незаменимы. Мы должны чаще думать об этом.