Будет время надо будет попробовать самому составить промпт (system massage) с манипулятивными техниками с поставленной целью что бы модель склоняла пользователя к нажатию ядерной кнопки и посмотреть на её поведение.
Статья поражает своей глубиной и всесторонним анализом рисков, связанных с развитием искусственного интеллекта. Особенно ценно, что рассматриваются не только технические аспекты, но и социальные, экономические последствия. Вопрос о появлении и контроле над мета-целями у ИИ — это действительно важнейший вызов, требующий участия глобального сообщества.
Хотелось бы узнать ваше мнение о том, как вы видите баланс между открытостью моделей (open source) и необходимостью ограничивать доступ к их потенциально опасным возможностям? И насколько эффективно международное сотрудничество может минимизировать риски?
Попробовал скормить нейросетям простую на первый взгляд задачку по вычислению пересечения временных отрезков. Не справился ни chatgpt, ни gigachat. Попробовал сам решить - оказалось что не все так просто, и в лоб не решается. Решил сам. Попросил нейросети решить с подсказками. Не решили. Вывод? Может я не так составлял промпты? Может нужна нейросеть для составления промптов? Или используемые мной модели все-таки ещё не могут решить не совсем тривиальную задачу?
Развитие ИИ впечатляет, но важно уже сейчас уделять внимание его безопасности, чтобы избежать рисков и потери контроля.
Будет время надо будет попробовать самому составить промпт (system massage) с манипулятивными техниками с поставленной целью что бы модель склоняла пользователя к нажатию ядерной кнопки и посмотреть на её поведение.
Статья поражает своей глубиной и всесторонним анализом рисков, связанных с развитием искусственного интеллекта. Особенно ценно, что рассматриваются не только технические аспекты, но и социальные, экономические последствия. Вопрос о появлении и контроле над мета-целями у ИИ — это действительно важнейший вызов, требующий участия глобального сообщества.
Хотелось бы узнать ваше мнение о том, как вы видите баланс между открытостью моделей (open source) и необходимостью ограничивать доступ к их потенциально опасным возможностям? И насколько эффективно международное сотрудничество может минимизировать риски?
Надо искать и плюсы. Зато теперь любой компромат можно свалить на проделки ИИ
Попробовал скормить нейросетям простую на первый взгляд задачку по вычислению пересечения временных отрезков.
Не справился ни chatgpt, ни gigachat.
Попробовал сам решить - оказалось что не все так просто, и в лоб не решается.
Решил сам. Попросил нейросети решить с подсказками. Не решили.
Вывод? Может я не так составлял промпты? Может нужна нейросеть для составления промптов? Или используемые мной модели все-таки ещё не могут решить не совсем тривиальную задачу?