Трех законов робототехники уже недостаточно. OpenAI предлагает новые принципы управления развитием ИИ
В последние месяцы нейронные сети стали чрезвычайно популярны. Во многом это заслуга ChatGPT и генеративных нейронных сетей. Однако разработчики смотрят в будущее и предрекают новые проблемы в этой области. В OpenAI была опубликована статья, в которой говорится о довольно скором появлении Искусственного общего интеллекта (AGI). Это можно перевести как «ИИ общего назначения», но сами авторы подразумевают под этим термином ИИ, который может выполнять любые задачи не хуже человека, а иногда даже лучше.В статье говорится, что ИИ должен «расширить возможности человечества для максимального процветания», но он также может принести потенциальные проблемы. Чтобы подготовиться к ним заранее, OpenAI предложил набор принципов, которыми руководствуется команда в работе над AGI.
Их список выглядит так:
- Развертывание и исследование менее мощных систем искусственного интеллекта в реальном мире для получения опыта и обратной связи.
- Упрощение доступа к системам ИИ для всех.
- Поддержка ИИ человеческих ценностей и предпочтений.
- Взаимодействие международных структур по использованию и регулированию ИИ.
- Обмен данными и опытом о прогрессе ИИ с общественностью и привлечение заинтересованных сторон, которые могут внести свой вклад в развитие ИИ.
Это лишь самые основные моменты, по мере развития ИИ могут возникать и другие, которые будут зависеть от вышеперечисленных факторов. Ведь пока сложно предсказать, насколько быстро будет развиваться такой ИИ, насколько хорошей будет координация усилий и взаимодействие между разными странами. Также неясно, насколько хорошо ИИ будет учитывать именно человеческие цели, стремления и предпочтения.
OpenAI также отметил, что у них самих нет всех ответов и решений для потенциальных проблем в будущем, особенно после того, как AGI станет массовым явлением. Они рассчитывают, что в долгосрочной перспективе эти и другие требования к развитию ИИ станут обязательными для всех.