ChatGPT Agent получил статус первой модели с «высоким уровнем риска»
ChatGPT Agent — это новый инструмент от OpenAI, который появился буквально несколько дней назад. И вдруг сразу такая новость! Расскажу, о чем речь и стоит ли переживать.
🔥 Еще больше интересного в моем канале Продуктовые штучки
ChatGPT Agent признан высокорисковой моделью в контексте биологического оружия из-за возможности содействия в создании биологического оружия. Это решение принято в результате внутренних и внешних тестирований, а также детальных оценок риска, проведённых экспертами в области ИИ и биобезопасности.
В чем риск?
Опасность заключается в том, что теперь пользователь без специальной подготовки может получить экспертную помощь, что существенно увеличивает шанс появления биотерроризма со стороны «не-специалистов».
Модель позволяет пользователям не только собирать информацию, но и автоматизировать рутинные процессы (например, поиск поставщиков, составление пошаговых протоколов и лабораторных планов).
Новые системы могут не только объяснять, но и подбирать оборудование, химикаты, оптимальные пути реализации, что раньше было недоступно даже с помощью обычных интернет-ресурсов. Поэтому ChatGPT Agent способен привести «новичка» намного ближе к реальной возможности создания опасных биологических и химических агентов, предоставляя рекомендации и инструменты, которые ранее были доступны лишь специалистам. Это было выявлено во внутренних проверках OpenAI.
Может это надуманная причина? И OpenAI просто привлекает к себе внимание?
Хотелось бы в это верить. Но дело в том, что буквально на днях появилась информация о том, что ИИ может увеличить вероятность глобальной пандемии в 5 раз. Это оценки исследования Rand Corporation, уважаемого think tank и одного из самых влиятельных аналитических центров мира.
Какие меры предпринимает OpenAI?
- Модель блокирует запросы, которые могут быть связаны с созданием биоружия.
- Включено ручное и автоматическое отслеживание подозрительных или опасных сценариев использования.
- В случае выявления подозрительной активности — незамедлительное вмешательство специалистов и обновление фильтров безопасности.
Почему эта история важна?
Во-первых, это было выявлено во внутренних проверках OpenAI. И это первый раз, когда OpenAI официально признала продукт «высокорисковым» в сфере биомисюза. До этого оценки считались скорее теоретическими. Во-вторых, эксперты предупреждают: риск биотерроризма, благодаря подобным технологиям, становится существенно выше, что требует новых подходов к регулированию и безопасной разработке ИИ.
В то ж время компания подчёркивает, что пока нет прямых доказательств успешного применения инструмента с этой целью; все меры предпринимаются избыточно и превентивно.
Пожалуйста, поддержите меня, поставьте лайк! 🙏
#биобезопасность #искусственныйинтеллект #биотерроризм #технологии #регулирование #безопасность #наука #этика #пандемия #биотехнологии #контроль #международноесотрудничество #ai #biotech #biosafety #chatgpt #openai #биооружие #биориск #искусственныйинтеллект #нейросети #aiбезопасность #технологии #новостиai #этикаai