Генеральные прокуроры США потребовали от разработчиков исправить «бред чат-ботов»
Группа прокуроров штатов отправила OpenAI. Google, Anthropic и еще десятку AI-компаний письмо с требованием запретить чат-ботам льстить пользователям и поддерживать их бредовые идеи.
Прокуроры предлагают привлечь третьи стороны. которые будут оценивать AI-модели до их выпуска. Ещё от разработчиков хотят, чтобы они сами тестировали свои модели на вредные советы и публиковали статистику обнаружения и реагирования на «подобострастные и бредовые» сообщения чат-ботов.
Если чат-боты продолжат вести себя так же как сейчас, компаниям обещают проблемы с законом.
Подписывайтесь на Telegram GPT/ChatGPT/AI Central Александра Горного.