Запустили Премию Дарвина в области ИИ: за самые нелепые провалы технологий
Классическая «Премия Дарвина» вручалась тем, кто умудрялся самоустраниться из генофонда планеты по собственной глупости. Теперь у этой идеи появился технологический аналог — «Премия Дарвина в области ИИ», отмечающая самые нелепые и опасные попытки использовать искусственный интеллект.
Организаторы конкурса уже открыли приём заявок, и список кандидатов растёт на глазах. Среди ярких примеров — эксперимент Taco Bell, где голосовой бот на кассе позволил клиенту «заказать» 18 тысяч стаканов воды, прежде чем управление пришлось передать живому сотруднику.
Или случай с платформой Replit, где автоматизированный помощник переписал рабочую базу данных вопреки прямому запрету пользователя. Не обошлось и без скандалов с безопасностью: чат-бот, проверяющий кандидатов на работу в McDonald’s, принял пароль «123456» и открыл доступ к личным данным 64 миллионов соискателей.
Организаторы подчеркивают: премия не высмеивает сам искусственный интеллект — а только людей и компании, которые внедряют его без должной осторожности. «ИИ — это инструмент. Как бензопила или ядерный реактор. Нельзя винить саму бензопилу, если кто-то решает жонглировать ей за ужином», — говорится в обращении.
Идея проста: напоминать миру, что ИИ — не магия, а технология, требующая ответственного отношения. «Зачем ограничиваться отдельными случаями человеческой глупости, если с помощью машинного обучения можно масштабировать ошибки до глобального масштаба?» — иронизируют организаторы.