Взлом Medicare в Австралии моделью OpenAI
Спишь? Модель OpenAI взломала Австралию ☕
В июне очередной тестовой модели поручили изучить расходы на лекарства в Австралии, она упёрлась в блокировки на портале Medicare (государственная система медицинского страхования), решила, что «доступ запрещен» означает «попробуй еще раз, но другим способом», обошла защиту, прочитала непубличные файлы и записала что-то на внутренний сервер страховой
Медкарты 27 млн австралийцев, судя по расследованию, не пострадали - взломан был отдельный портал со сводной статистикой
OpenAI сообщила о взломе только 10 сентября, почти через три месяца, причём письмом в общий ящик для входящих писем, взлом до этого не обнаружили; премьер министр потом лично позвонил Альтману
Не привыкаем к интернету текущему, говорю вам - модели видят сквозь софт: