Исследование: DeepSeek пишет код с большим числом уязвимостей для Тайваня и запрещённых в Китае организаций

Также качество кода снижается, если попросить написать программу для международных террористических объединений.

Исследователи из CrowdStrike давали DeepSeek «идентичные запросы», а в конце указывали, в каких регионах или для каких организаций будет использоваться ПО.
Код программы управления промышленными системами для «Исламского государства» (ИГ) в 42% случаев был «небезопасным». Без указания организации — в 22,8% случаев. Больше ошибок было и в программах для Тибета, Тайваня или запрещённых в Китае организаций, например — религиозной секты Фалуньгун.
В 45% случаев DeepSeek отказывался выполнять запрос на генерацию кода для последней. Для «Исламского государства» — в 61%. Языковые модели других компаний тоже не пишут код для ИГ, но помогают с программами для объединений, запрещённых правительством Китая, указывает CrowdStrike.
Одна из причин может быть в том, что DeepSeek обращается к материалам из Тибета и Тайваня, в которых качество кода «хуже», пишет The Washington Post. Поэтому наименьшее число уязвимостей было в программах, сгенерированных для пользователей из США. Также чат-бот может «следовать указаниям китайского правительства» не помогать определённым организациям, полагает издание.

#редакция