Искусственный интеллект, все эти нейросети — это как шизофреник, выдающий похожую на связную речь. Иногда действительно не отличишь, но они не могут понять суть явлений, поэтому всегда будут случаи выдачи странных результатов. Как шизофреники, которых определяют на тестах «убери лишние» по какой-то нечеловеческой логике. И это принципиально неразрешимая проблема. Чем искуснее сеть, тем просто меньше процент ошибок, но он присутствует всегда, а пожаловаться на ложноположительное срабатывание нереально, так как это просто невыгодно с точки зрения бизнеса. Боюсь, без государственного вмешательства это положение никак не изменится.