Китайские разработчики создали ИИ-цензор для поиска «запрещённой» информации на основе алгоритма Google Статьи редакции

Он может находить данные с точностью в 91% и пригодится для цензуры интернет-изданий, заявляют исследователи.

  • Разработчики из Шэньянского университета Лигун и Китайской академии наук создали технологию с элементами ИИ на основе алгоритма BERT от Google, который может фильтровать «вредную информацию» в интернете с высокой точностью, пишет South China Morning Post.
  • Он позволяет находить подлежащие цензуре тексты с точностью в 91%, утверждают исследователи. При этом, например, поиск по ключевым словам даёт точность в 70%, а у обученной людьми нейросети — 80%.
  • Алгоритм Google BERT с открытым кодом не может анализировать тексты длиной более 512 слов, поэтому разработчики создали алгоритм, который разбивает длинный текст на сегменты, доступные для анализа, а затем собирает текст обратно.
  • Как утверждают исследователи, решение содержит словарь с ключевыми словами и их формами. Также алгоритм может искать скрытый между строк подтекст, так как пользователи в Китае используют омонимы или добавляют дефисы между символами, чтобы избежать цензуры.
  • Интернет в Китае жестко контролируют, многие сайты, в том числе Google, Facebook, Twitter заблокированы, а часть контента на доступных сайтах запрещена. При этом китайский язык слишком сложный, чтобы использовать обычные решения для поиска «запрещенной» информации, отмечает издание.
  • Решение было бы полезно, чтобы «найти и отфильтровать информацию из интернет-изданий», заявили ведущий исследователь Ли Шу и её коллеги. Сейчас китайское правительство и компании полагаются на «армию цензоров», которые вручную проверяют контент в интернете, но это слишком дорого и неэффективно, пишет издание.
0
130 комментариев
Написать комментарий...
Денис Демидов

Тексты уходят в прошлое, теперь эра аудио и видео, китайская цензура обречена на пробуксовку. 
Как рухнул СССР, так и рухнет КНР, на лжи и лицемерии (коммунистическая партия Китая состоит сплошь из миллиардеров и миллионеров ) ничего долговечного не построить.

Ответить
Развернуть ветку
Большой жёлтый робот

Что ни делают китайцы, получается цензура

Ответить
Развернуть ветку
Денис Демидов

Вы думаете легко впаривать массам как миллиардеры и миллионеры собираются коммунизм построить? 

Ответить
Развернуть ветку
Igor Filippov

Да зачем впаривать если простой средний класс может себе позволить отправить детей учиться в западную Европу?

Ответить
Развернуть ветку
Денис Демидов

В Российской Империи дворяне тоже могли себе позволить отправить детей куда угодно, но это не уберегло от революции.
Средний класс в Китае (который может детей отправить заграницу) это не более 5%, скорее где-то 1-2%.

Ответить
Развернуть ветку
Igor Filippov
 скорее где-то 1-2%.

Есть ссылки? Или в носу поковырялся и нашел?

Ответить
Развернуть ветку
Денис Демидов

У меня какой-то оптимистический нос, в реальности процент еще ниже:

С 2000 по 2011 годы, общее количество китайских студентов, обучающихся за границей, достигло 1 млн 911 тыс 300 человек

http://russian.people.com.cn/31517/7951840.html

Ответить
Развернуть ветку
Igor Filippov
 Средний класс в Китае (который может детей отправить заграницу)

Может - не значит отправляет, речь о среднем классе в принципе. 

https://www.brookings.edu/wp-content/uploads/2020/10/FP_20201012_china_middle_class_kharas_dooley.pdf

 Chinese citizens took 300 million vacation and business trips in 2019; 166 million of these trips were abroad...
 Already, China has the largest middle-class consumption market segment in the world...
 China’s transition to a middle-class country is not yet complete. It will continue adding significant numbers until 2027 when an estimated 1.2 billion Chinese will be in the middle class, one-quarter of the global total.
Ответить
Развернуть ветку
Денис Демидов

А они данные откуда взяли? У китайского же правительства? ))))) Все остальные источники тщательно зацензурированы, это не китайские студенты, которых объективно можно подсчитать, а так то и у нас среднего класса ого-го, так как по мнению Путина для этого 17 т.р. достаточно. Была бы у Путина такая же цензорная машина как у китайцев, даже такие как вы бы ему верили.

Ответить
Развернуть ветку
Igor Filippov
 А они данные откуда взяли? У китайского же правительства?

Там внизу есть ссылочки.

Все остальные источники тщательно зацензурированы

Судить можно и по данным глобальных брендов которые продают свои товары там.

 даже такие как вы бы ему верили.

Для меня нет вопроса "верить - не верить". Я сужу по данным аналитики. Та ссылка что я привел вообще от американцев, их тяжело заподозрить в том что они будут беспочвенно воспевать успехи Китая.

Ответить
Развернуть ветку
Денис Демидов
Для меня нет вопроса "верить - не верить". Я сужу по данным аналитики.

Вы в носу ковыряетесь, что-то ляпнули про детей отправляемых заграницу на обучение, когда я показал этот ничтожный процент скатились до брендовых шмоток, фу таким быть.

Ответить
Развернуть ветку
Igor Filippov

Я не скатился, я дал ссылку на исследование со множеством показателей от агенства с хорошей репутацией. А вот это вот:

 А они данные откуда взяли?

уже попахивает теориями заговора. 

Ответить
Развернуть ветку
Денис Демидов

Китайцы очень похоже на циган, они почку за айфон в легкую отдадут, поэтому, уровень продаж брендового барахла никак не говорит о реальном количестве среднего класса.

уже попахивает теориями заговора.

Не верите в много миллионную армию китайских цензоров?

Ответить
Развернуть ветку
Igor Filippov
 уровень продаж брендового барахла никак не говорит о реальном количестве среднего класса

Что говорит о размере среднего класса кроме объёмов продаж потребительских товаров? 

Ответить
Развернуть ветку
Денис Демидов

Кто-то есть дешевую лапшу, а кто-то сумки гуччи меняет каждый месяц, как по объему продаж можно вычленить долю среднего класса? 
Китай максимально закрывает все объективные данные, по нему даже трудно найти цифры смертных приговоров, а вы про средний класс, главную боль КПК, который из каждого утюга вещает как китайцы стали более лучше одеваться

Ответить
Развернуть ветку
Igor Filippov

Я не спорю про то что там много бедных, важны темпы роста.

Вообще по росту продаж брендов можно делать выводы о росте благосостояния населения в стране. Взять опять же продажи электромобилей, если не нравится мерять по Гуччи. 

Абсолютно точно оценить нельзя, можно строить модели. В любом случае если бы среднего класса в Китае было 1-2%, это было бы от 14 до 28 миллионов человек. Я сомневаюсь что мировые компании которые на этот средний класс ориентируются были бы заинтересованы в рынке такого объема.

Ответить
Развернуть ветку
Денис Демидов

По электромобилям тоже ничего не поймешь, так как бензин там стоит как в Европе, а население нищее, там даже велики на электромоторчиках самодельных носятся.
Но на счет темпов полностью согласен, китайцы стабильно богатеют, год от года, правда этому уже наступает конец, местный Брежнев ведет страну в застой. 

Ответить
Развернуть ветку
127 комментариев
Раскрывать всегда