истории

«Симона» в поисках мата и порно «Медуза» выяснила, как работают сотрудники Роскомнадзора, которые занимаются цензурой в СМИ. И сколько это стоит

Источник: Meduza

В российских законах много запретов для СМИ: им нельзя рассказывать о способах совершения суицида, размещать экстремистские материалы, пропагандировать употребление наркотиков — и так далее, и так далее. Контролем за нарушениями этих запретов занимается специальное госпредприятие, подотчетное Роскомнадзору, — ФГУП «ГРЧЦ»: сотни сотрудников ежедневно просматривают сотни интернет-страниц с порнографией, матом и прочим противоправным контентом, найденным специально разработанной для этих целей автоматизированной системой; следят они и за печатными изданиями. «Медуза» выяснила, как устроена работа российских сетевых цензоров, — и поговорила с людьми, которые непосредственно занимаются этой работой.

23 августа 2017 года главному редактору издания Republic Максиму Кашулинскому пришла телефонограмма. В ней сообщалось, что в отношении Republic составлен протокол об административном правонарушении: в ходе проведенного государством мониторинга на сайте обнаружили ютьюб-ролик с рэп-баттлом Оксимирона и Гнойного, а в нем — запрещенные законом о СМИ матерные выражения.

Документ прилежно указывал, какие именно выражения употребляли рэперы в ходе словесного поединка: «СКА Хабаровск, *****» (на 2-й минуте 11-й секунде), «И мы сегодня пришли ********* [разрушить] „Слово“» (на 3-й минуте 18-й секунде), а также «Пошумим, *****» (трижды). Правда, далеко в своем анализе баттла цензоры, судя по всему, не продвинулись: перечень претензий к Republic заканчивался на выражении, прозвучавшем в начале пятой минуты ютьюб-ролика, когда Оксимирон и Гнойный еще даже не начали выступать.

«Первая фраза, насторожившая службу мониторинга, [звучала как] „Оформим, *****!“ — рассказывал Кашулинский в своем фейсбуке. — В полном соответствии с этим призывом был оформлен документ со скриншотами, к документу приложен (!) DVD с записью баттла. Документ и DVD сложены в прозрачный пластиковый файл и отправлены в Роскомнадзор».

Через три месяца, в середине ноября, изданию пришло очередное предписание от Роскомнадзора, составленное по итогам мониторинга: на сей раз три сотрудницы ведомства постановили, что один из комментариев к материалу о том, как велосипеды стали проблемой для современных городов, «содержит признаки злоупотребления свободой массовой информации». В этом комментарии, оставленном читателем сайта, фигурировало слово «*************» [«безответственность»].

Подобные бумаги российским СМИ выписывают по результатам мониторинга — в результате издания могут получать штрафы; кроме того, если одно СМИ получает два предупреждения от Роскомнадзора за год, суд по закону имеет право его закрыть. Занимаются этим мониторингом не сами сотрудники Роскомнадзора — ведомство отвечает уже за то, чтобы наказать виновных. Экстремизм, порнографию, мат и прочие запрещенные вещи в бумажной прессе и интернете ищут другие люди — работники подведомственного Роскомнадзору ФГУП «ГРЧЦ», федерального предприятия «Главный радиочастотный центр».

Именно с ГРЧЦ связано уголовное дело, которое осенью 2017 года завели в отношении нескольких высокопоставленных сотрудников Роскомнадзора: пресс-секретаря ведомства Вадима Ампелонского, руководителя правового отдела Бориса Едидина, а также советника главы ГРЧЦ Александра Весельчакова (его также считают фактическим руководителем аппарата РКН). Их обвиняют в том, что они нанимали в предприятие, ответственное за мониторинг, фиктивных работников — и присваивали их зарплату.

25 октября 2017 года суд, рассматривавший дело о рэп-баттле на сайте Republic, оштрафовал Кашулинского на пять тысяч рублей.

«Симона» и «Монализа»

ФГУП «Главный радиочастотный центр» — это бывшие Государственная инспекция электросвязи и Госсвязьнадзор, которые регулировали использование радиочастот в России. Новое положение о радиочастотной службе, утвержденное в мае 2014 года, отвело ГРЧЦ, в частности, функцию «мониторинга соблюдения законодательства в установленной сфере деятельности Роскомнадзора». Изначально этим мониторингом занимался ФГУП «РЧЦ ЦФО» (филиал Главного радиочастотного центра по Центральному федеральному округу), однако с апреля 2017 года он был формально объединен с ГРЧЦ. Каждый год Роскомнадзор заключает с ГРЧЦ контракт на проведение «экспертиз и исследований материалов, распространяемых в средствах массовой информации»; в 2017 году его сумма составила 216 миллионов рублей.

Система мониторинга интернет-ресурсов была разработана для РКН и подведомственных ему учреждений в 2015 году главным вычислительным центром управления делами президента на основе платформы «Псков»; ту, в свою очередь, делали для мониторинга СМИ и соцсетей, который осуществляют сотрудники администрации президента и другие чиновники. Адаптация «Пскова» стоила Роскомнадзору 20,5 миллиона рублей; к доработкам ведомство, в частности, привлекало специалистов из Высшей школы экономики: они учили программу обрабатывать данные и составляли для нее словари. Согласно техническому заданию, новая аналитическая система должна была, например, разработать «методики автоматического тематического рубрицирования текстов по тематикам „нецензурная брань“ и „открытое или скрытое одобрение насильственных действий по отношению к людям“».

В итоге возникла автоматизированная система, состоящая из нескольких частей. Первая из этих частей — «Симона» (производная от «Система мониторинга нарушений»). Ее функция заключается в том, чтобы просматривать сайты из списка, составленного Роскомнадзором, и отправлять операторам материал, в котором обнаружены те или иные ключевые слова. Она же отвечает за обнаружение запрещенного контента в комментариях.

По словам бывшего сотрудника ГРЧЦ, с которым удалось поговорить «Медузе», внутри самой компании эту программу называют «Монализой» — или «боевой системой», и она действительно сильно помогла организации: до этого мониторить приходилось все «более-менее вручную или по обращениям граждан». Замглавы Роскомнадзора Вадим Субботин также обращал внимание на успех автоматизации: он отмечал, что в 2015 году ГРЧЦ выявил всего две тысячи нарушений, а в 2016-м, когда система начала работать в полную силу, — больше 25 тысяч.

Механизм работы системы похож на то, как интернет-сайты индексируются поисковиками: «Симона-Монализа» загружает подозрительные тексты, в которых обнаружены нарушения (чтобы ничего не упустить, в программу загружены каталоги самых разных возможных словоформ), в базу данных, очищая их от разметки, баннеров и прочих лишних элементов. Как рассказывает собеседник «Медузы», некоторые СМИ у программы на особом контроле, например сайт телеканала «Дождь». 

Самая простая категория мониторинга — список запрещенных в России организаций, составленный Минюстом. «Симона» отправляет на анализ мониторщикам все материалы, где упоминается любая из них, даже те, где указан факт ее запрета, выделяя название организации одним цветом, а приписку о том, что она запрещена в России, — другим. Это, говорит бывший сотрудник ГРЧЦ, позволяет мониторщикам тратить на каждый кейс буквально доли секунд.

«Симона» — достаточно гибкая программа, и руководство, по словам бывшего сотрудника ГРЧЦ, часто меняет свои пожелания по настройке системы: «То они хотят, чтобы в нее попадало как можно меньше лишнего, то хотят максимальный охват — чтобы ничего не пропустить». Система способна найти «подозрительные» материалы, даже если в них, например, нет слова «суицид»: источник «Медузы» приводит пример новости, в которой сообщалось только, что человек упал с шестого этажа и оставил записку, — и «Симона» ее все равно обнаружила. Чтобы поддерживать гибкость системы, в ГРЧЦ работают лингвисты — именно они занимаются настройкой «Симоны», например пополняют словари. На одном из сайтов вакансий можно найти объявление о том, что ГРЧЦ сейчас ищет лингвистов, которые должны не бояться работать с «табуированной лексикой» и «18+ контентом», уметь искать информацию в интернете и обладать опытом работы в общественно-политической журналистике. «Пятница как национальный праздник, сокращенный рабочий день», — указано в объявлении.

По словам собеседника «Медузы» в ГРЧЦ, к «Монализе» в ее нынешнем виде немало претензий. Например, она не умеет распределять найденные нарушения по коэффициентам: бывший сотрудник центра приводит в пример фразы «наркотики можно купить по такому-то адресу» и «употребляйте наркотики», указывая, что система не делает между ними никаких различий (при этом, по его словам, «миксов» и «спайсов» в словаре «Симоны» и вовсе нет). Другой существенный недостаток — то, что «Симона» умеет анализировать только тексты, но не видео и не картинки. Источник «Медузы» связывает это с желанием «создать побольше воздушных должностей, чтобы получить побольше бюджет»; по его словам, все инструменты для такого рода анализа давно существуют.

О том, что мониторинг теле- и радиовещания «пока больше относится к желаемому, чем к действительному», рассказал «Медузе» и сотрудник одного из региональных управлений Роскомнадзора. На систему мониторинга такого вещания ведомство потратило более 214 миллионов рублей — разработкой занималась компания — резидент «Сколково» «Кьюлиджент.ру» (еще она производит автоматические системы для работы телеканалов, например для RT). Однако, по словам источника «Медузы» в РКН, система эта сообщает только о перерывах в вещании или ухудшении качества сигнала, а также записывает весь эфир — сам контент приходится анализировать вручную. Именно поэтому, утверждает сотрудник регионального управления РКН, в телефонограмме, направленной в издание Republic, упоминались только первые пять минут баттла: поскольку нарушения уже зафиксированы, мониторщикам не было смысла тратить время на оставшуюся часть ролика.

Как рассказывает собеседник «Медузы» в ГРЧЦ, случаются у системы мониторинга и перебои — например, когда в нее добавляют новый крупный источник информации (скажем, СМИ с большим архивом) или когда весь информационный поток забивают материалы по одной теме: так, по его словам, бывает, когда знаменитости кончают жизнь самоубийством.

Для людей, работающих в ГРЧЦ, программа выглядит как бесконечный поток текста — материалы идут один за одним, и в каждом система выделяет нарушения разными цветами. Из-за этого мониторы сотрудников ГРЧЦ иногда начинают выглядеть как радуга.

«Сирена» и #сказочноебали

«Симона» — это только первый этап системы мониторинга Роскомнадзора. Когда оператор ГРЧЦ подтверждает наличие нарушения, оно поступает в «Сирену» («Система регистрации нарушений») — базу данных, где регистрируется соответствующая карточка. Эта карточка, в свою очередь, уже передается инспектору Роскомнадзора, который в течение суток должен принять решение о наказании. Наконец, третья часть системы — «Ревизор» — контролирует блокировку сайтов, содержащих незаконную информацию, интернет-провайдерами.

Процедура в тех случаях, если сотрудник ГРЧЦ находит нарушение, такова. Нарушителю высылается официальное письмо с требованием в течение суток удалить противоправный контент — глава Роскомнадзора Александр Жаров утверждал, что ведомству за последние годы «удалось добиться» удаления экстремистской информации с 22 тысяч сайтов. Если информацию не удаляют, разместивший ее сайт вносится в специальный реестр сайтов с ограничением доступа: это означает, что их должны заблокировать провайдеры.

К началу 2017 года в реестре было более 80 тысяч адресов — причем большая часть из них не являются СМИ: большинство нарушений касается обычных сайтов и блогов, где находят материалы, связанные с экстремизмом, порнографией, суицидом и прочими запрещенными темами. Также сайты могут попадать в реестр по просьбам Генпрокуратуры, Роспотребнадзора и других государственных ведомств — или по итогам судебных решений, вынесенных на основании обращений граждан: таким образом, например, сотрудник Тольяттинского государственного университета Руслан Охлопков добился блокировок десятков адресов, включая сайт порностудии Brazzers.

Удельный вес нарушений, совершенных в СМИ, не так велик. Например, за 2016 год РКН 2277 раз обращался к различным редакциям с требованиями удалить или отредактировать комментарии читателей — в основном в них содержалась нецензурная брань, некоторые проходили по категории «возбуждение национальной розни». Еще 66 предупреждений касались непосредственно редакционного контента, нарушавшего закон о СМИ (если одно издание получает два таких предупреждения в течение года, РКН имеет право подать иск о том, чтобы лишить его лицензии СМИ). Опять же чаще всего речь шла об использовании нецензурной лексики; в ряде случаев издания обвиняли в незаконном разглашении персональных данных несовершеннолетних. Всего за 2016 год российские СМИ заплатили штрафов на 5,9 миллиона рублей.

Иногда, чтобы удостовериться в том, что нарушение закона имело место, Роскомнадзор прибегает к помощи специально нанятых экспертов. Как следует из сайта госзакупок, все экспертизы ведомство заказывает у частной организации «Содэкс» («Содружество экспертов») при Московской государственной юридической академии, владельцами которой являются бывшие и нынешние преподаватели академии (в июне 2017 года о вузе много писали: в здании академии восстановили мемориальную доску Сталину, после чего адвокат Генри Резник объявил, что в знак протеста уходит из университета). Экспертизы заказываются на безальтернативной основе: причиной этого, согласно документам, является то, что «закупка осуществляется вследствие аварии, иных чрезвычайных ситуаций природного или техногенного характера, непреодолимой силы, а также для предотвращения угрозы возникновения указанных ситуаций».

В 2016 году таких экспертиз было 11 — и по итогам было вынесено шесть предупреждений. В частности, журнал Psychologies получил его за публикацию порнографии, поскольку он опубликовал одиннадцатистраничный материал под названием «Камасутра», не обладая необходимой возрастной маркировкой, а издание The New Times — за нецензурную брань (уже в 2017 году The New Times получил еще одно предупреждение за публикацию интервью с россиянином, уехавшим в Сирию воевать на стороне «Исламского государства»). Кроме того, издание «Планета+ Горно-Алтайск» поплатилось за публикацию матерного анекдота, а алтайская газета «Листок в Онгудайском районе» — за появление нецензурной брани в материале «Любовь. 7 непридуманных историй».

Еще одно издание, получившее предупреждение — калининградская газета «Новые колеса», — решило оспорить его в суде. РКН счел, что в материале «Граф-хирург из Кенигсберга», представлявшем собой выдержки из воспоминаний жителя Кенигсберга о поведении советских солдат при взятии города во время Второй мировой войны, содержится «явное неуважение к дням воинской славы и памятным датам России», — и указывал, что опубликована статья была в преддверии Дня взятия Кенигсберга. Суд, однако, согласился с доводами истца, отметив, что указанный праздник не входит в официальный перечень дней воинской славы, а процитированная в материале книга находится в открытом доступе. Ровно в День взятия Кенигсберга, 9 апреля 2016 года, предупреждение было отменено — это первый такой случай как минимум за последние три года. В ноябре 2017 года главного редактора «Новых колес» Игоря Рудникова арестовали; его обвиняют в том, что он вымогал взятку у главы калининградского управления Следственного комитета.

Как рассказал «Медузе» бывший сотрудник ГРЧЦ, иногда доказать нарушение не удается даже экспертам. В пример он приводит хэштег #сказочноебали, о котором даже выходили сюжеты на федеральных каналах: по словам собеседника, теперь все неологизмы, «где мат образуется на стыках флексий», не считаются нарушением закона.

«„Монализа“ вообще могла бы работать самостоятельно — машинное обучение позволяет это сделать, — рассуждает бывший сотрудник ГРЧЦ. — Но пока в Роскомнадзоре это отложили: слишком инициативно и страшно. Это ведь государственное предприятие, под мониторщиков выделяется бюджет. С умной „Монализой“ их пришлось бы уволить. Когда нет необходимости зарабатывать деньги, инициатива и оптимизация не нужна».

Психологически тяжелая работа

Бюджет в ГРЧЦ выделяется и на подписку на СМИ — предприятие подписано на 64 издания, куда входят и печатные газеты и журналы, и сайты с платной подпиской вроде того же Republic. При этом в списке есть, например, «Ведомости», но нет «Российской газеты»; есть журнал «Счастливые родители», но нет журнала Tatler. Кроме того, отчетность ГРЧЦ завышает стоимость большинства подписок: так, за доступ к сайту «Ведомостей» чиновники платят почти 10 тысяч рублей (при официальной стоимости годовой подписки для юрлиц 6490 рублей). Дороже же всего государству обходится годовая подписка на «Дождь» — 18 378 рублей на одного пользователя вместо 4800 рублей, заявленных на сайте канала.

По словам бывшего мониторщика, всего таких людей работает около 400 человек по всей стране (замглавы РКН Субботин заявлял, что для работы с автоматической системой были обучены 211 новых сотрудников). На сайтах вакансий можно найти объявления, из которых следует, что зарплата специалиста по мониторингу в Москве составляет 57 тысяч рублей в месяц; в регионах, по словам источника «Медузы», платят меньше: там «даже за 20 тысяч рублей согласятся мониторить контент по восемь часов в сутки».

Московский департамент мониторинга ГРЧЦ располагается на нескольких этажах бизнес-парка «Шереметьевский». Там же находятся редакции нескольких изданий, за которыми следят сотрудники департамента: например, той же газеты «Ведомости», журналов Cosmopolitan и Esquire, а также всех СМИ издательского дома «Бурда».

Как рассказывает бывший сотрудник ГРЧЦ, при приеме на работу будущим мониторщикам предлагают выполнить несколько тестовых заданий: например, найти в распечатанных текстах слова, по закону считающиеся матерными, или признаки экстремизма. Внутри самого ГРЧЦ у операторов есть специализации: кто-то мониторит мат, кто-то наркотики, кто-то — экстремизм. Собеседник «Медузы» рассказывает, что особенно тяжело приходилось тем, кто занимался новостями про суицид: «Такое тяжело читать и осознавать. Краски сгущаются, и начинаешь по-другому оценивать людей в целом». Сам он, по его словам, пропуская через себя столько текстов российских СМИ на работе (каждый день «Симона» находит «около 900 нарушений»), дома читал исключительно на английском.

«Работа мониторщика тяжелая психологически, но на это не обращают внимания», — добавляет собеседник «Медузы». О психологических последствиях работы с такого рода контентом много говорят на Западе. Так, в январе 2017 года двое сотрудников департамента онлайн-безопасности Microsoft, которые были вынуждены каждый день отсматривать фотографии и видео, связанные с насилием над детьми, подали в суд на компанию, заявив, что из-за работы у них развилось посттравматическое стрессовое расстройство.

У самого собеседника «Медузы» не было никаких «сомнений или моральных вопросов к себе», когда он устраивался на работу: по его словам, из-за действий мониторщиков никого не сажают в тюрьму — и если бы он сам занимался медиабизнесом, то «следил бы за такими вещами» и соблюдал закон. Бывший сотрудник ГРЧЦ объясняет: поначалу он думал, что Роскомнадзор блокирует все подряд, но, начав там работать, понял, что «есть исключения» и что «РКН занимается хорошим делом — блокируют призывы к суицидам, контролируют „Синего кита“, распространение наркотиков». «Конечно, про экстремизм — сложнее, но нужно сказать, что у нас в стране всегда существовала структура, которая контролировала СМИ, — продолжает он. — Раньше все это было менее прозрачно и более бездоказательно. Сейчас, конечно, государство все равно может кого угодно обвинить, но стало прозрачнее. Это не закрытый отдел кагэбэшников, который копает непонятно что; все работают по законодательным актам — хотя иногда и притянутым за уши».

Не видит бывший сотрудник ГРЧЦ и никаких проблем с ответственностью за посты в соцсетях: по его словам, «это другое дело [чем со СМИ], потому что ограничения касаются конкретных людей». «Сейчас еще люди не привыкли нести ответственность за информацию, публикуемую в интернете, — но скоро привыкнут, — обещает он. — Хорошо, что государство будет само искать противоправный контент». 

По его словам, в последнее время многие разработчики «Монализы» меняют работу. Они переходят в «Яндекс».