11:22 , 11 мая 2010

Трудности глобальной модерации: будет ли YouTube убирать и дальше ролики террористов

Если есть в Интернете сайт, которому приходится видеть практически все. «Протранслируй себя» гласит слоган You Tube — самой крупной в мире видеоплатформы для материалов созданных Интернет-пользователями. Слоган работает. Пользователи транслируют не только себя, н и все что можно представить или лучше не представлять.

Каждую минуту сюда загружаются одни сутки видеоматериалов. И далеко не все из этих 24 часов в минуту это кадры, которые владельцы You Tube, как собственно и его пользователи хотели бы видеть онлайн. Как можно модерировать такой поток информации? Об этом участникам саммита «Global Voices» в Сантьяго рассказала высокопоставленный сотрудник Youtube Виктория Гранд. С точки зрения активистов социальных медиа и блогеров, собравшихся в Сантьяго, это безусловно проблема. Система модерации часто может превратится в систему цензуры. Особенно если алгоритмы модерации учитывают жалобы извне . Гранд с одной стороны пришла рассказать собравшихся о том, как YouTube пытается сохранить верность идеалам свободы слова и удостоверить, что Youtube делает все чтобы не дать системе модерации стать уязвимой для попыток цензуры. С другой стороны, сотрудница Youtube пришла посоветоваться, потому что хороших решений нет в области модерации видео контента нет. Даже у такой продвинутой платформы как Youtube.



Дилемма стоящая перед You Tube вроде бы простая — как с одной стороны не допустить публикацию нежелательного контента, а с другой не нарушить свободы слова. Это требует всего ничего – выработать критерии для политики модерации и решить как эту политику воплощать в жизнь.

Критерии относительно просты и тривиальны –нет порнографии, нет призывам к ненависти, нет издевательствам над животными, пропаганде насилия и наркотиков. А вот с реализацией политики модерации все сложнее. По словам Гранд главное зависит от контекста. Среди исключений из правил – видеоматериалы которые преследуют образовательные цели, или имеют документальную, научную или художественную ценность. Вопрос, как решать когда видео является исключением из правила, да еще когда речь идет о бесконечном потоке информации.



Гранд продемонстрировала участникам конфернции систему модерации Youtube. Предпросмотра до публикации на Youtube нет. На первом этапе работает принцип того что по английски называют Crowdsourcing – использование «силы толпы». Все пользователи Youtube имеют возможность поставить специальный флажок, означающий, что конкретный видеоролик, согласно мнению данного пользователя не должен быть на сайте и заодно возможность объяснить почему они этот флажок поставили. Однако, самое сложное начинается после этого… (Стоит отметить что весь описываемый процесс касается исключительно жалоб со стороны пользователей. Нарушение авторских прав предполагает другие процедуры анализа информации и модерации.)

Youtube получает огромное количество жалоб пользователей. В этом потоке информации необходимо определить не только контекст видеоматериала, но и приоритет модерации. В качестве примера Гранд продемонстрировала видео ролик с избиением египетского оппозиционера. Ролик получил 7 «флажков», то есть семь жалоб. Специальная система модерации Youtube показывает причину жалобы (например: насилие) и страну из которой жалоба поступила (в этом случае шесть из семи жалоб поступили из Египта), а также еще ряд параметров которые могут помочь принять решение. Теперь, модератору предстоит принять решение оставить ролик на сайте или нет.

Решения о модерации ролика после получение жалобы принимаются исключительно людьми. «Мы так и не смогли научить алгоритм определять контекст информации. На это способны только люди. И даже людям это трудно, хотя мы проводим специальные тренинги», — говорит Гранд. В конце концов модерирование всегда зависит от интерпретации. Что такое насилие – пистолет или кровь? Что такое подстрекательство? Гранд напомнила о непереводимой игре слов на английском: «А lot of people think that hate speech is a speech that they hate.». А как быть с юмором…

Группа модераторов Youtube это глобальная команда, который имеет разные культурные корни, однако не всегда этого хватает для понимания контекста того или другого видео. По словам Гранд, это люди которые имеют с обратной стороной Интернета. «Представьте себе наши модераторы — это люди которым каждый день приходится смотреть большое кол-во видео с мастурбацией, порнографией, издевательствами над животными и.т.д», — говорит Гранд. Впрочем, порнографию модераторы любят больше всего. И вовсе не из любви к порнографии, а потому что в этом случае легче и быстрее всего определить, что ролик должен быть снят.

У модераторов существуют дополнительные опции кроме «разрешить» и «запретить». Например существует система региональных запретов. Нацистская пропаганда блокируется для Германии и Франции. Издевательства над людьми которые имеют документальную ценность, определяются как содержание для пользователей старше 18-ти. Особое решение было принято после скандала с карикатурами на пророка Мухамада. Убирать ролики с сатирическим содержанием относительно Ислама не стали, так как это может нарушить свободу слова, но решили ввести специальную заставку, которая сообщает что содержание видеоматериала может оскорбить чувства некоторых зрителей.

В случае с роликом избиения египетской полицией решение было однозначным. Видео осталось на сайте так как оно имело документальную ценность. Однако, часто бывают случаи что у модераторов нет достаточно компетенции для того чтобы определить контекст. Поэтому сотрудница YouTube советует обязательно давать название роликам, а также сопровождать их тагами и информацией по английски. В этом случае, шансов на то что Вас неправильно поймут намного меньше.

Однако, помимо категоризации контента существует еще одна не менее серьезная проблема. Это вопрос о приоритете – какой ролик должен быть отправлен на модерацию срочно, а какой может и подождать. Это главная задача автоматической части системы модерации. По целому ряду параметров она решает какой ролик требует немедленного просмотра. Например, специальный алгоритм анализирует визуальную информацию на предмет присутствия обнаженных тел. Учитывается также история тех, кто посылает жалобу. Если в прошлом жалобы этого юзера были неоправданными, его флажок получит меньший приоритет. Конечно учитывается и количество поступивших жалоб. Таким образом модерации это симбиоз машины и человека. Машина определяет приоритеты для человека, а человек анализирует контексты и смыслы

У системы модерации Youtube есть еще одна отличительная черта, которой сотрудники компании гордятся. Это прозрачность системы модерации, а также тот факт что любой пользователь сайта имеет адрес куда он может обратиться в случае, если он считает что его видео ролик был снят неоправданно.

Джилиан Йорк, из центра Беркмана по изучению Интернета Гарвардского университета, выступавшая после Гранд рассказала о проблемах модерации на таких сайтах как Facebook и Flickr. По словам Йорк заблокировать группу или пользователя в Facebook намного проще, а вот опротестовать это решение намного сложнее. Кроме того, по словам Йорк создается впечатление, что групповые протесты в  самой популярной социальной сети (например, когда кто то открывает группу с требованием закрыть другую группу) часто результативны даже когда это нарушает свободу слова и вряд ли можно считать оправданным. Иными словами, модерация на этих платформах часто вступает конфликт со свободой слова и мешает активистам социальных медиа. Впрочем, с социальными сетями ситуация в принципе намного сложнее ибо требует доказывать не легитимность определенного контента, а право на существование виртуальной идентичности и тот кто должен доказывать это право, по сути сам находится под вопросом.

Когда дело дошло до вопросов, я не мог не спросить, что представительница Youtube думает о запрете видеоролика с обращением Доку Умарова после терактов в московских метро. Честно говоря я был не уверен, что Виктория Гранд вообще будет знать о чем идет речь, но я еще не успел договорить а она уже всем видом показывала, что хорошо знакома с этой историей. «Это было действительно сложное решение и у нас было много внутренних дебатов на эту тему. Тем более что речь шла о материале который показывали новостные каналы, то есть у него была новостная значимость. Но  российские власти заняли очень жесткую позицию по этому вопросу и говорили что это чуть ли не вне закона», — ответила Гранд. В результате, по словам Гранд в Youtube было принято решение снять конкретный видео материал. Однако, вместе с тем, она подчеркнула, что это вовсе не означает, что на Youtube нет других версий этого видеообращения. «Вы по-прежнему можете найти на Youtube много материалов такого рода, например видео из тренировочных лагерей Талибана, и это видео никто не убирает. Все всегда зависит от контекста», — подытожила Гранд.

Честно говоря, создалось ощущение что You Tube и российские власти достигли в этой истории своего рода статуса кво. Убрав обращение Умарова You Tube фактически признал контент нелегитимным и подтвердил правоту российской позиции. В свою очередь, российские власти удовлетворились символическим актом , и не стали требовать тотальной цензуры Умарова в информационном пространстве самого популярного видео хостинга.

Комментарии

3

Пожалуйста, авторизуйтесь или зарегистрируйтесь, чтобы оставить комментарий.

11 мая 2010 | 12:33

Информация - хороший товар. И элемент конкурентной и политической борьбы.
Поэтому Свободу никому не удастся ограничить.

Прибыли высоки. Куй деньги, не отходя от кассы.


vlad_echo 12 мая 2010 | 00:56

Реклама террористов
не слышно,чтобы журналисты или политики возмущались, Что все мировые СМИ распространяют и транслируют все выступления террористов Аль Каилы, Хамаса и прочих Хизбалов.
Все сразу публикуют любые бредни всех этих организаций. И их лидеров. На радость поклоников и последователей террора. Зато как сразу зажимают рот так называемым "правым". Кто разоблачает исламский террор. Уже и Медведев запрещает исламский террор называть исламским. Это не бандитизм а Исламский террор против европейской цивилизации. Теперь Медведев поехал целоваться со спонсором террористов Асадом и турецким лидером.
Будет передавать российские деньги Хамасовцам.


mup 12 мая 2010 | 08:22

На Ютубе может и убирают, а Вы зайдите в КОНТАКТ и наберите в поиске слово РУССКИЙ или НАЦИОНАЛИЗМ... и посмотрите что творится там. УЖАС!!!

Самое обсуждаемое

Популярное за неделю

Сегодня в эфире