Facebook, Twitter, Google и Microsoft объединяют усилия, чтобы остановить терроризм

Facebook, Twitter, Google YouTube и Microsoft сделали совместное заявление о том, что они объединяются, чтобы «обуздать распространение террористического контента в Интернете», удаляя сообщения в социальных сетях с «террористическими изображениями». В частности, лидеры интернет-технологий борются с распространением ужасных фотографий и видео, которые террористические организации используют для помощи в своих усилиях по вербовке в Интернете. «В наших размещенных потребительских сервисах нет места контенту, пропагандирующему терроризм», — говорится в совместном заявлении компаний. «При получении предупреждения мы принимаем быстрые меры против такого рода контента в соответствии с нашими соответствующими политиками».

Однако эти компании не упомянули в своем заявлении, как они будут реагировать на разжигание ненависти, что является давней проблемой как в Европейском Союзе, так и в Соединенных Штатах.

Давление с целью остановить онлайн-терроризм

На эти компании, в частности, оказывалось сильное давление со стороны властей, требующих ускорить удаление террористического контента со своих веб-сайтов, например, пропагандистских видеороликов ИГИЛ. Власти в Европе были особенно активны после того, как террористические группы и волки-одиночки совершили ряд смертоносных террористических атак на континенте в последние месяцы.

Отдельно Европейская комиссия опубликовала отчет днем ранее, в котором говорится, что эти самые компании — Facebook, Twitter, Google и Microsoft — неудовлетворительно соблюдают кодекс поведения ЕС в отношении разжигания ненависти в Интернете. Вера Юрова, комиссар Европейского Союза по вопросам юстиции, заявила Financial Times: «Если Facebook, YouTube, Twitter и Microsoft хотят убедить меня и министров в том, что незаконодательный подход может работать, им придется действовать быстро и принять решительные меры. усилия в ближайшие месяцы».

Технологические компании абсолютно не ссылались на кодекс поведения ЕС или на заявление, сделанное ЕС в своем заявлении. Однако их подавление онлайн-терроризма явно направлено на то, чтобы предотвратить любые дальнейшие действия со стороны ЕС и, наконец, предпринять усилия по противодействию насильственному экстремизму. Компании заявили, что их нынешнее соглашение является результатом регулярных встреч с официальными лицами в ЕС, которые входят в так называемый Европейский интернет-форум или EIF.

Миссия EIF состоит в том, чтобы «противодействовать террористическому контенту и разжиганию ненависти в Интернете» и разрабатывать стратегии для предотвращения использования террористами платформ интернет-компаний для продвижения своих насильственных программ. Членами EIF являются такие компании, как Facebook, Twitter, Google и Microsoft, а также правительственные чиновники ЕС и международные правоохранительные органы.

Партнерство, чтобы остановить интернет-терроризм

Неудивительно, что заявление о совместном противодействии терроризму прозвучало перед встречей Интернет-форума ЕС, состоявшейся в Брюсселе в начале декабря. Четыре компании в партнерстве не хотели рисковать тем, что EIF навязывает им методы технологий для борьбы с терроризмом. Ранее в этом году те же четыре компании, участвующие в партнерстве, наконец согласовали с ЕС кодекс поведения в Интернете, который включал в себя обязательство, требующее от них в течение 24 часов с момента получения жалобы удалять всю информацию из социальных сетей. или другие веб-сайты, ориентированные на Европу, которые подстрекают к терроризму или содержат «незаконные высказывания ненависти в Интернете». Проблема, с которой сталкиваются эти компании — и все интернет-компании в целом — состоит в том, что язык вражды трудно дать четкое определение.

Большинство онлайн-компаний социальных сетей сегодня, а также компании, участвовавшие в недавнем объявлении, не разрешают размещать контент, пропагандирующий насильственные действия или поддерживающий незаконную деятельность. Например, Facebook поддерживает то, что он называет «Стандартами сообщества», что дает ему право удалять контент. «Мы удаляем контент, отключаем учетные записи и сотрудничаем с правоохранительными органами, когда считаем, что существует реальный риск или прямая угроза общественной безопасности», — говорится в сообщении Facebook.

Инструменты для борьбы с интернет-терроризмом

Недавнее объявление не сопровождалось глубокими техническими погружениями. Тем не менее, компании заявили, что они намерены использовать существующую технологию, которая очень похожа на инструмент, используемый в борьбе с жестоким обращением с детьми в Интернете, торговлей людьми, детской порнографией и тайным распространением незаконных изображений в даркнете.

Facebook, Twitter и их партнеры намерены создать общую базу данных обнаруженных ими террористических файлов и использовать эту базу данных для совместного обмена информацией о незаконных сообщениях и, теоретически, связанной с ними информацией об учетной записи. «Мы обязуемся создать общую отраслевую базу данных «хэшей» — уникальных цифровых отпечатков пальцев — для изображений насильственных террористов или видео вербовки террористов или изображений, которые мы удалили из наших сервисов», — говорится в заявлении компаний.

Инструмент, первоначально разработанный Microsoft, называется PhotoDNA. Инструмент помогает правоохранительным органам и офицерам определить, были ли дети-жертвы уже идентифицированы или в настоящее время находятся в группе риска. Этот инструмент также используется Национальным центром пропавших без вести и эксплуатируемых детей, который бесплатно получил его от Microsoft.

Инструмент PhotoDNA вычисляет хеш-значения изображений, видео- и аудиофайлов, чтобы найти похожие изображения. Этот хэш вычисляется таким образом, чтобы он был устойчив к изменениям изображения, включая изменение размера и незначительные изменения цвета. Инструмент работает, преобразовывая изображение в черно-белое, изменяя его размер, разбивая его на сетку и просматривая градиенты интенсивности или края, в то же время изучая EXIF и другие метаданные, связанные с различными типами файлов, для обработки которых он был создан. Неизвестно, будет ли технология Microsoft, изначально предназначенная для борьбы с другим преступлением, эффективно работать против терроризма.

В совместном заявлении компании пояснили, что контент, помеченный одной фирмой, не будет автоматически удален на всех четырех платформах. Компании по-прежнему будут проверять, нарушает ли этот контент их собственные политики, прежде чем удалять информацию со своих платформ. Опять же, определение информации, связанной с терроризмом, вряд ли будет оспорено, в то время как разжигание ненависти, с которым компании не справились, вызывает большую озабоченность.

Facebook, Twitter и их партнеры четко поставили перед собой цель создать общую базу данных террористической информации, которую они обнаруживают, и в дальнейшем использовать эту базу данных для совместного обмена информацией и удаления незаконных террористических сообщений. Несмотря на опоздание, это похвальное усилие, которое следует похвалить.

Остается невысказанным вопрос: как эти технологические гиганты определят и обратятся к разжиганию ненависти? Кроме того, будет ли этот консорциум сообщать общественности свои определения разжигания ненависти до того, как предоставит какую-либо связанную конкретную информацию об учетной записи местным, федеральным или международным правоохранительным органам?