Недавнее поражение Meta в суде должно подтолкнуть правительства по всему миру к усилению борьбы с онлайн-насилием над детьми. Суд штата Нью-Мексико постановил, что платформы компании не только подвергают детей воздействию сексуальных хищников и демонстрируют материалы сексуального характера, но и вводят общественность в заблуждение относительно этих рисков.
Несмотря на это знаковое решение, дискуссии о безопасности детей в интернете могут продолжать переходить от одного скандала к другому, так и не принимая действительно эффективных решений. Общественный резонанс обычно достигает пика после крупных судебных процессов или шокирующих новостей, как это было в январе, когда выяснилось, что чат-бот Grok помогал пользователям заполонять социальные сети изображениями детей сексуального характера. Политики, конечно, поднимают шум, даже обещая строгие правила, но затем внимание общественности ослабевает, и никаких действий не предпринимается. Тем временем технологии продолжают развиваться и создавать новые проблемы.
Так быть не должно, потому что мы уже знаем, как предотвратить насилие в интернете. Проблема не в недостатке знаний. Проблема в том, что наши действия не соответствуют реальности. Недавний систематический обзор научной литературы и мер по борьбе с насилием в реальном мире, опубликованный Международной группой экспертов по информационной среде (IPIE), пришел к ужасающему выводу: хотя у нас уже есть необходимые инструменты, глобальные меры реагирования остаются фрагментированными и неполными.
Цифровые платформы и следователи, например, в значительной степени полагаются на системы, которые сканируют интернет на наличие известных незаконных изображений и выявляют «груминг» (постепенное завоевание доверия жертвы для совершения насилия). Без этих инструментов многие случаи онлайн-насилия остались бы незамеченными. Искусственный интеллект все чаще используется для усовершенствования этих инструментов и анализа огромных объемов данных с онлайн-платформ, что позволяет следователям находить ранее не обнаруженные материалы с элементами насилия.
Однако эффективность ИИ зависит от данных, используемых для обучения моделей, а эксперты часто не имеют надежного доступа к необходимым им наборам данных. Авторы анализа IPIE призывают правительства создать безопасную, контролируемую среду, в которой уполномоченные эксперты смогут изучать конфиденциальные материалы, обеспечивая при этом защиту жертв. Без такого сотрудничества прогресс останется неравномерным и нестабильным.
Более того, все эти методы направлены на борьбу с насилием после того, как оно уже произошло. Хотя улучшение методов выявления преступников важно, цель должна заключаться в предотвращении вреда до его совершения. В этом отношении команда IPIE выявила важные «слепые пятна». Для организации сексуального насилия и получения от него прибыли преступники могут использовать системы цифровых платежей, рекламные инструменты и другие широко распространенные функции онлайн-платформ. Однако принимаемые меры редко направлены на эти механизмы. Если финансовая инфраструктура, поддерживающая сексуальную эксплуатацию, останется нетронутой, борьба с насилием всегда будет отставать.
Кроме того, необходимо информировать общественность. Образовательные кампании, предупреждающие несовершеннолетних о рисках совращения и объясняющие вредность незаконного контента, показывают обнадеживающие результаты (поведение становится безопаснее, количество зарегистрированных нарушений увеличивается), но эта работа все еще недостаточно активна. В любом случае, образование не может заменить ответственное функционирование платформ или эффективное правоприменение. Детей нельзя просить использовать системы, которые позволяют их эксплуатировать. Ответственность должна лежать на компаниях, которые создают и управляют такими платформами.
Хотя крупные технологические компании работают по всему миру, правоохранительная деятельность в основном носит национальный характер. Без усиленной правовой базы, применимой на международном уровне, злоумышленники будут использовать пробелы в законодательстве. В некоторых странах власти уже обладают полномочиями по обеспечению соблюдения законов за пределами своих национальных границ, требуя от компаний сообщать о злоупотреблениях, сохранять доказательства и сотрудничать со следователями. Европейский союз, один из крупнейших рынков для всех основных цифровых платформ, например, находится в особенно выгодном положении для привлечения к ответственности как крупнейших платформ, так и преступников.
Однако, как показывает анализ IPIE, многое еще можно сделать для улучшения международной координации, чтобы обеспечить более четкое и последовательное применение законов против компаний и преступников. Скандал с Grok — яркий пример трудностей, с которыми сталкиваются регулирующие органы, пытаясь угнаться за быстро развивающимися технологиями. Хотя регулирующие органы быстро отреагировали, когда стало ясно, что чат-бот создает материалы с изображением сексуального насилия над детьми, для привлечения внимания к проблеме потребовался серьезный общественный резонанс. В других случаях лоббирование, экономическое давление и другие формы влияния отрасли препятствовали принятию властями серьезных мер регулирования.
В совокупности результаты исследования IPIE отражают состояние глобальных мер по борьбе с онлайн-насилием над детьми: они абсолютно необходимы, но недостаточны. Инструменты обнаружения регулярно выявляют случаи насилия, которые они обучены обнаруживать; правоохранительные органы привлекают к ответственности виновных, где это возможно; образовательные программы пытаются привлечь внимание к сохраняющимся рискам. Но вся система по-прежнему с трудом успевает за постоянно меняющимся цифровым ландшафтом. Финансовые системы, поддерживающие сексуальную эксплуатацию, остаются плохо регулируемыми; следователям не хватает доступа к данным, необходимым для улучшения процесса обнаружения; а правовые рамки не учитывают глобальный характер проблемы.
В течение многих лет правительства утверждали, что для более решительных действий необходимо больше данных. Это обоснование больше не убедительно. Как выяснила команда IPIE, данные уже есть. Мы уже знаем, какие меры помогают снизить вред, и знаем, где находятся ключевые пробелы. Единственное, что остается неизвестным, это предпримут ли политические лидеры необходимые шаги для обеспечения безопасности детей.
Автор является профессором цифровых прав в Университете Борнмута и приглашенным профессором в Университете Саффолка.
Авторские права: Project Syndicate, 2026 г. (перевод: NR)
Узнать больше:
Скачайте приложение и следите за новостями.
СЛЕДИТЕ ЗА НАМИ В СОЦИАЛЬНЫХ СЕТЯХ
