Крупнейшие социальные платформы принимали решения, которые позволяли распространяться большему количеству вредного и провокационного контента. Об этом сообщили более десятка инсайдеров и информаторов, общавшихся с журналистами BBC. По их словам, компании сознательно шли на риски, пытаясь удержать внимание аудитории и не уступить конкурентам в борьбе за время пользователей.
Бывшие сотрудники утверждают, что алгоритмы рекомендаций постепенно начали допускать больше так называемого «пограничного» контента. К нему относятся публикации, которые формально не нарушают закон, но могут быть вредными для пользователей. Среди них — материалы с элементами мизогинии (ненависти или пренебрежительного отношения к женщинам), расистские высказывания, агрессивная политическая риторика и различные теории заговора.
Читайте также
Чашка кофе станет роскошью или технологии все-таки выручат?
По словам одного из инженеров Meta (запрещена в РФ), руководство просило алгоритмические команды смягчить ограничения и позволить большему количеству такого контента попадать в ленты пользователей. Это объяснялось необходимостью повысить вовлечённость аудитории и усилить конкуренцию с TikTok.
Схожую картину описывают и бывшие сотрудники TikTok. Один из инженеров, работавший над системой рекомендаций, рассказал, что алгоритм глубинного обучения во многом остается «черным ящиком» даже для разработчиков. По его словам, инженеры фактически не анализируют содержание публикаций: для системы любой ролик — это лишь набор цифровых идентификаторов.
Безопасность контента должны обеспечивать отдельные команды модерации. Однако на практике, как утверждают инсайдеры, их ресурсов часто не хватает. Алгоритм при этом постоянно дорабатывается — иногда почти каждую неделю — чтобы удерживать пользователей в приложении как можно дольше.
Именно поэтому со временем в рекомендациях начинает появляться всё больше спорного и провокационного контента, особенно после длительного просмотра видео. Алгоритм подстраивается под эмоциональную реакцию пользователя, а наиболее сильную вовлеченность часто вызывают именно раздражающие или шокирующие публикации.
Подростки, с которыми разговаривали журналисты BBC, говорят, что встроенные инструменты для скрытия нежелательного контента работают неэффективно. Даже после жалоб им продолжают показывать сцены насилия, агрессивные высказывания и унижающие публикации. Сотрудники команд модерации говорят, что ежедневно сталкиваются с огромным количеством жалоб на опасный контент.
В Meta обвинения отвергают и заявляют, что компания не усиливает вредный контент ради прибыли. В TikTok также называют подобные заявления недостоверными и подчеркивают, что платформа активно инвестирует в технологии, которые должны предотвращать распространение опасных материалов. Сотрудники команд модерации говорят, что ежедневно сталкиваются с огромным количеством жалоб на опасный контент.
Тем не менее свидетельства инсайдеров показывают: борьба за внимание пользователей и рост аудитории могут подталкивать цифровые платформы к решениям, последствия которых ощущают миллионы людей по всему миру.
Меню 
Знания 
События 
Новости 
Курсы валют