Эксперимент TikTok: отключение функций безопасности привело к трагедии
08.08.26
Исследование Bloomberg раскрыло шокирующие детали внутреннего эксперимента TikTok. В 2021 году платформа отключила новую функцию безопасности, призванную ограничивать распространение повторяющегося вредоносного контента, для 15 миллионов пользователей, что составило более 10% американской аудитории на тот момент.
Детали эксперимента
Данный шаг был частью backtest-эксперимента — методики A/B-тестирования, используемой для анализа эффективности изменений в алгоритмах рекомендаций. В число пользователей, чьи аккаунты оказались незащищенными, попал 16-летний Чейз Наск. Внутренние отчеты TikTok подтверждают, что алгоритм создал для подростка опасную среду: лента была заполнена контентом, провоцирующим депрессию и мысли о самоубийстве.
Последствия влияния на подростка
Анализ истории просмотров Чейза показал пугающие данные. За две недели до трагической смерти в феврале 2022 года:
- 73% из 7500 просмотренных роликов касались депрессии, одиночества, психического здоровья или расставаний.
- 10% видео напрямую нарушали правила платформы относительно контента о суициде и самоповреждении.
Несмотря на то, что компания заявляла об отсутствии связи между платформой и случаями самоубийств, исследование данных аккаунта подтвердило, что подросток активно потреблял контент о суициде, включая видео, романтизирующие тему самопожертвования перед движущимся поездом.
Реакция TikTok и судебные разбирательства
На текущий момент вокруг деятельности крупных соцсетей ведется множество юридических баталий. В отношении ответственности TikTok за состояние здоровья детей стоит отметить следующее:
| Категория события | Детали |
| Статистика исков | Более 4000 против соцсетей за 4 года |
| Ответственность Google и Meta | Признана судом, присуждено $6 млн компенсации ($6 000 000, 240 850 800 грн) |
| Позиция TikTok | Заявляют о «глубокой отданности безопасности» |
Хотя первоначальный иск родителей Чейза был отклонен из-за раздела 230 закона Communications Decency Act, апелляция продолжается. TikTok признал необходимость изменений в своих практиках тестирования: компания планирует сократить длительность подобных экспериментов до 7 дней и уменьшить охват аудитории до уровня менее 1%.
История с внутренним экспериментом TikTok вновь поднимает вопрос о том, насколько безопасно тестировать алгоритмы рекомендаций на реальных пользователях. Хотя компания заявляет о совершенствовании механизмов защиты и изменении подходов к подобным экспериментам, расследование усилило дискуссию о необходимости более строгого контроля над работой рекомендательных систем и их влиянием на психическое здоровье пользователей, особенно несовершеннолетних.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
Обзор смартфона Oppo Reno16 Pro 5G: обстоятельно
0 
Oppo Reno16 Pro 5G выглядит сбалансированным смартфоном, в котором производитель постарался не делать единственную характеристику определяющей. Преимуществ у него много. Расскажем какие
Масштабное обновление для смарт-часов Garmin: более 12 исправлений в Beta 18.27
Garmin выпустила новую бета-версию прошивки 18.27 для пяти популярных моделей смарт-часов. Обновление направлено на устранение программных ошибок и улучшение стабильности работы устройств.
Новое складное зарядное устройство Ugreen MagFlow: 25 Вт, Qi2.2 и компактный дизайн
Ugreen готовит к выпуску компактное складное зарядное устройство 2-в-1 с поддержкой стандарта Qi2.2. Новинка мощностью 25 Вт способна эффективно заряжать последние модели iPhone и аксессуары AirPods.