Эксперимент TikTok: отключение функций безопасности привело к трагедии
08.08.26
Исследование Bloomberg раскрыло шокирующие детали внутреннего эксперимента TikTok. В 2021 году платформа отключила новую функцию безопасности, призванную ограничивать распространение повторяющегося вредоносного контента, для 15 миллионов пользователей, что составило более 10% американской аудитории на тот момент.
Детали эксперимента
Данный шаг был частью backtest-эксперимента — методики A/B-тестирования, используемой для анализа эффективности изменений в алгоритмах рекомендаций. В число пользователей, чьи аккаунты оказались незащищенными, попал 16-летний Чейз Наск. Внутренние отчеты TikTok подтверждают, что алгоритм создал для подростка опасную среду: лента была заполнена контентом, провоцирующим депрессию и мысли о самоубийстве.
Последствия влияния на подростка
Анализ истории просмотров Чейза показал пугающие данные. За две недели до трагической смерти в феврале 2022 года:
- 73% из 7500 просмотренных роликов касались депрессии, одиночества, психического здоровья или расставаний.
- 10% видео напрямую нарушали правила платформы относительно контента о суициде и самоповреждении.
Несмотря на то, что компания заявляла об отсутствии связи между платформой и случаями самоубийств, исследование данных аккаунта подтвердило, что подросток активно потреблял контент о суициде, включая видео, романтизирующие тему самопожертвования перед движущимся поездом.
Реакция TikTok и судебные разбирательства
На текущий момент вокруг деятельности крупных соцсетей ведется множество юридических баталий. В отношении ответственности TikTok за состояние здоровья детей стоит отметить следующее:
| Категория события | Детали |
| Статистика исков | Более 4000 против соцсетей за 4 года |
| Ответственность Google и Meta | Признана судом, присуждено $6 млн компенсации ($6 000 000, 240 850 800 грн) |
| Позиция TikTok | Заявляют о «глубокой отданности безопасности» |
Хотя первоначальный иск родителей Чейза был отклонен из-за раздела 230 закона Communications Decency Act, апелляция продолжается. TikTok признал необходимость изменений в своих практиках тестирования: компания планирует сократить длительность подобных экспериментов до 7 дней и уменьшить охват аудитории до уровня менее 1%.
История с внутренним экспериментом TikTok вновь поднимает вопрос о том, насколько безопасно тестировать алгоритмы рекомендаций на реальных пользователях. Хотя компания заявляет о совершенствовании механизмов защиты и изменении подходов к подобным экспериментам, расследование усилило дискуссию о необходимости более строгого контроля над работой рекомендательных систем и их влиянием на психическое здоровье пользователей, особенно несовершеннолетних.
Не пропустите интересное!
Підписывайтесь на наши каналы и читайте анонсы хай-тек новостей, тестов и обзоров в удобном формате!
Обзор смартфона Oppo A6 Pro: амбициозный
0 
Новый смартфон Oppo A6 Pro — телефон среднего уровня с функциональностью смартфонов премиум-класса. Производитель наделил его множеством характеристик, присущих более дорогим телефонам. Но не обошлось и без компромиссов. Как именно сбалансирован Oppo A6 Pro – расскажем в обзоре.
Активное шумоподавление в наушниках-вкладышах: как Oppo научилась убирать шум
0 
Наушники-вкладыши остаются одним из самых востребованных форм-факторов благодаря небольшому весу. Однако такая конструкция считается одной из самых сложных для внедрения активного шумоподавления (ANC). Расскажем как задачу решила компания Oppo
Эксперимент TikTok: отключение функций безопасности привело к трагедии
В 2021 году TikTok в рамках внутреннего алгоритмического эксперимента отключил защитную функцию для 15 миллионов пользователей. Эксперимент закончился трагедией
Redmi K100 Pro Max: монструозный аккумулятор на 9070 мАч и новые детали о дисплее
Redmi K100 Pro Max готовится к запуску 11 августа. Флагман получит огромный аккумулятор на 9070 мАч, передовой экран на 185 Гц и чип Snapdragon 8 Elite Gen 5.