Bloomberg: тест TikTok 2021 года оставил 15 млн на вредном алгоритме, связан со смертью подростка
Материал подготовлен искусственным интеллектом на основе нескольких источников — ссылки на оригиналы приведены ниже.
TikTok преднамеренно оставил 15 млн пользователей из США на вредоносном алгоритме во время эксперимента 2021 года, выяснил Bloomberg из внутренних документов компании. 16-летний Чейз Наска из контрольной группы покончил с собой после того, как за две недели ему порекомендовали более 7,5 тыс. видео с контентом о самоповреждениях. Эксперимент изначально был направлен на тестирование обновления для снижения вредоносного контента, но компания сохранила старую, более опасную версию для части пользователей.
Эксперимент 2021 года
Согласно внутренним документам TikTok, с которыми ознакомился Bloomberg, в 2021 году компания провела эксперимент, тестируя новый алгоритм, призванный сократить показ вредоносного контента. Вместо того чтобы внедрить обновление для всех пользователей, TikTok намеренно оставил контрольную группу из примерно 15 млн пользователей в США на старом алгоритме, который продолжал активно рекомендовать видео о самоповреждениях и суициде. Эксперимент проводился без ведома и согласия пользователей, утверждается в документах.
Смерть подростка
Один из пользователей контрольной группы, 16-летний Чейз Наска, в последние две недели жизни оказался в интенсивном «пузыре фильтров» из вредоносного контента. Согласно документам, за этот период ему было рекомендовано 7 563 видео, многие из которых содержали сцены самоповреждений и суицида. Наска покончил с собой; его семья отмечает резкое ухудшение его психического состояния, связанное с просмотром TikTok.
Что дальше
TikTok пока публично не комментировал отчёт Bloomberg. Разоблачение ставит вопросы об этическом надзоре за экспериментами платформ и о том, начнут ли американские регуляторы расследование в отношении компании.
1 источник
Bloomberg: тест TikTok 2021 года оставил 15 млн на вредном алгоритме, связан со смертью подростка
