Видеосервис YouTube признал, что машинные алгоритмы, созданные компанией, пока не справляются с задачей борьбы с нежелательным контентом. Глава YouTube Сьюзан Войжитски написала в своем блоге, что в 2018 году число сотрудников, которые будут помогать бороться с нежелательным и незаконным контентом достигнет 10 000.
Войжитски уточнила, что YouTube не отказывается от идеи модерировать контент при помощи ИИ, но алгоритму компании нужно учиться и в этом ему должны помогать живые сотрудники. По ее словам, они уже проанализировали около 2 млн видео и удалили 150,000 роликов, при этом 98% из этих роликов были помечены ИИ как подозрительные и потом удалены после проверки человеком. 70% нежелательного контента удаляется через 8 часов после публикации, а 50% - через час-два после размещения.
Проблем YouTube добавляет необходимость бороться не только с экстремистскими и другими нежелательными роликами, а и с комментариями к видео. Многие пользователи сервиса отмечают, что именно в комментариях к роликам больше всего оскорблений и различных высказываний, которые можно оценить как нарушающие чьи-то права.
YouTube столкнулся с целой серией скандалов, связанных с нежелательным контентом. В марте 2017 года сотовый оператор Vodafone и несколько британских банков разорвали контракты с YouTube из-за того, что сервис показал рекламу в видео, которые могут навредить репутации - речь шла о роликах, содержащих пропаганду радикального ислама. Тогда YouTube вернул рекламодателей, выплатив им компенсацию за появление рекламы в роликах экстремистов.
В конце ноября BBC провела расследование и обнаружило на YouTube некоторое количество роликов и комментариев к ним, содержащих элементы сексуального контента с участием несовершеннолетних. В результате рекламу из сервиса отозвали Adidas, Deutsche Bank, Mars и Cadburys.
Добавить 2 комментария
Просто ИИ должен учиться у адекватных людей.
Вот она сила ручного плохого оплачиваемого непроизводительного труда, а ведь в каждой настоящей IT системе за надувными бла бла бла про AI и продвинутые самообучающиеся алгоритмы притаились рабы лампы: спам аналитики или менеджеры поисковой выдачи, суппортёры уменьшатели процент возвратов, ибо ничто так не украшает настоящую IT галеру несущуюся на всех мегагерцах чуть касаясть гребешков волн современнейших технологий, как тысяча другая крепких гребецов прикованных к веслам и умелый неутомимый надсмоторщик непрерывно стегающий их плетью, вот она правильная нейронная сеть быстро обучаемая с мгновенной положительной обратной связью, по контуру унижения и угрозы — скорость гребков.