Новое расследование The New York Times показывает, насколько быстро поток причудливых видеороликов, созданных искусственным интеллектом на YouTube, достигает самой молодой аудитории. После сингла Comelon более 40 процентов короткометражек, рекомендованных для 15-минутного сеанса, содержали синтетические сцены.
Алгоритм отправляет детям контент с каналов, утверждающих, что они учат их алфавиту и животным. Но сами клипы зачастую бессмысленны: в них искажены лица, дополнительные части тела и искажен текст. Никто не бежит более 30 секунд.
Эксперты говорят, что этот формат не оставляет места для повторений или повествовательной структуры, которые необходимы для обучения маленьких детей с помощью средств массовой информации. Тем не менее, видео собирают миллионы просмотров.
Многие авторы, работающие анонимно, превратили инструменты искусственного интеллекта в надежный источник дохода. Барьер низок, выплата высока, а приманка продолжает заполняться.
Алгоритм ставит количество выше качества.
Репортеры проводили анализ в течение нескольких недель, просматривая популярные каналы, такие как Cocomelon и Ms. Rachel, в частном браузере. Затем они пролистывали рекомендованные YouTube короткометражки с интервалом в 15 минут и смотрели, что получилось.
На сеансе после просмотра видеоролика «Колеса в автобусе» более 40 процентов рекомендаций содержали признаки создания ИИ. Некоторые клипы имели на YouTube собственный ярлык «измененный или синтетический контент». Другим для подтверждения требовался детектор искусственного интеллекта, поскольку сцены были достаточно безобидными, чтобы избежать случайного обнаружения.
Одни и те же видео и каналы неоднократно появлялись на протяжении нескольких сеансов. Это говорит о том, что алгоритм активно усиливает этот контент, а не фильтрует его. Многие аккаунты создают эти клипы несколько раз в день, оптимизированные для максимального количества просмотров с минимальными усилиями.
Производители подпитывают экономику кормами
Многие аккаунты YouTube, создающие детский контент, созданный искусственным интеллектом, работают анонимно. Они не указывают контактную информацию и предоставляют мало информации о том, кто ими управляет. Барьер входа на рынок удивительно низок.
Авторы часто учатся, следуя онлайн-руководствам и используя легкодоступные инструменты, такие как Google Whisk и Runway. Некоторые каналы позиционируют себя как образовательные, показывая анимированных животных и сопровождающие их песни, призванные привлечь родителей, ищущих обучающий контент для детей.
Финансовые стимулы быстро увеличивают производство. Хэллоуинское видео с участием страшных животных набрало более 370 миллионов просмотров. Аккаунты публикуют несколько видео в день, оптимизированных для максимального охвата с минимальными усилиями. Формула работает: быстро привлекайте внимание, будьте краткими и позвольте алгоритму позаботиться о доставке.
YouTube отвечает, но родителям приходится следить за каналом
После того, как The Times поделилась примерами с YouTube и запросила комментарии, платформа приостановила участие всех пяти упомянутых каналов в своей партнерской программе. Эти аккаунты больше не смогут получать доход от рекламы и появляться на YouTube Kids. Компания также удалила три сюрреалистических видеоролика из детского приложения и удалила один клип за нарушение политики безопасности детей.
Но реакция была реактивной, а не проактивной. YouTube требует от авторов раскрывать реалистичный контент, созданный с помощью искусственного интеллекта, но это правило не распространяется на анимационные видеоролики для детей. Следовательно, бремя ложится на родителей; из-за усовершенствований оборудования даже специалисты затрудняются выполнить эту задачу.
Некоторые семьи теперь создают свои собственные плейлисты с просмотренным контентом или вообще удаляют приложение. Американская академия педиатрии советует родителям избегать контента, созданного искусственным интеллектом, или чрезмерно сенсационного контента. Признание этого остается трудной частью.
