TikTok отменил функцию ИИ, которая некорректно описывала некоторые видео на платформе, в том числе утверждая, что знаменитость — это фрукт.
Функция «обзоры ИИ» недавно начала появляться под контентом на платформе, описывая то, что показано в видео, или предоставляя дополнительный контекст.
Хотя эта функция была запущена только для некоторых пользователей в США и на Филиппинах, некорректные и странные сгенерированные ИИ описания контента TikTok — которые можно увидеть под видео таких знаменитостей, как звезда платформы Чарли Д’Амелио — получили широкое распространение.
По данным TikTok, экспериментальные описания были изменены таким образом, чтобы предлагать только продукты, похожие на те, что показаны в видео.
Об этих изменениях впервые сообщило новостное издание Business Insider.
Подобно обзорам, созданным ИИ, в верхней части большинства результатов поиска Google, обзоры TikTok, сгенерированные ИИ, пытались суммировать содержание видео для некоторых пользователей, когда они нажимали, чтобы увидеть подробнее описание видео.
Некоторые примеры, скриншоты которых были сделаны пользователями и просмотрены BBC, показали, что видео на платформе описывались точно, но Business Insider также выявил ряд «крайне неточных» обзоров, созданных ИИ.
В частности, видео танцовщицы Чарли Д’Амелио было описано как «коллекция различных сортов черники с разными добавками», сообщило издание.
Аналогично расплывчатые, неточные и странные сводки, созданные ИИ, были обнаружены и в других видео TikTok со знаменитостями и артистами, включая Шакиру и Оливию Родриго.
Согласно TikTok, теперь эта функция будет использоваться только для отображения информации о товарах в видео.
Это происходит на фоне того, что технологические компании планируют внедрить больше продуктов на основе ИИ на своей платформе для повышения вовлеченности пользователей. Однако некоторые подобные попытки вызвали негативную реакцию пользователей или насмешки, когда эти инструменты дали сбой.
«Прорезая воду»
Сообщения, реагирующие на тестирование TikTok обзоров ИИ для своих видео, впервые начали появляться в январе.
Но, похоже, эти описания стали более широко доступны, поскольку в конце апреля несколько пользователей и создателей контента указали на сгенерированные ИИ описания, содержащие абсурдные ошибки.
Недавний пример, опубликованный на Reddit, показал выступление танцовщиц бальных танцев Рейган и Джули То, описанное в обзоре ИИ в TikTok как «человек, многократно бьющий себя по голове резиновой курицей».
Другие примеры, которыми поделились пользователи TikTok, содержали похожие странные описания.
Например, в описаниях ИИ для двух разных видео, ни в одном из которых не было насилия или инструментов, говорилось, что в них «человек многократно бьет себя по голове молотком».
По данным TikTok, пользователи могли сообщать о нарушениях и оставлять отзывы об описаниях ИИ.
Но это не помешало некоторым предположить, что платформа «троллит» своих пользователей.
«Новое описание ИИ настолько плохое, что кажется, будто это шутка», — написал пользователь и создатель контента TikTok Бретт Вандербрук рядом со своим видео.
Он показал ряд примеров, где функция ИИ в TikTok выдавала странные описания происходящего в видео — например, комедийный скетч, описанный как «демонстрация новой, умной техники разрезания воды».
Гоблины и пицца с клеем
TikTok заявляет, что выявил причину ошибок и несоответствий в обзорах ИИ, не уточняя, в чем именно заключалась эта причина.
Однако инструменты генеративного ИИ часто выдумывают что-то, отвечая пользователям, обобщая или генерируя информацию, и ошибки могут быть как забавными, так и потенциально опасными.
Google подвергся широкой критике в 2024 году после того, как результаты его обзоров ИИ посоветовали пользователям есть камни и «пиццу с клеем».
Позже Apple столкнулась с критикой после того, как инструмент ИИ, предназначенный для обобщения уведомлений, создал ложные заголовки для приложений BBC News и New York Times.
Технологический гигант приостановил работу этой функции, заявив, что улучшит и обновит ее.
С тех пор разработка ИИ продолжается, и утверждается, что технологии значительно улучшились по своим возможностям и точности, но так называемые «галлюцинации» сохраняются.
Однако компания OpenAI, создавшая ChatGPT, недавно заявила, что обнаружила появление «гоблинов» и «гремлинов» в ответах своей системы — странность, которая, по ее мнению, возникла после того, как инструмент, обученный ею для создания образа зануды, стал стимулировать упоминание этих существ.
Между тем, ложные прецеденты или ссылки, появляющиеся в судебных документах, вызвали предупреждения об использовании ИИ в юридической сфере, а ошибки ИИ, как сообщается, также создают проблемы для некоторых правительств.