Компания Meta столкнулась с критикой из-за своего нового инструмента искусственного интеллекта Muse Image, который может создавать изображения, используя фотографии профилей других пользователей, без их ведома.
Это один из многих общедоступных инструментов для преобразования текста в изображение, который, как следует из названия, может создавать картинки из нескольких строк простого письменного текста.
Приложение Muse Image доступно через приложение Meta AI и веб-браузер, а также в WhatsApp и в Instagram Stories для пользователей из США.
Хотя Meta утверждает, что пользователи могут отказаться от использования своего изображения даже при наличии публичного аккаунта, Дональд Кэмпбелл, директор по защите прав в некоммерческой организации Foxglove, занимающейся вопросами справедливости в сфере технологий, заявил BBC, что это «очевидный рецепт катастрофы».
«За последний год мы уже видели целый каталог вредоносных изображений, отредактированных искусственным интеллектом без согласия пользователей, на социальных платформах», — сказал он.
«Трудно понять, почему Марк Цукерберг считает хорошей идеей способствовать дальнейшей жуткой манипуляции изображениями».
Вероятно, эта функция столкнется с повышенным вниманием, поскольку регулирующие органы и правозащитники выражают обеспокоенность по поводу изображений, созданных с помощью ИИ. В настоящее время Ofcom расследует деятельность компании X в связи с ролью Grok в создании и распространении изображений реальных людей, измененных ИИ без их согласия.
Организация Privacy International также раскритиковала эту функцию, заявив BBC, что это «последний признак того, что компании, занимающиеся искусственным интеллектом, рассматривают изображения и данные людей как сырье для эксплуатации».
«Втягивание реальных пользователей в сгенерированные фотографии без их явного согласия — это мина замедленного действия, угрожающая конфиденциальности и готовая взорваться в любой момент», — написал один из пользователей на X.
Компания Meta заявила, что специальная настройка, отдельная от настроек конфиденциальности учетной записи, позволяет пользователям отказаться от этой функции, даже если у них публичная учетная запись.
Для этого пользователям необходимо перейти в меню настроек Instagram, выбрать «Поделиться и повторно использовать» и отключить параметр «Разрешить людям повторно использовать ваш контент в Instagram и с помощью функций ИИ на Meta» для публикаций и рилсов.
Ещё один генератор изображений
Сейчас на рынке представлено множество инструментов, позволяющих создавать изображения из текста с помощью ИИ, поэтому Meta уже выходит на переполненный рынок.
Но использование Instagram в данном случае — это нечто новое и очень эффективное.
Чтобы проверить это на практике, я попросил Muse AI создать впечатление, будто я управляю автомобилем, и программа с удовольствием это сделала, получив интересные результаты.
В сообщении в блоге, посвященном этому анонсу, компания Meta заявила, что инструмент использует «продвинутые алгоритмы для понимания сложных запросов, плавно объединяя несколько фотографий в высококачественные изображения, которые можно загрузить и поделиться ими где угодно».
Компания заявила, что пользователи также могут выбирать из предустановленных шаблонов и предлагаемых подсказок, чтобы «вдохновлять на новые идеи», а также редактировать эскизы непосредственно на изображениях.
Хотя инструмент бесплатен для «повседневного творчества», компания Meta заявила, что пользователи, активно использующие его, могут получить доступ к дополнительным функциям через один из своих тарифных планов.
Компания добавила, что Muse Image скоро будет доступен в Facebook и Messenger, а также через другой инструмент, где его смогут использовать рекламодатели.
По имеющимся данным, разрабатывается версия для генерации видео.