Meta заявляет, что представит технологию, которая сможет обнаруживать и маркировать изображения, созданные с помощью инструментов искусственного интеллекта (ИИ) других компаний.
Он будет развернут на своей платформе в Facebook, Instagram и Threads.
Meta уже маркирует изображения ИИ, созданные ее собственными системами. Компания заявляет, что надеется, что новая технология, которую она все еще разрабатывает, придаст отрасли «толчок» в борьбе с фальсификацией искусственного интеллекта.
Однако эксперт по искусственному интеллекту сообщил BBC, что от таких инструментов «легко уклониться».
В блоге, написанном старшим руководителем сэром Ником Клеггом, Meta сообщает, что «в ближайшие месяцы» распространит этот процесс на другие компании.
В интервью информационному агентству Reuters он признал, что технология «еще не полностью развита», но отметил, что компания хочет «создать импульс и стимул для остальной части отрасли, которой следует следовать».
‘Легко уклониться’
Но профессор Сохейл Фейзи, директор Лаборатории надежного искусственного интеллекта в Университете Мэриленда, предположил, что такую систему можно легко обойти.
«Они, возможно, смогут натренировать свой детектор так, чтобы он мог помечать некоторые изображения, специально созданные некоторыми конкретными моделями», — сказал он BBC.
«Но от этих детекторов можно легко обойти некоторую облегченную обработку поверх изображений, а также у них может быть высокий уровень ложных срабатываний.
«Поэтому я не думаю, что это возможно для широкого спектра приложений».
Meta признала, что ее инструмент не будет работать с аудио и видео, несмотря на то, что именно на этих средствах массовой информации сосредоточена большая часть беспокойства по поводу подделок ИИ.
Фирма заявляет, что вместо этого просит пользователей помечать свои собственные аудио- и видеозаписи и «может применить штрафные санкции, если они этого не сделают».
Сэр Ник Клегг также признал, что невозможно проверить текст, созданный с помощью таких инструментов, как ChatGPT.
«Этот корабль уже отплыл», — сказал он агентству Reuters.
«Непоследовательная» политика в отношении СМИ
В понедельник Наблюдательный совет Meta раскритиковал компанию за ее политику в отношении манипулирования СМИ, назвав ее «бессвязной, лишенной убедительных обоснований и неуместно сосредоточенной на том, как создается контент».
Наблюдательный совет финансируется Meta, но независим от компании.
Критика была ответом на постановление по поводу видео президента США Джо Байдена. В рассматриваемом видео были отредактированы существующие кадры президента с внучкой, чтобы создать впечатление, будто он прикасался к ней неуместно.
Поскольку им не манипулировали с помощью искусственного интеллекта и изображали Байдена, который вел себя не так, как он, а не говорили то, чего он не говорил, он не нарушал политику Манипулирования СМИ Меты — и не был удален.
Совет согласился с тем, что видео не нарушает действующие правила Meta в отношении фейковых СМИ, но заявил, что правила следует обновить.
Сэр Ник сообщил агентству Reuters, что в целом согласен с этим решением.
Он признал, что существующая политика Meta «просто не соответствует целям в среде, где будет гораздо больше синтетического и гибридного контента, чем раньше».
С января в компании действует политика, согласно которой политическая реклама должна сигнализировать об использовании изображений или видео, измененных в цифровом формате.