Facebook и Instagram будут помечать все поддельные изображения, созданные искусственным интеллектом

Meta заявляет, что представит технологию, которая сможет обнаруживать и маркировать изображения, созданные с помощью инструментов искусственного интеллекта (ИИ) других компаний.

Он будет развернут на своей платформе в Facebook, Instagram и Threads.

Meta уже маркирует изображения ИИ, созданные ее собственными системами. Компания заявляет, что надеется, что новая технология, которую она все еще разрабатывает, придаст отрасли «толчок» в борьбе с фальсификацией искусственного интеллекта.

Однако эксперт по искусственному интеллекту сообщил BBC, что от таких инструментов «легко уклониться».

В блоге, написанном старшим руководителем сэром Ником Клеггом, Meta сообщает, что «в ближайшие месяцы» распространит этот процесс на другие компании.

В интервью информационному агентству Reuters он признал, что технология «еще не полностью развита», но отметил, что компания хочет «создать импульс и стимул для остальной части отрасли, которой следует следовать».

‘Легко уклониться’

Но профессор Сохейл Фейзи, директор Лаборатории надежного искусственного интеллекта в Университете Мэриленда, предположил, что такую ​​систему можно легко обойти.

«Они, возможно, смогут натренировать свой детектор так, чтобы он мог помечать некоторые изображения, специально созданные некоторыми конкретными моделями», — сказал он BBC.

«Но от этих детекторов можно легко обойти некоторую облегченную обработку поверх изображений, а также у них может быть высокий уровень ложных срабатываний.

«Поэтому я не думаю, что это возможно для широкого спектра приложений».

Meta признала, что ее инструмент не будет работать с аудио и видео, несмотря на то, что именно на этих средствах массовой информации сосредоточена большая часть беспокойства по поводу подделок ИИ.

Фирма заявляет, что вместо этого просит пользователей помечать свои собственные аудио- и видеозаписи и «может применить штрафные санкции, если они этого не сделают».

Сэр Ник Клегг также признал, что невозможно проверить текст, созданный с помощью таких инструментов, как ChatGPT.

«Этот корабль уже отплыл», — сказал он агентству Reuters.

«Непоследовательная» политика в отношении СМИ

В понедельник Наблюдательный совет Meta раскритиковал компанию за ее политику в отношении манипулирования СМИ, назвав ее «бессвязной, лишенной убедительных обоснований и неуместно сосредоточенной на том, как создается контент».

Наблюдательный совет финансируется Meta, но независим от компании.

Критика была ответом на постановление по поводу видео президента США Джо Байдена. В рассматриваемом видео были отредактированы существующие кадры президента с внучкой, чтобы создать впечатление, будто он прикасался к ней неуместно.

Поскольку им не манипулировали с помощью искусственного интеллекта и изображали Байдена, который вел себя не так, как он, а не говорили то, чего он не говорил, он не нарушал политику Манипулирования СМИ Меты — и не был удален.

Совет согласился с тем, что видео не нарушает действующие правила Meta в отношении фейковых СМИ, но заявил, что правила следует обновить.

Сэр Ник сообщил агентству Reuters, что в целом согласен с этим решением.

Он признал, что существующая политика Meta «просто не соответствует целям в среде, где будет гораздо больше синтетического и гибридного контента, чем раньше».

С января в компании действует политика, согласно которой политическая реклама должна сигнализировать об использовании изображений или видео, измененных в цифровом формате.