Max Home IndustryКогда в прошлом году у бабушки Кларка Хофнагельса украли 27 000 долларов (21 000 фунтов стерлингов), он почувствовал себя обязанным что-то с этим сделать.
«Мне казалось, что моя семья уязвима, и мне нужно было что-то сделать, чтобы защитить их», — говорит он.
«Я чувствовал ответственность за все, что связано с технологиями для моей семьи».
В рамках своих усилий Хофнагельс, проживающий в Онтарио, Канада, проанализировал мошеннические или «фишинговые» электронные письма, которые его бабушка получила через популярного чат-бота с искусственным интеллектом ChatGPT.
Ему было любопытно узнать, распознает ли он их как мошеннические, и он немедленно это сделал.
Из этого зародыша родилась идея, которая с тех пор переросла в бизнес под названием Catch. Это система искусственного интеллекта, обученная обнаруживать мошеннические электронные письма.
В настоящее время Catch совместим с Gmail Google. Он сканирует входящие электронные письма и выделяет все сообщения, которые считаются мошенническими или потенциально мошенническими.
Инструменты искусственного интеллекта, такие как ChatGPT, Google Gemini, Claude и Microsoft Copilot, также известны как генеративный искусственный интеллект. Это потому, что они могут генерировать новый контент.
Изначально это был текстовый ответ в ответ на вопрос, просьбу или на то, что вы начали с ними разговор. Но теперь приложения с генеративным искусственным интеллектом могут все чаще создавать фотографии и картины, голосовой контент, сочинять музыку или создавать документы.
Люди из всех слоев общества и отраслей все чаще используют такой ИИ для улучшения своей работы. К сожалению, мошенники тоже.
На самом деле, в темной сети продается продукт под названием FraudGPT, который позволяет преступникам создавать контент, способствующий различным видам мошенничества, включая создание фишинговых электронных писем, связанных с банками, или создание мошеннических веб-страниц, предназначенных для кражи. персональная информация.
Еще большее беспокойство вызывает использование клонирования голоса, которое можно использовать, чтобы убедить родственника в том, что его любимый человек нуждается в финансовой помощи, а в некоторых случаях даже убедить его в том, что человека похитили и ему требуется выкуп.
Есть довольно тревожная статистика о масштабах растущей проблемы мошенничества с использованием ИИ.
В 2022 году количество сообщений об использовании инструментов искусственного интеллекта для обмана банковской системы выросло на 84 %, что соответствует самым последним данным организации по борьбе с мошенничеством Cifas.
Аналогичная ситуация наблюдается в США, где в отчете, опубликованном в этом месяце, говорится, что ИИ «привел к значительному увеличению изощренности киберпреступности».
Учитывая возросшую глобальную угрозу, можно предположить, что продукт Hoefnagels Catch будет популярен среди общественности. К сожалению, это не так.
«Люди этого не хотят», — говорит он. «Мы узнали, что люди не беспокоятся о мошенничестве, даже после того, как их обманули.
«Мы разговаривали с парнем, который потерял 15 000 долларов, и сказали ему, что перехватим электронное письмо, но он не заинтересовался. Людей не интересует какой-либо уровень защиты».
Хофнагельс добавляет, что этот конкретный человек просто не думал, что с ним такое повторится.
По его словам, группа, которая обеспокоена тем, что их могут обмануть, — это пожилые люди. Однако, по его словам, вместо того, чтобы покупать защиту, их страхи чаще всего смягчаются очень примитивной тактикой: дети говорят им просто ни на что не отвечать и не реагировать.
Хофнагельс говорит, что полностью понимает этот подход. «После того, что случилось с моей бабушкой, мы практически сказали: «Не отвечайте на телефонные звонки, если его нет в ваших контактах, и больше не пишите по электронной почте».
Из-за апатии, с которой столкнулся Catch, Хофнагель говорит, что сейчас сворачивает бизнес, а также ищет потенциального покупателя.
Хотя люди могут быть пресыщены мошенничеством, а мошенники все чаще используют именно искусственный интеллект, банки не могут себе этого позволить.
По данным глобального опроса, проведенного в январе, две трети финансовых компаний считают SCAAS на базе искусственного интеллекта «растущей угрозой».
Между тем, в отдельном исследовании, проведенном в Великобритании в декабре прошлого года, говорится, что «это лишь вопрос времени, когда мошенники начнут использовать ИИ для мошенничества и масштабирования мошенничества».
К счастью, банки сейчас все чаще используют искусственный интеллект для борьбы.
Программное обеспечение на базе искусственного интеллекта, созданное норвежским стартапом Strise, с 2019 года помогает европейским банкам выявлять мошеннические транзакции и отмывание денег. Оно автоматически и быстро обрабатывает миллионы точек данных в день, выявляя скрытые риски.
«Есть множество частей головоломки, которые вам нужно собрать вместе, а программное обеспечение искусственного интеллекта позволяет автоматизировать проверки», — говорит соучредитель Strise Марит Рёдеванд.
«Это очень сложный бизнес, и в последние годы в отделе обеспечения соответствия резко увеличился штат сотрудников, но ИИ может помочь очень быстро объединить эту информацию».
Рёдеванд добавляет, что все дело в том, чтобы быть на шаг впереди преступников. «Преступнику не нужно заботиться о законодательстве или его соблюдении. И они также хорошо умеют обмениваться данными, тогда как банки не могут делиться ими из-за регулирования, поэтому преступники могут быстрее осваивать новые технологии».
Featurespace, еще одна технологическая компания, создающая программное обеспечение для искусственного интеллекта, помогающее банкам бороться с мошенничеством, утверждает, что замечает необычные вещи.
«Мы не отслеживаем поведение мошенника, а отслеживаем поведение настоящего клиента», — говорит Мартина Кинг, исполнительный директор англо-американской компании.
«Мы строим статистический профиль вокруг того, как выглядит хороший нормальный человек. Основываясь на данных, которыми располагает банк, мы можем увидеть, является ли что-то поведение нормальным или аномальным и неправильным».
Фирма заявляет, что сейчас сотрудничает с такими банками, как HSBC, NatWest и TSB, и имеет контракты в 27 различных странах.
Вернувшись в Онтарио, Хофнагельс говорит, что, хотя поначалу он был разочарован тем, что все больше представителей общественности не осознают растущего риска мошенничества, теперь он понимает, что люди просто не думают, что с ними такое произойдет.
«Это привело к тому, что я стал более сочувствовать отдельным людям и [вместо этого] стараться больше оказывать давление на компании и правительства».