(Bloomberg Markets) -- Сгенерированные компьютером детские голоса настолько реалистичны, что обманывают собственных родителей. Маски, созданные на основе фотографий из социальных сетей, которые могут проникнуть в систему, защищенную face ID. Они звучат как материал из научной фантастики, но эти методы уже доступны преступникам, охотящимся на обычных потребителей.
Распространение мошеннических технологий встревожило регулирующие органы, полицию и людей на самых высоких уровнях финансовой индустрии. Искусственный интеллект, в частности, используется для “форсирования” мошенничества, предупредила в июне председатель Федеральной торговой комиссии США Лина Хан, призвав правоохранительные органы к повышенной бдительности.
Еще до того, как искусственный интеллект вырвался на свободу и стал доступен любому, у кого есть подключение к Интернету, мир изо всех сил пытался сдержать всплеск финансового мошенничества. Только в США потребители потеряли почти 8,8 миллиарда долларов в прошлом году, что на 44% больше, чем в 2021 году, несмотря на рекордные инвестиции в выявление и профилактику. Эксперты по финансовым преступлениям в крупных банках, включая Wells Fargo & Co. и Deutsche Bank AG, говорят, что надвигающийся бум мошенничества является одной из самых серьезных угроз, с которыми сталкивается их отрасль. Помимо оплаты расходов на борьбу с мошенничеством, финансовая индустрия рискует потерять доверие обанкротившихся клиентов. “Это гонка вооружений”, - говорит Джеймс Робертс, возглавляющий отдел по борьбе с мошенничеством в Commonwealth Bank of Australia, крупнейшем банке страны. “Было бы натяжкой сказать, что мы побеждаем”.
История мошенничества, несомненно, так же стара, как история торговли и бизнеса. Один из самых ранних известных случаев, произошедший более 2000 лет назад, был связан с греческим морским торговцем, который пытался потопить свой корабль, чтобы получить мошенническую выплату по страховому полису. Просмотрите архив любой газеты, и вы обнаружите бесчисленные попытки разлучить легковерных с их деньгами. Но в теневой экономике мошенничества, как и в экономике в целом, периодически происходят всплески дестабилизирующих инноваций. Новая технология снижает затраты на проведение аферы и позволяет преступнику получить доступ к большему количеству неподготовленных отметок. Электронная почта познакомила каждого пользователя компьютера в мире с группой попавших в беду принцев, которым нужна была помощь, чтобы спасти свои утраченные состояния. Криптовалюта принесла с собой расцвет финансовых пирамид, вирусно распространяющихся в социальных сетях.
Развитие искусственного интеллекта предлагает не только новые инструменты, но и потенциальные финансовые потери, которые могут изменить жизнь. А возросшая сложность и новизна технологии означают, что каждый, а не только легковерные, является потенциальной жертвой. Карантин из-за Covid-19 ускорил внедрение онлайн-банкинга по всему миру, когда телефоны и ноутбуки заменили общение лицом к лицу в отделениях банков. Это принесло преимущества в виде снижения затрат и увеличения скорости для финансовых фирм и их клиентов, а также открыло возможности для мошенников.
Некоторые из новых методов выходят за рамки того, что могут сделать современные готовые технологии, и не всегда легко определить, когда вы имеете дело с обычным мошенником или с деятелем национального государства. “Мы начинаем замечать гораздо большую изощренность в отношении киберпреступности”, - говорит Эми Хоган-Берни, генеральный менеджер по политике и защите кибербезопасности корпорации Microsoft.
Во всем мире расходы на киберпреступность, включая мошенничество, в этом году достигнут 8 трлн долларов, превысив объем производства Японии, третьей по величине экономики в мире. По данным исследователя Cybersecurity Ventures, к 2025 году он достигнет 10,5 трлн долларов, увеличившись более чем втрое за десятилетие.
В пригороде Сиднея Редферне некоторые из команды Робертса, насчитывающей более 500 человек, проводят свои дни, подслушивая разговоры противников, чтобы из первых уст услышать, как искусственный интеллект меняет ход их битвы. Поддельная просьба о деньгах от любимого человека не нова. Но теперь родители получают звонки, которые клонируют голос их ребенка с помощью искусственного интеллекта, чтобы он звучал неотличимо от реального. Эти уловки, известные как мошенничество с использованием социальной инженерии, как правило, имеют самый высокий процент попаданий и приносят мошенникам одни из самых быстрых доходов.
Клонировать голос человека становится все проще. Как только мошенник загружает короткий фрагмент аудиоклипа из чьей—либо социальной сети или сообщения голосовой почты — это может быть всего 30 секунд - он может использовать инструменты искусственного интеллекта для синтеза голоса, легко доступные онлайн, для создания необходимого ему контента.
Общедоступные аккаунты в социальных сетях позволяют легко выяснить, кто является родственниками и друзьями человека, не говоря уже о том, где они живут и работают, и другой важной информации. Руководители банков подчеркивают, что мошенники, ведущие свои операции как бизнес, готовы быть терпеливыми, иногда планируя атаки в течение нескольких месяцев.
По словам Роба Поупа, директора правительственного агентства кибербезопасности Новой Зеландии CERT NZ, то, что пока видят команды по борьбе с мошенничеством, - это лишь малая толика того, что сделает возможным искусственный интеллект. Он указывает, что искусственный интеллект одновременно помогает преступникам увеличить объем и индивидуализацию атак. “Можно поспорить, что в течение следующих двух-трех лет мы увидим больше криминальных атак, генерируемых искусственным интеллектом”, - говорит Поуп, бывший заместитель комиссара полиции Новой Зеландии, который курировал некоторые из самых громких уголовных дел в стране. “Что делает искусственный интеллект, так это повышает уровень сложности и способность этих плохих людей очень быстро меняться. Искусственный интеллект облегчает им задачу”.
Чтобы дать представление о задачах, стоящих перед банками, Робертс говорит, что прямо сейчас Австралийский банк Содружества отслеживает около 85 миллионов событий в день с помощью сети инструментов наблюдения. И это в стране с населением всего в 26 миллионов человек.
Отрасль надеется дать отпор, информируя потребителей о рисках и увеличивая инвестиции в защитные технологии. Новое программное обеспечение позволяет CBA определять, когда клиенты необычным образом используют свою компьютерную мышь во время транзакции — это сигнал о возможном мошенничестве. Все подозрительное, включая пункт назначения заказа и способ обработки покупки, может насторожить сотрудников всего за 30 миллисекунд, что позволит им заблокировать транзакцию.
По словам Томаса Графа, старшего инженера по машинному обучению в Deutsche Bank, компьютерные инженеры недавно перестроили свою систему обнаружения подозрительных транзакций под названием Black Forest, используя новейшие модели обработки естественного языка. Инструмент рассматривает такие критерии транзакций, как объем, валюта и пункт назначения, и автоматически извлекает из большого объема данных информацию о том, какие модели предполагают мошенничество. Модель может быть использована как для розничных, так и для корпоративных транзакций, и уже было раскрыто несколько случаев, в том числе связанных с организованной преступностью, отмыванием денег и уклонением от уплаты налогов.
Wells Fargo переработала технические системы, чтобы снизить риск появления видео и голосов, сгенерированных искусственным интеллектом. “Мы обучаем наше программное обеспечение и наших сотрудников распознавать эти подделки”, - говорит Чинтан Мехта, глава отдела цифровых технологий Wells Fargo. Но система должна продолжать развиваться, чтобы не отставать от преступников. Выявление мошенников, конечно, стоит денег.
Одна проблема для компаний: каждый раз, когда они ужесточают правила, преступники пытаются найти обходной путь. Например, некоторые банки США требуют, чтобы клиенты загружали фотографию документа, удостоверяющего личность, при регистрации учетной записи. Мошенники теперь покупают украденные данные в даркнете, находят фотографии своих жертв в социальных сетях и печатают маски на 3D-принтере, чтобы создавать поддельные удостоверения личности с украденной информацией. “И они могут выглядеть как угодно - от того, что вы покупаете в магазине на Хэллоуин, до чрезвычайно реалистичной силиконовой маски голливудских стандартов”, - говорит Ален Мейер, глава отдела идентификации в Plaid Inc., которая помогает банкам, компаниям, занимающимся финансовыми технологиями, и другим предприятиям бороться с мошенничеством с помощью своего программного обеспечения для проверки личности. Plaid анализирует текстуру кожи и прозрачность, чтобы убедиться, что человек на фотографии выглядит реальным.
Мейер, посвятивший свою карьеру выявлению мошенничества, говорит, что лучшие мошенники, те, кто использует свои схемы как бизнес, создают мошенническое программное обеспечение и упаковывают его для продажи в даркнете. Цены могут варьироваться от 20 до тысяч долларов. “Например, это может быть расширение Chrome, которое поможет вам обойти дактилоскопию, или инструменты, которые помогут вам создавать синтетические изображения”, - говорит он.
По мере того как мошенничество становится все более изощренным, вопрос о том, кто несет ответственность за убытки, становится все более спорным. В Великобритании, например, жертвы неизвестных транзакций — скажем, кто—то копирует и использует вашу кредитную карту - юридически защищены от убытков. Если кто-то обманом заставит вас произвести платеж, ответственность будет менее очевидной. В июле высший суд страны постановил, что супружеская пара, которую обманом заставили отправить деньги за границу, не может привлечь свой банк к ответственности просто за то, что он следовал их инструкциям. Но законодатели и регулирующие органы имеют свободу действий для установления других правил: Правительство готовится потребовать от банков возмещения ущерба жертвам мошенничества при переводе наличных с помощью Faster Payments - системы для отправки денег между британскими банками. Политики и защитники прав потребителей в других странах настаивают на аналогичных изменениях, утверждая, что неразумно ожидать, что люди распознают эти все более изощренные мошенничества.
Банки опасаются, что изменение правил просто облегчит задачу мошенникам. Лидеры финансовой индустрии по всему миру также пытаются переложить часть ответственности на технологические фирмы. Самой быстрорастущей категорией мошенничества является инвестиционное мошенничество, о котором жертвы часто узнают через поисковые системы, где мошенники могут легко купить спонсируемые рекламные ролики. Когда потенциальные инвесторы переходят по ссылке, они часто находят реалистичные проспекты и другие финансовые данные. Как только они переводят свои деньги, могут пройти месяцы, если не годы, прежде чем они поймут, что их обманули, когда они пытаются нажиться на своих “инвестициях”.
В июне группа из 30 кредиторов в Великобритании направила письмо премьер-министру Риши Сунаку с просьбой к технологическим компаниям внести свой вклад в возмещение ущерба жертвам мошенничества, связанного с их платформами. Правительство заявляет, что планирует новое законодательство и другие меры по борьбе с финансовыми мошенничествами в Интернете.
Банковская отрасль лоббирует более широкое распределение ответственности отчасти потому, что расходы, по-видимому, растут. И снова знакомая проблема из области экономики применима и к экономике мошенничества. Подобно загрязнению окружающей среды на заводе, новая технология создает внешние эффекты или издержки, налагаемые на других. В данном случае это повышенный охват и риск для мошенников. Ни банки, ни потребители не хотят быть единственными, кто вынужден платить такую цену.
Крис Шихан почти три десятилетия проработал в полиции страны, прежде чем присоединиться к National Australia Bank Ltd., где он возглавляет отдел расследований и борьбы с мошенничеством. За последний год он добавил в свою команду около 40 человек благодаря постоянным инвестициям банка. Когда он подсчитывает все расходы на персонал и технические средства, “меня пугает, насколько велика эта цифра”, - говорит он.
“Я полон надежд, потому что существуют технологические решения, но вы никогда полностью не решите проблему”, - говорит он. Это напоминает ему о том времени, когда он в качестве полицейского боролся с бандами наркоторговцев. По его словам, преподносить это как войну с наркотиками было “большой ошибкой”. “Я никогда не буду формулировать это в таких рамках — о войне с мошенничеством, — потому что подразумевается, что в войне можно победить”, - говорит он. ”Это невозможно выиграть".
©2023 Bloomberg L.P.
