Искусственный интеллект (ИИ) в последние годы ворвался в финансовый сектор как ураган: от скоринга и трейдинга до клиентского сервиса и автоматизации бэк-офиса.
Но вместе с выгодами пришла теневая сторона - мошенничество, которое использует те же инструменты, что помогают банкам и финтехам. Мы разберём, как распознать новые схемы мошенничества с ИИ и какие превентивные меры можно внедрить в финансовой организации или применять лично, чтобы не попасться на удочку злоумышленников.
Текст написан простым языком, с практическими советами, примерами и статистикой - всё в контексте финансов, чтобы было понятно и полезно специалистам, менеджерам и экономически подкованным пользователям.
Понимание новых типов мошенничества на базе ИИ
ИИ не просто бот в чате. Это широкий набор технологий: большие языковые модели, генеративные нейросети, компьютерное зрение, дипфейки, автоматические агенты, API-интеграции и многое другое.
Мошенники уже научились комбинировать эти инструменты, создавая новые, гибкие и масштабируемые схемы преступлений. Чтобы распознавать такие атаки, важно сначала классифицировать их по механике и целям.
Классические цели у финансовых организаций остаются прежними: кража средств, получение доступа к счетам, мошенничество с выплатами, фрод с кредитами, реклама лохотронов и отмыв денег.
Но ИИ даёт мошенникам новые механики: автоматизированная социальная инженерия, реалистичные голоса для звонков, синтез поддельных документов, генерация персонализированных фишинговых писем в огромных объёмах и даже создание "псевдоинвестпродуктов" с фальшивой аналитикой.
Пример: группа злоумышленников использовала генеративную модель для написания персонализированных сообщений от имени финансовых советников. Сообщения включали детализированные рекомендации и ссылки на фальшивые платформы для инвестиций. Сотни людей ответили, а пострадавшие перевели средства на подконтрольные кошельки.
Такие кампании можно масштабировать без большого штата операторов, что делает их опасными и дешёвыми для организаторов.
Как распознать фишинговые и социально-инженерные атаки, усиливаемые ИИ
ИИ позволяет мошенникам создавать сообщения невероятно высокого качества и персонализации. В результате фишинговое письмо или SMS может выглядеть как официальная коммуникация банка, содержать правильные реквизиты, имена сотрудников и даже ссылки на поддомены, визуально похожие на реальные.
Распознавание таких атак требует иных подходов, чем для традиционного фишинга.
Первые признаки тональность и контекст. ИИ-генерированные тексты часто чрезмерно "идеальны": без типичных человеческих ошибок, с аккуратной структурой, но иногда с незначительными семантическими несоответствиями (не та должность, странная деталь в продукте, неточности в юридических формулировках).
Также одинаковые тексты, разосланные многим адресатам с малозаметными персонализациями - признак массовой автоматизации.
Несколько советов: внедрите многоканальные валидации для сомнительных запросов (звонок на зарегистрированный номер, дополнительный код в приложении). Обучайте сотрудников и клиентов проверять не только URL и отправителя, но и соответствие запрашиваемых действий их профилю: зачем вам сейчас менять условия договора, если вы не обращались? Важно держать списки шаблонов мошеннических сообщений и анализировать их с помощью внутренних NLU-инструментов, выявляя паттерны генерации.
Визуальные и голосовые дипфейки. Как предотвратить и проверять
Генеративные AI-модели создают практически неотличимые от реальных изображения и голосовые синтезы. В финансах это опасно: звонок от "директора", подделка голосовой авторизации, фальшивые видео с предложением вложиться - всё это уже в природном арсенале мошенников.
Поэтому необходимо внедрять меры, которые затрудняют успешную атаку и облегчают её обнаружение.
Верификация голоса и видео не должна быть единственным критерием. Используйте комбинацию факторов: биометрия в приложении + уникальные секретные фразы, подтверждение через отдельный защищённый канал, анализ поведения пользователя в приложении (тайминги действий, типичные сценарии).
Технологии распознавания дипфейков на основе моделей временных артефактов, частотных спектров и несовпадения губного движения с аудио могут помочь, но они тоже конкурируют с качеством генеративных моделей.
Пример практики: крупный банк ввёл правило, что перевод крупных сумм по команде по телефону возможен только после видеозвонка с оператором через банковское приложение, который фиксирует лицо владельца и сравнивает его с паспортным фото, а также требует ввод одноразового кода, сгенерированного устройством.
Это значительно снизило число успешных атак, даже несмотря на рост мастерства мошенников в синтезе речи.
Автоматическая генерация документов и идентификационных материалов? Распознавание и защита
Генеративные модели выводят фальшивые паспорта, выписки, подтверждения дохода и другие документы на качественно новом уровне.
Поддельные документы легко проходят первичную проверку - особенно если используется OCR-автоматизация без дополнительных проверок целостности и метаданных.
Контрмеры включают в себя многоуровневую проверку: проверить метаданные файла (создатель, EXIF, наличие редактирования), аналитику изображений (неестественные пиксельные артефакты, несовпадение шрифтов), сверку с базами данных государственных реестров в реальном времени и проверку через проверенные каналы эмитентов документов.
Также полезно использовать динамические формы: например, требовать фотографии с документом и со специфической подписью или жестом, который невозможно предсказать заранее.
Технический пример: инструмент скрининга контрагентов включает ручную выборочную проверку документов с помощью независимого советника и автоматических чеков с государственными API.
Комбинация автоматической предобработки и человеческой ревью дала снижeние процента ложно-положительных документов почти вдвое и остановила несколько попыток мошенничества с поддельными документами при выдаче кредитов.
Атаки на алгоритмы и модели (adversarial attacks)- как защитить свои ML-системы
Когда финансовые компании используют ML/AI для скоринга, обнаружения фрода или торговых стратегий, их модели сами становятся целью атак.
Противник может вводить данные, специально искажённые так, чтобы модель неправильно классифицировала транзакции или оценки риска. Это может привести к серьёзным финансовым потерям и системным проблемам.
Типичные приёмы: подмена признаков (feature poisoning), фарминг данных (data poisoning), манипуляция входными сигнатурами и многократные мелкие транзакции, незаметные для обычной фильтрации, но влияющие на пороговые сигналы.
Также практикуется развертка тестов модели, попытки выведать логику скоринга через API и затем построение транзакций, которые "обходят" защиту.
Контрмеры включают регулярный stress-testing моделей, введение robust-обработки входных данных, методы детектирования аномалий и концепт-дрифта, а также периодическая ротация и обновление моделей.
Для критичных задач имеет смысл реализовать ensemble-подход: несколько независимых моделей, в том числе более простых правил, мониторинг распределения входных фичей и ручную проверку необычных случаев.
Важно также логировать запросы к моделям и анализировать подозрительную активность по частоте и шаблонам.
Мониторинг, анбоксинг и предотвращение масштабных автоматизированных атак
Мошенники любят масштаб: один успешный шаблон можно разослать миллионам адресатов, а автоматизированные агенты - круглосуточно повторять попытки фрода.
Поэтому важны системы раннего обнаружения массовых аномалий и инфраструктура, которую сложно использовать посторонним людям.
Технические решения: rate limiting, поведенческая аналитика (behavioural fingerprinting), detection-as-a-service, honeypots и трепаны (триггерные проверки).
Если система фиксирует всплески регистраций с похожими шаблонами профилей или однотипные транзакции с разных IP и устройств - стоит включать усиленные проверки и задержки.
Для web-форм и API используйте проверку рекурсий CAPTCHA нового уровня, анализ mouse/scroll/touch-паттернов и beschäftляйте device fingerprinting, но аккуратно - чтобы не ухудшить UX легитимных пользователей.
Онлайн-платформа для кредитов внедрила многоуровневый фрод-фильтр: при подозрении - блокировка выдачи средств и автоматическое направление заявки на ручную модерацию, которая опирается на cross-check с внешними платёжными провайдерами и мобильным оператором для подтверждения личности.
Такой подход снизил число успешных мошеннических выдач на 72% в первые полгода.
Законодательство, комплаенс и ответственность? Что должны знать финансовые организации
Технологии опережают законы, но регуляторы быстро сокращают отставание. В финансовой сфере обязательны нормы KYC/AML, защита персональных данных и требования к аудиту.
Появление ИИ добавило новые риски и привлекло внимание регуляторов к прозрачности моделей, explainability и контролю над данными.
Финансовые организации должны вести журнал изменений в моделях, хранить версионирование данных и архитектуры, проводить регулярные аудиты безопасности и готовить incident response планы, специфичные для атак с ИИ.
Важно также иметь юридическую экспертизу на случай, если клиент пострадает от автоматизированного решения: кто несёт ответственность - банк, вендор модели или поставщик данных? Ответы нужно прописывать в SLA и договорах.
Имейте "чёрный ящик" - систему записи всех входов и решений модели для расследований. Также следите за локальными требованиями регуляторов относительно explainability: некоторые страны требуют, чтобы при отказе в кредите клиенту объясняли причины решения доступным языком. Это можно реализовать через комбинированные объясняющие модули и человеко-центрированную ревью-процедуру.
Обучение сотрудников и клиентов! Как сделать защиту системной
Технологии - важны, но люди остаются ключевым звеном. Специфика мошенничества с ИИ - высокая реалистичность и персонализация - делает обучение ещё более важным.
Нужно развивать не просто "awareness", а навыки критической проверки сообщений, признаков аномалий и правильных сценариев реакции.
Программы обучения должны включать симуляции реальных атак (phishing, voice deepfake calls), пошаговые инструкции для сотрудников фронт-офиса и автоматизированные тесты для менеджеров риска.
Для клиентов полезны простые чек-листы и встроенные подсказки в приложении: как проверить перевод, какие сообщения игнорировать, как распознавать подозрительную логику инвестиционных предложений.
Пример активности: банк провёл серию тренингов с имитацией звонков от "директоров" и фишинговых email с AI-персонализацией. Те сотрудники, которые прошли тренинг, стали в 5 раз реже выполнять сомнительные запросы и чаще отправляли кейсы в отдел безопасности для проверки.
Это показывает: правильные практики дают быстрый эффект.
Технологический стек защиты: какие инструменты внедрять в финансовой организации
Ни одна мера не сработает сама по себе: нужна связка технологий, процессов и людей.
Для финансовых компаний я рекомендую следующий стек инструментов: многослойная аутентификация (MFA), поведенческая аналитика пользователей, мониторинг API и rate limiting, системы детекции аномалий, антифрод-платформы на базе ML, анти-дипфейк модули, подписка на threat intelligence и sandboxes для проверки документов/скриптов.
Дополнительно: secure devops-практики, защита моделей (model hardening), контроль за данными (data governance), журналирование и SIEM-интеграция. Не забудьте про тестирование: red-team-атаки, стресс-тесты моделей и penetration testing на API-интеграции с внешними партнёрами.
Важно, чтобы инструменты были интегрированы в одну экосистему для корелляции инцидентов и уменьшения времени реакции.
Практическая схема внедрения: начните с оценки рисков (risk assessment), затем реализуйте критичные меры - MFA + мониторинг - и постепенно переходите к сложным: антифрод-модели и дипфейк-детекторам.
Включите в план масштабируемость: атакуют чаще и агрессивнее, потому нужно иметь инструменты, которые выдерживают пик нагрузки.
Подытоживая всё вышесказанное, стоит подчеркнуть: мошенничество с применением ИИ не одноразовая проблема, а постоянная гонка вооружений. Финансовые организации, которые объединят технологические решения, процессы, обучение персонала и взаимодействие с регуляторами, смогут существенно снизить риски и убытки.
Это требует вложений и системного подхода, но по сравнению с потенциальными потерями - оправдано и необходимо.
Об авторе
