• ИИ-системы безопасности криптобиржи Coinbase остановили около 91% переводов, которые клиенты пытались отправить мошенникам во время фейковой трансляции Tesla.
  • Злоумышленники использовали дипфейк миллиардера Илона Маска в YouTube-эфире для более чем 500 000 зрителей, обещая удвоить отправленную криптовалюту.
  • Инструмент предотвращения скама сработал полностью автономно, ведя с пользователями диалог в момент подтверждения транзакции.

Защитная система криптобиржи Coinbase на базе искусственного интеллекта предотвратила потерю $4,7 млн (около 91% от общей суммы попыток переводов), которые пользователи пытались отправить злоумышленникам во время фейковой криптораздачи от имени Tesla. Защита сработала без привлечения модераторов.

Инцидент произошел во время демонстрации «летающего автомобиля» Tesla. Злоумышленники запустили на платформе YouTube прямую трансляцию, которая имитировала официальное мероприятие: на экране появился дипфейк главы компании Илона Маска, QR-код и адреса кошельков. Зрителям обещали удвоить любую переведенную сумму.

Эфир собрал более 500 000 зрителей. В течение двух часов сотни клиентов биржи пытались отправить средства на счета злоумышленников. В Coinbase подчеркнули, что ни один аккаунт не был взломан — пользователи самостоятельно проходили аутентификацию и подтверждали переводы под влиянием социальной инженерии.

В компании объяснили, что традиционные системы безопасности ориентированы на выявление несанкционированного доступа, однако бессильны, когда жертва добровольно одобряет транзакцию. Чтобы остановить такие переводы, Coinbase внедрила автономного ИИ-агента, который состоит из трех модулей:

  • выявление. Модели машинного обучения в реальном времени анализируют транзакции на предмет связи со схемами фейковых раздач, имитацией брендов и новыми кошельками;
  • вмешательство. Если перевод помечается как рискованный, система инициирует с пользователем короткий целевой диалог. Агент разбирает контекст ситуации, объясняет механику мошенничества и задает наводящие вопросы, чтобы заставить клиента усомниться в легенде злоумышленников;
  • оценка уверенности. Перед отправкой каждой реплики система оценивает ее достоверность, чтобы при необходимости применить дополнительные барьеры безопасности.

По словам специалистов Coinbase, этот конкретный сценарий дипфейк-раздачи, привязанной к презентации продукта, не входил в обучающую выборку алгоритма. Однако ИИ распознал базовые паттерны скама — обещание приумножить капитал, искусственную срочность и необратимость блокчейн-переводов.

Правила безопасности

Представители криптобиржи отметили, что генеративный ИИ существенно удешевил и ускорил запуск убедительных дипфейк-атак, поэтому алгоритмы защиты обучаются на новых инцидентах за считаные часы. Также в компании напомнили базовые правила защиты от подобных схем:

  • ни одна легальная компания не требует отправить криптовалюту для получения приза или ее удвоения;
  • не стоит переводить средства по адресам и QR-кодам из видео или прямых трансляций;
  • информацию об акциях необходимо проверять исключительно на официальных сайтах и в верифицированных аккаунтах проектов;
  • если система безопасности отметила перевод как подозрительный, стоит взять паузу и тщательно проверить условия операции.

Напомним, ранее мы публиковали исследование о том, как дипфейки крадут миллионы долларов.

Сообщение ИИ-защита Coinbase заблокировала перевод $4,7 млн мошенникам с дипфейком Илона Маска появились сначала на INCRYPTED.