Больше не шутка
Ещё несколько лет назад, в условном 2020 году, вам на телефон поступал звонок с незнакомого номера. Человек представлялся сотрудником правоохранительных органов или банка, а затем быстро создавал стрессовую ситуацию — вам что-то угрожает, срочно переведите деньги! Вероятно, вы просто смеялись, бросали трубку и рассказывали друзьям забавную историю о неудачных попытках мошенников.
Сейчас ситуация будет совсем иной. Вашим родителям или другим старшим родственникам в мессенджерах придёт голосовое или видеосообщение от вашего имени.
Ваш голос воспроизведут с точностью до характерных особенностей интонации или акцента, а лицо сохранит привычную мимику. В крайнем случае, можно будет немного ухудшить качество видео.
Не стоит думать, что всё закончится на одном сообщении. Современные технологии позволяют нейросетям вести полноценные диалоги, общаться в заданном эмоциональном фоне, воспроизводить паттерны вашей речи, повторять даже слова паразиты.
Убеждать ваших близких в том, что нужно срочно отправить деньги из-за трудной жизненной ситуации, или в необходимости вложиться в крипто-стартап будете именно вы — просто без своего непосредственного участия.
Всё хуже, чем вы думаете
Согласно обзору журнала Computers in Human Behavior Reports за 2024 год, люди были способны отличать качественные дипфейки от настоящих видео только в 24.5% случаев. Это существенно ниже, чем при случайном угадывании. Со сгенерированными изображениями ситуация сильно лучше, но всё равно печальная — только 62% угадываний.
Выходит, что три четверти видео и треть изображений могут быть ненастоящими, но мы уже не способны это понять. Отдельно стоит подчеркнуть, что обзор был сделан в 2024 году, а за прошедшие полтора года технологии сделали значительный шаг вперёд.
Правда, вместе с ними улучшается и наша насмотренность, а тренированная интуиция — всё ещё лучший способ отличить дипфейк от настоящего изображения или видеозаписи.
С голосовыми сообщениями ситуация может показаться более радужной, но есть одна важная деталь. В мае этого года было опубликовано немецкое исследование о способностях людей отличать сгенерированную речь от настоящей. Точность практически не изменилась за прошедшие пять лет.
Люди всё ещё понимают, что перед ними фейковая запись примерно в 71% случаев. Однако за те же пять лет появился скептицизм относительно настоящей речи: процент её распознавания изменился с 72 до 64. То есть проблема даже не в том, что фальшивые записи принимаются за настоящие, а в том, что настоящие рассматриваются как фальшивые.
Digital native
Вы, вероятно, взрослели уже в цифровую эпоху, когда интернет стал нормой, а вместе с ним нормой стали и вечные попытки злоумышленников нажиться на неопытных пользователях сети. Это позволило вам сформировать некоторую насмотренность и понимание того, что с большей вероятностью является мошенничеством, а что нет. Однако это иллюзия.
Кибербез-стартап из США Scamzero рассказывает, что чаще о мошенничестве с использованием интернета (следовательно, и дипфейков тоже) докладывают именно люди в диапазоне от 20 до 40 лет.
Медианная потеря денег для них ниже, чем для людей от 40 до 60, но попадаются они легче. Это логично — молодые люди больше пользуются социальными сетями, мессенджерами и другими технологиями, где мошенники с ИИ могут проявить себя.
Проблема проистекает именно из уверенности молодых людей. Большинство уже сталкивалось со статьями о дипфейках или поясняющими видео в социальных сетях, где чаще всего воспроизводятся одни и те же идеи — необходимость всматриваться, выискивать артефакты от генерации, искать нехарактерные для живого человека паттерны.
Реальность такова, что на сегодняшний день эти проблемы практически решены, поскольку именно они и были главным признаком сгенерированного видео. Инженеры старались исправить их в первую очередь, а распространённые советы по поиску артефактов быстро утратили актуальность.
Отсюда появилась убежденность в том, что при отсутствии странностей на видео его можно воспринимать как настоящее. Теперь отправленные в Telegram «кружочки» кажутся абсолютно реальными, если на них нет явных следов генерации (а их теперь нет никогда), потому что привыкшим к мессенджерам людям кажется, что созданные здесь и сейчас видео-сообщения не могли подвергнуться ни монтажу, ни ИИ-обработке.
Но они могли — и все мы в группе риска именно поэтому.
Что делать?
Поскольку технологии развиваются гораздо быстрее, чем кажется, а большинство из нас не отслеживает появление новых возможностей, схемы защиты нужно менять с технологических на поведенческие. Большую защиту вам и вашим близким могут дать привычки. Некоторые из них мы обсудили со специалистами Forte.
Следует использовать правило нескольких каналов связи
Если с вами связывается близкий человек с помощью голосовых сообщений или «кружков» в Telegram с просьбой о срочной передаче денег, то первое, что нужно сделать — это поменять способ коммуникации. Лучше всего позвонить ему, написать в другом мессенджере или встретиться лично.
Второе важное правило — это правило паузы
Мошенники всегда пытаются создать стрессовую ситуацию, разрешение которой нужно найти как можно быстрее. Именно поэтому их обращения всегда связаны с какой-то аварией, травмой, неприятной ситуацией, последствий которой можно избежать, если заплатить некоторую сумму денег здесь и сейчас.
Лучше всего, даже после смены канала, подождать хотя бы полчаса-час, чтобы удостовериться, что к вам действительно обращается ваш близкий человек и тщательно всё обдумать. Даже если проблема настоящая и к вам действительно обращаются не мошенники, за этот час ничего не произойдёт, а деньги останутся в безопасности.
Как помочь пожилым близким?
Почти треть людей старше 55 лет и 40% людей за 65 никогда не слышали о дипфейках.
Это означает, что они наиболее уязвимы к мошенничеству подобного рода, кроме того, они отличаются большей степенью доверия к контенту в интернете и сообщениям от официальных (или представляющихся официальными) лиц. Поэтому попытка указать им на признаки или паттерны поведения может не увенчаться успехом.
Единственная мысль, которую нужно до них донести — при любой просьбе от любых лиц по телефону, через социальные сети или мессенджеры всегда прерывать контакт и самостоятельно перезванивать человеку, с которым велась коммуникация. Концепция zero trust — это лучшее, что можно предложить. Никакая коммуникация, инициированная не самостоятельно, не должна вызывать доверия.
ИИ против ИИ
В Forte искусственный интеллект работает на стороне безопасности клиентов. Несколько ИИ-моделей анализируют привычные сценарии поведения и, если замечают что-то необычное, передают сигнал службе безопасности.
Так банк может быстрее заметить подозрительную активность и принять необходимые меры. Детали антифрод-алгоритмов не раскрываются, но возможные mule-аккаунты и мошеннические операции раскрываются, именно во многом благодаря использованию ИИ против ИИ.
Однако не существует публично доступных моделей, которые позволят вам с лёгкостью определить, кто звонит — мошенники или действительно знакомые вам люди, у которых появилась просьба. Поэтому главной гарантией безопасности счетов остаются исключительно поведенческие привычки, не связанные напрямую с технологиями.
Пользуясь простыми правилами паузы и каналов связи, можно почти исключить риски, а об остальном позаботятся профессионалы.
#партнёрский
