ФБР рекомендует придумать «секретное слово или фразу», чтобы защититься от мошенничества с использованием ИИ

Представьте ситуацию: пожилому родственнику звонит якобы любимый внук, срочно просящий деньги для решения неотложной проблемы. Голос звучит совершенно точно, как голос внука, а проблема кажется серьезной. Что делать? ФБР предлагает придумать и заранее обсудить с родными секретный код — например, что-то вроде: «Что сказал осел муравьеду?»

Риски голосового клонирования

Современные технологии генеративного ИИ позволяют не только создавать изображения и видео, но и реалистично воспроизводить голос человека. Это становится популярным инструментом мошенников. С помощью голосового клонирования злоумышленники могут создать точную копию голоса человека, используя записи его речи.

ФБР выпустило рекомендации, как защитить себя и своих близких от подобных схем. Среди них — использование «секретного слова» или фразы, которые известны только членам семьи.

Как работает голосовое клонирование

Технология голосового клонирования использует записи речи человека для создания модели, имитирующей его голос, тембр и манеру речи. Такие технологии уже применяются, например, в подкастах, где вместо реальных ведущих «говорят» их цифровые копии.

Но эти же технологии могут использоваться в мошеннических целях, чтобы, например, просить деньги от имени знакомого или родственника.

Решение: секретное слово

ФБР предлагает ввести своеобразную двухфакторную аутентификацию для подтверждения личности. Помимо голоса, это может быть заранее оговоренная фраза или слово, которые знаете только вы и ваши близкие.

Например, если на вопрос: «Что сказал осел муравьеду?» ожидается ответ: «Среда днем, в Непале», мошенник вряд ли сможет правильно отреагировать. Если же ответ не соответствует, это повод усомниться в подлинности звонка.

Несмотря на его простоту, метод имеет свои недостатки. Во-первых, участники должны помнить секретное слово или фразу. Во-вторых, такая система может вызвать путаницу в неожиданных ситуациях.

Кроме того, проблема усложняется, если звонит не родственник, а, например, начальник. Для защиты бизнеса потребуется разработать более сложные и универсальные системы.

Будущее технологий

И хотя интеграция систем, указывающих на то, что речь генерируется ИИ, могла бы уменьшить риск мошенничества, всегда найдутся люди, создающие обходные технологии.

Решение проблемы голосового клонирования и защиты от мошенничества — вызов для самых умных специалистов в области ИИ. Однако даже простые шаги, такие как использование секретных слов, помогут значительно снизить риски.