Теперь нейросети умеют взламывать банковские счета

Голосовой помощник Lloyds Bank дал доступ к аккаунту сгенерированному ИИ голосу. Для банков это серьезный вызов — мошенники с подходящей нейросетью легко обойдут казалось бы неуязвимую защиту финансовых учреждений.

Клиент банка Lloyds Bank из Великобритании обнаружил, что может получить доступ к своему банковскому счету с помощью голосового ИИ через идентификацию по Voice ID.

Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от ElevenLabs для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.

Он проводил эксперимент несколько раз, так как изначально система Lloyd Bank сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках ElevenLabs для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.

В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы — назвать свою дату рождения и прочитать «мой голос — мой пароль».

Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос — мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.

«Я не мог в это поверить — это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», — уточнил Кокс.

На веб-сайте Lloyds Bank сообщается, что опция Voice ID абсолютна безопасна. «Ваш голос подобен отпечатку пальца и уникален для вас», — утверждает банк. «Voice ID анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, какой у вас акцент и как быстро вы говорите. Система также распознает вас, если у вас простуда или боль в горле», — уточнено на сайте банка в описании этой технологии.

Представитель Lloyds Bank заявил, что опция Voice ID обеспечивает более высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.

В Lloyds Bank в курсе об угрозе клиентам от синтетических голосов и там постоянно дорабатывают проверку голоса. В банке сообщили, что голосовая идентификация Voice ID уже привела к значительному снижению мошенничества с телефонным банкингом.

Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.

Аналогичную голосовую идентификацию предлагают банки в США, например, TD Bank (опция VoicePrint), банк Chase (также Voice ID) и Wells Fargo (функция Voice Verification), которые, согласно описанию, «эффективно защищают личность клиента».

Ранее исследователи с помощью нейросети elevenlabs.io и ChatGPT рассказали голосом Стива Джобса про ChatGPT. Особенность elevenlabs.io заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.

В начале января Microsoft объявила о создании инструмента VALL-E для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, VALL-E создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон.