Инструмент фальсификации голоса на основе искусственного интеллекта научился подделывать голоса людей

Ученые из Университета Ватерлоо в Канаде с помощью искусственного интеллекта разработали метод фальсификации голоса, позволяющий обходить голосовую аутентификацию.

Голосовая проверка подлинности основывается на уникальности голоса каждого человека. На это влияют физические характеристики, например размер и форма голосовых путей и гортани, а также социальные факторы.

Системы проверки подлинности фиксируют нюансы в голосовых отпечатках. Искусственный интеллект может уже достаточно реалистично имитировать язык людей, однако алгоритмы имеют отличные артефакты, по которым аналитики могут определить подделку.

Разработанная исследователями техника направлена на устранение этих особенностей. Идея заключается в том, чтобы «выгравировать» отпечаток голоса пользователя в поддельной записи.

Исследователи научили систему на образцах языка 107 дикторов для лучшего понимания, что заставляет язык звучать по-человечески. Для проверки алгоритма они создали несколько образцов, чтобы обмануть системы аутентификации. Против некоторых слабых систем они добились 99% после 6 попыток.

Однако более сильные аутентификаторы оказались более надежными. В тесте против Amazon Connect ученые достигли 10% успеха при четырехсекундной атаке и 40% — менее чем за 30 секунд.

Также исследователи отметили, что для совершения атаки злоумышленникам необходим образец голоса жертвы и соответствующие технические навыки. Это достаточно высокий барьер, однако они призвали разработчиков систем аутентификации работать над усовершенствованием защиты своих технологий.