¡Qué comedia! Un investigador falsificó su voz con inteligencia artificial y engañó a Wells Fargo para pedir un reembolso

El pasado 4 de enero, el investigador Joshua Browder, fundador de la herramienta Do Not Pay, publicó un tweet en su cuenta oficial en el que asegura que logró crear un clon falso de Inteligencia Artificial de su voz. Por medio de un vídeo, Browder presentó la herramienta y realizó una prueba llamando al servicio de atención al cliente de Wells Fargo, con el objetivo de anular las tarifas de transferencia utilizando una versión de su propia voz generada por IA. Efectivamente, logró engañarlos para solicitar un reembolso.

Desde hace un tiempo, el investigador ha implementado su novedosa herramienta ‘Do Not Pay’ con el fin de automatizar todo tipo de cosas, desde cancelar fácilmente suscripciones no deseadas hasta luchar contra multas de estacionamiento. En base a la premisa de que “nadie tiene tiempo para discutir por teléfono”, ha creado un bot impulsado por IA para que los usuarios se ahorren esta clase de discusiones, a partir de una gama de voces genéricas personalizadas.

Investigador falsifica su voz con IA y engaña a Wells Fargo

Fundada por el empresario e investigador británico-estadounidense Joshua Browder y lanzada en 2015, Do Not Pay es una herramienta de servicios legales que consiste en un chatbot creado para disputar multas de estacionamiento, inicialmente. No obstante, con el paso de los años, esta herramienta se ha expandido notablemente y ha añadido otros servicios nuevos para optimizar la experiencia de sus usuarios.

Se dice que ‘Do Not Pay’ ha utilizado anteriormente bots impulsados por IA para negociar las facturas de Comcast.

Según Browder, Do Not Pay se creó a partir de una combinación de Resemble.ai (un sitio que permite a los usuarios crear sus propias voces de IA) y GPT-J (un modelo de lenguaje informal de código abierto), al igual que, con los mismos modelos de Inteligencia Artificial de Do Not Pay para el guion. Todo esto, fue especificado a través de un tweet del investigador británico-estadounidense, el pasado 4 de enero.

We used https://t.co/fVoKux2nx2 for my voice, GPT-J (open source) for polite live responses with the agent, GPT-3.5 (OpenAI ChatGPT)/DoNotPay AI models for the script.

— Joshua Browder (@jbrowder1) January 4, 2023

Ahora bien, más allá de la idoneidad de este chatbot, lo que realmente ha llamado la atención de los internautas es que Joshua Browder logró falsificar su voz con IA y engañar a Wells Fargo, gracias a Do Not Pay, con el objetivo de pedir un reembolso. El hecho también fue publicado el pasado miércoles 4 de enero, vía Twitter.

A partir de un vídeo detallado, en su cuenta oficial de Twitter, el fundador de Do Not Pay mostró el funcionamiento de la herramienta llamando al servicio de atención al cliente de Wells Fargo. Así, utilizando una versión de su propia voz generada por IA, el investigador se centró en poder anular las tarifas de transferencia en el servicio. De este modo, propone un nuevo enfoque con Do Not Pay, más allá de luchar contra multas de estacionamiento o cancelar suscripciones no deseadas, con facilidad.

Over Christmas, @DoNotPay managed to create an AI deepfake clone of my voice. Then, with GPT, we got the bot to phone up Wells Fargo and successfully overturn some wire fees.

This is the perfect use case for AI. Nobody has time to argue on the phone about $12!

Recording: pic.twitter.com/gktEv9rh3N

— Joshua Browder (@jbrowder1) January 4, 2023

En la grabación, se percibe que la conversación del bot es poco natural, ya que muestra largas pausas a la hora de procesar lo que el trabajador de atención al cliente de Wells Fargo le indica y, además, trabaja en su respuesta. Sin embargo, a pesar de que el chatbot realizó su trabajo lentamente, lo cierto es que fue efectivo y logró asegurar los reembolsos.

“¿Por qué permanecer en línea con el banco durante diez, 20, 30 minutos, cuando un bot impulsado por IA podría hacerte no perder ese tiempo?”.

Joshua Browder, investigador y fundador de Do Not Pay.

Específicamente, a lo largo de la conversación, el empleado de atención al cliente solicitó el nombre y apellido de la persona que efectuó la llamada, a lo cual el bot contestó de forma obediente. Posterior a ello, durante varios minutos, el chatbot de Do Not Pay y el trabajador discuten acerca de qué tarifas de transferencia bancaria hace referencia el bot, para después proceder a establecer los importes de los últimos tres meses.

“Planeamos hacer que la herramienta esté disponible públicamente con una gama de voces personalizadas genéricas, pero tener la propia voz del usuario será una opción premium”.

Joshua Browder, investigador y fundador de Do Not Pay.

Una demostración más de que la IA hará mucho más difícil la lucha contra la ciberdelincuencia

Por defecto, la Inteligencia Artificial (IA) abarca un amplio espectro de usos y los resultados que puede alcanzar son netamente superiores, en comparación con los obtenidos por los seres humanos en torno a tareas repetitivas y continuadas en el tiempo, nivel de complejidad, velocidad de respuesta, tasa de errores, etc. Así, es capaz de aportar excelentes beneficios a la sociedad, en general.

Sin embargo, con las situaciones que se han generado similares a la falsificación de voz ejecutada por Joshua Browser con Do Not Pay, queda claro que esta tecnología eleva la complejidad en la lucha contra la ciberdelincuencia. En los últimos tiempos, las herramientas basadas en IA se han convertido en una de las principales armas de los atacantes digitales.

Según expertos, hoy en día, la Inteligencia Artificial contra ciberamenazas es altamente propensa a falsos positivos, debido a la naturaleza volátil del Internet de las Cosas (IoT). Si bien, la rápida de los dispositivos IoT ha sido rápida y ha provocado un aumento significativo del uso de tecnologías inalámbricas, también ha elevado una gran superficie de ataque. Lo cual, ha creado desafíos para asegurar estos dispositivos contra los ciberataques.

Por lo tanto, mejorar la calidad de la IA contra amenazas es fundamental para hacer frente a la ciberseguridad. Es por eso que, afirman que los productos y servicios deben desarrollarse con una mayor automatización, con el objetivo de determinar el nivel de riesgo para sincronizar una respuesta coordinada, de manera automática.