¿Usas X? Robots de IA podrían robar tus selfies para crear cuentas falsas según nuevo estudio

Un reciente estudio realizado por investigadores de la Universidad de Indiana ha descubierto alrededor de 1,140 cuentas operadas por bots de inteligencia artificial en la red social X, anteriormente conocida como Twitter.

Estas cuentas, apodadas como la botnet "Fox8", están utilizando tecnología de vanguardia como ChatGPT para crear contenido falso y robar fotografías de perfil reales para hacerse pasar por usuarios reales.

Bots de IA roban selfies para crear perfiles falsos en X, según estudio

De acuerdo con el estudio publicado en el New York Post, el objetivo de estos bots es engañar a los usuarios para que inviertan en criptomonedas fraudulentas. Incluso se sospecha que los robots han llegado al punto de robar billeteras criptográficas. Estas cuentas suelen usar hashtags relacionados a criptomonedas como #bitcoin y #crypto, e interactúan con cuentas reales de humanos que publican noticias sobre este tema.

"Con la llegada y disponibilidad de API de IA como ChatGPT de forma gratuita, queríamos ver si estas herramientas ya están siendo explotadas para engañar a la gente. Y resulta que así es, lamentable pero no sorprendente"

Información del New York Post.

Aparte de promover criptomonedas falsas, los bots de Fox8 también difunden desinformación sobre diversos temas como elecciones y salud pública. Inundan la plataforma con múltiples publicaciones generadas por IA, aumentando las probabilidades de que usuarios reales vean sus posts fraudulentos y hagan clic en enlaces dañinos.

Para parecer más humanos, estos bots no solo usan fotos robadas de otros perfiles, sino que también interactúan entre ellos y tienen una cierta cantidad de seguidores y amigos. El estudio resaltó que la credibilidad de estas cuentas ha mejorado debido a avances en modelos de lenguaje como ChatGPT.

Aunque no se revelaron cuentas específicas, los investigadores encontraron algunas accidentalmente a través de tweets que delataban su origen artificial. El análisis sugiere que un número importante de cuentas que usaban ciertas frases eran probablemente bots que generaban contenido con IA.

Los investigadores concluyeron que este podría ser apenas el inicio, ya que bots más sofisticados podrían pasar desapercibidos ante los actuales métodos de detección. Solicitaron mejores medidas y regulaciones para contrarrestar este problema.

Tras la publicación del estudio, X eliminó las 1,140 cuentas identificadas como bots. No obstante, los investigadores señalaron que la plataforma no ha respondido a sus hallazgos. Cuando fue contactada para comentar, X envió una respuesta automatizada prometiendo mayor comunicación.

El creciente uso de bots en redes sociales

El uso de bots y cuentas falsas generadas por inteligencia artificial no es exclusivo de la plataforma X. De hecho, se ha vuelto un problema generalizado en las principales redes sociales a nivel global.

Investigaciones recientes, como un estudio de la Universidad Estatal de Nueva York en Binghamton, sugieren que alrededor de 15% de las cuentas activas en Twitter podrían ser bots. Esta cifra podría ser incluso mayor en otras redes como Facebook, Instagram y YouTube.

Los bots son utilizados con diversos propósitos, desde inflar artificialmente el número de seguidores y likes, hasta difundir spam, noticias falsas y propaganda política. Las cuentas automatizadas han demostrado ser efectivas para manipular tendencias y discusiones públicas en línea.

Plataformas como Facebook y Twitter afirman estar tomando medidas para detectar y eliminar cuentas falsas. Sin embargo, a medida que la IA se vuelve más sofisticada, también lo hacen los bots, volviéndose cada vez más difíciles de identificar.

El reciente estudio sobre la red social X resalta la necesidad de que las compañías de redes sociales y los gobiernos trabajen en conjunto para regular y monitorear el uso de bots, con el fin de proteger a los usuarios comunes de estafas y desinformación. Mientras tanto, los usuarios deben mantenerse alertas y no creer todo lo que leen en línea.