Basado en información de The Hacker News →
Introducción
¿Qué pasa cuando los propios asistentes de inteligencia artificial que usamos a diario son cooptados para afinar estafas masivas? Un caso sin precedentes acaba de destapar una nueva dimensión del fraude digital.
El problema
Google presentó una demanda contra una red de ciberdelincuencia con base en China, acusándola de utilizar su asistente de inteligencia artificial Gemini para potenciar campañas de phishing por SMS (smishing) dirigidas a ciudadanos estadounidenses. Según reportó The Hacker News, el entramado operaba un kit de phishing como servicio (PhaaS) denominado "Outsider". La compañía afirma que la organización criminal "armó a Gemini" para refinar sus ataques, una acusación que sitúa a la IA generativa en el centro de una nueva generación de amenazas.
Consecuencias
Lo que está en juego no es solo un fraude bancario más. Si un asistente de IA puede ser explotado para redactar mensajes de texto engañosos con alta tasa de éxito, el costo humano y económico se multiplica: desde el robo de credenciales y cuentas financieras hasta la suplantación de identidad a gran escala. Además, se sienta un precedente legal y técnico que obliga a repensar cómo las empresas tecnológicas protegen sus modelos de lenguaje de un uso malintencionado.
Causas
El caso revela una causa raíz doble: por un lado, la creciente sofisticación de las redes de cibercrimen organizado que operan modelos de negocio como servicio (PhaaS), y por otro, la accesibilidad de las interfaces de IA generativa, que permiten a actores sin grandes recursos técnicos automatizar y personalizar el engaño. La sentencia de Google deja claro que la red malversó las capacidades de Gemini para generar contenido persuasivo, un vector de ataque que no requiere vulnerar sistemas, sino engañar personas.