Basado en información de The Hacker News →
Introducción
Los modelos de lenguaje están generando direcciones web que no existen, y los ciberdelincuentes ya descubrieron cómo aprovecharse de ese error para tender trampas de phishing. Este nuevo vector, bautizado como "phantom squatting", convierte un fallo técnico en una puerta de entrada para malware y robo de credenciales.
El problema
Según una investigación de Palo Alto Networks (Unidad 42), reportada por The Hacker News, los grandes modelos de lenguaje (LLMs) están alucinando URLs que en realidad no pertenecen a nadie. Los atacantes han comenzado a registrar esos dominios inexistentes antes que cualquier otra persona, y luego montan páginas de phishing listas para capturar el tráfico que las herramientas de IA redirigen hacia ellos. La técnica ya se ha detectado en entornos productivos, no es una amenaza teórica.
Consecuencias
Cualquier usuario que confíe en un enlace generado por una IA —ya sea un asistente, un chatbot o una herramienta de productividad— puede terminar en un sitio controlado por un atacante sin saberlo. Las consecuencias van desde el robo de credenciales hasta la descarga de malware, pasando por la exfiltración de datos sensibles. Para las empresas, el riesgo es doble: pierden la confianza en sus propias herramientas de IA y exponen a sus equipos a ataques que parecen legítimos.
Causas
La raíz del problema está en cómo los modelos de lenguaje generan texto: no verifican si un dominio existe realmente, solo predicen la siguiente palabra más probable. Cuando un LLM "inventa" una URL, el nombre del dominio puede sonar plausible pero no estar registrado. Los atacantes, al monitorear patrones de alucinación comunes, pueden anticipar qué dominios ficticios aparecerán y registrarlos antes. Es un clásico caso de "squatting" (ocupación de nombres de dominio) pero con combustible generado por IA.