La empresa de Redmond ha publicado un informe que deja los pelos de punta cuando revela que países como Rusia, China, Irán y Corea del Norte han duplicado el uso de inteligencia artificial para lanzar ciberataques y propagar desinformación masiva. El documento, titulado "5 Amenazas de Seguridad en IA Generativa que Debes Conocer", forma parte del Digital Threats Report 2025 de Microsoft y advierte que los hackers ya usan inteligencia artificial para traducir emails de phishing a inglés perfecto, generar deepfakes de directivos y automatizar malware que se adapta en tiempo real para esquivar los antivirus.
Las cifras que maneja Microsoft son demoledoras cuando el 66 por ciento de las empresas está desarrollando aplicaciones personalizadas de IA generativa. El 88 por ciento confiesa estar preocupado por los ataques de inyección de prompts indirectos, esos en los que los hackers manipulan las instrucciones de la IA para que haga cosas que no debería. Y lo peor llega cuando el 80 por ciento de los CEOs empresariales reconoce que la fuga de datos sensibles a través de sistemas de IA es su mayor pesadilla.
El informe destaca los tres tipos de ataques que están dando más quebraderos de cabeza. Los ataques manipulan los datos de entrenamiento para que la IA dé respuestas erróneas o maliciosas. Los ataques de evasión usan técnicas de ofuscación o prompts trucados para colar contenido dañino sin que salten las alarmas. Y los ataques de inyección de prompts son los más retorcidos cuando los hackers engañan al sistema con instrucciones cuidadosamente diseñadas para que la IA haga exactamente lo contrario de lo que debería hacer.
Microsoft Defender for Cloud procesa más de 100 billones de señales diarias mientras las empresas se preparan para la guerra cibernética que viene de manos de la IA
Microsoft no se queda solo en el diagnóstico. La empresa ha respondido con Microsoft Defender for Cloud, una plataforma que unifica herramientas de seguridad y procesa más de 100 billones de señales diarias desde su sistema de inteligencia de amenazas. El sistema escanea repositorios de código en busca de vulnerabilidades, monitoriza imágenes de contenedores y mapea continuamente las rutas de ataque hacia activos sensibles. En tiempo real, Defender for Cloud detecta amenazas específicas de IA como ataques jailbreak, robo de credenciales y fugas de datos.
Empresas como Icertis ya han adoptado estas medidas de protección. Subodh Patil, arquitecto principal de ciberseguridad de Icertis, lo resume sin rodeos cuando afirma que "Microsoft Defender for Cloud se convirtió en nuestra primera línea de defensa contra amenazas relacionadas con IA, evaluando la seguridad de nuestros despliegues y alertándonos de posibles amenazas". La pelea por la inteligencia artificial ya no se libra solo en algoritmos sino en quién logra proteger mejor los sistemas que alimentarán los modelos del futuro mientras los hackers estatales afilan sus armas digitales.