Durante años, la pregunta en los comités de tecnología fue cómo usar la inteligencia artificial para defendernos mejor. En 2025 la conversación cambió: ahora la propia IA generativa que adoptamos para ganar productividad abre una superficie de ataque que ningún firewall tradicional fue diseñado para cubrir. Un asistente conectado a sus documentos, un chatbot que atiende clientes o un copiloto que escribe código no son simples aplicaciones; son sistemas que interpretan lenguaje, y el lenguaje se puede manipular. Esa es la nueva frontera de la ciberseguridad, y conviene entenderla antes de que un incidente la explique por usted.
En corto: La IA generativa introduce riesgos que no existían en el software clásico: inyección de prompts, fuga de datos a través de modelos, deepfakes para fraude e ingeniería social, envenenamiento de datos y la proliferación de herramientas no autorizadas o shadow AI. Protegerse exige tratar a los modelos como un activo crítico, con gobierno, controles técnicos y un SOC preparado para amenazas que también usan IA.
La inyección de prompts es, posiblemente, el riesgo más característico de esta era. Ocurre cuando un atacante introduce instrucciones dentro del contenido que el modelo procesa, logrando que el sistema ignore sus reglas originales y ejecute las del atacante. No requiere romper cifrado ni explotar un desbordamiento de memoria: basta con texto bien construido.
La defensa no es un único producto, sino una arquitectura: separar claramente las instrucciones del sistema de los datos de entrada, limitar los permisos del modelo al mínimo necesario, validar y sanear todo contenido externo, y exigir confirmación humana antes de cualquier acción sensible. El principio de menor privilegio, viejo conocido de la ciberseguridad, vuelve a ser su mejor aliado.
Cada vez que un colaborador pega información confidencial en una herramienta de IA pública, esos datos salen del perímetro de la organización. El riesgo tiene varias caras y todas merecen atención.
La respuesta pasa por clasificar la información antes de exponerla a un modelo, usar instancias privadas o despliegues controlados para datos sensibles, aplicar enmascaramiento y respetar los permisos del usuario también dentro del flujo de IA. La regla práctica: el modelo no debe poder acceder a nada que el usuario final no pueda ver por sí mismo.
La IA generativa ha bajado drásticamente el costo de falsificar identidades. Un audio que clona la voz de un directivo, un video manipulado o un correo redactado en un español impecable y personalizado ya no son escenarios de laboratorio: son herramientas al alcance de cualquier atacante. El fraude del "CEO falso" que solicita una transferencia urgente se vuelve mucho más convincente cuando la voz suena auténtica.
La protección aquí es tan organizativa como tecnológica:
Ninguna tecnología sustituye al criterio humano entrenado, pero sí lo refuerza.
Si un atacante logra contaminar los datos con los que se entrena o se ajusta un modelo, puede introducir comportamientos maliciosos que permanecen latentes hasta activarse con un disparador específico. Lo mismo aplica a la cadena de suministro de IA: modelos preentrenados descargados de repositorios públicos, bibliotecas y conjuntos de datos de origen incierto.
Para reducir este riesgo conviene:
El fenómeno más silencioso es el shadow AI: equipos que adoptan herramientas de IA por su cuenta, sin que el área de seguridad lo sepa. La intención suele ser legítima (trabajar más rápido), pero el resultado es una pérdida de visibilidad sobre dónde están los datos y qué decisiones se delegan a sistemas no evaluados.
Prohibir rara vez funciona; empuja el uso a la clandestinidad. Es más eficaz ofrecer alternativas aprobadas y seguras, acompañadas de reglas claras. Esto nos lleva al gobierno de la IA.
Proteger aplicaciones de IA sin una política que lo encuadre es construir sobre arena. Un buen marco de gobierno define:
El gobierno no frena la innovación; la hace sostenible. Le permite decir "sí" a la IA con confianza, porque sabe dónde están los límites.
Los atacantes ya usan IA para acelerar el reconocimiento, generar variantes de malware y crear campañas de phishing más creíbles. El centro de operaciones de seguridad debe evolucionar al mismo ritmo. Esto implica ampliar la telemetría para incluir las interacciones con los sistemas de IA, definir casos de uso de detección específicos (intentos de inyección de prompts, accesos anómalos a modelos, exfiltración a servicios de IA externos) y ensayar la respuesta ante estos incidentes.
Un SOC moderno combina la automatización para escalar la detección con analistas que aportan el contexto que la máquina no tiene. Frente a amenazas que se mueven a velocidad de IA, la capacidad de detectar y responder rápido marca la diferencia entre un intento contenido y una brecha.
No existe una solución única que la elimine. Se gestiona en capas: limitar privilegios del modelo, separar instrucciones de datos, validar entradas y exigir confirmación humana en acciones sensibles. El objetivo es reducir el impacto, no confiar en una sola barrera.
Depende de los datos. Para información pública o de bajo riesgo pueden ser adecuadas; para datos sensibles conviene instancias privadas o despliegues controlados, junto a una política que defina qué se puede procesar y dónde.
Primero, gane visibilidad de qué herramientas se usan realmente. Luego ofrezca alternativas aprobadas y seguras, y acompáñelas con reglas claras y capacitación. Restringir sin ofrecer opciones suele empeorar el problema.
No uno distinto, sino uno ampliado. Su SOC debe incorporar la telemetría y los casos de uso propios de la IA dentro de su operación de detección y respuesta existente.
La era de la IA generativa no exige miedo, sino método. El primer paso es hacer visible su exposición: qué sistemas de IA usa su organización, qué datos tocan y qué controles los protegen. A partir de ese diagnóstico se construye todo lo demás. En SUMāTO acompañamos a las organizaciones de LATAM a adoptar IA con seguridad, desde el gobierno hasta la operación del SOC. Si quiere dar ese primer paso con claridad, conversemos.