Servicios de seguridad en IA/ML
La IA está integrada en los productos, los flujos de trabajo y los dispositivos en los que opera su negocio. Evaluamos cómo un atacante manipularía sus modelos, corrompería los datos subyacentes y abusaría de los sistemas que actúan sobre su salida. Realizamos pruebas como un atacante e informes como un ingeniero.
Los atacantes no necesitan acceso de shell para causar daños. Un prompt injection puede convertir un chatbot en un canal de exfiltración. Los datos envenenados pueden dirigir las decisiones de un modelo sin activar ninguna alarma. La generación aumentada por recuperación (RAG) y la llamada de herramientas, ya sea mediante llamada de funciones, complementos o servidores del Protocolo de Contexto de Modelo (MCP), convierten una solicitud en llamadas contra archivos, API y sistemas de producción.
IOActive prueba el sistema de IA completo: el modelo, los datos subyacentes, las aplicaciones y dispositivos que lo invocan y la infraestructura que aloja sus pesos. Cada servicio finaliza de la misma manera: hallazgos demostrados con evidencia reproducible, correcciones asignadas a un responsable identificado y una reevaluación una vez aplicadas las soluciones.
Los siguientes servicios siguen el ciclo de vida de un sistema de IA. Comience donde desee.
Hable con un consultor de seguridad en IA
Antes de construir: fundamentos
Las decisiones que se toman aquí determinan los ataques que un sistema deberá resistir.
Evaluación del programa de seguridad de IA y gobernanza
¿Su organización sabe qué IA ejecuta, quién es su propietario y qué ocurre cuando se comporta de forma incorrecta? Realizamos un inventario de la IA en uso y evaluamos las políticas y controles asociados, desde el uso aceptable y la clasificación del riesgo del modelo hasta la evaluación de proveedores y la respuesta a incidentes. Los hallazgos se organizan conforme al NIST AI Risk Management Framework y su Generative AI Profile, y todo lo que afecte a la normativa, incluida la Ley de IA de la UE, se marca para su revisión legal con el contexto técnico adjunto.
Modelado de amenazas para sistemas de IA
¿Dónde puede ser atacado este sistema y qué obtendría el atacante? Rastreamos las rutas que un atacante seguiría a través de sus modelos, prompts, agentes, plugins y proveedores, y vinculamos cada una con el impacto empresarial. Las exposiciones se alinean con MITRE ATLAS, de modo que las guardrails y las detecciones posteriores son tareas de ingeniería concretas.
Revisión del ciclo de vida del desarrollo de IA
¿Cómo se crean, prueban y admiten en producción los modelos, los datos, los prompts y las herramientas, y dónde es susceptible de abuso ese proceso? Lo revisamos de extremo a extremo y le facilitamos guardarailes prácticos para la recopilación de datos, el etiquetado y el CI/CD que se adaptan a cómo trabajan sus equipos.
Mientras construye: código y hallazgos
La IA cambia tanto la forma de escribir código como lo que se entrega. En La brecha de seguridad en el código generado por IA (abril de 2026), IOActive sometió 730 prompts de programación del mundo real a 27 modelos de IA y herramientas de codificación. Casi un tercio de las muestras generadas (31,6%) eran totalmente explotables, y ningún modelo acertó en todos los casos.
Revisión de código seguro con IA
¿Es el código que envuelve al modelo tan seguro como el propio modelo? Revisamos cómo su aplicación se comunica con el LLM: construcción de prompts, manejo de salidas, autenticación y autorización, acceso a RAG y bases de datos vectoriales, integraciones de herramientas, orquestación de agentes, secretos y registros. Si IOActive ya revisa su código, esto amplía el engagement que realiza actualmente.
Codificación segura con IA: implementación y formación
¿Cómo mantiene la productividad del desarrollo asistido por IA sin heredar sus defectos? Le ayudamos a decidir dónde se sitúa el humano respecto al bucle del código escrito y revisado por IA (dentro, sobre o por encima de él), a establecer las políticas y herramientas necesarias y a formar a sus ingenieros en los patrones de fallo que observamos en proyectos reales y en nuestra propia investigación sobre el gobierno de los asistentes de codificación con IA.
Triaje y verificación de hallazgos generados por IA
Sus escáneres y agentes de IA informan de miles de vulnerabilidades. ¿Cuáles son reales? Nosotros las verificamos: demostramos la explotabilidad, eliminamos duplicados y falsos positivos, y recalificamos la severidad. Usted recibe un backlog breve en el que sus ingenieros pueden actuar. Si opera una plataforma automatizada de seguridad con IA, así es también como verificamos lo que le informa.
Antes de lanzar: pruebas adversarias
Cinco intervenciones, cada una dirigida a una parte del sistema. Elija la más cercana a su riesgo; la mayoría de los programas añaden las demás a medida que el sistema gana autonomía.
Evaluación de modelos de IA
¿Podemos confiar en que este modelo se comporte de forma segura en las situaciones que importan a nuestro negocio? Probamos el comportamiento del modelo, no su infraestructura: salida insegura o sesgada, alucinación, fuga de datos sensibles, seguimiento de instrucciones y rechazos, y cómo se comporta fuera de su uso previsto. Luego pasamos a la ofensiva: instrucciones ofuscadas y codificadas, idiomas inesperados, ataques de contexto largo y multi-turno, y documentos o imágenes que contienen instrucciones propias. Los sistemas de visión, voz y toma de decisiones reciben el mismo tratamiento. Entregable: un informe de evaluación de seguridad de IA, una tarjeta de puntuación de riesgos y una hoja de ruta de remediación.
Evaluación de seguridad de aplicaciones de IA
¿Puede un atacante utilizar la función de IA para acceder a datos o acciones no autorizados? La ruta desde el usuario hasta los sistemas empresariales atraviesa la aplicación, el prompt, el modelo, RAG, una base de datos vectorial y las herramientas y APIs que el modelo puede llamar, independientemente de la integración. Se prueba cada salto, incluida la segregación de datos entre inquilinos, los permisos de herramientas y las integraciones de IA de terceros, así como las vulnerabilidades clásicas de web, móvil y API que las funciones de IA amplifican. La IA en dispositivos y objetivos embebidos está dentro del alcance.
Evaluación de seguridad de agentes de IA
Un agente puede actuar, no solo responder. ¿Qué ocurre si se le convence de hacer algo que no debería? Lo intentamos: leer un archivo confidencial, enviar un correo electrónico, modificar un registro o una configuración, ejecutar código, realizar una compra, crear otro agente, escalar sus propios privilegios. Cada acción que el agente puede realizar y cada herramienta a la que puede acceder son casos de prueba, incluida la manipulación por parte de otro agente o una respuesta de herramienta envenenada. Por cada éxito, mostramos qué control falló y recomendamos la corrección en ese punto.
Evaluación de datos y privacidad en IA
¿Puede un atacante alterar lo que el modelo aprende o recupera, y forzar al modelo a exponer información que nunca debería revelar? En la entrada, examinamos todos los puntos de acceso de datos: conjuntos de entrenamiento y fine-tuning, documentos RAG, embeddings y bases de datos vectoriales, conjuntos de datos de terceros y la cadena de suministro del modelo, buscando oportunidades de poisoning y brechas en la procedencia. En la salida, probamos la fuga accidental y la extracción adversarial de datos personales, registros de clientes, código fuente, credenciales, documentos internos y prompts confidenciales, incluida la posibilidad de que un atacante determine si un registro fue utilizado en el entrenamiento.
IA red teaming
En lugar de atacar una red, el equipo ataca la IA y todo lo que esta puede alcanzar. Una campaña orientada a objetivos cubre prompt injection, jailbreaking, extracción del system-prompt, agencia excesiva, abuso de herramientas, exfiltración de datos y manipulación de agente a agente. Sus guardrails forman parte del objetivo: documentamos cada control (filtros, moderación, flujos de aprobación, límites de tasa, permisos) y luego intentamos superarlo, y cada bypass incluye los pasos para reproducirlo. Las pruebas de intrusión dirigidas a IA y las simulaciones de ataques agénticos se ejecutan bajo las mismas reglas de enfrentamiento que nuestros servicios red y purple team.
Tras el envío: operación y retest
Los modelos, prompts, herramientas y fuentes de recuperación cambian semanalmente. Una vulnerabilidad corregida en marzo puede reaparecer en abril debido a una actualización del modelo que nadie probó.
Evaluación de infraestructura de IA y custodia de modelos
¿Cómo se almacenan, firman, mueven y despliegan los pesos de su modelo, y quién puede acceder a ellos? Evaluamos la integridad del despliegue, los límites de acceso alrededor de los pesos, los límites de recursos y los controles de denegación de servicio, la observabilidad ante usos anómalos y el aislamiento entre proyectos y inquilinos, e identificamos las brechas que habilitan el robo, la manipulación del modelo o el movimiento lateral.
Banco de pruebas de retest y regresión
Cada servicio incluye scripts de reproducción, registros estructurados y criterios explícitos de éxito o fallo, de modo que su equipo pueda reproducir cada hallazgo y probar la corrección. Una vez aplicada la corrección, ejecutamos de nuevo la misma herramienta de prueba para medir el cambio en el éxito del ataque.
Evaluación continua de IA
Para sistemas que cambian más rápido de lo que una prueba anual puede seguir, volvemos a ejecutar el harness en una cadencia acordada y tras cambios materiales (una nueva versión del modelo, una nueva herramienta, una nueva fuente de datos), dentro y fuera de su perímetro, e informamos sobre lo que ha cambiado. AIUC-1, el estándar de certificación para agentes de IA, exige pruebas de terceros expertos sobre robustez adversarial y llamadas a herramientas al menos cada tres meses; una cadencia trimestral genera aquí esa evidencia para su auditor. Evaluamos y entregamos; su equipo opera los controles en el intervalo.
Cómo trabajamos
Demostramos la explotabilidad en lugar de enumerar posibilidades, verificamos los resultados en distintas seeds y configuraciones de decodificación para separar los fallos persistentes del ruido, y documentamos cada vulnerabilidad con las entradas y los pasos de reproducción. Los hallazgos se mapean al OWASP Top 10 para Aplicaciones LLM, al OWASP Machine Learning Security Top Ten, MITRE ATLAS, al NIST AI Risk Management Framework y, para agentes de IA, a los requisitos AIUC-1, y se marcan para revisión legal cuando afectan a políticas o regulaciones. Tras las correcciones, repetimos las pruebas, por lo que el resultado es un cambio medido en el éxito del ataque, no una afirmación.
Respaldado por investigación
Las personas que dirigen estas evaluaciones publican sus hallazgos. En 2026, IOActive publicó La brecha de seguridad en el código generado por IA, el estudio detrás de las cifras anteriores; presentó Husn Canaries, su investigación sobre la gobernanza del uso del código fuente por parte de los asistentes de programación con IA, en la CSA AI Summit 2026; y contribuyó a Cybersecurity AI: Hacking Consumer Robots in the AI Era, publicado junto con Alias Robotics en marzo de 2026. En CanSecWest 2025, un consultor de IOActive mostró cómo se utilizaron clones de voz generados por IA en una prueba de intrusión real red team. Esta investigación es el origen de nuestros casos de prueba.
Preguntas frecuentes
¿Qué diferencia hay entre una evaluación de un modelo, una aplicación y un agente?
Una evaluación de modelos analiza el comportamiento del modelo. Una evaluación de aplicaciones examina todo lo que lo rodea: prompts, recuperación, herramientas, APIs y permisos. Una evaluación de agentes analiza lo que el sistema puede hacer, cada acción y cada permiso subyacente. Elija según la parte del sistema de la que sea responsable.
¿Necesita nuestros pesos del modelo o el código fuente?
Depende del alcance. Las pruebas de interfaz se ejecutan contra los puntos finales que un atacante vería. La revisión de código requiere acceso al código fuente. El análisis de memorización y custodia requiere acceso a los modelos o pesos. Acordamos el nivel de acceso antes de comenzar, y el informe indica qué permitió y qué no permitió probar cada nivel.
¿A qué marcos de referencia mapea los hallazgos?
El OWASP Top 10 para aplicaciones de LLM, el OWASP Machine Learning Security Top Ten, MITRE ATLAS, el NIST AI Risk Management Framework con su Generative AI Profile y, para agentes de IA, AIUC-1.
¿Esto nos hará cumplir con el EU AI Act, ISO/IEC 42001 o AIUC-1?
Ninguna evaluación puede hacerlo, y nosotros no emitimos certificados. Entregamos la evidencia técnica que esos programas necesitan: controles probados en lugar de certificados, y señalamos los hallazgos que afectan a la Ley de IA de la UE para su revisión legal. Los hallazgos de gobernanza pueden organizarse según las cláusulas de la ISO/IEC 42001 con las que esté trabajando. Para AIUC-1, el estándar de certificación para agentes de IA, nuestras evaluaciones de modelos, agentes y red team generan la evidencia de pruebas de terceros que requieren sus secciones de seguridad, seguridad y fiabilidad, con la periodicidad trimestral que especifican, para que su auditor acreditado la revise.
¿Qué se obtiene al final?
Un informe en el que cada hallazgo está demostrado y priorizado; los scripts de reproducción y los registros que lo reproducen; las correcciones asignadas a la capa del modelo, del pipeline o de la aplicación; y una nueva prueba una vez que las haya corregido. Las evaluaciones de modelos incluyen una tarjeta de puntuación de riesgos y una hoja de ruta de remediación.
¿Pueden evaluar un producto de IA de terceros o SaaS que utilizamos?
Sí, dentro de los términos que permita su proveedor. Probamos el producto tal como está desplegado para usted: sus datos, sus integraciones, sus permisos y los flujos de trabajo a los que puede acceder. Cuando los términos del proveedor restringen las pruebas, evaluamos su lado del límite y los controles de los que usted es responsable.
¿Realizan pruebas en producción?
Solo bajo reglas de enfrentamiento acordadas previamente. Los ataques que podrían desencadenar acciones reales se ejecutan en entornos similares a producción o con las acciones simuladas, y se informa antes de cada prueba qué podría ocurrir si tiene éxito.
¿En lugar de una prueba de intrusión o además de una?
Asimismo, las funciones de IA amplifican las vulnerabilidades clásicas en web, móvil y API, y una evaluación de IA informa sobre las detectadas, pero una evaluación de pila completa del sistema circundante sigue siendo la base. Si ya realiza pruebas de intrusión con IOActive, las evaluaciones de IA se integran en el mismo programa y en los mismos informes.
¿Cómo se dimensiona un proyecto?
Una evaluación centrada en un modelo, aplicación o agente es un compromiso acotado; el trabajo de programa y gobernanza se delimita según su inventario de IA. En la llamada de delimitación, indique qué hace el sistema, qué acciones puede realizar, a qué datos puede acceder, cómo está desplegado y qué acceso puede otorgarnos. Le devolveremos un alcance y un calendario fijos.
Profundice