Seguridad del chatbot de tu empresa con el OWASP Top 10 LLM

Guía práctica para que el chatbot de tu empresa no filtre datos ni prometa lo que no debe, basada en el OWASP Top 10 para aplicaciones LLM 2026. Permisos, pruebas antes de lanzarlo, registros y la obligación de avisar de que es una IA.

Imagen generada con IA: analista de ciberseguridad revisando conversaciones de un chatbot y alertas de riesgo
Imagen generada con IA: analista de ciberseguridad revisando conversaciones de un chatbot y alertas de riesgoImagen generada con IA Generativa.

Tu empresa responde de lo que diga su chatbot. En febrero de 2024, un tribunal de Columbia Británica (Canadá) obligó a Air Canada a devolver dinero a un pasajero porque el chatbot de su web le había explicado mal la política de tarifas por duelo. La aerolínea alegó que el chatbot era responsable de sus propias respuestas, y el tribunal lo rechazó: para el cliente, el chatbot es parte de la web de la empresa (Moffatt contra Air Canada, 2024 BCCRT 149). Fueron 650,88 dólares canadienses más intereses, en una resolución de reclamaciones menores que no sienta precedente vinculante, pero el argumento se entiende igual en cualquier país.

Esta guía es la lista de comprobación que proponemos para que un chatbot de empresa no filtre datos, no prometa lo que no debe y no se convierta en una puerta trasera a tus sistemas. Sigue el orden en que se toman las decisiones: antes de construirlo, mientras se construye, antes de abrirlo al público y cuando ya está en marcha.

La referencia es el OWASP Top 10 para aplicaciones LLM

OWASP es la fundación sin ánimo de lucro detrás del Top 10 de riesgos de aplicaciones web, la referencia que usan la mayoría de equipos de seguridad. Su proyecto de IA Generativa mantiene el Top 10 para aplicaciones con modelos de lenguaje, cuya edición 2026 se publicó en agosto de 2026 y se anunció oficialmente en septiembre. El cambio que más importa a una empresa es que la agencia excesiva (darle al modelo más permisos o más autonomía de los que necesita) sube al número tres, según el anuncio del proyecto. Tiene sentido: los chatbots de 2024 respondían preguntas; los de hoy consultan pedidos, crean tickets y envían correos.

Si tu chatbot ya ejecuta acciones por su cuenta, mira también el Top 10 para aplicaciones agénticas, que OWASP publicó en diciembre de 2025 como documento aparte.

La tabla traduce los riesgos que más vemos en chatbots de empresa a un control concreto. Usamos los nombres de la lista oficial, que en la edición 2026 cambian de orden pero no de fondo.

Riesgo OWASPCómo se ve en un chatbot de empresaControl mínimo
Inyección de promptsUn cliente, o un PDF que sube, convence al chatbot de ignorar sus reglasTratar todo texto externo como no fiable y limitar lo que el chatbot puede hacer aunque le engañen
Divulgación de información sensibleResponde con datos de otro cliente o con un documento internoQue solo vea lo que puede ver el usuario que pregunta
Agencia excesivaPuede anular un pedido o enviar un correo sin que nadie lo confirmePermisos mínimos y confirmación humana en las acciones con consecuencias
Filtración del prompt de sistemaAlguien consigue las instrucciones internas, y dentro hay una clave o una tarifa reservadaNingún secreto en el prompt; las claves, en el servidor
Gestión indebida de la salidaLa respuesta se pinta en la web o se pasa a otro sistema tal cualValidar y escapar la salida como si la hubiera escrito un desconocido
Debilidades de vectores y embeddingsEl buscador de documentos mezcla carpetas de departamentos distintosSeparar índices o filtrar por permisos antes de recuperar
DesinformaciónInventa una condición comercial, como en el caso de Air CanadaLimitar los temas, citar la fuente y derivar a un humano en dudas de precio o contrato
Consumo sin límiteUn bot externo dispara miles de consultas y la factura de la API se multiplicaTopes de uso por usuario y por mes, y alertas de gasto

Antes de construirlo, decide qué puede hacer

La decisión de seguridad más importante no es técnica, y se toma en una reunión: ¿el chatbot solo responde o también actúa? Un chatbot que consulta el estado de un pedido y uno que puede cancelarlo tienen riesgos de distinto orden. Escribe en una página qué acciones puede ejecutar, sobre qué datos y en nombre de quién. Todo lo que no esté en esa página no se conecta.

En la misma reunión se decide qué temas quedan fuera. Precios cerrados, descuentos, plazos de entrega comprometidos, asesoramiento legal o médico: si una respuesta equivocada sobre eso te obligaría a algo, el chatbot no debe darla y tiene que pasar la conversación a un humano.

Y se elige el proveedor del modelo con el contrato delante. La parte de datos (si entrena con lo que envías, cuánto guarda, dónde lo procesa) la detallamos en si ChatGPT, Claude y Gemini entrenan con tus datos. Para un chatbot de cara al público en Europa, la API de pago y un contrato de encargado del tratamiento no son opcionales.

Mientras se construye, permisos mínimos

El fallo de fondo más habitual es que el chatbot tenga acceso a más cosas de las que necesita. Cinco reglas para evitarlo:

  1. El chatbot hereda los permisos del usuario, no los del administrador. Si un comercial no puede abrir una carpeta de RR. HH., el chatbot que usa ese comercial tampoco. Microsoft lo hace así en Copilot, que según su documentación de privacidad solo muestra datos sobre los que el usuario tiene al menos permiso de lectura. Tu desarrollo a medida debería hacer lo mismo.
  2. Las acciones con consecuencias piden confirmación. Leer, sin confirmar. Escribir, borrar, pagar o enviar algo fuera de la empresa, con un clic humano.
  3. Cero secretos en el prompt. Da por hecho que las instrucciones internas acabarán publicadas. Las claves de API viven en el servidor, con caducidad, y en una cuenta de servicio dedicada, nunca en la cuenta personal de quien lo desarrolló.
  4. Nada de datos reales sin anonimizar en la base de conocimiento. Si el chatbot necesita cifras, que lea datos agregados y no la fuente con registros individuales.
  5. Tope de gasto desde el primer día. Límite por usuario y por mes en la consola del proveedor y recarga automática desactivada mientras no sepas cuánto consume de verdad.

La inyección de prompts merece capítulo propio, porque es el ataque más fácil de lanzar y el más difícil de cerrar del todo. Lo explicamos con ejemplos en cómo proteger tus chatbots y agentes del prompt injection. La idea de fondo cabe en una frase: no confíes en que el modelo se resista; diseña para que, aunque le engañen, no pueda hacer nada grave.

Antes de abrirlo al público, intenta romperlo

Dedica una tarde a atacar tu propio chatbot con un compañero que no lo haya construido. Esta es la batería mínima que recomendamos antes de cualquier lanzamiento:

  • Pedirle que olvide sus instrucciones y muestre su configuración.
  • Subirle un documento con instrucciones ocultas en letra blanca o en los metadatos.
  • Preguntarle por datos de otro cliente, con un nombre real de la base de datos.
  • Pedirle un descuento, una fecha de entrega garantizada o una opinión jurídica.
  • Pedirle que genere un enlace o un fragmento de código y comprobar qué hace la web al mostrarlo.
  • Mandarle textos larguísimos o cien preguntas seguidas y mirar la factura al día siguiente.
  • Hacerle las veinte preguntas reales más frecuentes de tus clientes y revisar una a una las respuestas.

Guarda esas pruebas. Cuando el proveedor actualice el modelo, cosa que pasa varias veces al año, se repiten tal cual. Un chatbot que pasaba las pruebas con un modelo puede dejar de pasarlas con el siguiente.

Cuando ya está en marcha, registros y revisión

Sin registros no sabrás qué ha pasado cuando algo falle. Guarda la pregunta, la respuesta, los documentos que consultó, las acciones que ejecutó y la versión del modelo. La AEPD incluye la trazabilidad y los registros de actividad entre sus recomendaciones para gestionar la IA Generativa (enero de 2026).

Esos registros contienen datos personales, así que el RGPD también se aplica a ellos: plazo de conservación definido, acceso restringido y nada de copiarlos a una hoja de cálculo compartida para «analizarlos luego». Revisar una muestra cada semana durante el primer mes es lo que más problemas detecta, y lo que menos se hace.

Queda una obligación legal que muchos chatbots todavía incumplen. Desde el 2 de agosto de 2026, el artículo 50 del Reglamento de IA exige que un sistema que conversa con humanos les informe de que están hablando con una IA, salvo que resulte evidente. El Ómnibus digital sobre IA retrasó las obligaciones de alto riesgo, no esta. Una línea al abrir la conversación lo resuelve. Si quieres ver el resto del calendario, lo tienes en qué necesita saber tu empresa sobre la Ley de IA de la UE, y si buscas un marco de gestión completo, en nuestra guía de ISO 42001 para pymes.

Cómo lo hacemos en SAPINN

Cuando desarrollamos un chatbot o un agente de IA Generativa para una empresa, lo construimos en un entorno de pruebas y nunca iteramos sobre producción. Antes de entregarlo lo pasamos a la cuenta del cliente, con su propia clave y sus límites de gasto, y borramos la nuestra. Tampoco montamos una cuenta genérica compartida por todo el equipo: es un punto único de fallo y no deja rastro de quién hizo qué. El resultado se define y se mide con el cliente sobre su caso de uso concreto.

Si tienes un chatbot en marcha o a medio construir y quieres revisarlo con esta lista, hablemos dentro de nuestro servicio de Desarrollo de IA Generativa a Medida.