Cómo añadir búsqueda con IA a un SaaS sin mostrar datos de otros usuarios

Un usuario pregunta a tu SaaS: «¿Qué cambió en el proyecto de este trimestre?». La búsqueda encuentra una respuesta excelente, pero la redactó otro cliente. Si el sistema la muestra, aunque sea en una frase generada, el problema no es la calidad de la búsqueda: es una fuga de información.

La búsqueda con IA en SaaS permite consultar documentos y registros con lenguaje natural, pero añade una ruta nueva por la que pueden circular datos. Para implementarla bien hay que tratar los permisos como parte de la recuperación, no como un filtro visual aplicado al final.

Define qué se puede buscar y quién puede verlo

Antes de elegir un modelo o una base vectorial, dibuja el recorrido de una consulta: usuario autenticado, cuenta o espacio de trabajo activo, fuentes consultadas, resultados recuperados y respuesta presentada. Identifica también qué objetos son privados, compartidos dentro de un equipo o visibles solo para determinados roles.

Conviene empezar con una fuente y una tarea concretas. Por ejemplo, permitir que un miembro de un espacio de trabajo busque decisiones en los documentos a los que ya tiene acceso. Es un alcance más verificable que prometer respuestas sobre «todo el conocimiento de la empresa» desde el primer día.

Escribe las reglas de acceso con el mismo detalle que en la aplicación: pertenencia a una cuenta, rol, propiedad del recurso y excepciones por documento. Si la búsqueda devuelve un fragmento de un archivo que la interfaz normal no dejaría abrir, hay una incoherencia que resolver antes del lanzamiento.

Diseña la recuperación alrededor de los permisos

Una arquitectura habitual prepara el contenido para buscarlo: extrae texto, lo divide en fragmentos y guarda referencias al documento original. Puede utilizar búsqueda por palabras clave, búsqueda semántica o una combinación. Ninguna de estas técnicas sustituye la autorización.

Cada fragmento necesita una referencia fiable a su recurso de origen y a los atributos necesarios para comprobar el acceso. Al recibir una pregunta, el servidor debe establecer la identidad y el contexto de cuenta a partir de la sesión, no de un identificador que el cliente pueda modificar libremente. Después, la recuperación debe limitar candidatos a los recursos permitidos; cuando el motor no pueda expresar todas las reglas, verifica cada candidato contra el sistema de permisos antes de enviarlo al modelo o mostrarlo.

La separación por cuenta ayuda, pero no basta si dentro de ella existen carpetas, equipos o documentos restringidos. Tampoco basta filtrar después de generar una respuesta: el modelo ya habría recibido contenido no autorizado. El orden importa: autorizar, recuperar contexto permitido y solo entonces redactar.

Piensa además en el ciclo de vida del contenido. Los índices pueden quedar desactualizados tras una baja de usuario, un cambio de rol, una eliminación o la retirada de un permiso compartido. Define cómo se propagan esos cambios y qué comprobación se hace en el momento de la consulta. Un índice actualizado mejora la pertinencia; una verificación de permisos vigente protege el acceso cuando la actualización todavía no ha llegado.

Limita lo que entra y sale del modelo

Si añades una respuesta generada, pásale únicamente fragmentos autorizados y pide que se apoye en ese contexto. Muestra referencias que el usuario pueda abrir con sus permisos actuales; una cita sin acceso verificable no aporta confianza. Distingue entre el texto recuperado, que puede contener instrucciones escritas por usuarios, y las instrucciones de la aplicación. Un documento no debe poder ordenar al asistente que ignore las reglas o que consulte otra cuenta.

Revisa también las rutas menos visibles de exposición: cachés compartidas sin clave de cuenta y usuario, historiales de conversación reutilizados, sugerencias automáticas, resúmenes precalculados y registros que guardan preguntas o fragmentos sensibles. La política de acceso debe seguir siendo coherente en todas esas superficies, no solo en la página principal de resultados.

Una búsqueda con respuesta redactada no es, por sí sola, un agente autónomo. Recupera información y ayuda a interpretarla; no necesita permiso para modificar registros, exportar archivos ni ejecutar acciones. Si en el futuro incorporas esas capacidades, cada acción requerirá autorización propia, límites claros y, cuando corresponda, confirmación humana. Mantener la primera versión como búsqueda de solo lectura simplifica el control del riesgo.

Prueba las fronteras, no solo las buenas respuestas

Un prototipo suele probarse con preguntas cuya respuesta existe. Para evaluar seguridad hacen falta también usuarios y documentos de varias cuentas, distintos roles dentro de una misma cuenta y permisos que cambian mientras el índice conserva contenido antiguo. Comprueba tanto la lista de resultados como la respuesta generada, las referencias y los fragmentos que aparecen en pantalla.

Incluye consultas que mezclen términos de documentos permitidos y prohibidos, intentos de pedir explícitamente datos de otra cuenta y documentos que contengan instrucciones engañosas. Verifica que un resultado cacheado no sobreviva a la pérdida de acceso. Estas pruebas deberían repetirse cuando cambien el esquema de permisos, el proceso de indexación o la lógica de recuperación.

Cuando no haya resultados autorizados, la respuesta correcta no es improvisar. El producto puede indicar que no encontró información accesible para esa pregunta y ofrecer reformularla o buscar en otra sección permitida. Evita confirmar la existencia de un documento inaccesible: «No tienes permiso para ver el informe X» ya revela algo que quizá el usuario no debía saber.

Lanza con una medida de éxito verificable

Empieza por un conjunto acotado de contenidos y usuarios internos. Mide si encuentran información útil, si las referencias llevan al recurso correcto, cuántas consultas terminan sin resultados y qué errores de permisos detectan las pruebas. Revisa ejemplos de fallos antes de ampliar fuentes o activar respuestas generadas para más personas.

La decisión de producto no es solo qué modelo responde mejor. Es si cada respuesta puede rastrearse hasta contenido que ese usuario estaba autorizado a consultar en ese momento. Si quieres definir ese alcance y revisar los puntos de control antes de llevar la búsqueda a producción, habla con Cibercoding.