Despliegue de IA on-premise

Instalación completa de la plataforma de IA en su sala técnica o su nube privada: dimensionado, bastionado, modelos, RAG sobre su documentación, integración con su directorio y verificación ofensiva antes de entregar.

Las seis fases

1
Dimensionado definitivo
Con los datos de la prueba de concepto: modelo elegido, usuarios concurrentes reales y tiempo de respuesta aceptable. De ahí sale el hardware, no al revés.
2
Instalación bastionada
Sistema base endurecido, superficie mínima, segmentación de red, cifrado en reposo y en tránsito, y gestión de secretos. La plataforma se trata como lo que es: un activo crítico con acceso a documentación sensible.
3
Modelos y motor de inferencia
Despliegue de los modelos seleccionados con la configuración de servicio adecuada a su patrón de uso. Versiones fijadas y reproducibles.
4
RAG sobre su documentación
Ingesta, troceado, indexación y ajuste de la recuperación. Es la fase que más determina la calidad percibida y la que más trabajo lleva.
5
Identidad y trazabilidad
Integración con su directorio, permisos por grupo y por corpus, y registro de consultas y respuestas para poder demostrar gobernanza.
6
Verificación de seguridad
Antes de dar por entregado: pruebas de inyección de prompt, de exfiltración vía RAG y de exposición de la plataforma. Si algo cede, se corrige y se vuelve a probar.

Órdenes de magnitud del dimensionado

Sin precios, porque el hardware se mueve demasiado rápido para publicarlos con honestidad. Sí con criterios, que son lo que no cambia.
Equipo pequeño
Caso acotado, pocos usuarios
Un modelo mediano sirviendo a un grupo reducido con uso intermitente. Se resuelve con una sola tarjeta profesional y un servidor convencional.
Departamento
Decenas de usuarios a la vez
Aquí manda el ancho de banda de memoria y la capacidad de procesar peticiones en lote. Es el escalón donde más despliegues se quedan cortos por haber comprado mirando solo la memoria total.
Organización
Uso transversal y crítico
Varios nodos, balanceo, alta disponibilidad y separación de entornos. Deja de ser un servidor y pasa a ser un servicio con su propio plan de continuidad.
El error de compra más frecuente es elegir por memoria total. Un equipo puede cargar un modelo enorme y servirlo a una velocidad inservible para varias personas a la vez. La concurrencia real es el criterio, y por eso el dimensionado va después de la prueba de concepto y no antes.

Qué se entrega documentado

Arquitectura desplegada, con diagrama de red y decisiones justificadas.
Procedimiento de actualización de modelos y de reindexado del corpus.
Matriz de permisos: qué grupo accede a qué documentación.
Informe de la verificación de seguridad, con lo encontrado y lo corregido.
Guía de uso para las personas que lo van a utilizar, en su idioma y sin jerga.
Plan de continuidad y copias, incluido qué hacer si el equipo cae.

Y después

Un despliegue sin operación se degrada. Los modelos mejoran, la documentación cambia y las respuestas envejecen. Puede operarlo su equipo con la documentación que entregamos, o hacerlo nosotros con los mismos paquetes de horas que ya usamos en consultoría continuada.

Preguntas frecuentes

¿Cuánto tarda un despliegue?
Depende sobre todo del estado de la documentación y de la integración con identidad. Un caso acotado con corpus preparado se cierra en semanas; un despliegue transversal con varias fuentes documentales y permisos finos es un proyecto de meses. Lo acotamos tras la prueba de concepto.
¿Puede ir en nuestra nube privada en lugar de en local?
Sí, siempre que el control siga siendo suyo y el dato no salga del ámbito que su cumplimiento admite. Lo que descartamos es el modelo como servicio de un tercero, porque ahí se pierde justamente lo que se venía a ganar.
¿Se integra con nuestras herramientas?
Habitualmente sí, a través de la interfaz web propia y de conectores hacia las fuentes documentales que ya tenga. Lo concretamos en el dimensionado, porque cada integración añade superficie de ataque y hay que valorarla.
¿Quién se queda con el conocimiento del sistema?
Usted. La documentación de entrega está pensada para que su equipo pueda operarlo sin nosotros. Si prefiere que lo operemos, será por conveniencia, no porque le hayamos dejado sin alternativa.
Hablemos de su caso concreto
Media hora para revisar qué quiere resolver, con cuánta gente y sobre qué documentación. De ahí sale si el camino corto es una prueba de concepto o directamente un despliegue.

Reserve 30 min con un ingeniero

Teléfono: 686 250 244  ·  Correo: info@jaymonsecurity.com
English