Inicio / Servicios / IA autoalojada

IA autoalojada y APIs privadas

Modelos de lenguaje abiertos ejecutándose en tu servidor o en una GPU dedicada, con una API privada para tus aplicaciones. Tus datos no salen de tu infraestructura, y el coste deja de crecer con cada llamada.

Cuándo tiene sentido

Tres razones para no llamar a una API ajena

Los datos. Es la razón principal. Si trabajas con historia clínica, documentación interna de un despacho, expedientes de personal o cualquier información que no puedes justificar enviando a un tercero, autoalojar elimina el problema de raíz en vez de gestionarlo con un contrato.

El coste. Con la API pagas por uso, así que el éxito de tu producto encarece tu factura. Con infraestructura propia el coste es fijo: a partir de cierto volumen, cada usuario nuevo sale prácticamente gratis.

El control. Nadie deprecia tu modelo, ni cambia su comportamiento de un día para otro, ni te sube el precio, ni te aplica límites de uso en el peor momento. La versión que validaste sigue ahí mañana.

Y cuándo no: si tu volumen es bajo y los datos no son sensibles, la API es más barata y más simple. Lo digo antes de que compres nada. Autoalojar por moda es tirar dinero y añadir una cosa más que mantener.
Qué incluye

De la decisión al servicio funcionando

  • Dimensionado honesto. Qué modelo, qué GPU y qué coste real, con el punto de equilibrio frente a pagar por API calculado con tus números.
  • Elección de modelo. Según idioma, tipo de tarea y licencia, que conviene mirar con lupa: no todo lo que se llama abierto permite uso comercial sin condiciones.
  • Despliegue. Servidor de inferencia, cuantización cuando compensa, arranque automático, aislamiento del servicio y copias de seguridad.
  • API privada. Un punto de entrada limpio para tus aplicaciones, con autenticación, límites de uso y registro de actividad.
  • Guardarraíles. Límites de alcance, control de lo que entra y sale, y cuidado explícito con lo que acaba escrito en los registros.
  • Monitorización y plan de actualización. Saber si el servicio está vivo, cuánto tarda y cuándo toca cambiar de modelo sin romper lo que ya funciona.
Experiencia

Lo hago en mi propia infraestructura desde 2024

La plataforma clínica que cofundé y opero funciona con un modelo abierto autoalojado en GPU propia. No es una prueba de concepto: la usan profesionales sanitarios y los datos clínicos no salen de infraestructura controlada.

  • Modelo abierto en producción con 36 instituciones usando la plataforma.
  • Ningún dato clínico viaja a APIs de terceros, que es exactamente lo que hace viable el proyecto en su marco normativo.
  • Experiencia real con lo aburrido y decisivo: arranque automático tras un corte de luz, vigilancia del disco y los registros, actualizaciones sin romper el comportamiento validado.
Preguntas

Preguntas frecuentes

¿Qué GPU necesito?

Depende del modelo y de cuánta gente lo use a la vez, no del tamaño de tu empresa. Para un asistente interno con un modelo mediano cuantizado, una sola GPU profesional de 24 a 48 GB suele dar servicio a decenas de usuarios simultáneos. El dimensionado se hace midiendo tu caso, no copiando una tabla de internet.

¿Sale más barato que la API?

A partir de cierto volumen sí, porque el coste deja de crecer con el uso. Por debajo, la API gana. Calculamos el punto de equilibrio con tus números antes de que compres nada, y a veces la conclusión es que no te compensa.

¿Puedo usarlo sin comprar hardware?

Sí. Una GPU alquilada en un proveedor europeo te da el mismo aislamiento de datos sin inversión inicial, y es la forma sensata de empezar. Si el volumen crece, entonces se valora comprar.

¿Quién lo mantiene?

Se entrega documentado y monitorizado para que lo lleve tu equipo. Si prefieres que lo lleve yo, se acuerda un mantenimiento mensual con actualizaciones y respuesta ante incidencias.

¿Esto me hace cumplir el GDPR?

Elimina la transferencia a un tercero, que suele ser lo más difícil de justificar, pero no es un sello automático. Siguen haciendo falta base legal, control de accesos, minimización, conservación y cuidado con los registros. Simplifica mucho el análisis, eso sí.

¿Tus datos no pueden salir de casa?

Cuéntame qué quieres resolver y con qué información. Te digo si autoalojar te compensa, qué haría falta y cuánto costaría de verdad.