Entrenar un modelo de IA propio con los datos de tu empresa
Cuando un modelo genérico no conoce tu negocio, o llamarlo miles de veces cuesta demasiado, la salida es tener uno propio. En Salto Ángel hacemos fine-tuning de modelos de lenguaje, destilamos LLM grandes en modelos pequeños y entrenamos clasificadores con tus datos, para que el modelo sea tuyo y corra donde tú decidas.
Qué problema resuelve un modelo propio
Los modelos de propósito general son buenos en casi todo y precisos en poco. Cuando tu operación tiene su propio vocabulario, sus categorías y sus reglas, un prompt cada vez más largo deja de alcanzar: las respuestas varían, el costo por llamada crece con el volumen y tus datos viajan a un proveedor externo en cada consulta.
Un modelo entrenado con tus ejemplos aprende cómo clasifica, redacta o decide tu equipo. Suele ser más pequeño, más rápido y más predecible en esa tarea concreta. Y como los pesos quedan contigo, puedes desplegarlo en tu nube o en tus servidores, como explicamos en IA privada on-premise.
Para quién tiene sentido entrenar un modelo
No todas las empresas necesitan entrenar un modelo. Tiene sentido cuando se cumplen algunas de estas condiciones. Por ejemplo, una empresa de cobranza podría entrenar un clasificador que lea cada respuesta de un deudor y la marque como promesa de pago, disputa o número equivocado, sin pagar una llamada a un LLM por mensaje. Es un ejemplo ilustrativo, no un caso de cliente.
- Repites la misma tarea de lenguaje miles de veces: clasificar solicitudes, etiquetar documentos, extraer campos o responder en un formato fijo.
- Tienes ejemplos históricos de cómo lo hace bien tu equipo, aunque estén en hojas de cálculo, correos o tickets.
- El costo por llamada a una API, la latencia o la dependencia de un solo proveedor ya son un problema.
- Tus datos no deberían salir de la empresa por política interna o por regulación.
Cómo trabajamos, paso a paso
Cada proyecto empieza pequeño y se mide antes de crecer:
- Definimos la tarea y la métrica: qué debe responder el modelo, qué error sale caro y contra qué lo vamos a comparar.
- Revisamos y preparamos los datos: limpiamos ejemplos, etiquetamos los casos dudosos y separamos un conjunto de prueba que el modelo nunca ve.
- Elegimos la técnica: fine-tuning de un LLM abierto, destilación de un modelo grande en uno pequeño o un clasificador clásico si con eso alcanza.
- Entrenamos y evaluamos contra la línea base —por ejemplo, el LLM con prompt que usas hoy— sobre tus propios casos.
- Desplegamos el modelo detrás de una API, lo conectamos con tus sistemas y dejamos un procedimiento de reentrenamiento.
Qué entregamos
No te quedas con un notebook, sino con algo que tu equipo puede operar:
- Los pesos del modelo entrenado, bajo tu control.
- El conjunto de evaluación y un reporte de resultados frente a la línea base.
- Una API o un servicio listo para desplegar en tu nube o en tus servidores.
- Documentación del proceso de datos y un procedimiento de reentrenamiento.
- Acompañamiento en la primera puesta en producción.
Tecnologías y técnicas
Trabajamos con modelos de pesos abiertos (open-weight) y con la técnica que mejor encaja en cada caso: fine-tuning completo o eficiente con LoRA y QLoRA, destilación de conocimiento desde un LLM grande, clasificadores calibrados y embeddings para búsqueda. El stack habitual incluye Python, PyTorch y el ecosistema de Hugging Face, con el modelo servido por API en contenedores.
Un ejemplo público es Falco, nuestro proyecto de código abierto: un LLM etiqueta tus textos una vez y Falco usa esas etiquetas para entrenar un clasificador pequeño y calibrado que responde en milisegundos, sin pagar por llamada. Es la misma idea que aplicamos en proyectos a la medida. Si el problema es de predicción sobre datos tabulares y no de lenguaje, lo abordamos con modelos de machine learning.
Lo que ya construimos
Preguntas frecuentes
¿Pueden entrenar un modelo con los datos de nuestra empresa?
Sí. Ese es el centro de este servicio. Partimos de tus ejemplos reales, acordamos qué datos se usan y dónde se procesan, y entrenamos un modelo para una tarea concreta. Los datos y los pesos resultantes quedan bajo tu control.
¿Qué diferencia hay entre hacer fine-tuning y usar un prompt?
Con un prompt, un modelo general recibe instrucciones en cada llamada. Con fine-tuning, el modelo aprende la tarea a partir de ejemplos y la ejecuta de forma más consistente, con entradas más cortas y, en muchos casos, con un modelo más pequeño y barato de operar.
¿Cuántos datos necesitamos?
Depende de la tarea. Para clasificar o extraer, muchas veces basta con empezar por los ejemplos que ya tienes y etiquetar los casos difíciles. Medimos con un conjunto de prueba antes de prometer un resultado; si los datos no alcanzan, te lo decimos.
¿Qué es la destilación de un modelo?
Es usar un modelo grande como profesor: etiqueta o genera ejemplos, y con ellos se entrena un modelo pequeño que imita su decisión en una tarea concreta. Falco, nuestro proyecto de código abierto, aplica esta técnica a la clasificación de texto.
¿Dónde corre el modelo entrenado?
Donde lo decidas: tu nube, una nube privada o tus propios servidores. Si los datos no pueden salir de la empresa, lo combinamos con nuestro servicio de IA privada on-premise.
Servicios relacionados
IA privada
LLM privados y modelos open-weight desplegados en tu nube privada, tus servidores o el edge, sin compartir tus datos.
Ver servicioMachine learning
Modelos predictivos y redes neuronales entrenados con tus datos históricos para una decisión concreta.
Ver servicioDatos y sistemas
LLM, agentes y automatizaciones conectados a tu CRM, tu ERP, tus bases de datos y tus documentos.
Ver servicio¿Hablamos de tu caso?
Cuéntanos el proceso o los datos con los que quieres trabajar. Te respondemos con un primer camino concreto.
