Entrenamiento: cómo aprende un modelo
Ya sabes que un modelo predice palabras. Pero ¿cómo aprendió a hacerlo? A ese proceso se le llama entrenamiento, y se parece mucho a cómo aprende un aprendiz de cocina: primero observa muchísimo, luego practica con un maestro que lo corrige.
Las etapas del entrenamiento
Primero aprende el idioma y el mundo; después aprende a ser un buen asistente.
Las tres etapas, con la analogía de la cocina
El aprendiz lee todos los recetarios del mundo. El modelo lee una enorme cantidad de textos públicos de internet, libros y documentos, y practica adivinar la palabra que sigue. Aquí aprende idioma, datos y estilos.
Ahora un chef le enseña cómo atender a los comensales. Al modelo le muestran miles de ejemplos de buenas conversaciones: pregunta y respuesta útil.
Los comensales califican los platillos. Personas evalúan respuestas del modelo y le indican cuál es mejor, más segura o más honesta.
Entrenar un modelo grande requiere miles de chips trabajando durante semanas o meses y puede costar cientos de millones de dólares. Por eso solo unas pocas empresas (OpenAI, Anthropic, Google, Meta y algunas otras) crean los modelos más potentes; el resto los usamos.
La fecha de corte
Como el entrenamiento se hace con información reunida hasta cierto día, cada modelo tiene una fecha de corte de conocimiento. Lo que pasó después, el modelo no lo aprendió. Por eso, si preguntas por el precio de la gasolina de esta semana o el resultado del partido de anoche, puede que no lo sepa o que invente.
Algunas herramientas compensan esto buscando en internet en el momento (ChatGPT, Gemini, Copilot y Claude tienen funciones de búsqueda). Cuando lo hacen, suelen mostrarte los enlaces de donde sacaron la información. Revisa esos enlaces.
¿Aprende de lo que yo le escribo?
El modelo no aprende en vivo durante tu plática. Sin embargo, algunas empresas pueden usar tus conversaciones para entrenar versiones futuras, salvo que lo desactives en la configuración. Lo veremos en el Módulo 5.
Conocer los límites de la herramienta que usas es parte de usarla bien.
¿Hasta qué fecha llega tu conocimiento? ¿Puedes buscar información actual en internet en esta conversación? Explícamelo en tres viñetas simples.
Te dirá aproximadamente hasta cuándo llega su entrenamiento y si tiene activada la búsqueda web.
Pregúntale por una noticia de esta semana. Si te responde, revisa si te da enlaces y ábrelos. Si no tiene búsqueda, observa si lo admite o si inventa.
- ›Entrenar es como formar a un aprendiz: leer mucho, practicar y recibir correcciones.
- ›Etapas: preentrenamiento, ajuste fino y retroalimentación humana.
- ›Cada modelo tiene una fecha de corte de conocimiento.
- ›Para datos recientes, usa funciones de búsqueda y revisa los enlaces.
