
Cuando le preguntas algo a ChatGPT, a Gemini o a Claude, la respuesta parece venir de alguien que domina el tema. Del otro lado, sin embargo, hay un modelo de lenguaje: un programa entrenado para estimar, con mucha precisión, cuál es la siguiente palabra de un texto.
Esa idea sencilla, repetida miles de millones de veces, es la que le permite redactar un correo, resumir un contrato o explicarle física cuántica a un niño. También explica por qué se equivoca con tanta seguridad, y de ahí salen los cuidados para usarlo bien.
Un predictor de la siguiente palabra
Un modelo de lenguaje calcula la probabilidad de que una palabra (o un pedazo de palabra) aparezca después de un fragmento de texto. El curso de aprendizaje automático de Google usa el ejemplo “Cuando oigo la lluvia en mi techo, yo ___ en mi cocina”: el modelo asigna una probabilidad distinta a cada continuación posible, como “cocinar sopa” o “calentar la tetera”, y elige entre las más probables.
Los modelos detrás de los chatbots son los modelos de lenguaje de gran tamaño (LLM, por sus siglas en inglés). Lo “grande” tiene dos sentidos: se entrenan con cantidades enormes de texto y tienen muchísimos parámetros, los números internos que guardan lo que aprendieron. El mismo tipo de modelo también resume, traduce, clasifica y analiza texto. Cuando sale una versión nueva de un chatbot, como en nuestra cobertura de ChatGPT con GPT-6, lo que cambió es el modelo que hay debajo de la conversación.
Tokens: cómo lee el modelo
Las computadoras trabajan con números, no con letras, así que el texto se divide en tokens, fragmentos que pueden ser una palabra completa, parte de ella o un solo carácter. Cada token recibe un número, y el modelo calcula con esos números.
En inglés, según Google, un token equivale a unos 4 caracteres o tres cuartos de palabra, de modo que 400 tokens son aproximadamente 300 palabras. Wikipedia añade que algunos idiomas distintos del inglés necesitan notablemente más tokens para el mismo texto, una razón por la que los mensajes en español pueden agotar antes los límites de uso. Tómalo como orden de magnitud, no como cifra exacta.
Las tres etapas del entrenamiento
- Preentrenamiento: el modelo lee una cantidad gigantesca de texto (libros, sitios web, artículos, código) e intenta predecir lo que sigue. Cada fallo ajusta un poco los parámetros. Nadie programa reglas de gramática ni de datos; surgen de los patrones.
- Ajuste de instrucciones: se entrena con ejemplos de peticiones y buenas respuestas, para que aprenda a seguir órdenes en lugar de solo continuar el texto.
- Aprendizaje por retroalimentación humana (RLHF): personas evalúan respuestas, un segundo modelo aprende esas preferencias y el modelo principal se ajusta hacia las respuestas que gustan más. Es la etapa que convierte un “autocompletado” en un asistente amable.
La mayoría de los modelos actuales se basa en la arquitectura transformer, presentada por Google en un artículo de 2017. Su mecanismo de atención relaciona todas las partes de un texto entre sí, incluso las lejanas, en lugar de leer palabra por palabra.
Entrenar es caro. Según Wikipedia, GPT-3 (175.000 millones de parámetros) costó unos 4,6 millones de dólares en un entrenamiento, y un modelo de 1.500 millones de parámetros de 2020 costó unos 1,6 millones. Son estimaciones publicadas; los modelos más recientes no revelan sus costos de forma confiable.
La ventana de contexto marca lo que ve
La ventana de contexto es la cantidad de tokens que el modelo puede considerar a la vez: tu petición, el historial de la conversación y la respuesta que está escribiendo. Lo que queda fuera no influye en la respuesta, y por eso en una conversación muy larga el chatbot puede “olvidar” algo que dijiste al principio. GPT-2 tenía una ventana de apenas unos 1.000 tokens. Los modelos actuales manejan mucho más, y el límite exacto depende del producto y del plan.
El contexto tampoco es memoria permanente. Si la aplicación no guarda información entre conversaciones, el modelo empieza de cero cada vez.
Por qué inventa cosas
El modelo no consulta una base de datos de hechos. Genera el texto que parece más probable, y casi siempre el texto más probable también es el correcto. A veces no lo es.
Cuando le falta información, rara vez dice “no sé”. Rellena el hueco con algo creíble: un libro que nunca existió, una fecha equivocada, una ley con el número cambiado. Los investigadores lo llaman alucinación. IBM la describe como una salida que suena plausible pero es falsa o inventada. Aparece sobre todo con temas ocurridos después del entrenamiento, con detalles poco comunes, como el nombre de un concejal de un pueblo pequeño, y cuando se piden citas exactas, con página, enlace o fragmento literal.
Para reducir el problema se usa la generación aumentada por recuperación (RAG): antes de responder, el sistema busca documentos confiables y se los entrega al modelo como base de la respuesta. Es lo que ocurre cuando el chatbot busca en internet y muestra sus fuentes. Ayuda mucho, pero el riesgo sigue ahí, porque el modelo aún puede resumir mal lo que leyó. La búsqueda, las buenas instrucciones y la revisión humana reducen las alucinaciones, y ninguna de ellas garantiza respuestas siempre correctas.
Seis hábitos para usar un chatbot
- Da contexto. “Escribe un correo” rinde poco; “escribe un correo corto y amable al administrador del edificio pidiendo que cambien la luz del estacionamiento” rinde mucho más.
- Pide las fuentes cuando el tema sea serio, y abre los enlaces para confirmar que dicen lo mismo.
- Permite el “no sé”. Pedirle en la instrucción que avise cuando no esté seguro reduce las invenciones, según la guía de IBM, aunque no las elimina.
- Úsalo para lo que hace bien: borradores, reescritura, resúmenes, traducciones, ideas y explicaciones.
- Desconfía de cifras muy redondas o muy específicas que aparecen sin explicación.
- Deja a una persona en la decisión final en temas de salud, dinero y leyes.
Una imagen útil es la de un practicante rápido y muy leído que nunca admite que no sabe algo. Con supervisión, te ahorra horas; sin ella, te puede meter en un aprieto. La oferta de modelos cambia rápido, como muestra nuestra cobertura de Meta Muse Wonder, pero la forma de funcionar descrita aquí vale para todos.
Preguntas frecuentes
¿Un modelo de lenguaje es lo mismo que inteligencia artificial?
No. La inteligencia artificial es el campo amplio; el modelo de lenguaje es un tipo de IA enfocado en texto. ChatGPT, Gemini y Claude son asistentes construidos sobre modelos de lenguaje.
¿El modelo entiende lo que escribe?
Reproduce patrones del idioma con mucha habilidad, y eso a menudo parece comprensión. Pero comprueba si algo es probable, no si es verdad. Verificar sigue siendo tu tarea.


