Unidad 1 - Introducción a los LLMs
Introducción al Business Analytics · Semana 2 · 06278-ECO
@emartigo
Eduard F. Martínez G.
eduard-martinez
eduard-martinez.github.io1 Cómo estudiar esta semana
Esta semana la fundamentación teórica llega en formato podcast: Microeconomía y arquitectura de los LLM.
Este documento es la versión escrita del podcast
Puedes escuchar el episodio, leer este documento, o hacer ambas cosas: cubren el mismo contenido. Este documento no es una transcripción literal; es una versión organizada para facilitar el estudio, con un glosario, resúmenes por bloque y demos interactivas que puedes manipular directamente en el navegador (no necesitas instalar nada).
- 🎧 Podcast: disponible en Intu.
- 📝 Quiz de teoría: en Intu, antes de la sesión de clase.
- 🧑💻 En clase: aplicaremos esto escribiendo prompts efectivos y conociendo los skills.
⏳ Una advertencia honesta antes de empezar: los precios, los nombres de los modelos y las versiones que menciona este material corresponden a mediados de 2026. Esta tecnología cambia rápido, así que las cifras exactas van a quedar desactualizadas; los conceptos —tokens, atención, ventana de contexto, alucinaciones— son los que permanecen. Acostúmbrate a preguntar “¿de cuándo es este dato?”: ese hábito también es análisis de datos.
1.1 Lo que aprenderemos esta semana
1. Qué es un LLM y cómo funciona por dentro (a alto nivel)
- La idea central: predecir la siguiente palabra, millones de veces.
- Tokens, embeddings y el mecanismo de atención.
2. Qué hace bien y dónde se equivoca
- Ventana de contexto, fecha de corte y el fenómeno lost in the middle.
- Alucinaciones: por qué ocurren y por qué hay que verificar.
3. Cómo usarlo con cabeza de analista
- Cuánto cuesta usar un LLM y de qué depende ese costo.
- Elegir modelo y nivel de esfuerzo según la tarea: ¿el beneficio justifica el costo?
¿Y esto qué tiene que ver con Business Analytics?
Todo. La IA será una herramienta transversal del curso: la usaremos para apoyarnos en R, en visualización y en el proceso analítico del proyecto final. Pero una herramienta que no entiendes es una herramienta que te puede engañar. Esta semana abrimos la caja negra para que, cuando el modelo te responda, sepas qué tan en serio tomarlo y cuánto te está costando.
2 Glosario de la semana
Diez términos que aparecerán una y otra vez. Vuelve a esta tabla cada vez que un concepto se te escape: para eso está.
3 ¿Qué es un LLM?
3.1 El salón oscuro
Imagina que entras a un salón completamente oscuro. No ves nada. Avanzas palpando: tocas un sofá… y de alguna manera sabes que muy probablemente lo siguiente que vas a encontrar es una mesa de centro. ¿Por qué lo sabes? Porque has estado en miles de salones en tu vida. Nadie te dictó la regla “después del sofá viene la mesa”: la aprendiste de tanto ver salas organizadas de manera parecida.
Un LLM es exactamente eso, pero con lenguaje. “Leyó” durante su entrenamiento una porción gigantesca del texto que ha producido la humanidad —libros, artículos, páginas web, código— y de tanto leer aprendió los patrones de qué palabra suele venir después de cuál. Cuando le escribes, el modelo va “palpando” la frase: mira lo que llevas escrito y predice cuál es la siguiente palabra más probable. La escribe. Y vuelve a empezar: con la frase un poco más larga, predice la siguiente. Y la siguiente. Millones de veces por segundo.
La idea más importante de toda la semana
Un LLM no busca la respuesta en ninguna parte: la construye palabra por palabra, por probabilidad. No consulta una base de datos, no ejecuta una búsqueda tipo SQL (el lenguaje con el que los programas le piden datos exactos a una base de datos) y, por defecto, tampoco navega por internet. Es un motor de predicción de texto extraordinariamente sofisticado — algo así como el autocompletar de tu celular después de un doctorado.
3.2 Pruébalo tú mismo
Así se ve el mundo desde adentro del modelo. Cada botón muestra una posible continuación con la probabilidad que el modelo le asigna. Escoge una y mira cómo la frase se construye paso a paso:
Qué acabas de ver: el modelo no “sabe” cuánto crecieron las ventas. Solo sabe que, en los millones de textos que leyó, después de “las ventas del último trimestre” casi siempre viene “aumentaron” o “cayeron”, y casi nunca “bailaron”. Cuando la respuesta correcta no está en sus patrones, el modelo igual va a predecir algo que suene bien — guarda esa idea, porque es la semilla de las alucinaciones que veremos más adelante.
📌 Lo esencial de este bloque
Un LLM es un motor de predicción de texto: construye la respuesta palabra por palabra según qué tan probable es cada continuación. No consulta bases de datos ni busca en internet: predice.
4 Tokens: las piezas del lenguaje
4.1 Ni letras ni palabras: tokens
Cuando el modelo lee tu mensaje, no ve letras ni palabras: ve tokens. Un token es un pedazo de texto —a veces una palabra completa, a veces medio pedazo de palabra, a veces un signo de puntuación— que el modelo trata como una sola unidad.
¿Por qué no procesar letra por letra? Sería carísimo e ineficiente: “internacionalización” son 20 letras pero apenas unas 4 piezas con significado. ¿Y por qué no palabra por palabra? Porque el vocabulario sería infinito (cada conjugación, cada plural, cada palabra nueva). La solución intermedia se llama BPE (Byte Pair Encoding, “codificación por pares”): un método que analiza cuáles secuencias de caracteres aparecen más seguido en el texto y las convierte en piezas reutilizables. Las palabras frecuentes terminan siendo un solo token; las raras se arman con varios pedazos.
Esto tiene una consecuencia curiosa que delata cómo funciona el modelo por dentro:
¿Cuántas letras R tiene “ferrocarril”?
Tú cuentas las letras y respondes: tres. Un LLM puede equivocarse en esta pregunta trivial. ¿Por qué? Porque él no ve f-e-r-r-o-c-a-r-r-i-l: ve algo como ferr + ocar + ril — tres piezas opacas. Contar letras dentro de un token es como pedirte a ti que cuentes cuántas veces aparece la letra “e” en un párrafo… escrito en un alfabeto que no conoces. El modelo es brillante manejando significados y sorprendentemente torpe manejando caracteres.
4.2 El impuesto del token
Aquí viene la parte que le interesa a tu bolsillo (y al de cualquier empresa): los LLM cobran por token — tanto por los tokens que les envías como por los que te devuelven. Y resulta que no todos los idiomas se tokenizan igual de barato.
Los tokenizadores se entrenaron principalmente con texto en inglés, así que el inglés quedó “comprimido” de forma óptima: casi toda palabra común es un solo token. El español, con sus tildes, conjugaciones y palabras más largas, se parte en más pedazos: function es 1 token, pero función son 2 — la tilde, literalmente, se cobra aparte. En promedio, escribir lo mismo en español consume alrededor de un 50% más de tokens que en inglés, y en idiomas como el árabe el sobrecosto puede superar el 200%. A este fenómeno se le conoce como el impuesto lingüístico del token: un equipo que trabaja en español paga más que uno que trabaja en inglés por decirle exactamente lo mismo al modelo.
4.3 Calculadora de tokens
Compruébalo tú mismo. Escribe cualquier texto y mira en cuántos tokens se parte, cuánto costaría procesarlo y cuánto se paga el “impuesto” del español:
Un detalle más sobre la factura: fíjate en la etiqueta ×5 de la calculadora. Los tokens de salida (los que el modelo genera) cuestan varias veces más que los de entrada (los que tú le envías), porque generar texto exige mucho más cómputo que leerlo. Traducción práctica: pedirle al modelo respuestas kilométricas “porque sí” es la manera más fácil de inflar la factura.
📌 Lo esencial de este bloque
Solo tres cifras para recordar: (1) los modelos leen tokens, no letras — por eso fallan contando las R de “ferrocarril”; (2) el español consume ~50% más tokens que el inglés por decir lo mismo; (3) los tokens de salida cuestan ~5 veces más que los de entrada.
5 Embeddings y atención: cómo “entiende” el contexto
5.1 Embeddings: palabras convertidas en coordenadas
Ya sabemos que el modelo parte el texto en tokens. Pero un token sigue siendo texto, y las redes neuronales solo saben operar con números. El primer paso dentro del modelo es convertir cada token en un embedding: una lista larga de números que funciona como las coordenadas del token en un mapa gigante del significado.
La gracia de ese mapa es su geografía: palabras con significados parecidos quedan en barrios vecinos. “Rey” queda cerca de “reina”, “precio” cerca de “costo”, “aumentar” cerca de “crecer”. El modelo no tiene un diccionario con definiciones: tiene distancias. Saber que dos palabras están cerca en el mapa es su manera de saber que se parecen.
¿Y qué pasa con una palabra como “banco”, que puede ser una entidad financiera o un asiento del parque? A eso se le llama polisemia (una palabra con varios significados), y es un problema para el mapa: ¿en qué barrio la ubicamos? La respuesta del embedding inicial es salomónica: “banco” arranca en un punto intermedio, ambiguo. Necesita que alguien le diga hacia dónde moverse. Ese alguien es el mecanismo de atención.
5.2 Atención: las palabras se preguntan entre sí
La atención es el invento que hizo posibles los LLM modernos. La idea, contada sin fórmulas, es una conversación entre las palabras de la frase. Cada palabra hace tres cosas:
- Pregunta (query): “¿hay por aquí alguien que me ayude a precisar mi significado?”
- Ofrece (key): cada una de las otras palabras levanta la mano diciendo qué tipo de información tiene para ofrecer.
- Entrega (value): las palabras cuya oferta encaja mejor con la pregunta le entregan su contenido, y la palabra original actualiza su significado con lo recibido.
Vuelve al ejemplo: en “fui al banco a consignar el cheque”, la palabra “banco” pregunta y las palabras “consignar” y “cheque” responden fuerte — su oferta encaja perfecto con la duda. “Banco” absorbe esa información y su embedding se muda al barrio financiero del mapa. En “me senté en el banco del parque”, quienes responden son “senté” y “parque”, y el mismo token termina viviendo en el barrio de los muebles. Míralo en acción:
Esto que acabas de ver ocurre para todas las palabras a la vez, en muchas rondas sucesivas, dentro de una arquitectura llamada transformer. No necesitas saber más de la maquinaria; necesitas quedarte con la moraleja: el modelo entiende cada palabra por la compañía que tiene. Por eso el contexto que le das en el prompt importa tanto — es literalmente el material con el que fija los significados.
📌 Lo esencial de este bloque
Cada token se convierte en números (embedding) que lo ubican en un mapa de significados, y el mecanismo de atención deja que las palabras se pregunten entre sí para resolver ambigüedades. “Banco” significa una cosa al lado de “cheque” y otra al lado de “parque”: el contexto decide.
6 Memoria y límites: la encimera de la cocina
6.1 Dos memorias muy distintas
Hasta aquí el modelo parece muy inteligente. Ahora hablemos de sus límites, porque ahí es donde un analista se diferencia de un usuario ingenuo. Lo primero es entender que un LLM tiene dos “memorias” que no se parecen en nada:
1. Lo que aprendió en el entrenamiento — piensa en la nevera y la despensa de una cocina: todo lo que el modelo “sabe del mundo” quedó guardado ahí durante su entrenamiento. Es enorme, pero tiene una fecha de corte (knowledge cutoff): los textos con los que se entrenó llegan hasta cierto mes de cierto año. Lo que pasó después —el resultado de las elecciones, la cifra de inflación del mes pasado, la versión nueva de R— no está en la nevera.
2. La ventana de contexto — piensa en la encimera de la cocina: el mesón donde de verdad se cocina. Ahí solo cabe lo que estás usando en esta conversación: tu prompt, los documentos que pegaste, las respuestas anteriores. Es rápida y flexible, pero limitada y desechable: cuando cierras la sesión, la encimera se limpia por completo. En la próxima comida (una conversación nueva), toca sacar los ingredientes otra vez — por eso el modelo “no se acuerda” de lo que hablaron ayer.
6.2 Cuando la encimera se llena
¿Y qué pasa cuando le pegas al modelo un documento de 80 páginas y la conversación se alarga? Dos cosas, y conviene distinguirlas:
- Lost in the middle (“perdido en la mitad”): cuando la encimera está repleta, ves bien lo que quedó en las orillas y pierdes de vista lo del centro. Los modelos tienen exactamente ese defecto: recuerdan mejor el inicio y el final del contexto, y su atención se debilita en la mitad. Si escondes la instrucción clave en la página 40 de 80, hay una probabilidad real de que la ignore.
- Desbordamiento: si la conversación excede el tamaño de la ventana, lo más antiguo sencillamente deja de caber. Las herramientas suelen recortar o resumir lo viejo — y el modelo actúa como si esa parte nunca hubiera existido.
Tres hábitos prácticos que se desprenden de esto: pon lo importante al inicio o al final del prompt (nunca enterrado en la mitad); abre una conversación nueva por cada tema en lugar de arrastrar una sesión eterna; y si el documento es muy largo, trabájalo por partes y verifica que no se haya saltado secciones.
6.3 Alucinaciones: el precio de nunca callar
Junta ahora las piezas: el modelo siempre predice la siguiente palabra más probable… incluso cuando no tiene ni idea. Ante una pregunta cuya respuesta no está en sus datos —porque es posterior a su fecha de corte, porque es un dato interno de tu empresa, o porque simplemente nadie la ha escrito—, el modelo no dice “no sé” por defecto: fuerza el escenario más probable. El resultado es una alucinación: una respuesta inventada, envuelta en un lenguaje académico impecable.
Así se ve una alucinación en la vida real
- 🎓 En la universidad: le pides que resuma el PDF de 80 páginas de una clase. Te entrega un resumen hermoso… y al revisarlo descubres que ignoró la mitad del documento (¿recuerdas el lost in the middle?) y que “completó” las partes que le faltaban con generalidades plausibles.
- 💼 En el trabajo: le preguntas por los resultados del tercer trimestre de una empresa y te responde con cifras precisas, decimales incluidos… que no existen. O citas de artículos académicos con autor, año y revista — perfectamente inventados.
- 🔢 Con números: le pides una operación aritmética o un estadístico y te devuelve un valor que parece correcto. Un LLM no es una calculadora: predice qué números suenan bien, no los calcula. Para eso están R y las herramientas de análisis que aprenderás en este curso.
La regla de oro del curso sale directo de aquí: el modelo no es un oráculo; es un asistente que resume, redacta y encuentra patrones. Toda cifra, cita, fecha o resultado que te entregue se verifica contra la fuente antes de usarse. El rigor analítico no se delega: la IA acelera el trabajo, pero la responsabilidad de que sea correcto sigue siendo tuya.
📌 Lo esencial de este bloque
La nevera (lo aprendido en entrenamiento) tiene fecha de corte; la encimera (la ventana de contexto) es limitada, se borra al cerrar la sesión y se le pierde lo del centro (lost in the middle). Y cuando el modelo no sabe, no calla: inventa con seguridad — por eso todo se verifica.
7 RLHF: por qué responde tan bien (y qué hereda en el camino)
Queda una pregunta incómoda: si el modelo solo predice la palabra siguiente, ¿por qué responde como un asistente educado y útil, en lugar de solo “continuar” tu texto? Un modelo recién entrenado con internet crudo es un loro brillante pero insoportable: puede completar frases con insultos, inventos o instrucciones peligrosas — porque de todo eso hay en internet.
La pieza que falta se llama RLHF (Reinforcement Learning from Human Feedback, aprendizaje por refuerzo con retroalimentación humana): después del entrenamiento masivo, miles de personas conversan con el modelo y califican sus respuestas — esta es útil, esta es grosera, esta se inventó un dato, esta explica bien. El modelo se ajusta para producir más respuestas de las que reciben buenas notas. Es la etapa de “civilización” del loro: así es como las empresas convierten un predictor de texto en un asistente con el tono, la utilidad y los límites de seguridad que conocemos.
Esto tiene dos consecuencias que debes tener presentes como futuro analista:
- El modelo replica el pasado. Aprendió de textos históricos, y los textos históricos traen sesgos: asociaciones de género con profesiones, estereotipos regionales, opiniones dominantes de quienes más escriben en internet. Si le pides al modelo apoyo en decisiones sensibles —a quién contratar, a quién prestarle plata—, puede reproducir esos patrones con total naturalidad.
- “Bien calificado” no es lo mismo que “verdadero”. RLHF premia respuestas que suenan útiles y seguras para un humano que lee rápido. Una alucinación bien redactada puede recibir mejor nota que un honesto “no tengo ese dato”. La verificación sigue siendo tu trabajo.
📌 Lo esencial de este bloque
RLHF = humanos calificando respuestas para enseñarle al modelo qué es una “buena” respuesta. Gracias a eso el modelo es útil y educado; por lo mismo, hereda los sesgos de sus datos y de sus evaluadores, y puede preferir sonar convincente antes que admitir que no sabe.
8 Costos y elección de modelo: pensar como analista
8.1 No hay un solo “Claude”: hay una familia
Las empresas de IA no ofrecen un único modelo sino una familia, escalonada por capacidad y precio. A mediados de 2026, la familia de Anthropic (la empresa detrás de Claude, que usaremos en el curso) se ve así:
| Modelo | Perfil | Entrada (US$ / millón de tokens) | Salida (US$ / millón) |
|---|---|---|---|
| Claude Haiku 4.5 | Rápido y económico | $1.00 | $5.00 |
| Claude Sonnet | El punto medio: capacidad/precio | $3.00 | $15.00 |
| Claude Opus 4.8 | Máxima capacidad de razonamiento | $5.00 | $25.00 |
Fíjate en el patrón que ya conoces de la calculadora: en toda la familia, la salida cuesta 5 veces la entrada. Y entre el modelo más económico y el más potente hay una diferencia de precio de 5 veces — usar siempre el más grande “por si acaso” es como pedir domicilio en helicóptero.
8.2 El botón de esfuerzo
Además de elegir modelo, los modelos recientes traen un control llamado effort (esfuerzo): cuánto “razona” internamente el modelo antes de responderte. Con esfuerzo bajo, contesta rápido y barato; con esfuerzo alto, dedica muchos más tokens a pensar —explora alternativas, se autocorrige— y produce respuestas notablemente mejores en problemas difíciles… cobrándote ese pensamiento extra.
🤓 Dato técnico (opcional, para curiosos)
En los modelos más recientes de Anthropic (Opus 4.7 y 4.8), el esfuerzo se volvió el control principal y reemplazó a parámetros clásicos como la “temperatura” (que regulaba qué tan arriesgadas eran las predicciones). Tanto así que si un programa intenta enviar los parámetros viejos a través de la API (la puerta por la que los programas conversan con el modelo), recibe un error 400: “eso ya no existe”. Moraleja para tu carrera: en este mundo, hasta los botones cambian de año en año.
8.3 ¿Vale la pena? La pregunta del economista
¿Cómo decidir entre Haiku con esfuerzo bajo y Opus con esfuerzo alto? Con la pregunta más vieja de la economía, dicha en cristiano: ¿lo que gano extra justifica lo que pago extra? Cada escalón hacia arriba te cuesta más plata y más espera; súbete solo si la mejora en la respuesta lo compensa. (Si ya viste microeconomía, acabas de reconocer el análisis de costo marginal contra beneficio marginal; si no, con la frase anterior te basta.)
| Tarea típica | Elección razonable | ¿Por qué? |
|---|---|---|
| Estandarizar los nombres de 200 columnas mal escritas | Modelo económico, esfuerzo bajo | Tarea mecánica y repetitiva: no necesitas un genio para limpiar nombres |
| Redactar y pulir el correo con los resultados del mes | Modelo intermedio | Requiere buen lenguaje, no razonamiento profundo |
| Diseñar el análisis del proyecto final y discutir qué método usar | Modelo potente, esfuerzo alto | Razonamiento de varios pasos: aquí el esfuerzo extra sí paga |
Y no olvides sumarle el impuesto del token: un equipo de datos en Bogotá que procesa miles de reportes al mes en español paga ~50% más tokens que su equivalente en inglés por el mismo volumen de trabajo. A escala de una empresa, elegir bien el modelo, el esfuerzo y hasta el idioma de los documentos internos deja de ser un detalle técnico y se convierte en una línea del presupuesto.
📌 Lo esencial de este bloque
Elegir modelo es una decisión económica: familia escalonada (económico → intermedio → potente, con precios ~5× entre extremos), control de esfuerzo, y una sola pregunta guía: ¿la mejora en la respuesta justifica el costo extra? Tarea mecánica → barato y rápido; razonamiento complejo → potente y con esfuerzo.
9 Uso responsable: reglas de juego del curso
Cerremos aterrizando todo lo anterior en cuatro reglas que aplicaremos durante todo el semestre, tanto en lo académico como en lo profesional:
Las 4 reglas de uso de IA en este curso
1. Verifica todo lo verificable. Cifras, citas, fechas, fórmulas y código se contrastan con la fuente antes de usarse. Si el modelo te da un número, pregúntate: ¿de dónde salió? (Ya sabes que él no lo “consultó” en ninguna parte: lo predijo.)
2. La IA no hace análisis: te asiste. Resumir, redactar, explicar código, proponer ideas — excelente. Pero la pregunta de negocio, la elección del método y la interpretación de resultados son tuyas. Un LLM no es una calculadora ni un software estadístico: para los números duros están R y las herramientas del curso.
3. Protege los datos. No pegues en un chat información confidencial: datos personales, información interna de una empresa, bases de datos sensibles. Lo que sale de tu computador deja de estar bajo tu control.
4. Declara el uso. En las actividades del curso aplica la política de IA presentada en la semana 1: se puede usar según el nivel permitido en cada actividad, y siempre se declara cómo se usó. El objetivo es que aprendas con la herramienta, no que la herramienta apruebe por ti.
Conexión con el resto del curso
- En la sesión de esta semana: pasaremos de la teoría a la práctica — cómo escribir un buen prompt (contexto, tarea, formato de salida y restricciones), cómo iterar sobre las respuestas y qué son los skills (instrucciones reutilizables para tareas recurrentes).
- Semana 8: volveremos a la IA con herramientas de nueva generación (Claude Code, Cursor) que ejecutan análisis de datos directamente en tu computador. Todo lo de hoy —tokens, contexto, alucinaciones, costos— será el vocabulario base.
- Proyecto final: podrás apoyarte en IA según la política del curso; entender sus límites es lo que te permitirá usarla sin que te meta un gol.
10 Para pensar: la serpiente que se muerde la cola
Una reflexión final para llevar al foro de la clase. Los LLM aprendieron de un internet escrito por humanos. Pero desde 2023, una fracción creciente del texto nuevo de internet —artículos, reseñas, publicaciones— la están escribiendo los propios modelos. Entonces: ¿con qué se van a entrenar los modelos del futuro? ¿Qué pasa cuando una fotocopiadora empieza a fotocopiar sus propias fotocopias? ¿Se degrada la calidad? ¿Se amplifican los sesgos? ¿Se vuelve más valioso que nunca el contenido genuinamente humano — y el criterio de quien sabe verificar?
No hay consenso sobre la respuesta. Investígalo, forma tu propia opinión y tráela a clase. 🎤
11 Checklist de salida
Al terminar el podcast (o este documento), debes ser capaz de:
12 Preguntas de comprensión
Del estilo de las que encontrarás en el quiz. Intenta responderlas antes de abrir la respuesta.
1. El conteo imposible
Un compañero le pregunta a un LLM cuántas letras R tiene “ferrocarril” y el modelo responde mal. Él concluye: “esta IA es tonta”. ¿Qué le explicarías?
Ver respuesta
El modelo no procesa letras: procesa tokens (pedazos como ferr·ocar·ril). Contar caracteres dentro de un token es justo el tipo de tarea para la que su arquitectura es ciega, aunque sea brillante manejando significados. La lección general: conocer cómo funciona la herramienta te dice en qué confiar en ella.
2. La factura bilingüe
Dos equipos de la misma empresa usan el mismo modelo con la misma intensidad: uno trabaja en español y otro en inglés. Al final del mes, la factura del equipo en español es notablemente mayor. ¿Qué pasó y qué opciones tiene la empresa?
Ver respuesta
Es el impuesto del token: el español se tokeniza en ~50% más piezas que el inglés por el mismo contenido, y se cobra por token (entrada y salida). Opciones: usar modelos más económicos para tareas mecánicas, pedir respuestas más cortas (la salida cuesta ~5× la entrada), y evaluar en qué procesos conviene trabajar los documentos en inglés.
3. El resumen sospechoso
Le pegaste al chat un documento de 80 páginas y le pediste un resumen. Notas que las secciones centrales del documento casi no aparecen. ¿Qué fenómeno es y qué harías distinto?
Ver respuesta
Es el lost in the middle: con la ventana de contexto muy cargada, el modelo atiende mejor el inicio y el final que la mitad. Soluciones: trabajar el documento por partes, poner las instrucciones importantes al inicio o al final del prompt, y verificar el resumen contra el documento original antes de usarlo.
4. La cifra perfecta
Le preguntas al modelo por la inflación de Colombia del mes pasado y te responde con una cifra exacta, con dos decimales y total seguridad. ¿Puedes usarla en tu informe? Da dos razones basadas en la arquitectura del modelo.
Ver respuesta
No sin verificarla. Razón 1: la fecha de corte — si el dato es posterior a su entrenamiento, el modelo no pudo haberlo visto. Razón 2: los LLM no consultan ni calculan: predicen el texto más plausible, así que una cifra "exacta" puede ser una alucinación perfectamente redactada. Se contrasta contra la fuente oficial (p. ej. el DANE) antes de usarla.
12.1 Material adicional (opcional)
Si quieres profundizar por tu cuenta:
- Tokenizador real para jugar: platform.openai.com/tokenizer — pega texto y mira los tokens de verdad (compara español vs. inglés). No requiere cuenta.
- Video — “Transformers” de 3Blue1Brown: la mejor explicación visual de embeddings y atención (activa los subtítulos en español).
- Especial visual del Financial Times: Generative AI exists because of the transformer — un recorrido ilustrado e interactivo por todo lo que vimos hoy.
- Lectura larga — Stephen Wolfram: What Is ChatGPT Doing… and Why Does It Work? — para quienes quieran el siguiente nivel de detalle.
Para esta semana, el podcast (o este documento) es suficiente. Nos vemos en clase para ponerle las manos a los prompts. 🚀