Ver el episodio
Momentos clave
Juan Gabriel Gomila dedica un rato libre a construir un bot que ha aprendido de los cerca de 300 vídeos de su curso de Ingeniería de LLM, y lo prueba en directo durante el episodio. Aquí tienes la receta técnica completa, las preguntas que acierta, las que falla y por qué cree que esto es el futuro de la formación online.
El curso que dispara la idea
El curso de Ingeniería de LLM se lanzó en diciembre de 2024 y ya sumaba más de 5.000 inscritos entre plataformas. Son unas 42 horas y media en ocho semanas: demasiado material para reencontrar una explicación concreta meses después.
«muchas veces encontrarlo durante el curso me cuesta a mí que soy el que lo ha creado, imagínate al alumno»
Whisper convierte 300 vídeos en texto
El primer paso fue transcribir el curso entero con Whisper para tener cerca de 300 ficheros de texto. Como el curso estaba originalmente en inglés, tradujo las transcripciones al español antes de guardarlas.
«lo que he hecho ha sido que se chupara todos los vídeos y que me generara el contenido transcrito»
Chroma, GPT-4o mini y Gradio
Con los textos ya traducidos montó una base de datos vectorial con Chroma, construyó el bot sobre GPT-4o mini de OpenAI pasándole el historial del chat, y le puso una interfaz con Gradio. Las tres herramientas se enseñan en el propio curso.
«he tomado los cerca de 300 vídeos que tiene el curso»
Por qué la versión mini
La elección del modelo pequeño es económica, no técnica: por el coste de una pregunta al modelo normal salen unas cien al mini. Y no tenía ninguna prisa por obtener las respuestas.
«porque es más barata que la normal, igual por cada pregunta que haces a la normal puedes hacerle 100 preguntas o 100 entrenamientos con la versión mini»
La demo falla en directo
Al pedirle el contenido de cada semana, el bot describe bien las primeras pero contesta que no tiene información sobre las semanas 7 y 8. Juan Gabriel lo achaca a parámetros del modelo por ajustar y no lo esconde.
«no es perfecto, porque es la primera versión, la he hecho pues en una mañana»
Preguntas técnicas que sí resuelve
El bot explica qué es Gradio, para qué sirve LangChain, cómo generar una clave de API en OpenAI y cómo crear un fichero .env, recordando incluso poner el punto al principio del nombre. Ese detalle es exactamente el que él repite en clase.
«cada vez le estoy haciendo preguntas un poco más técnicas»
La instrucción de no alucinar
Cuando le pide código concreto, el bot no lo tiene: en los vídeos el código está escrito, no leído en voz alta. La respuesta es un no sé, porque así está configurado a propósito.
«yo ya le he puesto explícitamente que si no sabe la respuesta no alucine, que no se lo invente»
El foro tarda 48 horas; el bot no
La formación online gana en libertad de horario pero pierde en tiempo de respuesta. Un compañero de aprendizaje siempre disponible tapa justo ese hueco, sin sustituir al curso ni al profesor.
«pues igual yo tardo 24-48 horas en responderte, soy humano, duermo y voy al baño»
El episodio, en profundidad
Hay episodios que nacen de una idea grande y otros que nacen de un rato libre. Este es de los segundos. Juan Gabriel Gomila se levanta una mañana, dedica un par de horas a trastear y acaba con un bot que se ha estudiado entero uno de sus propios cursos. En vez de guardárselo, abre el podcast, comparte pantalla y lo prueba en directo, con fallos incluidos.
El problema: cursos de 42 horas y dudas que llegan dos años después
El punto de partida es el curso de Ingeniería de LLM, lanzado en diciembre de 2024 y que, según cuenta, ya reunía más de 5.000 personas apuntadas entre las distintas plataformas donde se publicó. Es un curso largo: unas 42 horas y media repartidas en ocho semanas. No es algo que te hagas en una mañana.
Y ahí aparece el problema que Juan Gabriel se plantea en voz alta. Te ves el curso de pe a pa, pero luego te queda la pregunta suelta: qué era esto, cómo se hacía aquello. Encontrar el minuto exacto entre cientos de vídeos es un suplicio, y lo reconoce sin adornos: «muchas veces encontrarlo durante el curso me cuesta a mí que soy el que lo ha creado, imagínate al alumno». Alguien que lo vio una vez hace un par de semanas, o hace un par de años, no tiene ninguna posibilidad.
La receta, que es la del propio curso
Lo curioso del montaje es que no usa nada que no se enseñe dentro del curso al que sirve. Es uno de los casos que se contemplan en el temario: suministrarle a un modelo una base de datos de conocimiento para que aprenda de ella y luego poder preguntarle. Estos son los pasos:
- Transcribir todo el vídeo. «he tomado los cerca de 300 vídeos que tiene el curso» y los pasó por Whisper. En sus palabras, «lo que he hecho ha sido que se chupara todos los vídeos y que me generara el contenido transcrito». Resultado: cerca de 300 ficheros de texto con todo lo que el Juan Gabriel de hace unos meses cuenta a cámara.
- Traducir. El curso está originalmente en inglés, así que tradujo los textos del inglés al español antes de guardarlos.
- Indexar. Guardó las traducciones en una base de datos vectorial con Chroma, otra de las herramientas que se aprenden en el curso, con los vídeos divididos por las ocho semanas del programa.
- El modelo. Un bot construido sobre OpenAI, concretamente GPT-4o mini, al que además le pasó todo el historial del chat.
- La cara visible. Gradio, que es también una de las librerías del curso, para tener una pantallita donde escribir preguntas.
El motivo de tirar de la versión mini no es técnico, es de bolsillo: «porque es más barata que la normal, igual por cada pregunta que haces a la normal puedes hacerle 100 preguntas o 100 entrenamientos con la versión mini». Eso, y que no tenía ninguna prisa. El código, insiste, es sencillo: cargar documentos, traducir, guardar, entrenar y devolver una respuesta a la pregunta del usuario. Una sola versión, sin varias pruebas, y con margen de mejora evidente.
La demo en directo, con sus costuras
La gracia del episodio es que las preguntas se hacen en riguroso directo. Empieza por lo básico —de qué va el curso— y el bot responde con los fundamentos de la ingeniería de modelos de lenguaje grande, las diferencias entre modelos locales y en la nube, el papel de los prompts de sistema y de usuario, y herramientas como LangChain, Gradio y Hugging Face. Acierta también que el curso dura ocho semanas.
Al pedirle el desglose semana a semana es donde se ve la costura: describe bien la semana 1 (modelos frontera, tokens, ventanas de contexto, un primer proyecto) y la 2 (interfaces de usuario, agentes, multimodalidad), pero suelta un «No se proporciona información sobre la semana 7 y 8 en el contexto dado». El diagnóstico de Juan Gabriel es honesto y en directo: no es que falte información, es que hay parámetros del modelo por ajustar. Y remata: «no es perfecto, porque es la primera versión, la he hecho pues en una mañana».
A partir de ahí sube el nivel. «¿Qué es Gradio?»: «Gradio es un framework que permite construir interfaces de usuario interactivas de forma sencilla y rápida». «¿Para qué sirve LangChain?»: «LangChain sirve para facilitar la creación de aplicaciones que utilizan modelos de lenguaje grande y soluciones de recuperación aumentada de información». Él mismo comenta que «cada vez le estoy haciendo preguntas un poco más técnicas», y aun así el bot aguanta: le explica cómo generar una clave de API en OpenAI, con el aviso de gestionarla de forma segura, y hasta cómo crear un fichero .env, incluyendo el detalle de «asegúrate de incluir el punto al principio del nombre del fichero». Un detalle revelador: eso es exactamente lo que él repite varias veces durante el curso.
Dónde se planta: mejor decir «no sé» que inventar
El límite aparece cuando le pide una línea de código concreta, como generar una base de datos con Chroma. El bot no la tiene, porque en los vídeos el código está escrito en pantalla, no leído en voz alta, y la transcripción no lo captura. La solución que se le ocurre es alimentar también la base de conocimiento con los scripts de Python y de Google Colab del curso.
Lo importante es cómo se comporta el bot ante lo que no sabe: «yo ya le he puesto explícitamente que si no sabe la respuesta no alucine, que no se lo invente». Y responde que no lo sabe. Esa instrucción es, probablemente, la decisión de diseño más relevante de todo el montaje.
Un bot por curso, y una idea de fondo
El planteamiento no es sustituir nada: «Evidentemente es un compañero, no un sustituto del curso». En el curso te enseña a hacer las cosas; el bot está para la duda puntual que aparece meses después.
Y si funciona con Ingeniería de LLM, funciona con lo demás. Menciona matemáticas, videojuegos, blockchain o business intelligence: «tenemos más de 200 cursos, por tanto habría espacio más que de sobras para crear bots específicos» sobre todo lo que se enseña en Frogames Formación.
El cierre es el argumento de fondo del episodio. La formación online lleva desde sus inicios con una ventaja indiscutible: «tú puedes ver el vídeo cuando y dónde te den la gana», en el sofá, de noche o en el metro. Pero tiene un agujero conocido, y lo admite sin excusas: cuando escribes una duda en el foro, «pues igual yo tardo 24-48 horas en responderte, soy humano, duermo y voy al baño». Un compañero de aprendizaje disponible a cualquier hora tapa justo ese hueco. Por eso concluye que «yo creo que esto es un poco el futuro de la enseñanza online», y por eso el episodio termina pidiendo comentarios: si a la gente le sirve, la herramienta se lanza; si no, se queda en el reto de una mañana.
Lo que te llevas
- Un asistente sobre tu propio contenido no necesita nada exótico: transcripción con Whisper, base vectorial con Chroma, un modelo de OpenAI y Gradio como interfaz.
- Elegir GPT-4o mini en lugar del modelo grande multiplica por cien las preguntas que puedes hacer con el mismo presupuesto cuando no tienes prisa.
- La transcripción solo captura lo que se dice en voz alta: el código escrito en pantalla se pierde, y hay que alimentar el índice con los scripts aparte.
- Instruir explícitamente al modelo para que responda que no sabe, en lugar de inventarse la respuesta, es la decisión de diseño que hace la herramienta fiable.
- Una primera versión hecha en dos horas ya responde bien a preguntas técnicas reales, aunque deje huecos que se arreglan ajustando parámetros.
- El valor no está en sustituir el curso, sino en cubrir el punto débil de la formación online: el tiempo que tarda un humano en contestar una duda en el foro.