Ver el episodio
Momentos clave
Uno de los padres de la inteligencia artificial moderna deja Google para poder hablar sin ataduras de los riesgos de su propio trabajo. El episodio repasa quién es Geoffrey Hinton, qué contó en The New York Times y por qué compara su caso con el de Einstein y la bomba atómica.
La comparación con Einstein
El episodio abre enlazando el arrepentimiento de Einstein por la bomba atómica con el de Hinton por la inteligencia artificial. Es el marco con el que Juan Gabriel lee toda la noticia.
«Ahora, en la inteligencia artificial, su creador también se ha repido»
Del perceptrón a las redes profundas
Repaso a la carrera de Hinton: rescató en los ochenta las teorías del perceptrón cuando los ordenadores no daban para nada, y hacia 2010-2012 la potencia y los datos hicieron el resto. De ahí salieron las redes convolucionales y las recurrentes.
«Eran conceptos teoricos y poco a poco ya hacia el año 2010, 11 y 12, los ordenadores eran potentes, la cantidad de datos disponibles en Internet era abrumador»
Por qué Google lo fichó
Google es la casa de TensorFlow y tener cerca a una de las cabezas del campo daba ventaja competitiva frente a la librería rival que vivía en R. La empresa que Hinton fundó con un estudiante acabó comprada por Google.
«Google es uno de los creadores de las librerías más avanzadas en deligencia artificial que es tensorflow»
Nadie sabrá qué es verdad
La primera afirmación fuerte de Hinton al salir de Google. Juan Gabriel la ilustra con Matrix, con las noticias falsas escritas con ChatGPT que se monetizan en blogs y con las imágenes del Papa generadas por IA.
«caminamos hacia un mundo en el que nadie podrá saber qué es de verdad, nunca más»
El pánico de Google ante Bing
Hinton dice en The New York Times que estaba a gusto con el desarrollo de Google hasta que Microsoft anunció ChatGPT en Bing. A partir de ahí, según su relato, la ética pasó a segundo plano por no perder la carrera.
«rompió todas las medidas de seguridad éticas de la inteligencia artificial para acelerar su desarrollo y no perder la carrera con Microsoft»
Trabajos rutinarios y código propio
El miedo de fondo no son las imágenes falsas, sino la automatización del trabajo y una IA que escriba y ejecute su propio código. Hinton admite además que se equivocó en los plazos que daba.
«elimina los trabajos rutinarios y posiblemente a la propia humanidad cuando empiece a escribir y a ejecutar su propio código»
El corazoncito y los videojuegos
La excusa de Hinton -si no lo hago yo, lo hace otro- se traduce a un caso concreto: un estudio de Barcelona renunció a mandar a la gente a la calle con la PlayStation Vita y su juego quedó en nada, mientras que Pokémon Go arrasó sin esas cautelas.
«me consuelo con la excusa normal, si no lo hubiera hecho yo, lo habría hecho otro»
Un cierre en abierto
Juan Gabriel reconoce que es un capítulo más catastrofista de lo habitual y devuelve la pregunta a la audiencia: si Hinton tiene razón, si exagera o si busca autobombo para sus propias creaciones.
«nunca sabremos por donde acabará la película»
El episodio, en profundidad
Cuenta la leyenda que Einstein solo se arrepintió de una cosa en su vida: haber sido parte de la historia que acabó en la bomba atómica. Con esa comparación arranca el episodio 65 de Frogmación, porque la inteligencia artificial acaba de vivir su propia versión del mismo dilema. Geoffrey Hinton, uno de los padres de la IA moderna, ha dejado Google para poder hablar sin ataduras de contrato de los peligros de aquello que él ayudó a levantar. Juan Gabriel Gomila leyó la noticia en Computer Hoy, tiró del hilo hasta la entrevista original en The New York Times y dedica quince minutos a explicar quién es este señor, por qué su marcha importa y qué es exactamente lo que le da miedo.
De unos papeles de los años ochenta a las redes que lo cambiaron todo
La primera mitad del episodio es un repaso a por qué Hinton es quien es. En los años ochenta rescató las teorías del perceptrón —esas neuronas artificiales conectadas entre ellas— y empezó a publicar en un campo que entonces no servía para nada práctico, porque los ordenadores de la época no daban para tanto. Eran conceptos teóricos sobre el papel.
Todo cambió alrededor de 2010, 2011 y 2012: los ordenadores ya eran potentes y la cantidad de datos disponibles en internet era abrumadora. Aquellas ideas empezaron a tener sentido. Redes que toman datos, los suman y los multiplican por una serie de valores, activan una función de transferencia y pasan la señal hacia capas más internas. A partir de ahí llegaron los sentidos: la vista, con las redes convolucionales capaces de identificar imágenes y vídeo; y la memoria, con las redes recurrentes. Ese trabajo le valió, en 2018, el premio que todo el mundo llama el Nobel de la informática, porque la informática no tiene Nobel como tal.
Por qué Google lo quería dentro de casa
El episodio explica la lógica de la contratación: Google es la casa de TensorFlow, una de las librerías más avanzadas de inteligencia artificial, y tener cerca a una de las cabezas del campo da ventaja. Durante años esa ventaja fue real frente a la librería competidora que vivía en R y que hoy apenas se usa más que para explicar en las aulas. Hinton, además, es un investigador muy activo, con muchísimos papers publicados.
Antes de eso había fundado, junto a un estudiante suyo, una pequeña compañía que desarrolló una red neuronal capaz de distinguir animales de objetos tras ser entrenada con millones de fotos. Aquello, que hoy suena a ejercicio de clase, era la base de la IA moderna. Google compró la empresa, y uno de esos estudiantes acabó marchándose para convertirse en jefe científico de OpenAI: la casa de ChatGPT y de su generador de imágenes.
Un mundo en el que nadie sabrá qué es verdad
La frase con la que Hinton arranca su nueva etapa es demoledora: «caminamos hacia un mundo en el que nadie podrá saber qué es de verdad, nunca más». Juan Gabriel se agarra a la comparación evidente, Matrix, para explicarla: ya no sabes si lo que estás viendo es la realidad o un mundo creado por ordenador.
Y baja el ejemplo a algo que ya está pasando. Las noticias falsas que se generan con ChatGPT sin que nadie las filtre, que se publican en internet y que además se venden como negocio: te enseñan a escribir noticias preguntándole al modelo, tú las publicas en tu blog, las monetizas y las canalizas hacia infoproductos. «estás vendiendo información falsa, información falsa que lo triste es que la gente se va a creer que es verdad». Con las imágenes ocurre lo mismo: las fotografías del Papa generadas por IA que circularon aquellos meses, o una última cena en formato selfie, con Judas al fondo. ¿Cómo distingue uno lo real de lo ficticio?
El pánico de Google y la carrera contra Microsoft
Aquí está el punto más incómodo del episodio, y es una acusación que Hinton hace en The New York Times. Estaba a gusto con el desarrollo que Google llevaba en inteligencia artificial hasta que Microsoft anunció ChatGPT en Bing. A partir de ese momento, según relata el episodio, Google entró en pánico y «rompió todas las medidas de seguridad éticas de la inteligencia artificial para acelerar su desarrollo y no perder la carrera con Microsoft». La consecuencia que teme el propio Hinton es una competencia imposible de frenar, «lo que daría lugar a un mundo con tantas imágenes y textos falsos que ya nadie sabría decir que es verdad».
El miedo de fondo: los trabajos y el código que se escribe solo
Pero Hinton va más allá de las noticias falsas. Le preocupa que la IA «elimina los trabajos rutinarios y posiblemente a la propia humanidad cuando empiece a escribir y a ejecutar su propio código». Y reconoce que él mismo se equivocó en los plazos: «La idea de que estas cosas puedan llegar a ser más inteligentes que las personas es algo que algunos creían», pero la mayoría lo veía lejísimos. «Pensábamos que faltaban de 30 a 50 años o incluso más, obviamente ya no pienso de eso».
Juan Gabriel matiza desde su propia experiencia: lo que sabe hacer hoy la IA se parece más al cerebro de una rata intentando salir de un laberinto que a un humano. Está a años luz. Pero el debate no es dónde está, sino a qué velocidad se mueve.
El corazoncito ético, contado con videojuegos
La parte más Frogames del episodio es cómo aterriza el dilema moral. Hinton se consuela así en el periódico: «me consuelo con la excusa normal, si no lo hubiera hecho yo, lo habría hecho otro, es difícil ver cómo se puede evitar que los malos actores lo utilicen para cosas malas». Y Juan Gabriel traduce eso a lo que lleva años contando a sus estudiantes: si tú creas un producto y tienes el corazoncito de evitar hacer daño, y otro lo hace después sin ese escrúpulo, «igual tú vivirás con la conciencia tranquila» y el otro vivirá millonario.
El ejemplo es concreto. Un estudio de Barcelona sacó para PlayStation Vita un juego de capturar criaturas con realidad aumentada, pero obligaba a colocar unas tarjetas con códigos QR en el suelo: no querían mandar a la gente a pasear por la ciudad mirando la pantalla, porque alguien cruzaría sin mirar y habría un problema. Tuvieron ese corazoncito, y el juego quedó como algo pasajero. Años después llegó Pokémon Go, sin códigos QR y con el mundo entero como área de juego, y la gente salió literalmente a la calle. El corazoncito les costó el éxito.
Lo que te llevas
Es un capítulo más catastrofista de lo normal en el podcast, y él mismo lo avisa. También es un buen recordatorio de que entender cómo funciona esto por dentro —redes neuronales, entrenamiento, librerías como TensorFlow— es lo que te permite juzgar los titulares en lugar de tragártelos. Si quieres empezar por ahí, la ruta de inteligencia artificial con Python y la guía de TensorFlow 2.0 cubren justo el terreno del que habla el episodio. Y el cierre, que vale para casi todo: «nunca sabremos por donde acabará la película».
Lo que te llevas
- Hinton no deja Google por dinero ni por un producto: se va para poder hablar de los riesgos de la IA sin ataduras de contrato.
- Su trabajo de los años ochenta sobre el perceptrón solo pudo despegar cuando llegaron ordenadores potentes y datos masivos, hacia 2010-2012.
- El riesgo que más repite no es la ciencia ficción, sino la imposibilidad de distinguir lo real de lo generado: textos e imágenes falsos a escala.
- Según su relato en The New York Times, la competencia entre Google y Microsoft aceleró el desarrollo por encima de las medidas de seguridad éticas.
- Su segundo miedo es económico y luego existencial: los trabajos rutinarios primero, y una IA que escriba y ejecute su propio código después.
- El dilema moral es universal: quien se autolimita por ética suele perder la carrera frente a quien no lo hace, como ilustra el ejemplo de los videojuegos de realidad aumentada.