Andrej Karpathy cofundó OpenAI y fue director de IA en Tesla. Aunque a día de hoy no tiene un rol activo en ninguna de las dos compañías, es todo un referente y, sobre todo, un entusiasta de la ingeligencia artificial. Se puede ver en la calidad de sus vídeos formativos sobre la rama o en cómo abre al mundo su conocimiento con herramientas como minGPT o nanoGPT. Además, gracias a su código, llevamos a ver creaciones tan maravillosas como un modelo grande de lenguaje funcionando sobre Windows 98.
Y sin embargo, ese nivel de implicación en la industria no le hace dejar de ser realista con las expectativas que tiene con la inteligencia artificial y sus ramificaciones. Así lo ha vuelto a demostrar en el prestigioso podcast de Dwarkesh Patel, donde en una conversación de casi dos horas y media, el experto ha dejado una gran cantidad de citas e impresiones sobre el sector.
«Es la década de los agentes«. Karpathy no solo cree en los agentes, sino que él acuñó el término de «vibe coding» para referirse a la programación con IA. En ese sentido afirma utilizar mucho Claude y Codex en el día a día. Dice que estos primeros agentes «son impresionantes», pero todavía «hay mucho trabajo por hacer» y cree que es la década de los agentes, pero no el año de los agentes, tal y como se decía que 2025 iba a ser.
En ese sentido, y lo comenta varias veces a lo largo de la entrevista, hay sobrepredicción en la industria, en el sentido de que se predice mucho sobre cuán pronto pasarán las cosas (como por ejemplo, que la inteligencia artificial general o AGI está a la vuelta de la esquina).
«Los modelos aún no están ahí. Siento que la industria está dando un salto demasiado grande e intenta fingir que esto es increíble, cuando no lo es. Es slop. No están asumiendo la realidad, y quizá lo hacen para atraer inversión o algo por el estilo, no lo sé. Pero estamos en una fase intermedia.
El origen de tanta exageración y hype. En un pasaje, Karphaty aclara que no es pesimista, aunque suene como tal. «En realidad, soy optimista. Solo sueno pesimista porque cuando veo mi timeline de Twitter, veo todas estas cosas que no tienen sentido para mí». Y da la clave de qué explica tanta reacción desmesurada a Twitter, el dinero. «Gran parte de ello, honestamente, es solo recaudación de fondos. Son simplemente estructuras de incentivos. Gran parte es solo atención, convertir la atención en dinero en internet».
«El aprendizaje por refuerzo es terrible». El aprendizaje por refuerzo es una técnica en la que una IA aprende por prueba y error: ejecuta acciones, recibe recompensas o castigos y ajusta su comportamiento para maximizar la recompensa futura. Fue clave en avances como AlphaGo o en la optimización de grandes modelos como Deepseek, pero Karpathy piensa que su modo de “premiar al final” está muy lejos de cómo razonan las personas.
Para Karpathy es «terrible», y llega a compararlo con «chupar supervisión por una pajita»: todo el esfuerzo del modelo se resume en un único número final (ha acertado o no), lo que genera muchísimo ruido. Según él, los humanos no aprenden así: no hacemos cien intentos ciegos ni damos el mismo valor a cada paso intermedio. Cree que el futuro pasa por una «supervisión de proceso», donde el modelo reciba feedback continuo. Eso sí, admite que aún no sabemos cómo automatizarlo sin que los sistemas encuentren trampas (adversarial examples) para engañar.
Imagen | Podcast de Dwarkesh Patel y elaboración propia
En Genbeta | Primero Meta usó las fotos de sus redes sociales para entrenar a su IA, ahora quiere las tienes en tu móvil
–
La noticia
«La industria está haciendo como que es asombroso, y no lo es»: el cofundador de OpenAI rebaja mucho la emoción con la IA y los agentes
fue publicada originalmente en
Genbeta
por
Antonio Sabán
.
