El alma de la IA, el vacío de la istración 14b6b

Muy buenos días, humano. Domingo 25. Bienvenido a tu podcast. Hay IA hoy.

Se nos acaba el curso, viene el verano, que suele ser un suspiro. Vamos a hablar de los buenos, de los malos y de los torpes. La IA tiene alma. Parece que el CEO de OpenAI no. Y en España, nos hemos vendido a la IA. Y no parece que la jugada haya salido muy bien. También hablaremos de viejos amigos como Max y Amodei. Y por supuesto de dinero, el motor del mundo. ¡Arrancamos! Hoy seguimos hablando de los principios de OpenAI, de cómo empezó todo. Y cuándo comenzaron a tener serias dudas sobre la honestidad de Allman. Ilia Murati y ahora le toca el turno a Darío Amodei, hoy jefe de Antropic, junto a su hermana. Y en aquel entonces vicepresidente de investigación de la empresa de GPT.

Después del acuerdo con la Ventanita en 2019, el equipo de Amodei se alarmó al descubrir que Allman había prometido a Microsoft más tecnológico del que ellos creían. Temían que esos compromisos comerciales impidieran frenar despliegues peligrosos de IA. Repito, hace cinco años. Por ejemplo, un fallo en el código hizo que un modelo basado en GPT-2 generara contenidos explícitos en lugar de evitarlos. Fue divertido y también preocupante, comentan. A la par la empresa empezó a operar como una fortaleza. Memorias USB desconocidas, PCs desconectados para escribir documentos, impresiones sólo en físico y auditorías de espionaje encargadas por San Dios. Vamos, paranoia generalizada.

Y tras la salida de Max, también desconfiaban del equipo de Neuralink y empezó el pánico al espionaje. Esto es muy significativo porque ahora está siguiendo la misma estrategia, pero a nivel global. Lo que viene siendo la obsesión con el enemigo externo como justificación para la opacidad. Allman argumenta que China, Rusia o Corea del Norte podrían ganar la carrera por la AI, lo que justifica la falta de transparencia de OpenAI, su trabajo y en general todo. Si un gobierno autoritario desarrolla la IA, antes que nosotros, y la utiliza indebidamente, también habremos fracasado en nuestra misión, que como ya sabemos, es el bien de toda la humanidad. ¿Qué pero le vas a poner a eso? Pues todavía había alguno que protestaba.

Hay gente para todo. Dentro de OpenAI se vivía un choque constante. Algunos querían seguir siendo una comunidad científica abierta, mientras que otros defendían los pactos secretos y la aceleración a toda costa. Incluso algunos empleados cuestionaban por qué el desarrollo de AI debía quedarse solo en manos de Estados Unidos. ¿Por qué no una en Europa? Porque tenemos la exclusiva. Ahí es cuando el futuro CEO mundial lo empezó a llamar el Proyecto Manhattan. Muy acertado, va a cambiar la historia, es muy poderosa y tiene que estar en manos yanquis, por el bien de la humanidad. No es una novedad, pero cada vez vamos sabiendo más detalles, y si algo está claro hace tiempo, es que el bueno de Sam lo tiene muy claro, todo, desde el principio.

¿Y qué hace ahora? Pues ensanchar su imperio. ¿Dónde? En el desierto, al calor del dinero, que es lo que mejor enfría las GPUs. En 2026, OpenAI y Oracle operarán en Europa.