Grok 3, más competencia para OpenAI 4mf4w

Elon Musk acaba de anunciar el lanzamiento de GROK3, el nuevo modelo de su empresa XAI.

Ha sido entrenado con 100.000 GPUs en un cluster construido en tiempo récord.

Hoy en La Tertulia te contamos brevemente las novedades de GROK3 y analizamos qué impacto tendrá en el mundo de la IA. La Tertulia de la Inteligencia Artificial Ya falta menos para la singularidad. Bienvenidos a La Tertulia de la Inteligencia Artificial.

Hoy en este día contamos por un lado con Josu Gorostegui. ¿Qué tal? ¿Cómo estás, Josu? Buenas tardes. Con ganas de hablar de GROK.

Buenas tardes también para Guillermo Barbadillo. ¿Qué tal, Guille? Muy bien, Carlos.

Tengo también por aquí enfrente mía Iñigo Olcóz. ¿Cómo estamos? Encantado. Un placer, como siempre.

También tengo aquí a mi derecha a Víctor Goñi. ¿Qué tal, Víctor? Buenos días, chicos. Encantado de estar otra vez por aquí.

Y este que os habla, Carlos Larriu.

Y bueno, ya lo habéis escuchado en la introducción. Guillermo, parece que nos va a hablar un poquito sobre nuestro amigo Elon. ¿Qué nos tienes que comentar? ¿Qué novedades ha sacado? Bueno, pues hace menos de 24 horas que se ha anunciado GROK3. Entonces lo han anunciado en un vídeo en XAI. La escena era un poco parecida a la que está usando OpenAI. Pues cuatro personas en una mesa con un ordenador que te van contando un poco la historia.

Con la diferencia de que en lugar de estar como en una habitación de casa, pues en XAI estaban con un fondo oscuro, un poco más malévolo. Pero el escenario era muy parecido. Entonces, bueno, pues han comentado de primeras que la misión que tiene en XAI es entender el universo. Ese es su objetivo final, su meta grandilocuente. Y también Elon ha comentado que GROK3 para él significa entender algo completamente. ¿Vale? Que por eso le han puesto ese nombre al modelo. Aunque me suena que también es un personaje de algún libro de estos de ciencia ficción, pero no estoy seguro.

Yo no sé realmente qué significa.

¿Lo que? ¿Perdona? O sea, yo no sé si eso tiene una traducción.

Si buscas en inglés, está algo relacionado con entender intuitivamente. Entonces yo creo que no es exactamente lo que ha dicho Elon, pero bueno.

Que me han parado los tiros, ya.

Vale, entonces han comentado un poquito cuál ha sido el progreso de XAI. Entonces se comparaban contra OpenAI y claro, pues el progreso de XAI ha sido mucho más rápido, pero también hay que tener en cuenta que uno ha estado innovando y liderando el desarrollo de la IA y el otro pues es mucho más reciente y digamos que va un poquito a rebufo y lógicamente es mucho más fácil llegar al mismo resultado cuando alguien ya lo ha hecho que ser el primero.

Entonces uno de los lemas que han dicho es que una gran inteligencia necesita una gran computación y esto viene porque en los últimos meses han estado construyendo un clúster con el que entrenar GROK 3.

Entonces el clúster está planeado que tenga 200.000 GPUs, pero por ahora tiene 100.000.

Ellos han dicho que en tres meses tendrán las 200.000, pero GROK por ahora lo han entrenado con 100.000 GPUs y esto para ponerlo en contexto se supone que GPT-4 se entrenó con 24.000.

Entonces pues estamos hablando podríamos decir como de una siguiente generación de modelos, no llega a ser un orden de magnitud pero casi cuando estén las 200.000 sí que lo será.

Es un modelo entrenado con muchas más GPUs que las que se utilizaron para para entrenar GPT-4. Comentaban por ejemplo que GROK ha usado 15 veces más cómputo que GROK 2.

Para ellos la referencia era GROK 2 y lo primero que han presentado pues ha sido eso, el modelo GROK 3 que sería un modelo de lenguaje pues en la misma liga que GPT-4, modelos de lenguaje clásicos, no en la liga de razonadores que veremos a continuación.

Y Osu, creo que querías comentar un poco posible competencia que viene para GROK 3.

Sí, hace unos días también Salmanman anunciaba en Twitter pues cómo se iba a actualizar la versión de GPT-4, lo que se denominaría GPT-4.5. Se especula que