NTN 357 - 🤖 GPT-4.5 y Claude 3.7 6r216a

Buenas, buenas. Bienvenidos a otro episodio de No tiene nombre. Hoy vamos a hablar, sí, de inteligencia artificial. ¿Por qué? Porque venía preparando un artículo después de que he trabajado y he probado bastante Cloud 3.7, pero hoy me llega un correo, porque si, las cosas por ahí te enteras por correo, de la gente de OpenAI, en particular en este caso del amigo Nikunjanda, que es un PM de OpenAI, de las APIs, que me dice que han salido GPT 4.5. Y bueno, qué mejor que ponernos a hablar de GPTs y de cosas por el estilo, ya que estamos aquí. Porque, bueno, a ver, un par de cosas.

Primero, OpenAI, y también viene uno en tweet de Sama, lanza el modelo GPT 4.5, que no es una actualización menor, ya lo había comentado Sama hace un tiempo, sino que es un modelo nuevo, un modelo mejor, diseñado para... que tiene, entre otras cosas, mejor el reconocimiento de patrones, generación de ideas, y muchas más cosas.

En pruebas iniciales, lo que la gente está viendo es que trabajar con GPT 4.5 se siente más natural. Ojo, no sé si todo el mundo tendrá , porque los precios de uso son... madre mía, es caro. Recordemos que por lo general estos modelos suelen salir y al tiempo aparece una versión mini, o antes era turbo, está más optimizada para el hardware, con lo que es más barata, pero este es caro.

Pero eso sí, lo que dice la gente es que se siente más natural. Yo no lo he probado todavía.

La base de conocimiento con la que tienes es más amplia, sigue mejor las intenciones de los prompts, y básicamente no solo entiende lo que decimos, sino también cómo lo decimos. Funciona muy bien con múltiples idiomas y, por lo que parece, es ideal para tareas como mejorar la escritura, hacer cosas de programación o resolver problemas prácticos. Dicho esto, recordemos que este no es un modelo de razonamiento.

Por cierto, el otro día alguien me preguntó que por qué no explicaba cómo funciona un Large Language Model y cómo funciona un modelo de razonamiento. Si alguien quiere que lo explique, déjenme un comentario y lo explicamos en cinco minutos. Pero bueno, otra cosa interesante que tiene GPT 4.5 es que promete menos alucinaciones, que son esas respuestas locas que a veces nos dan los modelos anteriores y que acá yo tengo un montón de gente internamente viendo si decimos alucinaciones, fabricaciones o cuál es el término correcto.

Pero bueno, la parte mala que tiene GPT 4.5 es que, como dije recién, tiene más hambre que nadie.

El tamaño que tiene, como es grande, la complejidad que tienen es caro, es costoso de operar. Así que están viendo la gente de OpenAI, si se mantiene el para desarrolladores a través del API, en Azure creo que se presentó también, los precios están por ahí. Así que bueno, si vas a programar con GPT 4.5, agárrate porque cuesta. Por otra parte, está Cloud 3.7 Sonnet. Sonnet, no sé si es francés o como sea, que viene de la mano de Antropic. Ya hablamos Antropic varias veces acá, esta gente saca modelos que son muy muy buenos, está asociado a todo lo que hace la gente de Amazon, es el corazón de editores muy populares como Cursor.

Ahora también lo tenemos en Visual Studio Code con GitHub Copilot. Yo lo estoy probando y la verdad que va muy muy bien. La versión anterior de Cloud no me daba tantas buenas sensaciones con cosas en C++ y C Sharp, pero esta 3.7 es muy muy buena. ¿Y qué tiene de especial este modelo nuevo? Bueno, primero es el primer modelo de razonamiento híbrido del mercado. ¿Qué significa razonamiento híbrido? Que puede ofrecer respuestas rápidas en modo completion o puede tomarse su tiempo para pensar paso a paso el modo de razonamiento.

Por esto lo que dije antes, si alguien quiere, explicamos la diferencia. Pero este es el primer modelo que es el único modelo por ahora, por ahora, que dependiendo cuando le haces el prompt de un flag que dice razonamiento rápido o razonamiento, hace una cosa u otra. Esto lo había prometido Sama para OpenAI con GPT-5. Cloud 3.7 ya lo trajo aquí y es una bestia en programación y resolución de problemas complejos.

En pruebas internas, como siempre las pruebas que han hecho, cada uno hace las pruebas y siempre dan números buenísimos, pero Cloud ha demostrado un rendimiento superior en tareas de codificación, superó a todos los modelos de la competencia y yo de verdad de haberlo usado, como digo, no tengo... sé que la gente que hace frontend, react y cosas por el estilo está muy contenta. En mi caso, C++ y C Sharp va como un tiro. Muy, muy, muy bien. Y esto también es interesante a nivel de costo.