NTN 383 - 💻 Devstral: El agente coder que vive en tu laptop 1t6n7

Buenas, buenas, bienvenidos a otro episodio de No Tiene Nombre, mi nombre es Bruno y hoy vamos a hablar, este es un episodio especial para programadores, porque esto se me había pasado la semana pasada, lo vi rápido en Build, pero no le pude dar detalles, así que hoy vamos a hablar de la gente de Mistral que nos han volado la cabeza nuevamente hoy, presentando un modelo para programadores que se llama DevsTral, porque el tema de los nombres se ve que los ses los llevan así como así, y después de haber perdido la final del mundo contra Argentina y la final de Europa contra España, pues se les quitan con nombres que no les gustan. Pero bueno, esta gente, los ses de Mistral, no solamente están contentos con revolucionar los modelos de lenguaje, sino que nos sueltan a DevsTral, que es un modelo que no solamente se centra en la Code Completion, en generar código, sino que está orientado a entornos de agentes. Y esto funciona bastante, bastante bien por varias cosas.

Primero, primero vamos a hacer un poquito de, vamos a tirar un poco para atrás de historia con la gente de Mistral. En el 2023, hace dos añazos, básicamente empezaron a hacer ruido como tal vez la primera y única gran creadora de muy grandes modelos de lenguajes de Europa, y sacaron su modelo, sus primeros modelos open source en 2023, los modelos Mistral. El año pasado tuvieron un poco de, un poco de, un poco de backlash, no sé cómo traducirlo, les pegaron un poco. Si alguien sabe cómo traducir el backlash, que quede bien, me avisa. Pero porque empezaron a sacar unos modelos propietarios que se llamaban Medium, Medium 3 creo que era el modelo. Y algunos comentaban que esto era básicamente una traición a sus, a sus raíces open source y demás. Pero bueno, recordemos que los modelos son open source, no es open source el modelo, pero te dan el modelo para que lo puedas utilizar con los weights, etc. Pero bueno, ahora lo que han hecho es se han unido, se han unido, han hecho un partnership con la gente de All Hands AI, los creadores de OpenDevyn, y han lanzado Deftral.

Deftral es un nuevo modelo de lenguaje, tiene 24 billones de parámetros, es mucho, mucho más pequeño que los, que su competencia. Y lo interesante que tiene es que lo podés ejecutar en tu laptop o en tu PC. Y no es solamente para generar código, sino que está creado con la idea de que sea un agentic developer, un agentic AI developer. ¿Qué pasa? Esto es lo que se llama un SWE, un Software Engineering Agent, para los que no manejan algo técnico y porque me lo ha dicho así acá Cloud, que por cierto, vuelve a funcionar muy bien, aplausos para Cloud, aplausos para Cloud. Es básicamente un AI que no solamente entiende del código, sino que entiende el contexto del código y además te permite interactuar con todo lo que hace falta para hacer código. Código es solamente una, no sé, el 10% de lo que hacemos, el otro 90% se constituye en entender los despliegues, actualizar cosas como por ejemplo issues o proyectos o tareas, generar documentación, hacer test y demás.

Lo interesante de esto es que este modelo, como dije antes, es Open Source, es completamente abierto. Y acá lo que están haciendo es básicamente pensar que tenés un compañero de trabajo que no se cansa, nunca pide aumento, nunca se queja del café y programa bien. Ese es Deftran. Y ojo, los que me sigan online verán como yo, ahora que es público porque tenemos el GitHub, Copilot Agent y demás, estos días me pongo a la mañana, por ejemplo, y le digo al agent, agent, agarra este repo y actualízame todos estos proyectos a esta librería y actualizar la documentación. Y lo hace, mientras yo voy haciendo otras cosas. Se está empezando a repartir y los agentes funcionan cada vez mejor. Este nuevo tipo de modelos, este nuevo tipo de conceptos pueden revisar códigos, sugerir mejoras, detectar bugs, solucionar bugs e inclusive escriben pedazos de códigos completos. Te ayudan, en mi caso, con cosas que yo no domino mucho, como es el tema del despliegue, al cloud, biceps y demás.

Hacen un montón, un montón de cosas. En este caso, según el artículo de VentureBeats que me dejaron los links, este modelo ha sido entrenado específicamente para estas tareas y no es un modelo de propósito general. No lo usáis para chat, pero sí, pero sí puede funcionar muy, muy bien, muy, muy bien para todo lo que es desarrollo. Inicialmente, cuando sacaron el año pasado CodeStral, no DevStral, de nuevo ses y los nombres, porque fue un modelo que cayó muy bien en la comunidad. Tenía 22 billones de parámetros. Trabajaba con más de 80 lenguajes de programación. Funcionaba bastante bien, funcionaba muy bien.