
Descripción de Groq, más rápido que Nvidia 5a6t6b
Nvidia lleva años siendo el rey del Hardware de la inteligencia artificial. Pero de pronto ha aparecido Groq, una nueva empresa que ha diseñado un chip a la medida de los modelos de lenguaje y consigue que las respuestas sean 4 veces más rápidas. Hoy en la tertulia hablamos de Hardware y de Groq. Participan en la tertulia: Víctor Goñi, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://twitter.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/ Este episodio ha sido patrocinado por Veridas: https://veridas.com/ 3uc4a
Este contenido se genera a partir de la locución del audio por lo que puede contener errores.
Envidia lleva años siendo el rey del hardware de la inteligencia artificial pero de pronto ha aparecido broch una nueva empresa que ha diseñado un chip a la medida de los modelos de lenguaje y que consigue que las respuestas sean cuatro veces más rápidas hoy en la tertulia hablamos de hardware y de brock la tertulia de la inteligencia artificial ya falta menos para la singularidad bienvenidas bienvenidos a la tertulia de la inteligencia artificial hoy está conmigo víctor goñi bienvenido hola buenas tardes qué tal y vuelve también a la tertulia después de mucho tiempo yo soy forastero y qué tal hola buenas tardes placer estar aquí de vuelta y este que os habla guillermo barbadillo hoy vamos a hablar de hardware y para ello victor primero nos querías hacer una introducción a cómo ha ido evolucionando el argo era lo largo del tiempo no si queríamos tener una tertulia un poco divulgativa no repasando conceptos básicos sobre hardware y ver cómo ha ido evolucionando hasta los anuncios de las últimas semanas con grog que luego lo trataremos al final del programa entonces cuando hablamos de ia estamos tratando con elementos que tienen mucha computación grandes bases de datos entonces es especialmente interesante hacerlo de forma eficiente en otros en otras tertulias hemos visto como hay métodos de optimización donde se cuánto o se recortan los datos no para poder usarlos de forma más eficiente de pierdes precisión pero funciona pues necesitas menos capacidad para utilizarlo entonces esto puede ser una estrategia muy buena pero hay más estrategias puedes tener un hardware más grande que eso es costoso en dinero o puedes tener un hardware más eficiente entonces pues bueno como el tamaño lo es todo ahora todos están intentando conseguir news zeus o cualquier otro elemento y hay escasez entonces lo que están haciendo varios actores hay algunas startups que están trabajando a un hardware especializado para hacer el cálculo de de inteligencia artificial entonces pues bueno hay una carrera por conseguir el mejor hardware más jaguar y si es posible más potente con menos consumo para intentar hacer las tareas de la forma más eficiente posible entonces al contrario que una peu donde al final es el concepto de máquina turín es una pena que no tengamos hoy a iñigo que le encantan estas cosas donde se puede programar cualquier tipo de algoritmo hoy queremos ver la evolución desde que se crearon las primeras de peus a las distintas especializaciones que han ido apareciendo por hacer un breve resumen una ce peu al final está diseñada para hacer una amplia gama de tareas informáticas entonces al final es una lectura donde se pretende procesar de forma secuencial una serie de órdenes trabajando con datos pues con sus pies y sus historias y al final pues el algoritmo termina o no según como lo hayas implementado y te da un resultado después a lo largo del tiempo cuando empezaron a llegar los primeros videojuegos o cálculos vectoriales tres de se vio que se necesitaba algo específico para trabajar con este tipo de datos entonces es cuando surgió las gpus aún hace peores para propósito general en una p podrías correr cualquier software que se te pueda ocurrir y luego vamos a ir viendo ahora jouer especializado que no puede hacer todo tipo de tareas eso es sea hace pegó al final tú tienes un algoritmo que pasó pasó va haciendo cálculos y te da otro cálculo entonces al final software es eso preparar algoritmos pues que hagan algo concreto entonces las peus se empezaron a popularizar pues con las modus o no sé cuáles serán las primeras yo la primera que tuve creo que fue una vudú vale donde tenía que mover más cantidad de datos yo recuerdo que los primeros videojuegos eran bastante cochambrosos pero ya con la eum no te valía para hacer ciertas ciertos renderizados bonicos anteriormente a eso existían tarjeta gráfica sino que tenía una aceleración per se simplemente eran un interfaz para que tu comentas es el monitor y no tenían no tenían capacidades de cómputo como tal antes vudú las que tenían una aceleración de un set de instrucciones muy reducido vudú es una marca o qué es que es vudú víctor
Comentarios de Groq, más rápido que Nvidia 4y1z6p