E. Build a Large Language Model - Fine-tuning eficiente con LoRA 3s705b

Hola a todos los jeeps bienvenidos de nuevo a una inteligencia artificial hablando el atajo para entender los avances más alucinantes en e hoy hoy nos vamos a sumergir en algo que les va a simplificar la vida y mucho el ajuste fino eficiente de parámetros con lora basta si alguna vez te has sentido abrumado por el tamaño de los modelos de lenguaje grandes o la idea de entrenarlos para tareas específicas te ha dado escalofríos entonces este episodio es para ti tenemos como guía extractos del libro de sebastian rasga construye un modelo de lenguaje grande desde cero y algunos detalles adicionales sobre la implementación del lora preparados para optimizar vuestros modelos de lenguaje el objetivo es que al final del día tengas el conocimiento para ajustar modelos de lenguaje grandes sin necesidad de una supercomputadora o pasarte un mes pegado al código imagínate que tienes un modelo de lenguaje grande enorme para entrenar es como una navaja suzy sabrá sirve para un montón de tareas generales sea así pero a veces necesitas que sea excepcional en algo específico como por ejemplo identificar mensajes de spam en español ahí es donde entra el ajuste fino quieres que tu modelo sea un experto en span tradicionalmente eso significaba ajustar todos los pesos del modelo millones incluso miles de millones de parámetros menudo dolor de cabeza un dolor de cabeza y un proceso clarísimo en tiempo y recursos computacionales además corres el riesgo de sobra ajuste donde el modelo memoriza los datos de entrenamiento en lugar de comprender realmente la tarea es como si tuvieras que reescribir un libro entero solo para corregir una coma una locura por suerte aquí llega el olor al rescate lora lorraine adaptación es una técnica que en lugar de cambiar todos los pesos del modelo añade pequeñas matrices de bajo rango a capas específicas en vez de ajustar todas las recetas o lo cambio es un par de ingredientes me encanta la analogía de la receta entonces lo ahora dice oye no necesitamos tocarlo todo solo algunos puntos clave exactamente lora reduce drásticamente numb de parámetros que se están ajustando imaginé que el modelo su gigantesco de control con miles de botones lo te permite ajustar sólo los botones necesarios para una tarea específica sin tener que tocar todo el pene mucho más eficiente verdad y si lo comparamos con el ajuste fino tradicional qué ventajas concretas ofrece lora a los desarrolladores lora permite un entrenamiento mucho más más rápido requieren menos potencia de cálculo y el modelo generalista mejor porque no estamos sobre ajustando además puedes almacenar múltiples ajustes lora para diferentes tareas sin necesidad de guardar un modelo de lenguaje grande completamente nuevo cada vez esto es una gran ventaja para el almacenamiento y la escalabilidad suena genial entonces colora podemos optimizar nuestros mo modelos del lenguaje sin tener que empezar desde cero cada vez como se implementa esto en la práctica qué pasos tenemos que seguir el libro de rasca describe con detalle cómo añadir capas lora a una implementación de tours de un modelo repetir incluso muestra cómo reemplazar capas lineales específicas con la nueva capa línea with lora lora se integra perfectamente en la arquitectura del modelo existente trabajando junto a los pesos originales prácticamente lo conectas y listo son bastante sencillos pero antes de empezar a implementarlo ahora hay un concepto que debemos entender la tokenización puedes explicarnos qué es y por qué es importante claro antes de que el modelo pueda procesar el texto necesitamos dividirlo en unidad más pequeñas que puede entender estas unidades se llaman tokens piensa en ello como si dividíamos una frase en palabras individuales entonces la tokenización es como trocear el texto en pedacitos que el modelo pueda digerir no exactamente y hay diferentes maneras de toque iniciar un texto una de las técnicas más populares es pd qué significa bitter cubren beppe construye un vocabulario de tokens funcionando los pares de caracteres más frecuentes empieza con caracteres individuales y va creando tokens más grandes a medida que encuentra patrones en el texto y esto cómo se relaciona con lora porque es importante entender la tokenización antes de aplicarla ahora a nuestro modelo la tokenización es esencial porque define las unidades básicas con las que trabajará el modelo al aplicarlo ahora estamos ajustando los parámetros del modelo para que pueda procesar y generar estos tokens de manera más eficiente para la tarea específica que queremos realizar entiendo es como si al token izar el té texto estuviéramos preparando el terreno para que el hora pueda actuar de forma más precisa pero una vez que tenemos los tokens como se los damos de comer al modelo los entiende tal cual buena pregunta los modelos de lenguaje no trabajan directamente contexto sino con representaciones numéricas aquí es donde entran en juego los weddings en bedding suena algo técnico puedes explicar de forma sencilla imagina que cada token tiene una tarjeta de identidad con un montón de características los en barings son vectores numéricos que representan esas características capturando la esencia de cada token en un formato que el modelo pueda procesar entonces si un token fuera perro suben behring podría reflejar características como peludo cuatro patas ladra exactamente