Descargar APP gratis en APP Store 4l3133
Descargar APP gratis en Play Store
Prompt Injection Attack, la amenaza que acecha a Operator, el agente de nivel 3 de OpenAI 4c271u
26/01/2025
26/01/2025
Hace muy poco te hablé en mi canal sobre O3, el nuevo modelo de OpenAI que promete un...
Hace muy poco te hablé en mi canal sobre O3, el nuevo modelo de OpenAI que promete un razonamiento profundo y avances que rozan la idea (aunque todavía lejana) de la Inteligencia Artificial General. Por si fuera poco, OpenAI también anunció Operator, un agente con capacidades increíbles para realizar tareas en línea de manera (casi) autónoma, navegando y completando acciones en un navegador remoto, tal y como tú y yo lo haríamos con teclado y ratón.
De hecho esta misma semana se ha realizado la primera demo por parte de OpoenAI
Hoy no obstante, quiero centrarme en un tema que se está volviendo prioritario: las inyecciones de prompts (Prompt Injection Attacks). ¿Qué son, por qué son tan peligrosas y cómo se relacionan con esta nueva generación de agentes autónomos?
¿Qué es una Inyección de Prompts?
Para entenderlo en términos sencillos, las inyecciones de prompts son la forma en que un atacante “tuerce” las instrucciones que recibe un modelo de IA (como ChatGPT, O3 u Operator) para que haga algo que no debería hacer.
En este contenido vas a descubrir que es el prompt injection y cómo combatirlo.
Asimismo cubriremos dos noticias importantes esta semana, la presentación por parte de la istración Norteamericana dirigida por el nuevo presidente Donad Trump y la propuesta de Pedro Sánchez para controlar las redes sociales.