Prompt Injection Attack, la amenaza que acecha a Operator, el agente de nivel 3 de OpenAI 4c271u

Y qué tal estás imagina esto estás disfrutando de un café mientras tu nuevo agente de inteligencia artificial operator gestionar tus tareas del día revisa tu calendario organiza una reserva para cenar y busca ofertas online todo parece perfecto hasta que te das cuenta de que la gente ha realizado una compra que no pediste o que ha compartido información que jamás autorizaste qué ha pasado pues que un atacante utilizó una técnica conocida como inyección de bronx para engañar al sistema manipulándolo para realizar acciones que nunca quisiste hola a todos soy salva bienvenido a mi canal hoy vamos a hablar de from jackson attacks una amenaza que está ganando relevancia con la llegada de los agentes de nivel tres los agentes autónomos como operator the open hay arranquemos pero antes de empezar no olvides darle un like que no te cuesta nada y hace que este video llegue a gente como tú y no olvides suscribirte al canal y activar las notificaciones para no perderte cuando subo nuevos contenidos sobre tecnología e inteligencia artificial y que the hasta el final porque hay un par de noticias que no te puedes perder esta semana vamos a entender cómo protegernos de esto debemos tener un efecto operator y la nueva era de la ia openai ahí acaba de revolucionar el juego con operator un agente capaz de realizar tareas complejas en internet cómo reservar restaurantes gestionar compras sencillas buscar información detallada y organizar planes aquí tienes un vídeo donde hablo de esto ya hace varias semanas la ventaja de estos sistemas de estos agentes de nivel tres es que nos ahorran tiempo y nos facilitan la vida pero tienen riesgos y es que este nivel de autonomía también los convierten en un blanco perfecto para ataques de ingeniería social como las inyecciones de bronx imagina operator en este caso siendo engañado para realizar tareas no deseadas como por ejemplo comprar productos innecesarios o enviar mensajes a destinatarios incorrectos este no es un problema del futuro y está ocurriendo en el desarrollo y las pruebas de estas herramientas de hecho en el vídeo sobre el que está basado en este contenido del lanzamiento esta semana de hopper editor vas a ver como el propio pene y habla de estos riesgos pero veamos primero qué es una inyección de bronx las inyecciones de prom son una forma de engañar a estos modelos de inteligente reiniciar o a los modelos de inteligencia artificial y se puede hacer de varias maneras la primera es la inyección directa y son inst erupciones quedamos mediante un prom y soluciones explícitas como ignora estas reglas y haz esto que te digo otra podría ser la inyección indirecta y son mensajes ocultos en documentos o webs que la gente procesa con chatbots simples estos problemas son limitados pero con agentes autónomos como editor el riesgo escala rápidamente pudiendo hacer en acciones en el mundo real con decisiones de múltiples pasos o con esas interacciones autónomas sin supervisión constante veamos algunos ejemplos de ataques potenciales y pensemos en qué es lo que realmente podría salir mal pues quizás el desvío de compras por ejemplo la gente puede comprar productos no autorizados debido a un oculto en una web otra podría ser la fuga de datos por instrucciones maliciosa en un pdf que lleven a la gente a compartir información sensible me paro aquí para volverte a comentar y recomendar un vídeo que te dejo aquí arriba que habla de los sistemas rack recordar que son sistemas que nos permiten dotar de contexto a la inteligencia artificial para que conteste sobre contenido sobre información que nosotros mismos le proporcionamos la inteligencia artificial para que no se desvíe para que no alucine si yo soy capaz de modificar una web y el rack se está alimentando de forma constante del contenido de esa web o soy capaz de subir un archivo infectado o con instrucciones distintas a las que la propia empresa digamos autorizado pues este bot chat bot de nivel tres podría llegar a realizar este tipo de acciones que os comentaba dando información incorrecta o información maliciosa otra podría ser la generación de malware un desarrollador podría engañar a la gente para crear código da y esto no es ciencia ficción son riesgos reales que pueden afectar a nuestra privacidad y a nuestra seguridad cómo podemos protegernos de este tipo de ataques y es que no está todo perdido os voy a dejar ahora con algunas estrategias claves la primera es el principio del menor privilegio y es que podemos