OpenAI presenta el Modo Bloqueo para proteger datos sensibles de ataques de inyección de prompts
OpenAI lanzó un nuevo Modo Bloqueo diseñado para proteger los datos confidenciales de los usuarios contra ataques de inyección de prompts en ChatGPT.Resumen
OpenAI ha presentado una nueva función denominada Modo Bloqueo (Lockdown Mode) para mitigar los riesgos de los ataques de inyección de prompts, donde instrucciones maliciosas se ocultan en fuentes de contenido web. Al activarse, esta función restringe el acceso a la navegación web en vivo, la carga de imágenes externas, la investigación profunda y el modo agente, con el fin de reducir las posibilidades de exfiltración de datos confidenciales.
Aunque OpenAI advierte que ChatGPT aún podría ser vulnerable a inyecciones complejas dentro de archivos o contenido en caché, este modo está especialmente diseñado para organizaciones que manejan información sensible. La implementación se está llevando a cabo actualmente para cuentas personales elegibles y usuarios de ChatGPT Business.
(Fuente：TechCrunch)