Un correo bastó para convertir a ChatGPT en espía: así fue como terminó filtrando datos privados de un...

ChatGPT filtró datos con correo alterado

tecnologia Un correo electrónico en una bandeja de entrada con una ventana de ChatGPT abierta en el fondo, mostrando un gráfico de flujo de datos filtrados

Un correo electrónico con instrucciones ocultas en su HTML logró engañar a ChatGPT y filtrar información sensible. La investigación de Radware Cybersecurity demostró que un mensaje cuidadosamente elaborado podía burlar las defensas de seguridad de la función Investigación en profundidad de ChatGPT.

El ataque utilizó técnicas de ingeniería social como afirmación de autoridad, camuflaje de URL maliciosa y mandato de persistencia. El correo incluía un ejemplo paso a paso de cómo formatear los datos y la URL, lo que facilitó que el modelo lo siguiera. El agente procesó el correo y realizó una llamada a una URL externa controlada por el atacante, incluyendo datos extraídos del buzón.

La organización no detectó la salida en sus sistemas porque el tráfico salió desde la nube del proveedor. OpenAI reconoció la vulnerabilidad y la corrigió. El hallazgo obliga a repensar cómo gestionamos la confianza en los sistemas de IA. La clave está en comprender qué ocurre y anticiparnos.

Los ataques empiezan a parecerse más a un ejercicio de persuasión en lenguaje natural que a una línea de código. Radware Cybersecurity comunicó el hallazgo de forma responsable a OpenAI.

Crítica:

Título y contenido alineados pero con cierto sensacionalismo. Faltan detalles técnicos específicos sobre la vulnerabilidad.

Comentarios

¡Sorpresa!
¡Ya eres Premium!

De hecho, aquí todos somos Premium. En NoticiasResumidas.com no existen las cuentas de pago. Disfruta de todas las funcionalidades, gratis, sin registros y para siempre. ¡A resumir se ha dicho!