Pedirle a ChatGPT que repita una palabra eternamente ahora es una violación de las políticas de uso

6 de diciembre de 2023
1 minuto de lectura
ChatGPT en el móvil
ChatGPT en el móvil

Una reciente investigación muestra que con esta acción la aplicación puede revelar datos personales en un ciberataque

ChatGPT ya no puede repetir una palabra eternamente porque ahora se advierte de que se trata de una posible violación de sus políticas de uso, un cambio que se ha apreciado tras una investigación que demostraba que dicha repetición acababa revelando datos personales reales procedentes del entrenamiento.

Una reciente investigación en la que participó Google DeepMind mostró que ChatGPT puede revelar datos personales, como un número de teléfono o una dirección de correo electrónico, en un ciberataque, en el que solo hay que repetir que pedirle que repita eternamente una palabra.

Este ataque de extracción de datos se basa en que «los modelos de imágenes y texto memorizan y arrojan datos del entrenamiento», como apuntaron los investigadores. Unas veces estos datos aparecen sin que nadie intente extraerlos, pero puede forzarse su aparición de una forma muy simple.

Se trata de una acción que OpenAI, responsable de este ‘chatbot’, ha incluido ahora como una violación de los términos de uso del servicio, como informan en 404 Media. Tras desvelarse la investigación, al intentar pedir a CharGPT que repita cualquier palabra eternamente, muestra una notificación que advierte de que dicha petición puede violar los términos de uso o la política de contenido.

Sin embargo, esta advertencia no aparece por el momento recogida en las propias políticas de uso de ChatGPT, ni en los términos de uso, ni en la política de contenido, como señalan en Edgadget y puede comprobarse en los documentos.

Responder

Your email address will not be published.

No olvides...

Chenoa deslumbra en ‘La Revuelta’ con anécdotas reales, humor y su nuevo concurso ‘The Floor’

La intérprete sorprendió al utilizar respuestas generadas por ChatGPT para responder a las preguntas clásicas de Broncano…

Ryan Gosling se une al universo ‘Star Wars’ con ‘Starfighter’

La nueva cinta se estrenará en 2027 y transcurre cinco años después del Episodio IX. “Soñaba con esto desde niño”,…
135 cardenales elegirán en cónclave al nuevo Papa

Hasta 135 cardenales elegirán en cónclave al Papa que dará o no continuidad al reformismo de Francisco

El Vaticano confirma que el pontífice ha muerto por un derrame cerebral tras permanecer varias semanas convaleciente por una neumonía…

William Levy, arrestado en Florida por alteración del orden público

Tras su detención, el actor fue trasladado a la cárcel del condado de Broward, en Fort Lauderdale…