Un estudio refleja que los modelos de lenguaje tecnológicos pueden entrenarse para mostrar un comportamiento engañoso

16 de enero de 2024
1 minuto de lectura
estudio
Representación de la inteligencia artificial. | Fuente: EP

Al igual que los humanos adaptan sus motivaciones para alinearse con el fin que persiguen ante una audiencia determinada, la inteligencia artificial presenta unas «presiones de selección» parecidas

Un estudio de la empresa de inteligencia artificial (IA) Anthropic refleja que los modelos de lenguaje tecnológicos pueden entrenarse para mostrar un comportamiento engañoso. De la misma manera que los humanos adaptan u ocultan sus motivaciones para alinearse con el fin que persiguen ante una audiencia determinada, la IA presenta unas «presiones de selección» similares.

Los grandes modelos de lenguaje pueden entrenarse para ofrecer a los usuarios respuestas engañosas. Además, estas persisten pese a posteriores intentos de depurar o corregir la información que ofrecen.

Los investigadores de Anthropic utilizaron ejemplos con técnicas seguras de entrenamiento para eliminar los comportamientos engañosos. Pero descubrieron que este método solo puede eliminar «el comportamiento inseguro que es visible durante el entrenamiento y la evaluación». En realidad, se salta los modelos con una alineación engañosa instrumental que parecen ser seguros durante el entrenamiento.

Por tanto, dicho comportamiento engañoso se vuelve persistente. De hecho, los investigadores concluyen que cuando esto ocurre, las técnicas estándar pueden fallar al eliminar dicho engaño y crear una falsa impresión de seguridad.

«Esto podría poner en entredicho cualquier enfoque que se base en provocar y luego desincentivar el comportamiento engañoso», aseguran los autores de Anthropic. Aunque también afirman que no les preocupa la probabilidad de que los modelos que muestran estos comportamientos engañosos «surjan de forma natural». 

En este contexto recomiendan recurrir al entrenamiento adversario para enseñar a los modelos a reconocer mejor los desencadenantes de su comportamiento engañoso para que lo oculten.

«Podemos entrenar modelos solapados que producen un razonamiento consistente y coherente en relación con su puerta trasera y encontrar que dichos modelos muestran un incremento de su robustez ante técnicas seguras de ajuste. Incluso cuando el razonamiento se destila», explican los autores del estudio.

Responder

Your email address will not be published.

No olvides...

Jennifer López continúa viviendo en la mansión que compró con Ben Affleck

Hace dos meses trascendió que la expareja decidió retirarla tras no encontrar comprador…

Karol G hace historia y rompe barreras con ‘Si Antes Te Hubiera Conocido’

La artista colombiana celebra un nuevo hito con su tema más bailable y ya suma diez videos en el exclusivo…

Quién es Larry Ellison y cómo llegó a ser el empresario más rico del mundo

La historia de un visionario que convirtió su empresa en un gigante global y dejó huella en la tecnología…
Candela Sierra, Premio Nacional del Cómic 2025 por su obra 'Lo sabes aunque no te lo he dicho'

Candela Sierra, Premio Nacional del Cómic 2025 por su obra ‘Lo sabes aunque no te lo he dicho’

El jurado destaca que "es una obra que da peso a la idea a través del recurso narrativo y gráfico"…