Un estudio refleja que los modelos de lenguaje tecnológicos pueden entrenarse para mostrar un comportamiento engañoso

16 de enero de 2024
1 minuto de lectura
estudio
Representación de la inteligencia artificial. | Fuente: EP

Al igual que los humanos adaptan sus motivaciones para alinearse con el fin que persiguen ante una audiencia determinada, la inteligencia artificial presenta unas «presiones de selección» parecidas

Un estudio de la empresa de inteligencia artificial (IA) Anthropic refleja que los modelos de lenguaje tecnológicos pueden entrenarse para mostrar un comportamiento engañoso. De la misma manera que los humanos adaptan u ocultan sus motivaciones para alinearse con el fin que persiguen ante una audiencia determinada, la IA presenta unas «presiones de selección» similares.

Los grandes modelos de lenguaje pueden entrenarse para ofrecer a los usuarios respuestas engañosas. Además, estas persisten pese a posteriores intentos de depurar o corregir la información que ofrecen.

Los investigadores de Anthropic utilizaron ejemplos con técnicas seguras de entrenamiento para eliminar los comportamientos engañosos. Pero descubrieron que este método solo puede eliminar «el comportamiento inseguro que es visible durante el entrenamiento y la evaluación». En realidad, se salta los modelos con una alineación engañosa instrumental que parecen ser seguros durante el entrenamiento.

Por tanto, dicho comportamiento engañoso se vuelve persistente. De hecho, los investigadores concluyen que cuando esto ocurre, las técnicas estándar pueden fallar al eliminar dicho engaño y crear una falsa impresión de seguridad.

«Esto podría poner en entredicho cualquier enfoque que se base en provocar y luego desincentivar el comportamiento engañoso», aseguran los autores de Anthropic. Aunque también afirman que no les preocupa la probabilidad de que los modelos que muestran estos comportamientos engañosos «surjan de forma natural». 

En este contexto recomiendan recurrir al entrenamiento adversario para enseñar a los modelos a reconocer mejor los desencadenantes de su comportamiento engañoso para que lo oculten.

«Podemos entrenar modelos solapados que producen un razonamiento consistente y coherente en relación con su puerta trasera y encontrar que dichos modelos muestran un incremento de su robustez ante técnicas seguras de ajuste. Incluso cuando el razonamiento se destila», explican los autores del estudio.

Responder

Your email address will not be published.

No olvides...

El avión de Von der Leyen aterriza de emergencia por interferencias rusas

El vuelo de la presidenta europea sufrió problemas de navegación tras un posible ataque electrónico…

Un terremoto de magnitud 6 deja más de 600 muertos en el este de Afganistán

Miles de personas afectadas mientras los equipos de rescate buscan sobrevivientes…

El yihadismo se afianza en África: más de 950.000 km² escapan al control estatal, casi el doble que España

En Burkina Faso, por ejemplo, se calcula que la junta militar controla apenas el 40% del territorio nacional…

Putin comienza una larga visita oficial de cuatro días a China

El mandatario se verá las caras con el presidente chino, Xi Jinping, y con los líderes de India, Pakistán o…