ChatGpt genera datos de ensayos clínicos falsos para apoyar hipótesis científicas

9 de diciembre de 2023
1 minuto de lectura
La página web de ChatGPt en una tablet. | Fuente: EP

Esta información creada por inteligencia artificial parece ser de un humano a primera vista, aunque un análisis detallado permite detectar su origen

Un grupo de investigadores de la Universidad Magna Graecia de Catanzaro (Italia) utilizó la tecnología de inteligencia artificial (IA) detrás de ChatGPT para crear datos falsos y respaldar afirmaciones científicas no verificadas. Esto, revelado en una carta publicada en Jama Ophthalmology y citada por Nature

Aunque los datos falsos generados por ChatGPT parecen ser de origen humano a primera vista, un análisis detallado permite detectar su origen y según el cirujano Giuseppe Giannaccare, reconocer la fuente no humana es posible con una inspección minuciosa.

Los investigadores evaluaron estos datos falsos mediante un protocolo de detección para verificar su autenticidad y encontraron discrepancias en el sexo designado de los «participantes», así como falta de correlación entre las medidas pre y postoperatorias en las pruebas visuales.

Distribución de números y patrones

Se examinó la distribución de números en el conjunto de datos, lo que reveló patrones no aleatorios en los valores de edad de los participantes, lo que sería inusual en datos genuinos. Estas anomalías podrían pasar desapercibidas en una revisión por pares convencional.

Expertos argumentan que las revistas científicas necesitarán actualizar sus controles de calidad para identificar datos sintéticos generados por ChatGPT, ya que las técnicas actuales pueden no ser suficientes para detectar estas manipulaciones.

El investigador Wilkinson lidera un proyecto para diseñar herramientas de evaluación más efectivas. Él sugiere que, así como ChatGPT puede ser parte del problema, también podría aportar soluciones automatizadas para estos controles, para ofrecer una posible solución a esta problemática en la investigación científica.

Responder

Your email address will not be published.

No olvides...

Radioterapia exprés contra el cáncer de mama: eficaz en solo cinco sesiones y con menos efectos secundarios

Una menor duración del tratamiento se traduce en menos visitas al hospital, menos interrupciones en la rutina diaria y una…

Frutas, color y salud: los superalimentos que no deben faltar en tu dieta

Hidratantes, nutritivas y llenas de beneficios: las frutas son esenciales para el bienestar diario y aún más si haces ejercicio.…

Científicos logran que la quimioterapia sea más eficaz contra el cáncer de páncreas al anular una proteína clave

El hallazgo, realizado en España, permite que los fármacos penetren mejor en las células tumorales, reduciendo también los efectos secundarios…

Un fármaco para la diabetes reduce la mortalidad tras operaciones cardíacas

Dapagliflozina mejora el pronóstico de pacientes de edad avanzada con estenosis aórtica sometidos a TAVI, según un ensayo español…