Youtube anuncia que sus usuarios podrán reclamar el contenido de suplantación generado por la inteligencia artificial

La aplicación introducirá una nueva etiqueta que informará sobre contenidos potencialmente manipulados o sintéticos

YouTube, en un esfuerzo por salvaguardar la privacidad de los usuarios, ha anunciado que los usuarios podrán reclamar la inclusión de contenido generado digitalmente que manipulen el rostro o la voz de alguien sin su consentimiento. Este paso permitirá a los afectados solicitar la eliminación de este tipo de vídeos.

La plataforma de videos evaluará minuciosamente las solicitudes y considerará factores como la intención detrás de la manipulación, si se trata de una parodia o sátira, o si la persona afectada es una figura pública. La empresa destaca que, debido a estas consideraciones, no todos los contenidos generados de manera digital se eliminarán automáticamente, para de esa forma mantener un balance entre la protección de la privacidad y la libertad creativa en casos específicos.

YouTube ha confirmado la autorización del uso de inteligencia artificial (IA) para la creación de contenidos en su plataforma, siempre y cuando estos respeten las normas de la comunidad establecidas por la plataforma, según un comunicado oficial.

La compañía ha dejado claro que todos los contenidos compartidos en la plataforma deben cumplir con estas normas, independientemente de su método de generación. Esto incluye explícitamente aquellos generados mediante herramientas de IA generativa.

A pesar de reconocer que la inteligencia artificial abre oportunidades para nuevas y potentes narrativas, el almacenador de vídeos en la web destaca la preocupación por el posible uso de esta tecnología para la creación de contenidos engañosos o perjudiciales, algo que actualmente está prohibido en la plataforma. Esto es especialmente relevante cuando el público no es consciente de que un video ha sido manipulado o creado de forma sintética.

En los próximos meses, YouTube exigirá a los creadores informar a los usuarios cuando hayan utilizado herramientas de IA para la creación de contenidos, especialmente cuando involucren material realista manipulado.

La aplicación introducirá una nueva etiqueta que informará a los usuarios sobre contenidos potencialmente manipulados o sintéticos. Esta etiqueta se incluirá en el panel de descripción, indicando que parte del contenido ha sido alterado o generado digitalmente. Además, para ciertos temas sensibles, aplicará una etiqueta más destacada en el reproductor de vídeo.

En casos en los que la etiqueta no sea suficiente para mitigar el riesgo de daño, la empresa eliminará el contenido que incumpla las normas de la comunidad, incluso si está etiquetado. Por ejemplo, vídeos que muestren violencia realista generada de manera artificial, con la intención de conmocionar o provocar indignación, podrían ser eliminados.

Como medida adicional, YouTube resaltará claramente como generados mediante IA todos los contenidos que utilicen los productos y funciones de IA generativa de la plataforma. Con estas medidas, la herramienta busca equilibrar la innovación tecnológica con la responsabilidad y la protección de sus usuarios.