Youtube refuerza la lucha contra la desinformación con detector de deepfakes

La plataforma de videos YouTube presentó una nueva herramienta basada en inteligencia artificial destinada a detectar deepfakes y proteger la identidad de políticos, periodistas y funcionarios públicos frente a contenidos manipulados. El sistema busca identificar videos alterados que utilicen de forma indebida la imagen o la voz de una persona y ofrecer mecanismos para solicitar su eliminación.

La tecnología, denominada "Likeness Detection", funciona mediante el análisis automatizado de los videos que se suben a la plataforma. El sistema compara rostros, gestos y patrones de voz con los de usuarios previamente registrados en el programa de protección para detectar posibles coincidencias con material generado o modificado mediante inteligencia artificial.

Para realizar esta tarea, la herramienta combina modelos avanzados de IA con técnicas de reconocimiento biométrico y marcas de agua digitales desarrolladas por Google, que permiten rastrear el origen del contenido. Además, utiliza algoritmos que comparan la geometría facial y la gestualidad de las personas para detectar si se trata de una manipulación.

Cuando el sistema identifica una coincidencia potencial, el usuario verificado recibe una alerta en un panel privado dentro de la plataforma. Desde allí puede revisar el contenido y decidir si se trata de una suplantación de identidad o un uso no autorizado de su imagen, lo que le permite iniciar un pedido de eliminación mediante las herramientas de privacidad.

A diferencia del sistema Content ID, que se utiliza para proteger derechos de autor, este nuevo mecanismo está enfocado exclusivamente en la identidad personal. Según la compañía, el objetivo es evitar abusos sin afectar contenidos creativos como parodias o sátiras.

Especialistas advierten que la expansión de los deepfakes representa un desafío creciente para la información pública y los procesos electorales, ya que estos videos manipulados pueden atribuir declaraciones falsas a candidatos o figuras públicas. En ese contexto, la detección temprana se vuelve clave para limitar la circulación de material engañoso antes de que impacte en la opinión pública.

Un escudo contra la desinformación en procesos electorales
La proliferación de deepfakes representa un riesgo directo para la democracia, ya que los vídeos manipulados pueden atribuir palabras o gestos falsos a candidatos y funcionarios durante períodos electorales.

La herramienta de YouTube ofrece un escudo adicional frente a este tipo de desinformación, al permitir que los protagonistas de la política y los medios de comunicación puedan identificar el uso indebido de su imagen y solicitar acciones correctivas.

Especialistas destacan que la detección temprana es clave para mitigar la propagación de contenidos engañosos antes de que afecten la opinión pública, especialmente en campañas sensibles o con alto impacto mediático.

Requisitos para participar: verificación de identidad y biometría
Para acceder a la protección de "Likeness Detection", los usuarios deben inscribirse en el programa y completar un proceso de verificación de identidad.

Esto implica subir un vídeo de referencia, junto con un documento oficial que certifique quienes son, asegurando que solo los autorizados puedan activar el sistema sobre su imagen.

YouTube garantiza que estos datos se utilizarán exclusivamente para el chequeo y no serán empleados para entrenar modelos de IA generativa, manteniendo así un equilibrio entre privacidad y seguridad digital.

El acceso incluye a creadores del YouTube Partner Program, cuyos primeros testers incluyeron figuras como MrBeast, Mark Rober, Doctor Mike y Marques Brownlee; políticos y candidatos en ejercicio, funcionarios de gobierno y periodistas.