TikTok anuncia herramienta para detectar videos falsos creados con IA

TikTok anunció este viernes el lanzamiento mundial de su herramienta de detección de "deepfakes" para figuras públicas, en un esfuerzo por frenar la desinformación generada con inteligencia artificial.

Los "deepfakes" o contenidos ultrafalsos son generalmente videos o sonidos que parecen reales, pero que han sido generados o manipulados por la IA.

Esta nueva herramienta permite a los políticos y a las cuentas con un gran número de seguidores en TikTok identificar y denunciar piezas creadas con IA que utilicen su imagen sin consentimiento.

Ir a la siguiente nota

Elecciones en Europa

Para TikTok, propiedad de la empresa china ByteDance, la herramienta es un elemento clave para protegerse contra la desinformación durante las elecciones que se llevarán a cabo en toda Europa el próximo año, incluyendo Italia, Francia y Grecia.

"Proteger la integridad de las elecciones es una de las responsabilidades más importantes que tenemos en TikTok", afirmó Francesca Scapolo, responsable de relaciones gubernamentales de la empresa para las elecciones europeas, durante el Foro de Seguridad e Innovación celebrado el jueves en Londres.

Agregó que la herramienta de detección de imágenes similares ayudará a "los políticos y al gobierno a identificar contenido potencialmente generado por IA que haya sido compartido sin su consentimiento".

Normas de transparencia 

La Unión Europea comenzó a implementar en agosto normas de transparencia de amplio alcance sobre la inteligencia artificial, incluyendo el requisito de que los "deepfakes" y otros contenidos generados por IA sean etiquetados.

TikTok ha exigido a los creadores de contenido que etiqueten las imágenes, el audio y los videos realistas generados por IA desde hace varios años.

El año pasado, la empresa señaló que las mejoras tecnológicas le permitirían reducir los puestos de trabajo y las oficinas de moderación en todo el mundo.

Inteligencia artificial 

La IA ha cobrado importancia en la moderación de las redes sociales, ya que los operadores buscan ahorrar dinero en revisiones humanas de contenido como pornografía, desinformación y discursos de odio.

YouTube también ha desarrollado su propia herramienta de detección de imágenes para permitir que los creadores identifiquen videos generados por IA que muestren a personas que se hacen pasar por ellos.

La AFP, junto con más de una docena de otras organizaciones de verificación de datos, recibe pagos de TikTok en varios países para verificar videos que podrían contener información falsa.

Todo sobre Inteligencia Artificial