Desde que llegaran las redes sociales a nuestras vidas, son millones las fotos y vídeos que compartimos entre todos en Internet diariamente y en ocasiones, incluso recurrimos a alguna aplicación que contenga la opción de poder incluir algún filtro.
En la mayoría de las ocasiones, ese contenido se manipula con la única finalidad de poder hacerlas más atractivas o creativas, pero también debemos tener en cuenta que, no siempre es así y que hay personas que manipulan estos medios para poder engañar.
Estas manipulaciones se pueden hacer a través de tecnología simple como Photoshop o mediante herramientas más sofisticadas que utilizan inteligencia artificial o técnicas de “aprendizaje profundo” para crear vídeos que distorsionan la realidad, generalmente llamadas “deepfakes” como la denomina la red social Facebook y además añaden que, si bien estos vídeos aún son raros en Internet, presentan un significativo desafío para la industria y sociedad a medida que aumenta su uso.
A través del comunicado oficial que se ha publicado en Facebook por Monika Bickert, Vicepresidenta, Gestión de Políticas Globales, podemos ver que tomarán medidas con los deepfakes y los vídeos manipulados para poder así fortalecer su política hacia este tipo de medios.
En el futuro, procederán a eliminar los medios manipulados engañosos si cumplen con los siguientes criterios:
- Se ha editado o sintetizado, más allá de los ajustes de claridad o calidad, de manera que no son evidentes para una persona promedio y que probablemente inducirán a error a pensar que un sujeto del video dijo palabras que en realidad no dijo.
- Es producto de la inteligencia artificial o del aprendizaje automático que fusiona, reemplaza o superpone contenido en un vídeo, haciendo que parezca auténtico.
Facebook agrega que esta política no se extiende al contenido que es parodia o sátira, o vídeo que ha sido editado únicamente para omitir o cambiar el orden de las palabras.
Si vas a publicar fotos o vídeos en la red social deberás tener en cuenta que, de acuerdo a sus políticas existentes, el audio, las fotos o los vídeos, ya sean falsos o no, se eliminarán de Facebook si violan cualquiera de sus otras Normas de la comunidad, incluidas las que rigen la desnudez, la violencia gráfica, la supresión de votantes y el discurso de odio.
Por otro lado, los vídeos que no cumplan los requisitos de eliminación pueden ser aún revisados por su programa de verificación de Facebook y, si alguno de estos contenidos es falto o parcialmente falso, se reducirá su distribución en el feed y será rechazado si es un anuncio. Además, si ese anuncio o publicación ha sido anteriormente compartida por los usuarios, verán advertencias que les alertarán de que es falso.
Según comenta Bickert en el comunicado sobre las “etiquetas”, “si simplemente elimináramos todos los vídeos manipulados marcados por verificadores de hechos como falsos, los vídeos aún estarían disponibles en otros lugares de internet o en el ecosistema de las redes sociales. Al dejarlos y etiquetarlos como falsos, brindamos a las personas información y contexto importantes”.
En el comunicado también recuerda la labor de la red social por eliminar las cuentas falsas que se encuentran detrás de estas publicaciones y otros comportamientos no auténticos coordinados además de estar involucrados en la identificación de contenido manipulado, de los cuales las falsificaciones profundas son las más difíciles de detectar.
Es por eso que en septiembre del 2019 lanzaron Deep Fake Detection Challenge, que ha estimulado a personas de todo el mundo a producir más herramientas de investigación y de código abierto para detectar falsificaciones profundas. Este proyecto, apoyado por $ 10 millones en subvenciones, incluye una coalición de organizaciones intersectoriales que incluyen la Asociación sobre IA, Cornell Tech, la Universidad de California Berkeley, MIT, WITNESS, Microsoft, la BBC y AWS, entre otros en la sociedad civil. y la tecnología, los medios y las comunidades académicas.
Por otro lado, la red social se ha asociado con Reuters, el proveedor de noticias multimedia más grande del mundo, para ayudar a las salas de redacción de todo el mundo a identificar falsificaciones profundas y medios manipulados a través de un curso de capacitación en línea gratuito.
Las organizaciones de noticias confían cada vez más en terceros para grandes volúmenes de imágenes y videos, y la identificación de imágenes manipuladas es un desafío importante. Este programa tiene como objetivo apoyar las salas de redacción que intentan hacer este trabajo.
Fuente: Facebook
