El Oversight Board de Meta ordenó retirar dos deepfakes y cuestionó las salvaguardas de la empresa

El Oversight Board, el órgano independiente de revisión de contenido financiado por un fideicomiso que creó Meta, publicó el 17 de septiembre dos decisiones distintas sobre videos manipulados con inteligencia artificial y calificó las salvaguardas actuales de la compañía contra ese tipo de contenido como "consistentemente e fundamentalmente inadecuadas", según reportaron PetaPixel, TechXplore y Medianama.

El primer caso trata sobre un video generado por IA, publicado en noviembre de 2025, que le atribuía falsamente a un concejal laborista escocés comentarios racistas sobre refugiados que nunca pronunció. El clip permaneció en Facebook pese a reportes de usuarios y nunca recibió una etiqueta de "riesgo alto" de contenido generado por IA; el Board ordenó su remoción por discurso de odio y emitió seis recomendaciones de política nuevas para casos similares, entre ellas bajar el umbral para aplicar esas etiquetas más allá de elecciones y crisis, exigir una pantalla de advertencia antes de reproducir el contenido marcado y publicar datos anuales sobre su uso.

El segundo caso es distinto: el Board revisó un posteo puntual -con poco más de 5.000 vistas al momento del análisis- que formaba parte de una campaña más amplia de imágenes y videos manipulados que ridiculizaban a una joven musulmana que había participado en una iniciativa de educación sobre salud menstrual, y que en conjunto y en distintas plataformas sumó decenas de millones de reproducciones. Para este caso, el Board sumó otras tres recomendaciones: ampliar la definición de "imágenes manipuladas no deseadas", incorporar ese contenido a los bancos internos de detección de imágenes de Meta y priorizar su revisión.

Las decisiones sobre los dos contenidos puntuales son vinculantes para Meta; las nueve recomendaciones de política, en cambio, no lo son, aunque la compañía se comprometió en el pasado a responder públicamente a cada una dentro de los plazos que fija el propio Board.

El fallo se suma a una serie de decisiones del organismo sobre desinformación generada por IA, incluida una de marzo sobre un video manipulado del conflicto entre Israel e Irán, en momentos en que el volumen de contenido sintético en redes sociales crece más rápido que la capacidad de las plataformas para etiquetarlo.