La idea es que las personas sepan cuándo un contenido fue generado por IA
Para ayudar a las personas a saber cuándo un contenido fotorrealista se creó utilizando inteligencia artificial (IA), Meta anunció que le pondrá etiquetas a estas imágenes que sean publicadas por sus usuarios en Facebook, Instagram y Threads.
“A medida que la diferencia entre contenido humano y sintético se vuelve borrosa, la gente quiere saber dónde está el límite. A menudo, las personas se topan con contenido generado por IA por primera vez y nuestros usuarios nos han dicho que aprecian la transparencia en torno a esta nueva tecnología” dijo Nick Clegg, presidente, Global Affairs de Meta en el blog de la compañía.
Explicó que ya le colocan la etiqueta “Imagined with AI” (Ideado con IA) a las imágenes fotorrealistas creadas con su función Meta AI. “Pero también queremos poder hacer esto con contenido creado con herramientas de otras empresas”.
Para ello, dijo que han estado trabajando con socios de la industria para alinearse con estándares técnicos comunes que indiquen cuándo se ha creado un contenido utilizando IA. Esta capacidad la están desarrollando actualmente y en los próximos meses comenzarán a aplicar etiquetas en todos los idiomas admitidos por cada aplicación.
“Adoptaremos este enfoque durante el próximo año, durante el cual se celebrarán una serie de elecciones importantes en todo el mundo. Durante este tiempo, esperamos aprender mucho más sobre cómo las personas crean y comparten contenido de IA, qué tipo de transparencia consideran más valiosa y cómo evolucionan estas tecnologías. Lo que aprendamos informará las mejores prácticas de la industria y nuestro propio enfoque en el futuro” explicó Clegg.
Dijo que están creando herramientas líderes en la industria que pueden identificar marcadores invisibles a escala (específicamente, la información “generada por IA” en los estándares técnicos C2PA e IPTC) de forma de poder etiquetar imágenes de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. mientras estas compañías implementan sus planes para agregar metadatos a las imágenes creadas por sus herramientas.
Destacó la importancia de este trabajo ante la probabilidad de que se convierta en un espacio cada vez más conflictivo en los próximos años. “Las personas y organizaciones que quieran engañar activamente a las personas con contenido generado por IA buscarán formas de evitar las salvaguardas implementadas para detectarlo. En nuestra industria y en la sociedad en general, tendremos que seguir buscando formas de estar un paso por delante”.
Meta lanzó nueva iniciativa para establecer regulaciones de seguridad de la IA
