YouTube exigirá identificar contenido generado por IA
Con la inteligencia artificial abriendo tantas opciones para la creación de contenido, era cuestión de tiempo que plataformas como YouTube definan límites y medidas especiales para minimizar los riesgos que introduce esta tecnología.
Es así como, a través de un comunicado firmado por Jennifer Flannery O’Connor, VP Product Management, y Emily Moxley, VP Product Management de la compañía, se informó de las primeras acciones al respecto, en un enfoque que irá evolucionando.
“La IA generativa tiene potencial para multiplicar la creatividad en YouTube y para transformar la experiencia de los espectadores y los creadores en nuestra plataforma. Y es igual de importante que ese potencial tenga un equilibrio con nuestra responsabilidad de proteger a la comunidad de YouTube”, señala el reporte.
Declarar el uso de IA
La plataforma cuenta desde hace tiempo con políticas que prohiben los contenidos manipulados por medios técnicos que resulten engañosos y que sean susceptibles de causar daños graves.
Por supuesto, entre esos medios capaces de producir contenido engañoso que parezca real, la IA tiene la delantera.
Por ello es que, en los próximos meses, YouTube presentará una serie de novedades para informar a los espectadores de que un contenido es sintético.
Así, la plataforma exigirá a los creadores que declaren expresamente cuando presenten contenidos realistas manipulados o sintéticos (lo que incluye el uso de herramientas de IA), a través de nuevas opciones que serán puestas a disposición.
Esto aplica, por ejemplo, para videos que muestren hechos que no ocurrieron o personas diciendo o haciendo algo que no dijeron ni hicieron.
En el caso de contenidos manipulados que traten temas sensibles, como elecciones, conflictos, crisis sanitarias o miembros del gobierno, y no sean declarados por sus creadores como manipulados o generados sintéticamente, serán eliminados y sus autores serán suspendidos del programa de socios de YouTube. Además, podrán ser sancionados.
Nuevas etiquetas
Para el caso de contenidos potencialmente manipulados o sintéticos, se informará a las audiencias a través de una nueva etiqueta al panel de descripción indicando que parte del contenido ha sido alterado o generado digitalmente.
Por otro, en el caso de contenidos sobre determinados temas sensibles, se aplicará una etiqueta más destacada en el reproductor de video.
Incluso se informa que, en algunos casos, poner una etiqueta no será suficiente para mitigar el riesgo de daño, por lo que se eliminarán los contenidos sintéticos que incumplan las normas de la comunidad, aunque estén etiquetados.
Este sería el caso de un video creado de forma sintética que muestra violencia realista con el objetivo de conmocionar o provocar indignación entre los espectadores.
Estas medidas se aplicarán también para todos los contenidos que se creen utilizando los productos y funciones de IA generativa de YouTube.
Reclamos de privacidad
La compañía habilitará en los próximos meses el proceso de reclamación de privacidad para los casos en que se genere digitalmente el rostro o la voz de alguien sin su permiso o para atribuirle opiniones que no son suyas.
Con este reclamo, los afectados podrán solicitar la eliminación de contenidos generados por IA y de otros contenidos sintéticos o manipulados que simulen a una persona identificable, incluidos su rostro y su voz.
También se dará a los músicos la posibilidad de solicitar que se retiren contenidos musicales generados por IA que recreen la voz o la forma de cantar peculiar de un artista.
Por Asociación Nacional de Avisadores de Chile
También te podría interesar: https://www.anda.cl/asociacion-nacional-de-avisadores-premia-a-la-ccs-por-su-aporte-al-comercio-electronico/