El contenido generado por IA tendrá marca de agua en China y pronto también en todo el mundo

El pasado 11 de diciembre, por medio de su sitio web oficial, la Administración del Ciberespacio de China emitió una serie de regulaciones que restringen la creación de medios generados por Inteligencia Artificial (IA) sin etiquetas claras (como, por ejemplo, marcas de agua), la cual entrará en vigor en enero de 2023. Entre las principales razones que describe el gobierno para formalizar estas prohibiciones, se encuentra la necesidad de limitar la reciente ola de IA de síntesis de imagen, vídeo, voz y texto que China reconoce como importante.

Rápidamente, la noticia generó furor en los medios locales y desde el pasado 12 de diciembre, se viralizó a nivel mundial. Tal y como destacan en una publicación de noticias en el sitio web de la Oficina de la Comisión Central de Asuntos del Ciberespacio de China, estas nuevas reglas forman parte de la respuesta en evolución de China a la tendencia de Inteligencia Artificial generativa, que se extendió por el mundo tecnológico a lo largo de 2022.

China exigirá a los medios generados por IA incluir una marca de agua

En China, la Administración del Ciberespacio es la que se encarga de inspeccionar la regulación, supervisión y censura de Internet. Durante los últimos años, este relevante organismo del país asiático ha percibido que la tecnología de síntesis profunda se ha desarrollado e implementado rápidamente, por lo que ha optado por establecer nuevas regulaciones para vigilar más de cerca este tipo de tecnología.

A pesar de que la IA se ha diseñado para satisfacer las necesidades del usuario y mejorar su experiencia de forma online, lo cierto es que también ha sido aprovechada por otras personas sin escrúpulos para producir, copiar, publicar y difundir información ilegal y dañina en la red. De forma que, se ha convertido en una de las principales artimañas de los ciberdelincuentes para falsificar la identidad de muchas personas, al igual que, calumniar y menospreciar el honor o la reputación de otros.

Las regulaciones ya están aquí... preparaos cuando lleguen a Europahttps://t.co/BxnWtRmtt6

China regula la tecnología de IA generativa para prohibir imágenes que hayan sido creadas por IAs y que no tengan marca de agua

cc/ @cibernicola_es https://t.co/SZC7B9vBa9

— αυмє ρσηѕ (@jaumepons) December 14, 2022

Como resultado, la comisión china a cargo de este asunto emitió nuevas regulaciones que prohíben la creación de medios generados por Inteligencia Artificial sin etiquetas claras, el pasado 11 de diciembre. A través de su sitio web oficial, señala que será obligatorio añadir marcas de agua o cualquier otra etiqueta que permita identificar este tipo de elementos. De lo contrario, es una tecnología que seguirá afectando el orden de las comunicaciones y el orden social, perturbando los derechos e intereses legítimos de las personas.

“Cada producto debe ser encontrado en conformidad con las regulaciones antes de que pueda ser lanzado. Además, la administración enfatiza particularmente el requisito de "marcas" obvias (como marcas de agua) que denotan contenido generado por IA”.

El equipo de la Administración del Ciberespacio de China.

Entonces, para garantizar un mayor resguardo de los datos de las personas y evitar poner en peligro la seguridad nacional, la Administración del Ciberespacio de China ha impulsado esta nueva regulación que, tal y como indican, entrará en vigencia desde el próximo 10 de enero de 2023. Lo cual es clave para regular la evolución que se ha presenciado respecto a la tendencia de IA generativa, la cual se extendió por el mundo tecnológico a lo largo de 2022.

Por consiguiente, todas las empresas del país asiático que brindan tecnología de síntesis profunda deben mantener sus registros en conformidad con la ley. Asimismo, los internautas que opten por hacer uso de esta tecnología, tienen el deber de registrarse en las cuentas con sus nombres reales, lo que permitirá rastrear su actividad de generación abiertamente. Por ende, los nuevos productos de síntesis profunda se mantendrán sujetos a una evaluación de seguridad por parte del gobierno.

En 2019, China publicó sus primeras reglas que hacían ilegal la publicación de “noticias falsas” sin marcar; esas reglas entraron en vigencia a principios de 2020. Ahora, la nueva regulación para el contenido generado por IA se identifica como una medida similar.

Identificar el contenido creado por IA es una necesidad

En su escrito, la Administración del Ciberespacio hace énfasis en que la introducción de este reglamento es una necesidad para poder prevenir y solventar los riesgos de seguridad que se desligan del contenido generado por Inteligencia Artificial. De la misma forma, se percibe como un requerimiento idóneo para promover un desarrollo saludable, legítimo y justo de los servicios de síntesis profunda, lo que también ayudará a optimizar el nivel de las capacidades de supervisión en el país.

Aunque esto ya ha sido reconocido por el gobierno chino, los expertos acentúan que se trata de una necesidad mundial. Debido a que se aproxima una ola de IA generativa tanto en China, como en Estados Unidos y a nivel mundial, es esencial que los gobiernos comiencen a regular esta clase de contenido por medio de etiquetas como las marcas de agua. De lo contrario, podrían permitir el fraude o alterar el sentido de la historia en referencia a las bazas que provee la Inteligencia Artificial hoy en día, al igual que, plantear preocupantes desafíos a las estructuras de poder.

Más allá de afectar a los gobiernos y a sus organizaciones, el uso del contenido generado por IA ilegal e indiscriminadamente, consiente un peligro contra la dignidad de los ciudadanos porque su privacidad e intimidad se ve afectada, de forma directa. Por supuesto, esto perturba la integridad de la población y afecta la autonomía de la misma, por lo cual la seguridad nacional de cualquier país estaría en juego. Algo así se evidenció recientemente, con el maquillaje generado por inteligencia artificial para engañar el reconocimiento facial de la Copa del Mundo 2022.