La Administración del Ciberespacio de China (CAC), el principal regulador de Internet de la nación, ha presentado las reglas inaugurales del país que supervisan la inteligencia artificial generativa. Elogiadas como un avance regulatorio significativo, estas reglas, que entrarán en vigencia el 15 de agosto, se establecieron cuando Beijing intensificó su vigilancia sobre la tecnología floreciente.
Estas regulaciones exigen servicios de IA generativa para defender los “valores fundamentales del socialismo”, lo que subraya el contexto sociopolítico distintivo del desarrollo de IA de China en comparación con los EE. UU.
El boom global de la IA generativa.
La IA generativa, que puede generar texto o imágenes, está experimentando un auge mundial. Destacadas entidades estadounidenses, incluido ChatGPT de OpenAI, han estado a la vanguardia de esta ola, siendo pioneras en una oleada de servicios comparables. CNBC informa que la proliferación rápida y generalizada de estas tecnologías ha generado preocupaciones regulatorias en todo el mundo.
China no es un caso atípico en esta tendencia, con CNBC señalando que los gigantes tecnológicos como Alibaba y Baidu están refinando activamente sus servicios de inteligencia artificial generativa. Sin embargo, el control intransigente del país sobre Internet nacional y su seguimiento de los avances de la IA han inculcado una estrategia cuidadosa entre estas entidades. Como señala Reuters, las regulaciones tecnológicas cada vez más rigurosas de Beijing han retrasado el lanzamiento público de servicios generativos de IA, muchos de los cuales aún están en fase de prueba beta.
Ante tales desafíos, las reglas del CAC tienen como objetivo facilitar el desarrollo y el uso responsable de la IA generativa. Según las nuevas regulaciones, los servicios de IA generativa, en particular los accesibles al público, exigirán una licencia de funcionamiento. CNBC informa que los proveedores de servicios que encuentren contenido “ilegal” deben cesar su creación, refinar el algoritmo e informar el contenido a las autoridades. Además, deberán realizar evaluaciones de seguridad y salvaguardar los datos de los usuarios.
Disposiciones de regulación de IA generativa de China.
Según el sitio web de CAC, el objetivo central de las nuevas regulaciones es promover el desarrollo saludable y la aplicación estandarizada de la IA generativa, salvaguardar la seguridad nacional y los intereses sociales públicos, y proteger los derechos e intereses de los ciudadanos, las personas jurídicas y otras organizaciones.
El CAC establece explícitamente las siguientes disposiciones detalladas para el nuevo mandato regulatorio:
- Apego a los valores fundamentales del socialismo, no generación de contenido que incite al daño al estado o promueva contenido prohibido como violencia, obscenidad o información falsa y dañina.
- Prevención de la discriminación durante el diseño del algoritmo de IA, la selección de datos, la generación de modelos, la optimización y la prestación de servicios, en función de características como el origen étnico, las creencias, el país, la región, el género, la edad, la ocupación, la salud, etc.
- Respeto a los derechos de propiedad intelectual y ética empresarial, mantenimiento de secretos comerciales y evitación del uso de algoritmos, datos o plataformas para implementar monopolios o competencia desleal.
- Respeto por los derechos de los demás, asegurando que la IA no ponga en peligro la salud física y mental ni infrinja los derechos individuales como el retrato, la reputación, el honor, la privacidad y los derechos de información personal.
- Implementar medidas efectivas para mejorar la transparencia de los servicios de IA generativa y mejorar la precisión y confiabilidad del contenido generado según el tipo de servicio.
A pesar de su aparente rigidez, estas reglas ejemplifican el delicado acto de equilibrio de China para fomentar la innovación en IA mientras se mantiene una supervisión meticulosa de su progreso. El CAC ha declarado que las regulaciones tienen como objetivo “fomentar aplicaciones innovadoras de IA generativa y apoyar el desarrollo de infraestructura relacionada como semiconductores”.
Crítica al nuevo mandato regulatorio.
Sin embargo, este marco regulatorio aparentemente progresista ha atraído algunas críticas. Algunos expertos, incluido Henry Gao, profesor de derecho en la Universidad de Administración de Singapur, dijeron a Reuters que las estrictas leyes de Internet de China podrían inhibir la capacidad del país para competir con sus contrapartes occidentales en la esfera tecnológica. Gao argumenta que el enfoque de “regulación preventiva” de China podría “sofocar la innovación y ralentizar la capacidad de las empresas chinas para ponerse al día”.
No obstante, Reuters afirma que las empresas chinas están avanzando, centrándose principalmente en las aplicaciones industriales de la IA. Esta estrategia se alinea con el énfasis del presidente chino, Xi Jinping, en avances tecnológicos más “duros” destinados a reducir la dependencia de China de la tecnología occidental, una característica vital del nuevo panorama regulatorio.
El CAC declaró que en un momento en que el rápido desarrollo de la tecnología de IA generativa ha generado nuevas oportunidades, así como desafíos como la difusión de información falsa, la infracción de los derechos de información personal, los problemas de seguridad de los datos y los prejuicios, las medidas buscan equilibrar el crecimiento de la IA generativa y la seguridad, y están diseñados para prevenir los riesgos de los servicios de IA generativa.
Particularidades del nuevo mandato.
| mandato | Descripción |
|---|---|
| Valores del socialismo | AI debe defender los valores socialistas y evitar amenazar la seguridad del estado o difundir información dañina. |
| No Discriminación | La IA debe evitar la discriminación en todos los procesos, incluido el diseño de algoritmos y la selección de datos. |
| Derechos de propiedad intelectual | AI debe respetar los derechos de propiedad intelectual, mantener los secretos comerciales y evitar la competencia desleal. |
| Derechos individuales | AI no debe infringir derechos como la salud, la privacidad, la reputación y la información personal. |
| Transparencia y Precisión | Los servicios de IA deben ser transparentes y garantizar la precisión y confiabilidad del contenido. |
| Seguridad e informes | Los proveedores deben realizar evaluaciones de seguridad, proteger los datos de los usuarios y denunciar el contenido ilegal. |
| Participación de las partes interesadas | El gobierno, las empresas, la sociedad y los usuarios de Internet deben participar en el desarrollo y la gobernanza de la IA. |
Las nuevas medidas proponen combinar el desarrollo con la seguridad, promover la innovación y la gobernanza respetuosa de la ley, fomentar la creación y el crecimiento de la IA generativa e implementar una supervisión cautelosa de los servicios de IA generativa.
Las nuevas especificaciones para los servicios de IA generativa también requieren aclaraciones sobre el procesamiento de datos y los requisitos de etiquetado, y exigen a los proveedores que tomen medidas efectivas para evitar que los menores dependan excesivamente de los servicios de IA generativa y traten con prontitud el contenido ilegal. Además, se estipulan sistemas para la evaluación de la seguridad, el archivo de algoritmos y el informe de quejas, junto con responsabilidades legales claras.
La Oficina Estatal de Información de Internet de China enfatizó además que el desarrollo y la gobernanza de los servicios de IA generativa requieren la participación del gobierno, las empresas, la sociedad y los usuarios de Internet para promover conjuntamente el desarrollo saludable de la IA generativa y garantizar que la tecnología beneficie a las personas.
A medida que continúa la rápida evolución de la IA generativa, las regulaciones pioneras de China brindan información invaluable para otras naciones que luchan con la supervisión de la tecnología floreciente. Queda por ver si estas reglas finalmente lograrán el equilibrio ideal entre innovación y control. Sin embargo, una cosa está clara: la era del desarrollo de IA sin control se está desvaneciendo progresivamente en la historia.