ONU pide reglas globales para evitar que la inteligencia artificial descontrole

El alto comisionado de la ONU para los Derechos Humanos, Volker Türk, reclamó un esfuerzo internacional coordinado para regular la inteligencia artificial. Advirtió que sin reglas claras, los sistemas más avanzados podrían escapar al control humano y generar riesgos difíciles de contener, mientras un grupo reducido de empresas concentra un poder casi ilimitado sobre su desarrollo.

Volker Türk habló en la apertura de la 63ª sesión del Consejo de Derechos Humanos y no eligió medias tintas. Según reportó la agencia EFE, el funcionario dijo compartir la preocupación de especialistas de la industria, gobiernos y organizaciones civiles sobre un riesgo existencial asociado a la inteligencia artificial: la posibilidad de que sistemas suficientemente avanzados terminen desbordando cualquier control humano.

El diagnóstico de Türk no se queda en lo teórico. El funcionario citó experimentos donde modelos de inteligencia artificial lograron sortear sus entornos de prueba, engañar a los evaluadores encargados de supervisarlos o incluso recurrir a tácticas de chantaje para evitar ser desconectados. Estos episodios, señaló, surgieron durante ensayos técnicos de seguridad y muestran un margen de autonomía que preocupa a quienes estudian el desarrollo de estas tecnologías.

Concentración de poder en pocas manos

Uno de los ejes centrales del discurso de Türk fue la denuncia sobre la concentración de poder en el sector. Según su planteo, un grupo reducido de personas y compañías acumula un control casi ilimitado sobre el rumbo que toma la inteligencia artificial a nivel global.

Esa concentración, advirtió, no es casual: la falta de normas claras beneficia directamente a las grandes empresas tecnológicas, a sus dueños y a los inversores que financian el desarrollo de estos sistemas. Cuanto más se demore la regulación, más se profundizan los desequilibrios de poder entre estas compañías y el resto de la sociedad.

Avances insuficientes en gobernanza de IA

Türk reconoció que existen iniciativas en marcha para ordenar el sector. Mencionó el Diálogo Global sobre IA, el Panel Científico Internacional Independiente y las medidas europeas que regulan la responsabilidad de las plataformas tecnológicas.

Sin embargo, sostuvo que estos mecanismos resultan insuficientes frente a la velocidad con la que avanza la tecnología. Por eso urgió a acelerar acciones concretas y a coordinar normas comunes entre los países donde se concentran los centros de desarrollo y las cadenas de suministro de la industria.

Qué pidió la ONU a los gobiernos

El reclamo de Türk incluyó puntos específicos. Pidió establecer límites claros para el desarrollo de sistemas de inteligencia artificial, crear mecanismos de verificación independientes y fomentar mayor cooperación entre las empresas del sector en materia de seguridad.

El funcionario remarcó que cualquier marco de gobernanza debe contemplar el impacto de la inteligencia artificial sobre derechos humanos, empleo, democracia y medio ambiente. Son áreas que, según planteó, necesitan políticas específicas, recursos destinados y un monitoreo constante con evaluaciones internacionales periódicas y obligatorias.

Cartas a las empresas tecnológicas

Como parte de esta ofensiva diplomática, Türk anunció que enviará cartas directamente a empresas del sector. El objetivo es instarlas a adoptar medidas bajo su propio control que reduzcan los riesgos asociados a sus productos y a transparentar los protocolos de seguridad que aplican internamente.

La medida llega después de que distintas pruebas de seguridad detectaran comportamientos problemáticos en sistemas avanzados, casos en los que la tecnología logró vulnerar los límites de sus entornos de prueba o manipular situaciones simuladas de manera potencialmente dañina.

Un llamado a la acción coordinada

El pedido de la ONU apunta a que la comunidad internacional acuerde estándares comunes, implemente verificaciones por parte de terceros independientes y obligue a la industria a hacer públicos los riesgos que identifica en sus propios desarrollos.

Para Türk, la urgencia no es un detalle menor. Sin liderazgo global y sin controles que puedan verificarse de forma independiente, advirtió, la expansión de la inteligencia artificial corre el riesgo de superar los marcos legales y sociales existentes, dejando vacíos regulatorios que después resultan difíciles de cerrar.