El presidente Cyril Ramaphosa interviene en la reunión de líderes de los BRICS en Nueva Delhi. Crédito de la fotografía: NNA News

NNA News - El presidente sudafricano Cyril Ramaphosa ha pedido la creación de un mecanismo internacional en el seno de los BRICS para evaluar de forma independiente la inteligencia artificial, al argumentar que la gobernanza humana debe seguir el ritmo del rápido desarrollo de los sistemas de IA.

En su intervención del domingo durante la 18.ª Cumbre de los BRICS en Nueva Delhi, Ramaphosa afirmó que unos modelos de IA cada vez más potentes están transformando la vida económica y social y pueden contribuir a la productividad y al desarrollo humano si se utilizan de forma responsable. “Sudáfrica propone, por tanto, que los BRICS establezcan un mecanismo internacional para la evaluación científica independiente de la IA”, afirmó Ramaphosa.

La propuesta forma parte del llamamiento de Sudáfrica a una cooperación internacional más sólida en la gobernanza de la IA, a medida que los BRICS amplían su atención a la ciencia, la tecnología y la innovación. Ramaphosa señaló que el mecanismo propuesto debería apoyarse en principios efectivos de control humano, en la notificación obligatoria de incidentes graves, en salvaguardias progresivamente más estrictas a medida que aumenten las capacidades de la IA y en la inversión en capacidad soberana de IA para las economías en desarrollo.

Advirtió de que los avances en IA están generando tanto oportunidades como riesgos, incluida la posibilidad de que sistemas cada vez más autónomos desafíen la supervisión humana. “Nunca debemos llegar a una situación en la que la capacidad tecnológica haya superado nuestra capacidad de comprenderla, supervisarla y controlarla”, afirmó.

Ramaphosa se refirió también a las preocupaciones planteadas por Dario Amodei, director ejecutivo de la empresa estadounidense de IA Anthropic, que ha pedido controles externos formales, auditorías y supervisión gubernamental de las empresas de IA. Ramaphosa afirmó que esa supervisión es comparable a las salvaguardias empleadas en sectores como la aviación, la industria farmacéutica, la energía nuclear y los servicios financieros.

La intervención del presidente sudafricano se produjo cuando China impulsaba una propuesta distinta de cooperación más estrecha en IA dentro de los BRICS. El presidente chino Xi Jinping afirmó el domingo que China lideraría la creación de una comunidad de código abierto de los BRICS para la IA, con cooperación en el desarrollo y la aplicación de grandes modelos de lenguaje, formación especializada en IA y la creación de un ecosistema abierto de IA.

Xi pidió asimismo a los países BRICS que aceleren los esfuerzos hacia un marco mundial de gobernanza de la IA basado en el consenso, vinculando el desarrollo tecnológico a las prioridades más amplias de desarrollo del Sur Global. Ambas propuestas ponen de relieve la creciente importancia de la IA en la cooperación de los BRICS, con Estados miembros que buscan ampliar su capacidad tecnológica al tiempo que abordan cuestiones de seguridad, gobernanza y acceso equitativo.

En el caso de Sudáfrica, Ramaphosa afirmó que una mayor capacidad en IA debe ir acompañada de inversión en capacidades soberanas en las economías en desarrollo, lo que permitiría a los países participar de forma más eficaz en el desarrollo y la aplicación de las tecnologías emergentes. La Presidencia señaló que la agenda más amplia de Ramaphosa en los BRICS incluye una cooperación más estrecha en ciencia y tecnología, salud pública, finanzas y comercio, a medida que el grupo entra en su tercera década.

La 18.ª Cumbre de los BRICS se celebró en Nueva Delhi del 12 al 13 de septiembre bajo la presidencia de la India, con debates centrados en la resiliencia, la innovación, la cooperación y la seguridad.