Nueva York.– Los líderes de algunas de las compañías más importantes de inteligencia artificial llevaron una advertencia directamente al Consejo de Seguridad de las Naciones Unidas: el avance de los sistemas más poderosos exige cooperación internacional y nuevas salvaguardas para evitar riesgos que ningún país podría enfrentar por sí solo.
Durante la reunión celebrada este miércoles 23 de septiembre y convocada por Francia, participaron Sam Altman, director ejecutivo de OpenAI; Dario Amodei, de Anthropic; Clément Delangue, de Hugging Face, y el investigador Yoshua Bengio.
Altman sostuvo que las decisiones sobre el futuro de esta tecnología no deberían quedar únicamente en manos de las empresas que la desarrollan y llamó a los gobiernos a coordinar estándares y mecanismos de seguridad. OpenAI también había planteado días antes la necesidad de estándares técnicos internacionales para los sistemas avanzados.
Amodei elevó todavía más el tono de la advertencia al señalar que, si la tecnología es gestionada de manera deficiente, la inteligencia artificial podría representar un riesgo para la humanidad en su conjunto.
La discusión abordó riesgos relacionados con sistemas capaces de actuar con mayor autonomía, posibles usos maliciosos, ciberataques y la dificultad de mantener supervisión humana conforme aumenta la capacidad de los modelos. La propia ONU describió el escenario como un desafío que ningún Estado puede contener por sí solo.
El debate, sin embargo, también mostró diferencias sobre el camino a seguir. Delangue pidió evitar que las decisiones regulatorias se construyan únicamente desde el miedo y defendió el papel de los modelos abiertos, mientras distintas potencias mantienen posiciones diferentes sobre hasta dónde debe llegar una gobernanza internacional de la IA.
La discusión llega en un momento en que la inteligencia artificial dejó de ser vista únicamente como una herramienta tecnológica y comenzó a ocupar un espacio formal dentro de las conversaciones sobre seguridad internacional, ciberseguridad y estabilidad global en Naciones Unidas.
