Los directivos de algunas de las principales empresas de inteligencia artificial reclamaron este miércoles ante el Consejo de Seguridad de las Naciones Unidas una mayor cooperación internacional para establecer normas de seguridad frente al rápido avance de la tecnología.
El CEO de OpenAI, Sam Altman, y el CEO de Anthropic, Dario Amodei, participaron de una sesión del organismo dedicada a los riesgos de la inteligencia artificial. Ambos coincidieron en que los gobiernos deben establecer salvaguardas comunes para evitar que los sistemas más avanzados queden fuera del control humano.
Amodei advirtió que, si la tecnología se gestiona de manera inadecuada, podría representar un riesgo para la humanidad. El ejecutivo planteó la necesidad de establecer estándares internacionales para evaluar los nuevos modelos y propuso acuerdos que incluyan restricciones al uso de IA para desarrollar armas biológicas, además de mecanismos de verificación y notificación de incidentes.
Altman, por su parte, sostuvo que las decisiones más importantes sobre el futuro de la inteligencia artificial no deberían quedar exclusivamente en manos de los laboratorios tecnológicos. Reclamó estándares internacionales, sistemas ágiles para informar incidentes y canales seguros para compartir información sobre problemas de seguridad.
El titular de OpenAI también destacó el potencial de la IA para ampliar las capacidades humanas y generar avances en áreas como la ciencia y la productividad. Al mismo tiempo, señaló que los sistemas más poderosos deben permanecer bajo control humano y que su desarrollo debe estar acompañado por instituciones y gobiernos responsables ante la sociedad.
A la sesión se sumó de manera remota Clément Delangue, CEO de Hugging Face, quien puso el foco en el riesgo de que el poder y las capacidades de la IA queden concentrados en pocas empresas o países. Según planteó, uno de los principales desafíos es la creciente asimetría entre quienes desarrollan estas tecnologías y quienes deben enfrentar sus posibles consecuencias.
Diferencias sobre la regulación
El debate expuso además diferencias entre las propuestas de los ejecutivos tecnológicos y la posición del Gobierno de Estados Unidos. Mientras Altman y Amodei reclamaron una mayor coordinación internacional, la administración de Donald Trump se mostró contraria a crear una nueva estructura global para regular el desarrollo de la inteligencia artificial.
El asesor científico de la Casa Blanca, Michael Kratsios, sostuvo ante el Consejo de Seguridad que los riesgos planteados no deberían utilizarse como argumento para frenar el desarrollo de la tecnología mediante una nueva estructura de gobernanza global.
El encuentro volvió a colocar en el centro del debate internacional la necesidad de definir reglas comunes para la IA, en un escenario donde gobiernos y empresas buscan equilibrar el desarrollo tecnológico con mecanismos de seguridad y supervisión.
