Este jueves, en el segundo y último día de la cumbre de Inteligencia Artificial en el Reino Unido, los principales desarrolladores acordaron trabajar con los gobiernos para probar nuevos modelos de frontera antes de su lanzamiento y ayudar a gestionar los riesgos de la tecnología en rápida evolución.
El primer ministro británico, Rishi Sunak, dijo que Estados Unidos, la UE y otros países con ideas afines también habían acordado con un grupo selecto de empresas que trabajan en la vanguardia de la IA el principio de que los modelos deben evaluarse rigurosamente antes y después de su creación.
En este sentido, Yoshua Bengio, nombrado padrino de la IA, ayudará a elaborar un informe sobre el "estado de la ciencia" para generar una comprensión compartida de las capacidades y los riesgos que se avecinan.
"Hasta ahora, las únicas personas que han probado la seguridad de los nuevos modelos de IA han sido las mismas empresas que los desarrollan", dijo Sunak.
"No deberíamos depender de ellos para que corrijan sus propios deberes, como muchos de ellos coinciden", agregó.
El miércoles, Wu Zhaohui, viceministro de Ciencia y Tecnología de China, firmó una "Declaración de Bletchley", pero nadie representó al país el jueves, por lo que no puso su nombre en el acuerdo sobre pruebas.
Sunak, quien fue criticado por invitar a China, después de que muchos gobiernos occidentales redujeran su cooperación tecnológica con Pekín, consideró que cualquier esfuerzo en materia de seguridad de la IA tenía que incluir a sus principales actores.
"Esto habla de nuestra capacidad para convocar a la gente, para unirla. No fue una decisión fácil invitar a China y mucha gente me criticó por ello, pero creo que fue la decisión correcta a largo plazo".
