Líderes mundiales y principales empresas de IA presentan un plan para las pruebas de seguridad, al concluir la primera Cumbre Mundial de Seguridad de la Inteligencia Artificial.
Un nuevo centro global con sede en el Reino Unido y encargado de probar la seguridad de los nuevos tipos de inteligencia artificial ha sido respaldado por destacadas empresas y naciones del ámbito.
Por primera vez, representantes gubernamentales de alto nivel de las principales naciones de inteligencia artificial y organizaciones importantes en este campo acordaron un plan para las pruebas de seguridad de los modelos de IA avanzada. El plan implica la prueba de modelos tanto antes como después de su implementación, con un papel específico para los gobiernos en las pruebas, especialmente en términos de seguridad nacional crítica, seguridad y daños sociales.
Los países han acordado que el “Padrino de la IA”, Yoshua Bengio, liderará la elaboración de un informe denominado “Estado de la Ciencia”, que ayudará a construir una comprensión compartida de las capacidades y riesgos planteados por la inteligencia artificial de vanguardia. Países que desarrollan ese tipo de IA han acordado un plan innovador sobre pruebas de seguridad, mientras el Primer Ministro Rishi Sunak cerró hoy la primera Cumbre Mundial de Seguridad de la Inteligencia Artificial.
Yoshua Bengio dijo: “El desarrollo seguro y responsable de la inteligencia artificial es un tema que nos concierne a todos. Hemos observado una inversión masiva para mejorar las capacidades de la inteligencia artificial, pero no lo suficiente para proteger al público, ya sea en términos de investigación sobre la seguridad de la inteligencia artificial o en términos de gobernanza para asegurarnos de que la inteligencia artificial se desarrolle en beneficio de todos.
Me complace apoyar la tan necesaria coordinación internacional para gestionar la seguridad de la inteligencia artificial, trabajando con colegas de todo el mundo para presentar las últimas evidencias sobre este tema vitalmente importante”.
El Gobierno francés dijo: “Las autoridades francesas participarán en esta iniciativa movilizando a los actores y recursos ya activos en la seguridad de la inteligencia artificial, en particular, las instalaciones de prueba y experimentación de AI de Digital Europe y el programa francés Confiance.ai”.
El Gobierno alemán dijo: “Alemania observa con interés la fundación del Instituto de Seguridad de la Inteligencia Artificial y espera explorar posibilidades de cooperación”.
La Primera Ministra de Italia, Georgia Meloni, dijo: “La inteligencia artificial está ingresando en todos los ámbitos de nuestras vidas. Es nuestra responsabilidad, hoy, dirigir su desarrollo ético y asegurar su pleno alineamiento con la libertad, el control y la prosperidad de la humanidad. Necesitamos desarrollar la aplicación práctica del concepto de ‘Algor-ética’, es decir, ética para algoritmos”.
El Gobierno japonés dijo: “El Gobierno japonés valora el liderazgo del Reino Unido al organizar la Cumbre de Seguridad de la Inteligencia Artificial y acoge con satisfacción la iniciativa del Reino Unido de establecer el Instituto de Seguridad de la Inteligencia Artificial del Reino Unido. Esperamos trabajar con el Reino Unido y otros socios en temas de seguridad de la inteligencia artificial para lograr una IA segura, confiable y digna de confianza”.