Yoshua Bengio, reconocido como uno de los padres de la inteligencia artificial e impulsor de la legislación para evitar riesgos extremos con el uso de la IA, brindó una entrevista al medio Al Jazeera hace unos meses, donde expuso los principales fundamentos de por qué él considera que la democracia no es segura en un mundo con IA.
A continuación, compartimos los principales puntos de esa entrevista.
Benigno nació en Francia en 1964 y creció en Canadá. Su trabajo en las décadas de 1990 y 2000 ha contribuido a la base de chatbots como ChatGPT, de OpenAI, y BERT, de Google.
Comenzó a programar a los 11 años, inspirado por la ciencia ficción. Creó modelos de redes neuronales basados en el cerebro, comenzando en 1985 y ganando el Premio Turing en 2018 por sus contribuciones a la deep learning.
- Cambió en la percepción de la IA: Inicialmente, no prestó mucha atención a los peligros de perder el control de la IA. Pero, con el tiempo, cambió su perspectiva al darse cuenta del potencial peligro al trabajar con ChatGPT. Hoy, se ha vuelto uno de los principales voceros que advierten sobre la necesidad de regulaciones en la tecnología de IA.
- Evolución de la IA: La IA ha avanzado rápidamente debido a la inversión masiva en deep learning por parte de la industria. Destaca el desarrollo reciente de la IA generativa para imágenes y textos.
- Peligros de la IA: Advierte sobre el “problema de alineación”, donde las IA no hacen lo que los humanos pretenden. Destaca que la amenaza inmediata proviene de usuarios maliciosos más que de la pérdida de control.
- Responsabilidad de la Comunidad Científica: Señala la responsabilidad de los científicos de la IA para hablar sobre los peligros potenciales. Reconoce que la comunidad científica tiene que ser sabia en cómo se desarrolla y utiliza la IA.
- Necesidad de Regulación: Aboga por la regulación y la necesidad de reducir el acceso a tecnologías peligrosas. Sugiere licencias y documentación obligatoria para aquellos que trabajan con sistemas de IA avanzados.
- Gobierno y Colaboración Internacional: Subraya la necesidad de la intervención gubernamental y la colaboración internacional en la regulación de la IA. Destaca la importancia de establecer estándares globales para garantizar la seguridad.
- Investigación en Seguridad de la IA: Insta a invertir globalmente en investigación de seguridad de la IA, tanto como en mejorar la inteligencia de los sistemas.
- Reflexiones Finales: Considera que la IA tiene riesgos más inciertos y urgentes que el cambio climático. Destaca la importancia de tomar medidas preventivas ahora debido a la incertidumbre en el desarrollo de la IA.