Expertos de la inteligencia artificial y ejecutivos del sector, entre ellos Elon Musk, han pedido una pausa "inmediata" de seis meses en el avance de los sistemas de IA más potentes que GPT-4 por posibles riesgos para la sociedad y la humanidad, según han firmado en una carta abierta publicada esta semana. Entre los efectos nocivos se cita el avance de la desinformación, la destrucción de empleo e incluso el riesgo de "pérdida de control de la civilización".
"Los sistemas de inteligencia artificial potentes deben desarrollarse solamente una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables", se lee en la carta. En ella se detallan riesgos potenciales para la sociedad y la civilización de los sistemas de IA, como disrupciones económicas y políticas, y pide a los desarrolladores que trabajen con los legisladores y autoridades reguladoras en materia de gobernanza.
"Los sistemas de IA con inteligencia que compite con la humana pueden plantear riesgos profundos, como lo demuestra una extensa investigación y lo reconocen los principales laboratorios de IA", se expone. Ni se monitoriza su impacto ni se gestionan correctamente, se advierte. "Las decisiones no se pueden delegar en responsables tecnológicos que no hemos elegido".
La carta, emitida por el organismo sin ánimo de lucro Future of Life Institute, centrado en que las transformaciones tecnológicas no sean nocivas, pide hacer una pausa en el desarrollo avanzado de IA hasta que expertos independientes desarrollen, implementen y auditen protocolos de seguridad compartidos para tales diseños. También se llama a establecer organismos reguladores, auditorías, sistemas de certificaciones y la toma de responsabilidades por daños causados por la IA. Incluso se abre la puerta a una intervención de los gobiernos para frenar los desarrollos si no hay voluntad común.
Entre los firmantes principales, más de 1.000, se encuentran Elon Musk, el consejero delegado de Stability AI, Emad Mostaque, investigadores de DeepMind -propiedad de Alphabet-, el cofundador de Apple, Steve Wozniak, el profesor Yuval Noah Harari y referentes del sector como Yoshua Bengio o Stuart Russell.
Desde su lanzamiento el año pasado, ChatGPT de OpenAI, respaldado por Microsoft, ha llevado a los rivales a acelerar el desarrollo de modelos de lenguaje similares y a las empresas a integrar modelos de IA generativa en sus productos. Sam Altman, al frente de OpenAI, no se encuentra entre los firmantes.