El duque y la duquesa de Sussex se han unido a los pioneros de la inteligencia artificial y a los premios Nobel para pedir la prohibición del desarrollo de sistemas de inteligencia artificial superinteligentes.
Harry y Meghan se encuentran entre los firmantes de una declaración que pide “prohibir el desarrollo de la superinteligencia”. Superinteligencia artificial (ASI) es un término para los sistemas de IA, aún por desarrollar, que superan los niveles de inteligencia humana en todas las tareas cognitivas.
La declaración pedía que la prohibición se mantuviera vigente hasta que hubiera un “amplio consenso científico” de que la ASI se puede desarrollar “de forma segura y controlable” y una vez que haya una “fuerte aceptación pública”.
Estaba firmado por el pionero de la IA y premio Nobel Geoffrey Hinton y su compañero “padrino” de la IA moderna, Joshua Bengio; el cofundador de Apple, Steve Wozniak; el empresario británico Richard Branson; Susan Rice, ex asesora de seguridad nacional de Estados Unidos durante el gobierno de Barack Obama; la ex presidenta irlandesa Mary Robinson y el autor y locutor británico Stephen Fry. Otros premios Nobel que han firmado son Beatrice Feehn, Frank Wilczek, John C. Mather y Daron Acemolu.
La declaración, dirigida a gobiernos, empresas de tecnología y legisladores, fue organizada por el Future of Life Institute (FLI), un grupo de seguridad de IA con sede en EE. UU. que pidió detener el desarrollo de potentes sistemas de IA para 2023, poco después de que la llegada de ChatGPT haya puesto a la IA en el centro de un debate político y público en todo el mundo.
En julio, Mark Zuckerberg, director ejecutivo de Meta, matriz de Facebook, uno de los mayores desarrolladores de inteligencia artificial en Estados Unidos, dijo que el desarrollo de la superinteligencia estaba “ahora a la vista”. Sin embargo, algunos expertos dicen que la charla de ASI refleja el panorama competitivo entre las empresas de tecnología que han gastado cientos de miles de millones de dólares en IA este año, y que el sector no está más cerca de lograr ningún avance tecnológico.
Aún así, la FLI dice que la perspectiva de lograr la ASI “en la próxima década” conlleva una serie de amenazas, desde quitar empleos a todas las personas, dañar las libertades civiles, exponer a los países a riesgos de seguridad nacional e incluso amenazar a la humanidad con la extinción. Los temores existenciales sobre la IA se centran en la capacidad potencial de un sistema para evadir el control humano y las pautas de seguridad y desencadenar acciones contrarias a los intereses humanos.
FLI publicó una encuesta nacional de EE. UU. que muestra que casi tres cuartas partes de los estadounidenses quieren controles estrictos sobre la IA avanzada, y seis de cada 10 creen que la IA sobrehumana no debería desarrollarse hasta que se demuestre que es segura o controlable. Una encuesta realizada a 2.000 adultos estadounidenses añadió que sólo el 5% apoyaba el status quo de crecimiento rápido y descontrolado.
Después de la circulación del boletín
Las principales empresas estadounidenses de IA, incluido el desarrollador de ChatGPT OpenAI y Google, han hecho de la inteligencia artificial general (un estado teórico en el que la IA iguala los niveles de inteligencia humana en la mayoría de las tareas cognitivas) un objetivo obvio de su trabajo. Aunque está un paso por debajo del ASI, algunos expertos advierten que puede conllevar un riesgo existencial, por ejemplo, poder mejorarse hasta alcanzar niveles superinteligentes, así como una amenaza inherente al mercado laboral moderno.
