Según el eminente científico informático Peter J. Denning, las famosas ideas de Alan Turing sobre la inteligencia artificial han llevado la investigación de la IA por el camino equivocado durante los últimos 75 años.
En su nuevo libro, La falacia de Turing: escapar del yugo de las máquinas inteligentesDenning sostiene que dos supuestos fundamentales formulados por Turing en la década de 1950 continúan dando forma a la investigación de la IA en la actualidad. La primera es que la inteligencia puede existir independientemente de un cuerpo físico y, por tanto, puede recrearse en programas informáticos. La segunda es que una máquina puede demostrar inteligencia imitando con éxito a un ser humano en una conversación, una idea que más tarde se conoció como prueba de Turing.
“Estas dos afirmaciones han dado forma a gran parte de la investigación y el desarrollo de la IA”, escribe Denning. “Mi premisa es que nuestro cumplimiento de estas demandas ha llevado al desastre de la IA en el que nos encontramos hoy”.
Denning sostiene que es poco probable que la inteligencia artificial general (AGI), o máquinas con inteligencia a nivel humano, tenga éxito. En cambio, advierte, las tecnologías que la sociedad está desarrollando pueden introducir nuevos riesgos importantes.
problema de conocimiento tácito
Un elemento central del argumento de Denning es el concepto de conocimiento tácito, la gran cantidad de comprensión humana que no puede expresarse fácilmente con palabras ni representarse en una forma que las computadoras puedan procesar.
El aprendizaje automático, afirma, no puede capturar cinco categorías principales de conocimiento: conocimiento general, interacciones cotidianas con las personas y el medio ambiente, emociones y percepciones, habilidades prácticas de desempeño y conocimiento social e histórico integrado en la cultura.
Los investigadores llevan mucho tiempo intentando organizar el conocimiento común en bases de datos. Uno de los esfuerzos más conocidos es el Proyecto Psicológico de Douglas Lennett, que comenzó en la década de 1980 con el objetivo de crear una colección completa de datos de sentido común. Después de cuatro décadas de funcionamiento, el proyecto cuenta con alrededor de 25 millones de entradas.
“Sin embargo, este tesoro no se suma al conocimiento general que puede hacer que los sistemas expertos sean lo suficientemente inteligentes como para ser expertos”, señala Denning. “El SCI ha comprobado que gran parte del conocimiento que convierte a los humanos en expertos no puede expresarse en forma de proposiciones”.
Denning cree que las habilidades prácticas presentan un desafío mayor.
“Nuestra experiencia en rendimiento en miles de dominios no se puede comunicar a las máquinas”, explica. “Dado que la descripción de resultados eficientes (“saber qué”) a menudo puede representarse como bits y almacenarse en una máquina, no sabemos cómo codificar el conocimiento incorporado (“saber cómo”) para un desempeño eficiente”.
Señala como ejemplo a músicos consumados.
“Un violinista virtuoso puede tocar música hermosa pero no puede describirle a un acólito cómo hacerlo.
“Incluso si un robot puede observar e imitar a humanos hábiles, al no tener un cuerpo biológico, un robot no puede entender cómo se siente un músico cuando toca música hermosa o cómo se siente el público cuando la escucha”.
Denning también incluye la intuición, el presentimiento, la imaginación y la creatividad espontánea que están más allá del alcance de las máquinas.
Por qué la cognición humana se resiste a la codificación
Denning sostiene que todas estas limitaciones surgen de lo que él llama el “problema de representación”.
Las computadoras sólo pueden realizar cálculos utilizando datos e instrucciones codificadas en formas físicas que pueden reconocer y procesar. Sin embargo, el conocimiento consciente no encaja naturalmente en ese marco.
Denning dice: “Detrás de cada palabra hay un profundo pozo de conocimiento absoluto que le da su significado”. “Las palabras no son más que representaciones simbólicas de significado, no el significado en sí. Los grandes modelos de lenguaje comúnmente utilizados, como ChatGPT, Cloud y Gemini, sólo usan palabras, sin conocer ni comprender el significado de lo que dicen”.
Según Denning, esto crea una división fundamental. Como los científicos todavía no pueden explicar completamente cómo funciona el conocimiento tácito en los humanos, no pueden traducirlo a una forma que las máquinas puedan utilizar.
“Cómo albergamos conocimiento ingenuo es en gran medida un misterio”, admite Denning. “Todo lo que sabemos es que está encarnado. No tenemos idea de qué podemos observar y medir en nuestros cuerpos para expresarlo”.
El contexto y la cultura dan forma a la inteligencia
Denning también sostiene que la inteligencia depende en gran medida del contexto, las circunstancias circundantes que dan significado a las palabras, acciones y decisiones.
El contexto permite a las personas reconocer el sarcasmo, el humor, la sinceridad y la emoción. Ayuda a determinar cuándo ser diplomático, cuándo bromear y cómo interpretar una gran cantidad de señales sociales.
“Cuando investigas de dónde vino una hipótesis en el contexto actual, descubres que depende de conversaciones previas con contextos anteriores. Cada una de ellas, a su vez, depende de conversaciones anteriores y sus contextos. Este patrón es continuo y fractal”, explica Denning.
La cultura presenta otro obstáculo importante para la IA.
Denning describe la cultura como una relación que involucra valores, normas, juicios, historia, comunidad, temperamento e incluso poder y cuidado.
“Las conversaciones humanas implican suposiciones de fondo que dan significado y contexto a las palabras utilizadas”, explica Denning.
“Ampliar los LLM con redes neuronales mucho más grandes no les permitirá capturar el conocimiento humano incorporado que llamamos cultura. Los LLM no lograrán el propósito de la prueba de Turing: distinguir el pensamiento de las máquinas del pensamiento humano”.
La seguridad de la IA y los límites de la comprensión humana
Denning concluye que los humanos y los sistemas de inteligencia artificial pueden eventualmente desarrollar formas de conocimiento ingenuo que no puedan entenderse completamente.
“Las máquinas no pueden leer nuestro conocimiento tácito y nosotros no podemos leer el de ellos”, escribió. “Somos extraterrestres a través de una división insalvable”.
Sostiene que esta brecha plantea serias preocupaciones sobre la seguridad de la IA. Si las máquinas no pueden interpretar el contexto tácito detrás de las intenciones humanas, puede resultar imposible alinear de manera confiable los sistemas avanzados de IA con los objetivos humanos.
“A través de la automatización de la IA, las redes agentes de máquinas pueden desarrollar su propia inteligencia artificial que no alcanza el nivel de la inteligencia humana normal, pero que aún es lo suficientemente capaz de crear problemas graves para los humanos. Esta amenaza es mayor que la que plantean las máquinas superinteligentes”, explica.
“La inteligencia artificial tiene preocupaciones diferentes a las nuestras y no parece preocuparse por nosotros. Sus formas de pensar y resolver problemas nos parecen ajenas. Todavía no sabemos cómo vivir de forma segura con estas máquinas.
“Regresar de una singularidad de automatización de IA demandará mucho de nosotros. Comenzamos reconociendo que la cultura familiar se está desvaneciendo con la presencia de máquinas inteligentes en nuestra sociedad y no sabemos lo que viene. Nos negamos a pensar como máquinas o a estar subordinados a las máquinas. Nos negamos a sucumbir al yugo impuesto por una inteligencia menor, lo que hace que la humanidad vuelva a ser importante. Reafirmamos nuestra inteligencia. Somos diferentes de las máquinas, y eso celebremos las diferencias”.
