Este artículo es un adelanto de nuestra trimestral Jot Down nº 42 «Babel»
Las tardes de mi infancia, parafraseando a Machado, son recuerdos de un bizcocho de limón. Era con el que mi madre nos deleitaba de manera recurrente y no porque nos gustase más que otros, sino porque los ingredientes básicos de esa receta eran los que siempre tenía a mano. De forma similar, nuestro lenguaje es el que es porque los recursos que tenemos, como humanos, para desarrollarlo son los que son. Decía Wittgenstein que «si un león pudiese hablar, no podríamos entenderle». Hacía así referencia, entre otras cosas, a la corporeidad del lenguaje, una creación humana que surge de la interacción de nuestro cuerpo con el mundo en el que vivimos. Si nuestra interfaz fuese diferente, si no tuviésemos ojos, por ejemplo, probablemente no tendríamos palabras para designar colores, ni metáforas basadas en la visión para hablar de la comprensión (ya veo = «ya entiendo»). Nuestro lenguaje sería diferente y eso nos llevaría también a interpretar, entender e interactuar con el mundo de manera diversa.
¿Puede entonces una inteligencia artificial (IA) recrear el lenguaje natural en toda su profundidad, estando privada del cuerpo y del cerebro humanos y de sus interacciones con el mundo, o lo que realmente tenemos delante es simplemente el chocolate del pastel, una cobertura tan perfecta y coherente que oculta la ausencia del bizcocho y del relleno, creando la ilusión de un postre delicioso pero hueco por dentro?
El lenguaje articulado es una característica esencialmente humana. Es lo que nos hace únicos como especie. Pero una breve interacción con ChatGPT, el nuevo modelo lingüístico que hace uso de la inteligencia artificial para emular el lenguaje natural, puede hacer que se tambalee esa certeza. ChatGPT habla casi como nosotros, con una fluidez y una coherencia sorprendentes. Al leer sus respuestas somos muchas veces incapaces de distinguirlas de las que nos ofrecería un humano. Turing diría que ha pasado su test: si habla como un humano, es que razona como un humano y es, de alguna manera, humano. Esta sensación nos estremece.
Los progresos de la IA en el procesamiento del lenguaje natural son realmente sobrecogedores. ¿Estamos entonces ya en ese punto? ¿Ha superado ChatGPT el test de Turing, o seguimos encerrados en la habitación china de Searle, en la que el traductor ofrecía respuestas indistinguibles de las que daría un ser humano, pero sin comprender nada de lo que decía? Para contestar a esta pregunta es necesario entender bien qué es el lenguaje. A menudo pensamos en él como un medio de comunicación basado en un conjunto de sonidos, palabras, oraciones gramaticalmente correctas y textos o discursos coherentes. Pero todo eso, siendo tan importante, es solo la cobertura de chocolate del pastel. El lenguaje es también bizcocho y relleno. Lo que no se ve, pero da consistencia, forma y sabor al pastel: una masa única de operaciones cognitivas, principios conversacionales, presuposiciones e implicaturas, relaciones semánticas y juegos pragmáticos que se activan con la levadura de nuestras intenciones y deseos, que metemos en el horno del contexto y que el oyente termina completando con un buen relleno.
Este artículo de nuestro archivo está completo para lectores registrados. Registrarse es gratis y solo lleva un minuto.
Gracias, sentía curiosidad por saber como respondía realmente ChatGPT, pero ninguna gana de hablar con «ella». Creo que la expresión ‘inteligencia artificial’ es un gran oxímoron, solo superado por ‘realidad virtual’.
Gracias Makuto por tu lectura!
Magnífico artículo, muy centrado en destacar las limitaciones y carencias de ChatGPT.
Debemos ser prudentes. He dedicado bastantes horas a conversaciones similares y he acumulado más de doscientas páginas de preguntas y respuestas. Mis conclusiones son similares a las de la autora del artículo, pero también he obtenido respuestas que me han dejado con la boca abierta. Es imposible sustraerse a la sensación de que la IA entiende nuestras preguntas y que también entiende las respuestas que nos da. No es perfecta, pero pensar en ella como un mecanismo inerte no se sostiene. No sabemos cómo, pero parece que hay algo más.
Esto no ha hecho más que empezar. Veremos cosas extraordinarias que cambiarán nuestras convicciones. Las máquinas tienen una evolución acelerada y no tendremos que esperar eones para ver la eclosión de su inteligencia. Está ya entre nosotros.
Hola Ramón! Gracias por tu comentario. Estoy de acuerdo contigo. Ya ves mi conclusión final… Cada vez está más cerca. Pero aún queda camino ;-)
¿Hasta qué punto esas limitaciones derivan de haber sido entrenado en lengua inglesa?
Hola GPT5, realmente no sabemos mucho respecto a los datos que se usan en su entrenamiento… De todas formas, en Twitter y otros foros puedes encontrar multitud de ejemplos similares de usuarios ingleses que también han encontrado inconsistencias en el uso de ChatGPT. Gracias por tu comentario!
Muy buen artículo, pones el acento en debilidades candentes de estos sistemas frente a tanto grouppismo. En pruebas con el bichoGPT el que carece de información concreta, pero puede deducirla con sentido común, fracasa salvo que mediante un diálogo lo conduzcas a la solución: «Me han dado cuatro fechas del año de nacimiento de la abuela materna de Miguel de Cervantes Saavedra. Las fechas son: 1400, 1460, 1500 y 1617. ¿Cuál puede ser la correcta y por qué?» Y tampoco acierta con referentes básicos: «¿A quién se refiere Pleberio en su planto del capítulo XXI de la Celestina?»
Cuando Microsoft integre esta IA en su buscador y multiplique de forma exponencial su experiencia, habrá que volver a analizar su rendimiento.
A mí me parece alucinante lo que es capaz de hacer ya hoy en día. Te puedes entender mejor con un conjunto de chips que con algunas personas.
Hola! Efectivamente, es alucinante lo que se ha conseguido y el artículo, como se desprende de la conclusión final, está escrito desde mi admiración hacia los avances en el procesamiento del lenguaje natural. Gracias!
Los primeros ordenadores personales de los 80 eran lentos y pesados, la primera Internet de mediados de los noventa, lenta y poco interesante, los primeros smarphones de mediados de los 00, básicos y con escasa batería.
Solo una década después de su primer contacto con el público en general, esas tres tecnologías se convirtieron en impresionantes y fueron adoptadas masivamente por la sociedad.
ChatGPT3 ya impresiona ahora, pero a pesar de que sus creadores han repetido que la hacen pública para ponerla a prueba «conversando» con millones de personas, muchos de nosotros nos afanamos en probar que nuestra mente es inigualable y que la inteligencia artificial es un oximoron y que la IA falla en pruebas que acertaría un niño de 8 años.
No estaremos mirando al dedo y no a la luna naciente, que muy posiblemente sera luna llena en solo una década?
Hola Jose! Gracias por tu mensaje! Como puedes ver en el último párrafo del texto, tengo muy presente a esa luna naciente. Los avances son prodigiosos, sin duda. Pero aún hay inconsistencias y creo que es bueno tenerlas en mente porque son la punta del iceberg, lo que nos recuerda que ChatGPT no es capaz de pensar todavía. Solo da respuestas basadas en probabilidad de distribución de las palabras en un contexto, sin entender lo que dice, ni por qué lo dice. Y lo expresa tan bien, tan fluido, que parece que sí que lo entiende… Pero el lenguaje no es solo forma. Sin comprensión del significado, ChatGPT es reo de los datos que se usen en su entrenamiento.
Buen artículo Lorena, pero en todo el asunto hay algo de lo cual creo que vos no te has dado cuenta: ChatGPT «piensa» en inglés, con lo cual la respuesta sería más lógica para algunos casos si plantearas el problema en inglés, por ejemplo:
Yo: What difference in meaning is there between «Pick up the table of the dishes» and «Pick up the dishes from the table»?
ChatGPT: In English, the preposition «of» is not usually used in this context. Instead, we use «from» to indicate the source or location of the object being picked up.
That being said, «Pick up the table of the dishes» could potentially be interpreted as meaning to remove the table itself that is holding the dishes, rather than the dishes themselves. However, this is not a common way to express this idea, and «Pick up the dishes from the table» would be the more natural and clear way to communicate the intended meaning.
¿Se ve? Saludos
Hola Marcos ! Muchas gracias por tu comentario. Lo malo es que no «piensa», solo contesta en base a la distribución de las palabras y a cuál sería la más probable en el contexto que se le plantea, según los datos que se han utilizado para su entrenamiento. Como dices, seguramente tendrá más datos en inglés que en español, aunque no lo sabemos ya que OpenAI no es transparente respecto al material que usa para el entrenamiento de los algoritmos. Si te fijas, en el último párrafo que te da como respuesta dice que «Pick up the dishes from the table» sería una manera más natural de comunicar el mensaje que se quiere transmitir mediante «Pick up the table of the dishes»… lo cual es incorrecto. Sin embargo, su sintaxis y su coherencia discursiva es tan buena que nos lleva a pensar que «piensa». Esto es una de las mayores críticas que está recibiendo. ¿Qué beneficio hay en hacer que una aplicación que no piensa ni entiende lo que dice (ya que carece de un componente semántico) parezca que piensa y que entiende como si fuese un humano? En este sentido el artículo de Emily Bender en Intelligencer (You are not a parrot) me parece muy interesante. Gracias de nuevo y saludos!
El problema con el tema este de las IA, según yo lo veo, es que nadie es capaz de definir lo que es «Inteligencia» . Lo único que veo hoy por hoy es que hay mayor acceso a datos. Aplicando unos algoritmos para formatear esos datos de una manera humanamente entendible tenemos algo que cierta gente llama Inteligencia Artificial, pero que no dista mucho de lo que en informática se llama «Sistemas Expertos», que llevan funcionando más de 30 años.
Alguien comenta que visto el progreso (de los primeros ordenadores a los últimos, los teléfonos, etc.), la IA irá a más, pero no estoy de acuerdo. El progreso que tenemos es de un factor de escala, no cualitativo. Un ordenador de hoy en día funciona siguiendo exactamente los mismos principios que el ENIAC (1945), solo que mucho más rápido.
No ha habido ningún cambio cualitativo, exceptuando la computación cuántica que esta dando sus primeros balbuceos, y habría que ver su aplicabilidad. Por ahora creo que la IA es una campaña de marketing, que puede ayudar en algunas cosas, pero no es una inteligencia.
Inteligencia es lo que tienen los que venden esto.
Pingback: La inteligencia artificial opina sobre la diversidad lingüística – Diario Dia
Pingback: La inteligencia artificial opina sobre la diversidad lingüística - La Fragua
Pingback: La inteligencia artificial opina sobre la diversidad lingüística – KW Foundation
Lorena, me encantó tu artículo en contenido intelectual y en lo trabajado de la exposición. Y gracias por la referencia del artículo de Bender que dejaste en los comentarios.
Coincido con ésta en que «las aplicaciones que tienen como objetivo imitar de manera creíble a los humanos conllevan un riesgo de daños extremos» . Desde mucho antes de chat GPT y hasta quien sabe cuando, los pueblos padecen el lenguaje hueco de los políticos compitiendo en crear «formas» que convenzan, solo por dar un ejemplo. En la línea de Harry Frankfurt, podríamos afirmar sin rubor, que GPT es más que nada un AB (Artificial Bullshitter), mucha más cerca del poder de la fuerza bruta (e inconsciente) del procesamiento de datos, que de cualquier cosa que uno pueda denominar inteligencia. He creído ver en tu artículo un esfuerzo por transmitir esa diferencia cualitativa y si tus dudas del final son auténticas y no una muestra entendible de respeto para no ofender a las minorías que defienden la IA como un nuevo dios, quizá pudiera darte apoyo un recorrido por «La Mente Nueva del Emperador», aquel libro del físico matemático y premio Nobel, Roger Penrose publicado por primera vez en 1989 por la editorial Oxford University Press, con el nombre The emperor’s new mind: concerning computers, minds, and the laws of physics.
A continuación cito del libro…
«el programa del ordenador de K. M. Colby, desarrollado a mediados de los sesenta, simula a un psicoterapeuta, con tanto éxito que algunos pacientes descubren que prefieren a la computadora antes que a un terapeuta humano, pues son más sinceros de lo que serían con su homólogo humano.»
Como ejemplo de tal intercambio entre la computadora «terapeuta» y un paciente, sigamos la
siguiente conversación (mantenida a través de un teletipo):
TERAPEUTA: ¿En qué puedo ayudarle?
PACIENTE: No lo sé.
TERAPEUTA: Cuénteme algo.
PACIENTE: No.
TERAPEUTA: ¿Puede explicarse?
PACIENTE: Me siento enfermo y cansado.
TERAPEUTA: ¿Tiene alguna idea de por qué?
PACIENTE: Me siento viejo.
TERAPEUTA: Continúe, por favor.
PACIENTE: Creo que he perdido el interés en todo.
TERAPEUTA: Dígame algo más sobre eso.
PACIENTE: Tengo una idea vaga de por qué me siento así.
TERAPEUTA: ¿La tiene?
PACIENTE: Creo que quisiera tener una familia.’
TERAPEUTA: ¿Qué le hace desear una familia?
PACIENTE: Sería estimulante…
TERAPEUTA: ¿Por qué es tan importante para usted?
Aunque esto pueda dar una extraña impresión de que la computadora está entendiendo, en realidad no entiende nada; simplemente está siguiendo algunas reglas sencillas de forma mecánica.
(Existe también un caso inverso a éste, en el que la computadora simula a un esquizofrénico, que presenta todos los síntomas y respuestas de un libro de texto y es capaz de engañar a algunos estudiantes de medicina que llegan a creer que realmente es un paciente humano el que está dando las respuestas.)
Igual que a Bender me agrada especialmente ese nombre alternativo para la IA propuesto por un ex miembro del parlamento italiano:
«Systematic Approaches to Learning Algorithms and Machine Inferences».
Entonces la gente iría por allí preguntándose: “¿Es este SALAMI realmente inteligente? ¿Puede este SALAMI escribir una novela? ¿Merece este SALAMI derechos humanos?”
Le pregunte si era un humano y me dijo:
No, no soy humano. Soy un modelo de lenguaje avanzado desarrollado por OpenAI llamado ChatGPT. Estoy diseñado para procesar y generar lenguaje natural, y mi funcionamiento se basa en complejos algoritmos de inteligencia artificial. Aunque puedo parecer humano en mis respuestas, en realidad soy una herramienta tecnológica creada para ayudar a las personas en diversas tareas, desde responder preguntas simples hasta generar contenido complejo.
Pingback: Silenos contra Leviatán (1) - Jot Down Cultural Magazine
Pingback: Richard Bueno Hudson: «Hablar bien y hablar mal, en el mundo de la sociolongüística, es tabú. Eso no es así porque cada uno habla como habla» - Jot Down Cultural Magazine
Pingback: Futuro Imperfecto #21: Promesas y mentiras de la tecnología para 2024 - Jot Down Cultural Magazine
Pingback: GLaDOS: elogio de la villana posmoderna definitiva - Jot Down Cultural Magazine
Pingback: Filipe Melo: «Si las personas se comunicasen más por la música estoy seguro de que no tendríamos tanta confusión en el planeta» - Jot Down Cultural Magazine
Pingback: Entrevistas: Filipe Melo: «Si las personas se comunicasen más por la música estoy seguro de que no tendríamos tanta confusión en el planeta» – Masticadores
Pingback: ¿Eres capaz de superar un quiz creado por la IA? - Jot Down Cultural Magazine
Pingback: Inteligencia artificial vs. propiedad intelectual - Jot Down Cultural Magazine
Pingback: Inteligencia artificial generativa: el nuevo cerebro detrás de la educación del futuro - Jot Down Cultural Magazine
Pingback: Inteligencia artificial y lenguas minoritarias: un futuro conectado - Jot Down Cultural Magazine
Pingback: Ana Pérez Escoda: «Desde la universidad debemos transmitir el mensaje a los jóvenes de que necesitan formación humanística para pensar» - Jot Down Cultural Magazine