Primero de todo, buenos días,
bienvenidos y bienvenidas a la Facultad de Psicología de la UNED.
Tanto a los que habéis tenido
la amabilidad de acercaros hoy aquí presencialmente,
como a los que estáis siguiendo la sesión y todo el trabajo
que tenemos los días sucesivos a través de los medios telemáticos.
Estoy muy contento de poder estar una vez más inaugurando
el Foro de Investigadores en Formación,
Foro de Investigadores Noveles, anteriormente era.
La semana de investigación de la facultad
y lo primero de todo quiero dar las gracias muy muy sentidas
a todas las personas que han invertido todo su tiempo,
esfuerzo e ilusión en organizar este foro que me consta
que ha sido una tarea difícil de coordinar espacios, tiempos,
las ponencias de las mesas, las coordinaciones,
la gestión de los pósteres, todo.
Así que, de verdad, muchísimas gracias,
especialmente a mi querido compañero,
el vicedecano de estudiantes,
porque ha hecho un trabajo muy bueno de coordinación,
y a toda la comisión coordinadora, el comité organizador.
De verdad, muchísimas gracias.
En fin, no quiero dejarme a nadie fuera,
por eso no voy diciendo uno por uno, pero de verdad que os agradezco
muchísimo el trabajo que habéis hecho.
Solo unas palabras para decir
que, como yo espero que todo el mundo tenga más o menos claro
que la investigación está en el ADN
de esta facultad, las instituciones de enseñanza superior
no pueden ser meras transmisoras del conocimiento,
sino que tienen que ser agentes activos
implicados en la creación del conocimiento
desde una perspectiva crítica y ética.
Y me llena de orgullo saber que la Facultad de Psicología
es punta de lanza en la universidad en este compromiso de creación
del conocimiento para luego poder transmitir
a nuestros estudiantes cosas que vamos descubriendo cada día.
Y siempre lo digo, los que me habéis escuchado
varias veces, no os sonará nueva esta afirmación,
y es que poder hacer investigación en realidad es un privilegio.
Porque es estar sabiendo y descubriendo cada día cosas
que el día anterior no se sabían,
cosas que nadie conocía el día anterior.
Y ser los primeros ojos
y los oídos en descubrir algo nuevo es verdaderamente un privilegio.
Así que quiero que esta ilusión la podáis transmitir
y podáis vivirla todos los que estáis comenzando
en vuestra tarea investigadora.
El camino es duro, porque no lo vamos a negar,
pero luego son dulces los frutos y las recompensas.
Así que mucho ánimo, mucho tesón y os deseo los mayores éxitos.
Que podáis tener una discusión científica,
crítica, basada además en lo que luego es muy importante
la ciencia, en la colegialidad,
en el sentido de que todos los que estamos aquí
nos une verdaderamente eso que es tan bonito,
que es el amor por la investigación, la curiosidad por conocer el universo
y sobre todo en nuestro caso los más bellos misterios del mismo,
que es el comportamiento humano y los procesos de la mente.
Y nada más, quiero por supuesto dar las gracias a nuestro ponente
inaugural, al profesor Manuel de Vega Rodríguez,
y muchas gracias Manuel por haber te acercado aquí a Madrid
y compartir con nosotros lo que seguro que va a ser
una conferencia maravillosa y para presentarle precisamente.
Quiero dar la palabra a mi querido compañero,
el profesor David Beltrán,
que va a hacer la presentación del ponente.
Muchísimas gracias.
Gracias, Alejandro.
Bueno, para mí es muy fácil realmente presentar a Manuel de Vega.
Yo conozco a Manuel de Vega mucho antes de que él me conociese a mí.
Bueno, yo y muchos estudiantes de psicología de mi quinta,
que conocimos su libro que fue muy impactante para muchos de nosotros,
sobre psicología cognitiva,
introducción a la psicología cognitiva,
que tiene ya muchos años, ¿verdad, Manolo?
No me acuerdo cuántos, pero tiene muchos años.
Aún así, alguna vez le he dado un vistazo de nuevo
y realmente es un libro que sigue teniendo mucho valor todavía.
Después he tenido la fortuna de que yo acabé trabajando
en la Universidad de La Laguna y empecé una línea de investigación,
o me uní a una línea de investigación intensa que ya
Manuel de Vega llevaba.
Es difícil decir una única línea para Manuel de Vega
porque a él siempre le ha gustado,
como él dice, abrir brecha y entonces tratar temas distintos,
aunque siempre dentro del marco de la psicología del lenguaje,
más o menos.
Pero siempre introduciendo variantes nuevas,
neurociencia, tratando temas menos trending
topic en psicolingüística, como puede ser discurso,
comprensión de discurso, etc. Bueno, él está aquí hoy.
Bueno, también me gustaría destacar que los alumnos de psicología
del lenguaje, de nuestro grado de psicología,
pues quizás también lo conocen o lo deberían conocer al menos,
puesto que es uno de los autores del manual de referencia
para la asignatura de psicología del lenguaje.
Y poco más, no quiero entretenerme mucho.
Yo creo que con la charla seguramente nos demostrará todo su conocimiento,
sabiduría y su buena forma y su buen hacer a la hora de presentar
y transmitir conocimiento que suele tener
y que siempre ha tenido, creo.
Así que nada,
gracias por estar aquí, Manuel, y adelante.
Gracias, David.
Este funciona, el de la solapa.
Ah, entonces no hace falta el otro, claro.
¿El láser también funciona?
Sí.
Debería, ¿no?
Correcto, perfecto.
¿Qué tal?
Buenos días a todas y a todos.
Es un placer para mí estar aquí en la UNED.
Después de varios años he venido a lo largo del tiempo
en varias ocasiones,
pero en muchos casos por razones profesionales,
administrativas, digamos, tribunales de oposiciones,
de tesis y cosas así, que son también muy gratos,
pero quizá esta es la primera vez que vengo a charlar, ¿no?
Y el tema que voy a intentar tratar, bueno, antes de nada,
gracias a la Facultad de Psicología
por permitirme estar aquí, además, en algo que es muy significativo,
que son unas jornadas para jóvenes investigadores.
Yo creo que el dirigirse a los jóvenes investigadores
para estimular su curiosidad, como decía el decano,
es una de las razones de nuestra actividad profesional
más importante.
Hacer ciencia, pero sobre todo formar investigadores
y estimularles a que sigan la cadena del conocimiento.
Bien, vamos a hablar, o voy a hablar,
de algo que seguramente esté de mis posibilidades,
el cerebro y el lenguaje, por un lado, y el chat GPT,
o si lo prefieren vamos a hablar también de LLM,
Large Language Models, Entonces, ambos exceden porque primero
el cerebro, pues bueno,
y el lenguaje llevo estudiándolos media vida,
pero he de reconocer que sigue siendo bastante caja negra para mí
y para casi todo el mundo.
El cerebro es un sistema biológico extremadamente complejo
y de pronto irrumpe, La inteligencia artificial,
cuando ya la teníamos un poco olvidada,
pensando que no era capaz de resolver tareas cognitivas significativas,
pues ahí tenemos una inteligencia artificial
poderosa que es los llamados Large Language Models, pero bueno,
hablaremos sobre todo del GPT.
Esta es más o menos la estructura de la charla.
Hablaremos algo de los antecedentes de la inteligencia artificial
que han dado lugar o que han derivado en el LM.
Algunas pruebas.
Que yo he hecho cuasi experimentales con LLM,
creo que todos vosotros habéis jugado con LLM,
primero como herramienta profesional,
pues nos ayuda a mejorar textos, a hacer resúmenes,
incluso a generar trozos de texto interesantes
para un artículo, etc. Eso es la parte relativa.
Digamos, de herramienta.
También podemos jugar con el LLM
y ver cuáles son sus capacidades y llevarlas al límite.
O podemos incluso hacer pequeños experimentos similares
a los que hemos hecho con las personas
a ver cómo lo resuelve el LLM, cómo lo resuelve el GPT.
Luego nos centraremos en los dos grandes puntos,
similitudes y diferencias.
Las similitudes entre el cerebro y el LLM
cuando resuelven la misma tarea, que es el lenguaje en definitiva,
pues son notables y más importantes todavía son las diferencias,
esas diferencias que voy a intentar ver de forma ilustrativa
y al final intentaré sacar alguna conclusión
de las posibilidades y las posibles fuentes
de inspiración mutua que hay entre la inteligencia artificial
y el cerebro, y también los desafíos.
Para nosotros los humanos y para la inteligencia artificial
tipo LLM.
Bueno, ¿antecedentes de la inteligencia artificial?
Pues vamos a ver, yo no soy un experto
en inteligencia artificial, pero hay unos hitos,
hay una serie de mojones en el tiempo que voy a señalar
porque tienen relación directa con el GPT,
con los Large Language Models.
Tienen relación directa porque de hecho.
GPT ha ensamblado muchas de las técnicas
y de los algoritmos que previamente se habían ido desgranando a lo largo
del tiempo.
Quizá una primera idea interesante es la limitation game de Turing.
Todos hemos oído hablar del test de Turing
y de la máquina de Turing y todas estas cosas.
Turing era un matemático absolutamente genial, rompedor
y entre otras cosas, planteó una idea que en aquel momento
parecía pura ciencia ficción, que es
en qué medida un sistema de computación artificial,
lo que luego llamamos una máquina de Turing,
una máquina de Turing es casi cualquier sistema de computación,
los ordenadores son equivalentes a máquinas de Turing.
Entonces él decía, bueno, una máquina artificial mecánica
podría en principio emular el lenguaje humano, ¿Por qué?
Pues porque el lenguaje humano, después de todo,
es procesamiento de símbolos y una máquina artificial de cómputo
es un sistema de procesamiento de símbolos
y, por lo tanto, podría imitar.
Y podría incluso engañar a un observador humano
que se comunicase con esa máquina
y no fuese capaz de saber si era una máquina
o era un humano.
Durante mucho tiempo
eso parecía un umbral muy alto de inteligencia artificial.
Todos los programas de inteligencia artificial de lenguaje
no lograban engañar a casi nadie.
Y de pronto el test de Turing ha quedado superado ampliamente.
¿Qué ha pasado entre tanto?
Bueno, pues varias cosas.
Tenemos las neuronas artificiales
de los años 50, nada menos, de Rosenblatt,
lo que se llamó perceptron.
Los perceptrones están incorporados en la tecnología LLM, por lo tanto,
tenemos ahí un elemento fundamental.
Fíjense ustedes, el artículo del año 58 tiene 22.000 citas.
Luego tenemos redes neurales,
que es que los perceptrones se pueden organizar en capas,
y esos perceptrones tienen vínculos de conexión entre ellos
y se comunican.
Esto ya empieza a parecerse un poco al cerebro,
a esa estructura reticular de unidades que se comunican.
Pero lo más importante es, junto a esa idea de redes
de computación artificiales, es el algoritmo Backpropagation.
Backpropagation es un algoritmo al que los psicólogos
deberíamos tenerle bastante cariño porque es un invento de Rummelhard
y Hinton.
Rummelhard fue un psicólogo matemático de allá de California
y Hinton también.
Rummelhard, desgraciadamente, murió muy joven
de una enfermedad neurodegenerativa.
Pero Hinton, que era el segundo de abordo,
ha recibido el premio Nobel este año.
Y, oh asombro, el premio Nobel de física,
un psicólogo asombroso, ¿no?
Pero lo ha recibido exactamente por este algoritmo, Backpropagation,
porque Backpropagation abrió las puertas
a una computación inteligente extraordinaria,
prácticamente la capacidad de aprender patrones.
Luego tenemos el Latent Semantic Analysis,
que este también es un campo muy de psicólogos,
que en los años 90, finales del siglo pasado,
se trabajó mucho con esta tecnología que ya
era realmente inteligencia artificial y se parece bastante a LLM
pero con algunos defectos.
Básicamente son memorias semánticas, redes, que son capaces
de hacer juicios semánticos, valorar la similitud entre conceptos
o entre palabras o entre textos y cosas así,
pero no se comunican.
¿Y qué es lo que pasa luego?
Lo que pasa luego es que en 2017, antes de ayer,
surgen los transformers.
Los transformers es una tecnología, fíjense ustedes,
desde el 2017 hasta ahora he visto en Google 182.000 citas.
Es decir, es absolutamente abrumador el impacto que ha tenido el trabajo
publicado por un conjunto de ingenieros de Google.
Todavía no es el LM,
pero es la base fundamental del LM, como veremos,
porque los transformers se basan en un mecanismo muy poderoso
que es self-attention, la autoatención,
que suena además muy psicológico, eso de la atención.
Entonces, ese mecanismo de autoatención permite,
a partir de grandes contextos lingüísticos,
extraer las ideas principales, a grosso modo.
Es una forma muy simple de decirlo,
pero.
Bueno, entonces lo que tenemos ahí es que los LLM,
y de los cuales el más popular en este momento,
hay varios, el más popular es el GPT,
pues han producido un impacto enorme.
Se basan en todo esto que hemos estado viendo,
en perceptrones, en redes neurales,
en backpropagation y en transformers o self-attention.
Y de ellos el más significativo es.
O por lo menos el más popular es el chat GPT.
GPT es muy interesante porque nos dice mucho esas siglas
que parecen así un poco opacas, pero son importantes porque la G
viene de generative, esa capacidad generativa justo es
la capacidad de comunicarse flexiblemente con las personas.
Recibe y produce.
Es pre-trained, eso también es importante
porque requiere un entrenamiento previo.
Cuando nosotros interactuamos con CHPT,
no está aprendiendo nada, ha sido entrenado antes,
ha habido un pre-aprendizaje y luego se queda fijo.
Y Transformer, que es este algoritmo fundamental de autoatención
que utilizan todos los LLM.
Bueno, ¿por qué es una tecnología disruptiva?
Pues.
Creo que todos lo sabemos, ¿no?
Pero a veces hay que ponerlo en palabras
y luego ver también qué es lo que no es,
qué es lo que es el GPT y qué es lo que no es.
¿Es capaz de comunicarse el lenguaje natural de forma fluida?
¿Sorprende a los usuarios?
Esto es tan así que los creadores de ChatGPT,
cuando llegaron a la versión 2, estaban ellos mismos sorprendidos,
asombrados, de las capacidades emergentes del sistema.
Ellos no pensaban que iba a llegar tan lejos.
Y era el chat GPT-2, que era muy primitivo
comparado con los actuales versión 4.
Aprende a partir del lenguaje extrayendo regularidades
desde morfemas a estructuras discursivas.
Por ejemplo, algo increíble para la gente que estudia lenguaje,
todo el tema del procesamiento sintáctico,
del parsing, al que le hemos dedicado los psicólogos décadas,
Aquí se resuelve por sí solo, es decir,
no hay que programar al GPT con reglas gramaticales
para descodificar, para parsear las frases
y para producirlas.
Resulta que abstrae, infiere por sí mismo
los patrones lingüísticos, gramaticales o sintácticos
sin despeinarse, ¿no?
Comprende y genera texto,
responde, resume, traduce, asesora en la redacción científica,
bueno, todas estas cosas que hemos estado viendo, codifica scripts,
puede programar en Python o en MATLAB,
y se debate si razona,
es capaz de argumentos bastante convincentes
y en algunos casos da la impresión de ser creativo también, ¿no?
Bueno, vamos a ver estas pruebas.
Todas estas pruebas son las que yo he ido realizando,
pero no voy a ver todas y cada una de ellas
porque nos detendríamos demasiado.
Pero vamos a hablar de completado de frases,
lo que los psicólogos llamamos la tarea de Heiling,
juicios de similitud semántica,
juicios de coherencia, resolución de anáforas ambiguas,
un tema también muy característico de la psicolingüística,
interpretación de imágenes o generación de imágenes.
Y más cosas pero que no vamos a tratar.
Bueno, por ejemplo, el completado de frases
en la tarea de Hayling.
La tarea de Hayling es una tarea muy simple.
Se le da a la gente
un contexto incompleto al que le falta una palabra,
pero se ha elegido de tal manera el contexto que la palabra final.
Es muy predecible.
La palabra final tiene una alta close probability
que se dice en psicolingüística.
Entonces, por ejemplo, en el papel trazo una línea recta con él,
solo hay una palabra posible y el 99% de la gente
dice esa palabra.
O uso la fregona para limpiar él, lo mismo.
Entonces, esos contextos de un final altamente predecible.
Pues se los presenté a GPT y produjo las palabras
que tenemos ahí relacionadas, lápiz, suelo, etcétera,
que son exactamente las mismas que produce la gente.
Exactamente las mismas.
Es decir,
que sea lo que sea que hace esa caja negra que es el GPT,
pues su memoria semántica parece funcionar de forma análoga
a la nuestra.
Pero uno podría decir, bueno, claro, es que está todo asociado ahí
y la red simplemente.
De forma muy mecánica, busca las palabras próximas
y ya está.
Pero si se le pide, en la tarea de Hayling
hay otra versión que es pedirle a la gente que termine la frase
con una palabra completamente fuera de contexto,
una palabra que no tenga la más mínima relación con el contexto,
y eso es más difícil.
Por ejemplo, los pacientes neurodegenerativos
tienen dificultades y no solo los neurodegenerativos,
también los esquizofrénicos tienen dificultades para generar palabras
no relacionadas.
¿Por qué?
Tienes que echar el freno.
Es decir, hay un proceso inhibitorio muy potente que te pide,
evita esa palabra que viene a tu mente.
Y no solo esa palabra,
sino otras que se relacionan con esa palabra.
Y busca otra que no tenga nada que ver.
El chat GPT lo hace sin despeinarse, ¿no?
Se busca palabras totalmente no relacionadas,
sin la más mínima relación semántica,
como lo haría el mejor de los sujetos humanos.
Y eso ya no es puramente mecanicista,
ya no es asociativo, sino anti-asociativo,
por así decirlo, ¿no?
Aquí otro pequeño juguete es,
le pedí que buscase la similitud semántica,
la similitud entre conceptos, ¿en qué se parecen?
El tomate y una pelota de tenis,
la respuesta es, tienen forma aproximadamente esférica.
El tomate y la sangre, aquí cambia el criterio,
son de color rojo.
El tomate y la manzana, cambia el criterio de nuevo,
ambos son frutas.
Tomate y chocolate, ambos se utilizan en cocina
o como ingredientes en preparaciones alimenticias.
Eso es una flexibilidad semántica extraordinaria,
nada que ver con respuestas asociativas completamente mecánicas,
sino que es capaz de ir calibrando el criterio semántico
para ver las similitudes.
Esto corresponde a un tipo de material que yo utilicé
en experimentos hace 20 años,
que yo estaba convencido que eran una demostración
de la corporalidad del lenguaje, ¿no?
Por ejemplo, esa frase, René, mientras cortaba la carne,
llenó un vaso de vino,
pues se nos antoja que no es coherente, ¿no?
Y yo decía, bueno, no es coherente porque simulamos mentalmente
la acción de cortar la carne y la acción de llenar el vaso de vino
y en ambos casos hay una actividad de las dos manos.
Y además el adverbio mientras está indicando
que ambas acciones son simultáneas.
Entonces, los seres humanos dan una respuesta de esto
es incoherente, su N400, que es un registro de actividad cerebral,
indica que el cerebro es sensible a la incongruencia,
Y cuando le pregunté al chat GPT, pues él ha contestado muy bien,
dice, ambas acciones requieren el uso de las manos de forma coordinada,
cortar carne implica una mano sujetando el tenedor
y otra usando el cuchillo, lo cual no permite de forma realista
llenar un vaso al mismo tiempo.
E incluso especula,
a menos que se especifique un dispositivo automático,
intervención externa,
la simultaneidad resulta implausible.
Vamos, respuesta perfecta, ¿no?
A no ser que uno tenga cuatro manos como este.
Este es un autorretrato de René Magri,
por eso hablaba yo de René.
René Magri, que era un pintor surrealista,
y se pinta con cuatro manos y es capaz de llenar el vaso de vino
y al mismo tiempo cortar la carne.
Pero, claro, el GPT no tiene acceso a un cuerpo,
no es corpóreo, no tiene capacidades sensoriomotoras,
no observa el mundo.
Entonces, a pesar de ello, da respuestas que son compatibles
con una cognición corpórea.
Aquí vemos otros ejemplos que no me voy a detener, pero bueno,
si van a ver la presentación lo pueden ver con más calma.
El carpintero, mientras lijaba la tabla,
olió el barniz.
Aquí vemos una simultaneidad de dos acciones o de dos eventos,
con mientras también, pero el GPT lo valora como coherente
porque.
Tal como lo explica,
lijar y oler el barniz pueden ocurrir simultáneamente
pues el olor puede estar presente en el aire
durante el trabajo manual.
Y así evalúa cosas bien diferentes.
Por ejemplo, es interesante la actriz.
La actriz mientras miraba la báscula
seguía una dieta incoherente.
¿Por qué?
Porque mirar la báscula es una acción puntual
mientras que seguir una dieta es un proceso a largo plazo.
Se lo sabe todo.
Un conocimiento del mundo extraordinario.
Y resolución de anáforas ambiguas.
Típico experimento de psicolingüística de hace 30 años.
Muchos psicolingüistas estaban obsesionados con la ambigüedad
de las anáforas.
Las anáforas son pronombres que se refieren
a un antecedente.
Pero hay anáforas ambiguas como esta.
María predijo que Juana perdería la carrera,
pero ella llegó la primera.
Ella es.
Puede concordar gramaticalmente con Juana y con María.
¿Quién es ella?
Pues GPT nos dice que el antecedente más probable es Juana.
Y lo explica muy bien, ¿no?
Pero si cambiamos la frase y decimos,
Juana predijo que Juana perdiera la carrera,
pero ella se equivocó, entonces.
El GPT cambia de opinión
y dice que el antecedente más probable de ella es María
y también lo explica muy bien.
Equivocarse está más naturalmente vinculado al acto de predecir
que fue realizado por María.
Por tanto, ella se refiere a María.
Descripción de imágenes.
Esta es una capacidad que se incorporó algo más recientemente,
que el sistema es capaz de.
Describir fotografías, por ejemplo.
No imágenes dinámicas, no un vídeo,
pero sí fotografías.
Y lo hace estupendamente.
Sigue siendo GPT en estado puro
porque se basa en transformers.
Es decir,
el algoritmo que está detrás es el de transformers,
pero que trabaja tanto con material visual
como con material verbal.
Los transformers aplicados al lenguaje quiere decir que.
La imagen la segmenta en tokens y esos tokens son equivalentes
a las palabras.
Por ejemplo, aquí vemos una descripción
de una imagen que está perfecta, es una imagen relativamente compleja
y la descripción es perfecta.
Podemos dar imágenes verdaderamente complejas
y detecta y además describe en un texto perfectamente ordenado
y coherente lo que hay en la imagen.
La generación de imágenes a partir de descripciones
es otra de las capacidades, esta sí que es más reciente,
que tiene una aplicación que es DALI,
que utiliza también transformes,
pero también algo más que son los diffusion models,
que una vez me lo explicó un ingeniero
y son realmente una cosa curiosísima, ¿no?
Porque realmente aquí hay que ir más allá, el sistema es generativo
y tiene que generar una imagen a partir de una descripción.
La descripción se puede analizar con transformers, como siempre,
pero la generación requiere algo más.
Vemos que puede hacer imágenes bastante creativas,
un elefante ante una botella y una mosca gigante detrás,
un endertal haciéndose un selfie.
O incluso algunas combinadas de este tipo, ¿no?
Los grandes de la economía jugando al póker,
Einstein y Newton charlando, Freud y Marilyn practicando surf,
y bastante freudiano, ¿no?
Y cosas así, ¿no?
Entonces, también sigue siendo asombroso, ¿no?
Pero tiene algunas dificultades específicas
y detectamos sus imperfecciones.
Por ejemplo, tiene dificultades para entender relaciones espaciales
complejas.
Cuando se le pide generar un paisaje con varios planos de profundidad,
incluyendo una casa, un puente sobre el río,
un tren de carbón sobre el puente y campesinos
trabajando en el campo, en 2024 hizo esto.
No era capaz de poner el tren sobre el puente,
ponía el puente sobre el río,
pero el tren sobre el puente que está sobre el río
le excedía completamente.
No tenía una capacidad de organización espacial suficiente.
Hace unos días, en 2025, sí lo consiguió.
Aquí vemos que también tiene dificultades para entender
el espacio psicológico.
Cuando se le pide generar una imagen de un pintor pintando a una modelo,
pues era un desastre la situación física del pintor
y la modelo.
O ponía la modelo delante del pintor o ponía la modelo detrás del pintor.
Solo en 2025 lo ha conseguido porque ha habido un refinamiento
del modelo, claro.
Y dicho sea de paso, fíjense ustedes que esta modelo tiene tres piernas,
lo cual es un problema para cualquier situación, ¿no?
Esto es lo que veremos luego a continuación,
que se llaman alucinaciones.
Entonces, cuando se le pide generar imágenes,
las alucinaciones saltan a la vista.
Una mano con seis dedos o una chica con tres piernas.
Pero, ¿qué pasa con las alucinaciones cuando son en texto?
Ni nos enteramos a veces.
Nos puede dar una información falsa.
Aquí vemos otro interesante de alucinaciones.
Y ecos,
lo que podemos llamar ecos, damas del siglo XVIII haciéndose un selfie
y tenemos una, dos, tres, cuatro, cinco deditos apretando la cámara,
pero solo una cámara y esa cámara está en una mano
fantasma colgada del aire.
Todo esto es francamente alucinatorio y ecoico,
pero en 2025 superado, esto es un selfie de verdad.
¿Conclusiones?
Bueno, pues magnífico.
La génesis de la interpretación de imágenes es muy buena,
la génesis de imágenes es buena,
pero a veces produce efectos alucinatorios.
Y entramos ya en el núcleo de la charla sobre las similitudes
entre GPT y cerebro.
Todo esto son similitudes.
Tanto el GPT
como el cerebro son sistemas similares.
De reconocimiento de patrones,
son muy buenos extrayendo patrones a partir de datos individuales,
son máquinas inductivas, por así decirlo,
a partir de muchos ejemplos, extrae regularidades,
y eso lo hace el cerebro y lo hace el chat GPT.
Atención, bueno, los humanos desde que la psicología cognitiva
ha empezado a estudiar la atención,
pues sabemos que la atención es un mecanismo fundamental, ¿no?
Ahí tenemos los trabajos de Michael Sposner,
por ejemplo, de Daniel Kahneman,
que indican que la atención es un mecanismo
de regulación fundamental para la entrada de información,
para regular la entrada de información,
para regular la alerta, etc. Y, en definitiva,
la atención es un mecanismo selectivo.
De todo el inmenso flujo de información,
pues restringe a una parte.
Y también en el GPT tenemos algo parecido,
de hecho se habla de self-attention.
Luego veremos que muchas de estas palabras
que parece que son lo mismo no son lo mismo, pero bueno,
tienen el aire de la metáfora más bien.
Arquitectura en capas, pues sí,
también el chat GPT funciona a base de capas,
como si fuera un sándwich inmenso.
Y el cerebro tiene también capas.
Lo que pasa es que el cerebro tiene seis capas,
como mucho, en el neocortes,
y el char GPT-4 tiene algo así como 120 o 150,
tampoco lo dicen claramente, capas de transformes
y de otra cosa que se llama multilayer perceptrons,
perceptrones multicapa.
¿Procesamiento paralelo?
Pues sí, también.
El cerebro es un gran procesador en paralelo,
tenemos miles de millones de neuronas que funcionan en equipo y el chat GPT
tiene miles de millones de perceptrones
que funcionan también en paralelo,
aunque también hay diferencias como veremos.
Vamos a fijarnos en los dos puntos últimos porque son más medibles,
por así decirlo.
Una característica tanto del chat GPT
como del cerebro humano, el cerebro lingüístico,
yo diría que el cerebro humano en general,
es que predecimos.
El cerebro hace predicciones continuamente
sobre lo que viene a continuación.
No esperamos pasivamente recibir la información del input,
sino que estamos haciendo una especie de computación probabilística.
Que nos lleva a anticipar las cosas.
Y eso en el lenguaje está muy claro.
En el lenguaje, mientras leemos o escuchamos palabras,
estamos asomándonos a la palabra siguiente
de forma inconsciente.
No lo sabemos, no somos conscientes,
pero está ahí.
Veremos luego, por ejemplo,
que un fenómeno que se puede medir perfectamente en el cerebro humano
es la respuesta electrofisiológica a lo imprevisto,
a la palabra imprevista.
A la palabra que produce sorpresa.
Si produce una respuesta fisiológica que se llama la N400
en el eje, pues eso indica que estaba esperando otra cosa.
Bueno, pues el GPT
también hace predicciones sobre la palabra siguiente.
De hecho, todo el GPT,
se basa en este principio de predicción.
Incluso en el entrenamiento es fundamental el carácter predictivo
del contexto sobre las palabras.
Y luego también podemos establecer una analogía
en cuanto a la memoria semántica.
La memoria semántica humana, pues durante mucho tiempo
los psicólogos cognitivos lo han representado
como una inmensa red de conceptos y los conceptos.
Bueno, por una cuestión de conveniencia,
pues se representan como distancia, como nodus,
como una distancia entre ellos.
Los conceptos próximos, por ejemplo, médico,
enfermera, hospital, medicina, pues estarían próximos.
Otros conceptos no relacionados, pues estarían distantes en la red.
Esa red físicamente estaría implementada
en las neuronas del cerebro, se sabe además más o menos dónde,
en las áreas temporales y parietales,
y en el caso del GPT tenemos algo parecido
a una memoria semántica que se llaman espacios envolventes,
embedding spaces, que básicamente es una representación matemática
de los conceptos como vectores en un espacio multidimensional,
en un espacio de cientos de dimensiones.
Y esa representación de los vectores en ese espacio multidimensional
es una representación semántica de relaciones entre los conceptos,
muy sutiles a veces,
tanto como las que tenemos los humanos.
La memoria semántica humana
y la memoria semántica humana.
Del GPT no son muy distintas.
Si acaso la del GPT es superior.
Es un poco provocativo lo que digo, pero creo que es verdad.
Y esto lo resume muy bien aquí Goldstein,
un artículo que dice GPT y cerebro
realizan predicciones de la palabra siguiente,
y eso es un hecho.
Utilizan las predicciones previas a la aparición
para calcular la sorpresa.
Este es el.
Es el correlato, es decir,
si yo estoy haciendo predicciones sobre la siguiente palabra,
puede que la siguiente palabra sea la que yo he predicho
o la que mi sistema semántico ha predicho,
pero puede que no.
Entonces, cuanto más distante sea semánticamente la palabra
que aparece a continuación, más sorpresa se produce.
Y la sorpresa es un concepto matemático,
por cierto.
Es una medida de la divergencia,
de la diferencia que existe entre lo esperado y lo que es.
Lo que llaman la entropía cruzada, cross-entropy loss.
Entonces, tanto el cerebro como el GPT
parece que están haciendo eso.
Y aquí tenemos algún estudio.
Todavía con GPT-2, que era muy primitivo, pero bueno,
ya se ven cosas.
Se comparaba a los humanos y al GPT en una tarea de enmascaramiento,
en que aparecía un texto, pero la siguiente palabra,
la última palabra, parecía enmascarada y tanto el humano
como GPT hacían una predicción sobre la siguiente palabra.
Y así sucesivamente.
Entonces, primero, la correlación entre las predicciones GPT
y las humanas es muy alta.
Pero, más interesante, cuando se registra intracranialmente,
en un eje intracranial que se aplica a pacientes que van a ser operados,
cuando se registra el eje intracranial,
se observa que.
Las palabras de mayor sorpresa, matemáticamente hablando,
de mayor entropía, es decir,
aquellas palabras más inesperadas producen una activación
a los 400 milisegundos que es la N400 de toda la vida.
Es decir que la sorpresa.
Medida matemáticamente incluso en el GPT,
pues en los humanos produce un efecto fisiológico mesurable.
Aquí vemos lo mismo,
la N400 responde más ante las medidas de sorpresa
que hace el GPT-3 en este caso.
Aquí tenemos varios finales de frases.
El mejor final es este,
el estándar, es difícil emitir cuando uno está equivocado.
Este está relacionado pero es incorrecto,
no es el mejor.
Este no tiene ninguna relación, es difícil emitir
cuando uno está solo.
Y este es el más disparatado de todos, el más implausible.
Y como vemos la N400.
Es máxima, hay un gradiente, una graduación,
pero es máxima en el implausible seguido del no relacionado,
etc. Es decir, una medida psicológica o fisiológica
bien conocida responde a la incertidumbre,
responde a la entropía, tal como predice el chat GPT-2.
Bueno, este estudio no me voy a detener en él
porque andamos un poco justos de tiempo,
pero es la misma idea, solo que en este caso
se compara el GPT con la actividad cerebral
medida con neuroimagen, con resonancia magnética funcional
y además un gran número de sujetos.
Es un estudio absolutamente heroico.
Yo creo que excesivo para lo que obtiene,
que tampoco es tanto.
Pero bueno,
básicamente lo que ve es que el cerebro,
realiza predicciones sobre las palabras,
más o menos entre dos y ocho palabras por delante,
y el GPT tiene una ventana de predicción más pequeña.
Pero estamos hablando del GPT-2.
Hoy en día no creo que haya grandes diferencias,
si acaso el GPT-4 es mejor.
Es decir, la capacidad predictiva hacia delante es enorme,
tanto en el cerebro como en la mente.
Y lo más interesante
es el establecer una correspondencia entre la actividad cerebral
y las capas de procesamiento del GPT-2.
El GPT-2 me parece que tenía en torno a 12 capas de procesamiento
y la capa 8 es la que mejor se alinea,
la que mejor se corresponde con la actividad cerebral
para los procesos más semánticos.
Es decir, si el cerebro tiene capas que van de lo más superficial
a lo más semántico, a lo más profundo,
el GPT le pasa igual.
Entonces, los aspectos semánticos más profundos del cerebro
tienen que ver con la actividad,
por ejemplo, del área de broca, del óvulo temporal frontal,
del polo frontal temporal, etc. Y justamente esa actividad
es la que correlaciona más con.
La actividad
no de las capas iniciales, que son las superficiales,
sino de las más tardías del chat GPT.
Bueno, conclusiones, pues sí,
que tenemos ahí que la sorpresa, el cómputo de la sorpresa
o la discrepancia entre lo que se predice
y lo que hay,
pues es algo que subyace tanto al GPT como al cerebro.
La N400 es una respuesta neural a la sorpresa, Diferencias.
Este es el capítulo más sustancial.
¿Cuánto tiempo me queda?
Creo que sí, las cuatro y cuarto.
Diez minutos.
Ah, entonces voy rápido.
Vale, entonces.
Diferencias entre GPT y cerebro las hay en el hardware,
en el software y en los procesos cognitivos.
En el hardware, primero, la energía.
El GPT es un dragón que devora energía en cantidades ingentes.
Cientos de miles de megavatos hora durante el entrenamiento.
El entrenamiento, piensen ustedes, que dura
entre tres y cuatro meses de forma continua
e implica miles y miles de CPUs y GPUs.
GPUs son unidades de procesamiento de gráficos, que son las más potentes
porque trabajan en paralelo.
Entonces, miles de GPUs, CPUs,
trabajando continuamente durante el entrenamiento,
consumen miles de megavatios hora durante varias semanas o meses.
Estamos ya en cifras que empiezan a parecerse
a lo que consume una gran ciudad.
Y algunos dicen que dentro de un año o dos será como un gran país.
Entonces esto es absolutamente insostenible,
ya de entrada.
Es maravilloso pero es insostenible.
Y están pensando en.
En construir centrales nucleares pegadas a los hubs del LLM.
El cerebro en cambio es muy eficiente,
apenas 20 vatios de forma continua que es como una bombilla
LED.
La máquina biológica es infinitamente más eficaz.
Aquí vemos la.
Infraestructura, en el caso del chat GPT,
es una ubicación distribuida en miles de CPUs y GPUs.
Distribuida quiere decir en todo el mundo.
Y el cerebro es autocontenido, es local.
Cada uno lleva su sistema a bordo.
Bases de datos.
Aquí también vemos diferencias cuantitativas.
El GPT se entrena con billones de palabras, billones y billones.
Los americanos dicen trillones, pero bueno,
esos trillones deben ser nuestros billones.
Es una masa ingente de información,
pero toda ella se reduce a palabras, textos, en definitiva.
¿El cerebro qué hace?
Bueno, pues.
Seguramente un niño de tres años
que tiene ya un dominio del lenguaje importante
habrá recibido miles de palabras, quizás cientos de miles,
pero no billones de palabras.
No es posible, ¿no?
Y sin embargo aprende a hablar.
Es lo que Chomsky llama la pobreza del estímulo.
A pesar de que las condiciones estimulares son pobres,
dice Chomsky,
pues el cerebro está programado para aprender,
para aprender el lenguaje en particular.
Sin embargo,
también es cierto que la pobreza del estímulo, que dice Chomsky,
no es tal, porque mientras que GPT solo recibe como input palabras,
el niño recibe como input información multisensorial
de todo tipo, visual, auditiva, táctil, proprioceptiva.
Y de su propia actividad motora y más cosas,
está procesando al mismo tiempo
sus emociones, sus relaciones interpersonales,
etc. Entonces la información es multimodal,
mucho más compleja que en el caso del GPT y además se integra.
Otra diferencia es el hardware.
Cuando hablamos de neuronas artificiales,
por ejemplo, los perceptrones son neuronas artificiales,
en realidad es una metáfora.
Las neuronas no son neuronas, los perceptrones no son neuronas.
Son funciones matemáticas como esto.
Ni siquiera tienen una entidad física,
no se puede decir, mira, aquí hay un perceptrón
y aquí hay otro.
Todo ello forma un complejo de funciones matemáticas
sin entidad física.
En cambio, las neuronas humanas son físicas.
Son entidades físicas con un complejo funcionamiento electroquímico
y la conectividad entre ellas es una conectividad física
también a través de axones y sinapsis.
Por lo tanto.
Es un poco metafórico decir que en ambos casos hay neuronas.
Y lo mismo la arquitectura, la arquitectura de GPT
y la del cerebro son radicalmente distintas.
En el GPT tenemos los transformes que son como un gran sándwich
en que se alternan dos tipos de estructuras,
las self-attention, multihead self-attention,
básicamente los transformes, y los feedforward networks,
que siempre les llaman de una manera u otra,
también se les llama perceptrones multicapa.
Los perceptrones multicapa son como la base de conocimientos que
durante el entrenamiento reajustan todos los pesos de las conexiones
y en cambio la autoatención es para analizar el input,
lo que recibe el sistema en cada momento.
Pero en realidad se van alternando capas de los dos tipos hasta 120.
Y una cosa que es importante destacar también
es que la activación es masiva y densa.
¿Qué significa esto?
Algo que no tiene nada que ver con el cerebro humano.
Para el aprendizaje se activan todos los billones de neuronas,
perdón, de perceptrones que tiene la red.
Todas, para todos.
En el cerebro humano no es eso, el cerebro humano
tiene una activación modular y esparza,
la palabra esparza es un anglicismo, sparsing, ¿no?
Bueno, básicamente lo que quiere decir es que no todo el cerebro
se activa todo el tiempo, sino algunos conjuntos,
algunas familias de neuronas se activan para algunas cosas
y se conectan con otras redes de neuronas,
con lo cual, claro, el sistema no tiene un consumo energético
tan extremo, ¿no?
Y bueno,
yo creo que voy a finalizar ya con esta última reflexión.
El pre-entrenamiento ocurre en el GPT en momentos discretos.
Antes decía que la red se entrena durante tres o cuatro meses
masivamente con billones de parámetros.
Y durante ese entrenamiento se produce el reajuste de los pesos
mediante backpropagation, de los pesos entre las conexiones,
y todo esto es autosupervisado en gran parte.
Autosupervisado quiere decir
que el sistema juega a adelantar la siguiente palabra,
se le da el texto y se enmascara,
la siguiente palabra y el sistema hace una adivinación,
bueno, hace una predicción,
luego se desvela la palabra y aplicando cross entropy,
el algoritmo de entropía cruzada,
pues puede de esta manera reajustar los pesos de las conexiones.
Y esto lo hace además masivamente en toda la red.
Pero una vez entrenado, al cabo de los cuatro meses,
la red sale del mercado y ya queda ahí para siempre,
hasta el siguiente entrenamiento.
El cerebro, en cambio,
aprende de forma incremental y continua.
No paramos de aprender.
Y además, ese aprendizaje se basa en la experiencia,
en lo que hacemos, en lo que percibimos,
etc. Y supone una remodelación o plasticidad,
es decir, que cambia en alguna medida
la estructura del cerebro.
El cerebro es plástico.
En cambio, en la red artificial no.
En fin,
luego el aprendizaje está modulado por estados internos,
no solo por la recepción pasiva de input,
sino también por las motivaciones, las intenciones, las emociones,
el nivel de fatiga, etc. Y esto se ve perfectamente en los algoritmos.
Algunos algoritmos parecen iguales,
por ejemplo, la predicción de la siguiente palabra, es común,
el aprendizaje por refuerzo parece también común,
pero ya hay algunos que son diferentes.
Por ejemplo, la backpropagation no existe en el cerebro humano.
Es un algoritmo muy potente,
que ha potenciado la inteligencia artificial,
pero el cerebro humano no funciona con backpropagation,
con reajuste de pesos en toda la masa de neuronas.
En cambio, El cerebro humano tiene lo que llamamos
aprendizaje hegeviano,
que postuló Donald Hebb nada menos que en el año 49,
y luego se ha visto que es neurológicamente plausible.
Y el aprendizaje hegeviano se basa en un principio muy distinto,
que es las neuronas que se coactivan,
que se disparan simultáneamente, fortalecen sus conexiones.
Es un principio de aprendizaje asociativo,
pero totalmente diferente de backpropagation.
Luego hay algunas cosas que se parecen
pero no son igual, por ejemplo, aprendizaje por refuerzo,
pues sí, y en los humanos también,
pero el aprendizaje por refuerzo en GPT
se basa en lo que se llama el aprendizaje supervisado,
que es que una vez que ya ha sido entrenado por sí mismo
con supervisión automática,
Entonces vienen los humanos, operadores humanos,
que durante varios meses están tutorizando al sistema
para que de las respuestas que da, decirle cuál es la mejor.
Por eso al final son tan educados los GPT,
son encantadores, te tratan bien, te hacen sentir bien.
Detrás están los operadores humanos,
luego también hay limitaciones éticas,
no te dejan investigar cómo se construye una bomba atómica
y cosas así, ¿no?
Todo eso es aprendizaje por refuerzo guiado por humanos.
En cambio,
el aprendizaje por refuerzo del cerebro es otra cosa.
Está guiado por el sistema dopaminérgico,
que son neurotransmisores de la sustancia negra,
y se conoce bastante bien,
pero es un cómputo autónomo del propio sistema
que cuando se produce lo esperado, o algo mejor que lo esperado,
aumenta.
La dopamina y cuando se recibe algo negativo, inesperado,
disminuye la dopamina.
Es decir, es un mecanismo muy simple pero basado en neuroquímica
y nada que ver con el aprendizaje por refuerzo
guiado por humanos.
Bueno, y la comunicación humana es muy distinta.
Por ejemplo, nos comunicamos sobre el aquí y ahora,
pero el chat GPT no puede comunicarse sobre aquí
y ahora porque no tiene receptores ni efectores,
no está adaptado, no está acoplado al mundo real,
en cambio los humanos sí.
Luego la comunicación humana es social,
distinguimos entre yo y otro.
El GPT,
aunque parece que es muy humano y nos habla como un amigo,
pues en realidad no.
No sabe quiénes somos, ni siquiera sabe quién es él.
Luego la memoria humana es semántica,
y en eso coincidimos con GPT, pero también es episodica,
recordamos episodios, acontecimientos concretos
localizados en el espacio, en el tiempo,
el what, what, where, when, de la memoria humana
es lo que corresponde justamente a la memoria episodica
y además está garantizada por sistemas neurales
como el hipocampo, la corteza entorrinal,
etc. Bueno, entonces, a pesar de que somos muy distintos,
¿cómo es posible que podamos converger?
¿Cómo es posible que el cerebro y el chat GPT
podamos comunicarnos fluidamente y con una impresión
de que es una comunicación productiva?
En esta historieta que el propio GPT
ha generado según mis instrucciones, pues ahí se ve.
No tengo emociones, no soy consciente,
no percibo el mundo,
no tengo recuerdos, no tengo intenciones ni motivos,
solo ejecuto algoritmos matemáticos.
Pero el humano haciéndose consciente,
eco de una tendencia antropomórfica que tenemos de atribuir a los objetos
una realidad animada.
El humano dice de todos modos esto es el comienzo
de una bella amistad.
Bueno, ¿cómo es posible esto?
Aquí lo explico con más calma
pero quizá nos lo podemos saltar y dejar para el debate
si es que hay debate.
Pero básicamente lo que hay es correlaciones y correspondencias.
El mundo es una serie de eventos, objetos,
con una estructura correlacional.
Esto lo destacó en su momento Eleanor Roche.
El cerebro procesa parte de la estructura correlacional
del mundo, pero filtrada, Por ejemplo,
de todo el espectro electromagnético de la luz, el cerebro,
a través de los sensores, solo procesa una.
Un rango de longitudes de onda a través de la visión
y lo mismo con otras cosas, es decir,
dado que el cerebro es un sistema biológico,
pues hay un filtraje de la información de sólo
aquella que es relevante.
También está procesando la información del propio cuerpo,
la información proprioceptiva
y toda la información al final se condensa en la experiencia,
eso que llamamos experiencia.
En el lenguaje.
Todos estos sistemas tienen correlaciones internas,
pero también tienen correspondencias entre sí.
Por ejemplo, la experiencia sensoriomotora
correlaciona con el lenguaje.
Por ejemplo, ¿por qué los conceptos lechuga, tomate, cebolla, sal,
aceite, ¿Por qué esas palabras
y esos conceptos correlacionan?
Pues porque correlacionan en la experiencia también.
En la experiencia todos esos objetos
suelen darse juntos para formar una ensalada.
Bien, posibilidades del LMM.
Bueno, el neurocientífico puede utilizar GPT
para establecer y verificar hipótesis.
Puede utilizar LMGPT para predecir resultados,
para incluso hacer experimentos, también para plantear hipótesis,
para hacer diseños experimentales.
Todas esas cosas las hace muy bien el GPT.
Como participantes virtuales incluso,
si se le puede pasar a participantes puramente virtuales
y que haga predicciones sobre los resultados
y a veces resulta que acierta.
¿Desafíos para LLM?
Pues muchos.
Primero, LLM o los GPT están aislados del mundo,
no tienen.
Conexión con el mundo real,
no están anclados en la experiencia sensoriomotora.
Su conocimiento del mundo,
por lo tanto, está limitado a su conocimiento
de las regularidades de las palabras.
Y luego, pese a la apariencia de comunicación humana,
pues no tienen una comunicación social,
porque no entienden, no son agentes ni entienden que los humanos
son agentes.
Luego no tienen autonomía física,
Y quizá en el futuro nos espera alguna nueva revolución
y una posibilidad que se está vislumbrando
son las llamadas neuronas neuromórficas, que son neuronas
que simulan el funcionamiento de las neuronas del cerebro.
Son chips con neuronas que en este caso
sí son neuronas físicas separables unas de otras
y conectadas entre sí como en el cerebro
y que además emulan algunas características del cerebro
como por ejemplo el responder a los picos de actividad eléctrica.
Y bueno, en realidad todo esto se debe a las.
A mis lecturas de los últimos tiempos,
asomándome con curiosidad a esta tecnología fantástica
que ha irrumpido de pronto y también a las conversaciones
con una serie de personas y por supuesto también conversaciones
con GPT-4.
Y nada más, gracias.
La verdad es que como no vamos más de tiempo,
podríamos aprovechar el café para hacer la conversación
de debate posterior.
Quiero agradecer al profesor de Vega públicamente en nombre
de la facultad que nos haya resumido todas estas cuestiones
que ya sintimos,
pero cada vez las.
Gracias, José Ángel.
La verdad es que nos sorprende muchísimo,
yo por lo menos he quedado totalmente
asombrado sobre todo por las similitudes en las tareas
y en el potencialidad.
Así que vamos a seguir el debate en el café
y muchísimas gracias, profesor.
Muchas gracias.
Gracias a la audiencia.