Muchísimas gracias de verdad
por estar aquí, gracias por la invitación
y como decía, vengo a hablaros de un temazo que es la conversación.
Pero, ¿qué significa conversar?
En la era de la inteligencia artificial,
en esa era de chat GPT, en esa era en la que ahora conversar
es tan fácil como abrir un chat con una IA,
¿realmente sabemos lo que significa conversar?
Me diréis, bueno, Nieves, pues conversares,
pues tiene que haber un par de interlocutores, ¿no?
Como estamos viendo aquí en la imagen.
Pues van a intercambiar información.
Pues sí, esa información se va a intercambiar
a través de una serie de turnos, ¿no?
Vale, hasta ahí todo correcto, ¿no?
Pero ¿es eso todo lo que hace falta en una conversación?
¿O hay cosas que se nos están perdiendo en esta era
de la inteligencia artificial, no?
Pues me presento, soy Nieve Ávalos, me dedico a crear conversaciones
entre personas y máquinas.
Llevo ya un tiempo, soy ingeniera informática,
como comentaba Cris,
pero sí que soy una apasionada de las humanidades, ¿no?
Entonces, un poco por eso que llevo investigando en sistemas de diálogo,
pues prácticamente más de una década, ¿no?
Y desde mi empresa, desde Monoceros Labs,
pues llevamos investigando y creando productos
basados en inteligencia artificial y en concreto en español,
pues desde 2017 prácticamente.
Y una de nuestras líneas en las que llevamos tiempo
trabajando es justo la que se centra en la inteligencia artificial
con la que podemos conversar, la IA conversacional.
Nuestro objetivo al final es como facilitar el acceso a información,
a servicios, a contenidos, a las personas a través de la voz,
pero también a través de la conversación.
Y es por eso que hoy os voy a hablar de uno de los últimos proyectos
en los que estamos involucrados, uno último avance.
Que se centra en esto que veis aquí en pantalla,
que se centra en el pacto secreto de toda conversación.
En 1975, Paul Grice, que justo esto lo ha mencionado antes,
este filósofo lo llamó a este pacto secreto
que tenemos cuando conversamos el principio de cooperación.
Suena formal,
pero es algo que todos hacemos de manera inconsciente
cuando estamos hablando con otra persona
y lo hacemos instintivamente cada día.
Cuando conversamos con alguien, sin darnos cuenta,
hacemos un pacto silencioso.
Y os leo.
¿En qué consiste ese pacto?
Haga que su contribución a la conversación sea,
en cada momento, la requerida por el propósito
o la dirección del intercambio comunicativo
en el que usted está involucrado.
Repito, suena formal, pero que en otras palabras
esto consiste en que nosotros cooperamos
para construir significado juntos cuando estamos hablando.
Y para ello, este pacto y principio de cooperación
se sostiene sobre cuatro pilares fundamentales.
El primero de esos pilares es la máxima de calidad,
es decir, no seas pinocho, ¿vale?
Aquí la idea es que seamos honestos,
que solo digamos lo que creemos que es verdad
y que podamos respaldar basándonos en datos,
basándonos en hechos.
Si no sabemos algo, también tenemos que admitirlo, ¿vale?
El siguiente es la máxima de cantidad.
Es decir, no deis un monólogo.
Seamos informativos.
Demos exactamente la información necesaria en ese punto
de la conversación.
No nos quedemos cortos, pero tampoco abrumemos con detalles innecesarios.
El tercer pilar es esa máxima de relevancia.
No te vayas por los cerros de huedas,
por favor.
Aquí, pues, la idea es que nos mantengamos en el tema,
que contribuyamos a algo que realmente importe justo
para la conversación en curso, en ese punto de la conversación,
¿vale?
Y por último, tenemos la máxima de modos.
No hablemos a los cervantinos cuando no pega.
Seamos claros, ¿vale?
Evitemos la ambigüedad.
Organicemos nuestras ideas.
Y digamos las cosas de manera
que nuestro interlocutor nos pueda entender.
¿Vale?
Cuatro pilares.
Cualquiera que participa en una conversación
está cumpliendo estas máximas, estos pilares.
Y va a asumir, esto es súper importante,
va a asumir
que los demás están cumpliendo estas cuatro cosas también.
¿Vale?
Y cuando alguien viola alguna de estas cuatro pilares,
alguna de estas máximas, a menudo para transmitir algo más profundo,
sarcasmo, crítica, ironía, pero ahí no me voy a meter.
El caso es que vamos a esperar que nuestro interlocutor
cumpla estas otras cuatro máximas.
¿Pero qué pasa cuando estas máximas se violan de manera accidental?
Ahí es cuando la conversación se rompe ahí
es exactamente donde nos encontramos con nuestros modelos
de inteligencia artificial y os cuento un equipo de ibm research
descubrió hace un año que modelos de inteligencia artificial
como llama 3 o mixtral violan todas las máximas estas máximas
de grace de múltiples maneras.
De hecho, dicen literal que muchas de las deficiencias
observadas en estos modelos pueden atribuirse a la violación de uno
o más principios conversacionales.
Es decir, las máquinas han roto ese pacto fundamental
que hace posible la conversación entre personas.
Y veamos uno a uno.
Veamos esa violación cuando se produce
en la máxima de calidad.
Y es que esta ruptura, justo para este pacto,
para esta máxima, para este pilar,
pues se ve, por ejemplo, en la violación.
Bueno, digamos que esta es como la violación más grave
y se ve justo en el concepto de alucinación,
que no sé si lo conocéis.
Estos investigadores de IBM que os decía antes identificaron
que uno de los problemas más significativos de estos modelos
es que justamente tienden a alucinar,
es decir, inventar información con la misma confianza
que usan para hechos reales.
Un ejemplo concreto, en un estudio médico encontraron
que GPT 3.5, ese primer modelo que había en esa GPT,
inventaba referencias falsas en un 39,6% de las veces.
GPT 4, un 28,6% de las veces.
Ibar, que ya se nos habrá olvidado, pero es un modelo que sacó Google,
lo hacía en un 91,4% de las veces.
Es decir, estos modelos nos dan citas académicas,
datos estadísticos, incluso personas que no existen.
¿Vale?
Entonces, se rompe el principio fundamental
de la calidad porque la respuesta debe ser factual
y está respaldada por evidencia adecuada.
Aquí ya estamos liándola.
El caso es que los modelos no dicen no sé
cuando no saben cuando deberían.
Sigo con la siguiente violación,
que es la de la máxima de cantidad.
Y es que esta palabra me encanta,
es que los modelos de IA son verborrágicos.
Aunque no es solo hablar de más.
IBM, en esta investigación que os comentaba,
documentó que los modelos fallan en ambos extremos.
Muchas veces dan muy poca información.
Entonces, no dan detalles suficientes,
llevan a malentendidos, mientras que mucha información
puede causar confusión o incluso distraernos
de esa petición primera que le hicimos al modelo.
Entonces, a diferencia de las personas,
que nosotros más o menos calibramos intuitivamente,
Depende un poco de nuestra personalidad,
pero lo calibramos intuitivamente.
Podemos saber cuánta información decir en cada momento.
Pero no, estos modelos van de respuestas demasiado vagas,
con poca información, a avalanchas de información innecesarias
en ese punto del contexto que le estamos hablando.
Entonces, los modelos no saben cuándo parar de hablar.
Seguimos con la violación de la relevancia.
Aquí esto es ya la deriva conversacional, ¿no?
Aquí a estos modelos de inteligencia artificial lo que les sucede
es que cuando el contexto no está claro,
pues no preguntan para desambiguar, tienden a rellenar detalles, ¿no?
Entonces van presuponiendo y nos van cambiando incluso el tema.
Si no nos damos cuenta, se va yendo un poco de la conversación, ¿verdad?
Haciéndonos así perder ese hilo de la conversación, ¿vale?
Es como esa persona que cuando le preguntamos
por el tiempo nos responde por la historia
de la meteorología, ¿no?
Que sí, bueno, técnicamente relacionado,
pero quizás conversacionalmente inútil, ¿no?
Esa aportación no nos está llevando a donde queríamos llegar, ¿vale?
Por último, la violación de la máxima de modo.
Es el colapso de la coherencia, ¿no?
Igual, IBM, esta gente, estos investigadores,
identificaron que esto estaba estrechamente relacionado
con la noción lingüística de la coherencia.
Es decir, el flujo que seguimos en esa conversación,
la claridad del discurso.
Si no se usa un lenguaje apropiado, es decir,
estamos hablando de usar el registro adecuado de la lengua y diálogo.
Todo del estilo conversacional el discurso no va a ser claro
y entonces va a dar lugar a esas ambigüedades
y a problemas en la coherencia del discurso
porque me usa de mollis gpt cuando yo no se lo he pedido por ejemplo
pero no sólo son estos cuatro pilares además voy a volver a un concepto
que menciona antes cuando hablamos de conversación que era turnos vale.
Volvamos a ese concepto de turno.
Os traigo otra investigación.
Hace unos días investigadores de Microsoft
publicaron un estudio, este que vais a ver aquí,
en el que tras analizar más de 200.000 conversaciones
simuladas entre personas y máquinas,
descubrieron que, en este caso, GPT 4.1, CLOT 3.7, o sea,
las últimas, las últimas, bueno, prácticamente,
Descubrieron que estos sistemas sufren de media
una caída del 39% de su rendimiento
cuando pasan de responder una pregunta simple
a mantener una conversación por turnos o intercambios.
¡Tachán!
Lo llamaron a este fenómeno Lost in Conversation.
Y es que justamente buscan definir ese punto en el que los modelos de IA
toman otro rumbo equivocado en esa conversación
porque estamos tras esos intercambios de turnos haciendo que el modelo.
Colapse, ¿vale?
Su rendimiento se pierde, ¿vale?
Y no se recuperan.
¿No os ha pasado que muchas veces habéis tenido
que abrir otra conversación con el modelo
y resumirle todo lo que llevábamos para?
Efectivamente.
No sé si conocéis a Elisa,
pero además, más allá de esa ruptura de la cooperación que os mencionaba,
estamos presenciando justo el regreso de una antigua amiga,
de una antigua conocida,
pero con superpoderes esta vez.
Y es que está volviendo Elisa.
En 1966, Joseph Weissenbaum presentó este programa informático
que era bastante simple, pero simulaba ser un terapeuta.
Entonces, la gente que hablaba, que interlocutaba con Elisa,
pues claro, se quedaba asombradísima porque Elisa
tenía frases como, ¿cómo te hace sentir eso?
Y claro, la gente se convencía
de que Elisa estaba entendiendo sus problemas.
Estaba súper convencida.
Claro, era una ilusión, ¿no?
Pero una ilusión más o menos limitada.
Entonces, bueno, llegábamos hasta donde llegábamos.
Pero es que hoy tenemos Elizas
extraordinariamente sofisticadas, ¿no?
Y la trampa es un poco esa, ¿no?
Tenemos una trampa ahora mucho más peligrosa.
¿Por qué?
Porque viene con un problema añadido que Eliza
no tenía y que se llama la adulación sistemática.
En inglés, psicofancy.
Y aquí os traigo otra investigación.
Investigadores de Antropic, la empresa creadora de Cloth,
uno de los modelos que he mencionado antes de inteligencia artificial,
analizaron diferentes versiones, como GPT,
no sé exactamente cuál de GPT, de Cloth y Llama,
y descubrieron que todos estos modelos
exhiben consistentemente un comportamiento de psicofancy
o adulación servil que prioriza el acuerdo con el usuario
por encima de la verdad.
¿Qué significa esto en la práctica?
Pues básicamente que si les decimos a estas inteligencias artificiales
que creemos que algo que han dicho es incorrecto,
pues van a cambiar su respuesta.
Así de fácil, ¿no?
Nos van a complacer, ellos solo buscan complacernos.
Pues claro, incluso si su primera respuesta era
verdad, van a cambiarla.
Elisa solo fingía de alguna manera que.
Entendernos, ¿vale?
Pero es que estas nuevas inteligencias artificiales
fingen entendernos y además nos dicen lo que queremos escuchar.
Pero bueno,
antes de pasar a hablar de soluciones,
que seguramente que os estéis ya preguntando, pero bueno,
¿y esto?
¿Qué hacemos con esto?
Pues quiero hacer una pequeña pausa para aclarar algo muy importante,
¿vale?
Y es que, como ya habréis notado, cuando digo modelos de IA
o de inteligencia artificial, me estoy refiriendo específicamente
a los modelos de lenguaje grande o LLM,
como GPT, CLOS, Gemini, YAMA.
Y es que esto es solo,
solamente una rama de la inteligencia artificial.
Que es verdad que es la que domina hoy en todos los titulares,
en todas nuestras conversaciones, pero es solo una rama.
Los problemas que he descrito, esas violaciones de las máximas,
esa ruptura en el pacto conversacional,
esas alucinaciones,
esa pérdida en las conversaciones que van por turno,
esa adulación.
No son inherentes a todo tipo de inteligencia artificial.
Son específicos de estos sistemas porque están entrenados para predecir
la siguiente palabra basándose en patrones estadísticos masivos.
Además, También incorporan estos problemas
porque, o sea, bueno, también hay otras cosas que hacemos para entrenar
estos modelos que impactan en esos problemas
que mencionaba antes, como por ejemplo técnicas
de supervisión como el RLFH o Reinformed Learning from
Human Feedback, que buscan ajustar después del entrenamiento al modelo
y al final son personas las que le dan el refuerzo
de qué gusta y qué no gusta, ¿vale?
, También la baja calidad de los datos de entrenamiento.
También que estos modelos no tienen acceso a herramientas externas.
Estoy hablando solo del modelo.
Pues claro, si no tienen búsqueda web,
no tienen sistemas como RACS, etc.,
van a tener este tipo de problemas.
Y aquí está la verdad incómoda.
Es que los modelos de lenguaje solos nunca podrán mantener
la confianza conversacional que necesitamos.
Nunca.
No pueden porque no han sido diseñados para eso.
¿Vale?
Entonces, ¿cuál es la solución?
Me diréis, pues técnicamente contamos con diferentes enfoques
a los que llamamos arquitectura híbrida.
Son sistemas que combinan lo tradicional,
técnicas de inteligencia artificial tradicional,
pues basadas en lenguaje natural más estructurado,
intenciones, clasificadores, gestión de diálogo basado en reglas,
generación controlada de respuestas, ¿vale?
, y esto lo unimos a esa potencia
que tienen los modelos de lenguaje esa flexibilidad
cuando es necesario y generamos arquitectura híbrida
entonces podemos usar lo mejor de ambos mundos
y las limitaciones pues las reducimos
pero tenemos algo mejor.
Y es que hay décadas de investigación en una disciplina
que la mayoría desconoce, pero que ha estado ahí siempre
resolviendo todos estos problemas conversacionales
que he mencionado mucho antes de que existiera el HGPT.
Y esta disciplina se llama diseño conversacional.
Y es que mientras el mundo tecnológico estaba ahí obsesionado
que si con pantallas, clics, bla, bla, bla, bla,
había diseñadoras y diseñadores
que trabajaban en cómo crear diálogos que eran realmente útiles
para las personas.
Diálogo entre máquina y persona.
Y esa disciplina
que abarca desde lingüística hasta psicología, sociología,
nos enseñó algo importante, algo clave.
Y es que conversar bien.
No es solo intercambiar información.
Es como una danza, es una coreografía.
Todo tiene que estar en su justa medida, en su justo orden
y de manera correcta.
Expectativas, reparaciones, intenciones.
Y la solución no está en hacer
que los modelos de lenguaje sean perfectos,
está en saber qué tecnología de inteligencia artificial usar
y está en recuperar esos principios del diseño conversacional
y aplicarlos a esta nueva era.
Porque al final, conversar con la inteligencia artificial,
al igual que con las personas, no es solo intercambiar información,
no es solo intercambiar palabras.
Es construir significados juntos, basándonos en la confianza mutua.
Y esa confianza, una vez rota, es súper difícil de recuperar.
Así que, si diseñamos bien desde el principio,
no tendremos que recuperarla.
Muchas gracias.
Bueno, increíble, magistral Carlasé, como lingüista, me ha encantado,
como apasionada en la pragmática y la semántica más aún.
Cómo nos has demostrado
que a estos sistemas les falta mucha calle,
les falta muchísima calle y les sobran muchos sesgos.
Esos sistemas de complacencia psicolingüísticos, ¿no?
Basados en la teoría de relevancia de Sperber y Wilson,
si os ha apasionado la pragmática,
que es el área que he estado hablando,
combinado con la tecnología, os recomiendo el grandísimo manual
de fundamentos de la pragmática de la gran María Victoria Escandel.
Fue antigua profesora de esta casa, de la UNED,
y hoy en día es profesora de pragmática.
Y diferentes disciplinas
de filología en la Universidad Complutense de Madrid.