(IA) Vivimos un momento crucial en la historia de la tecnología.
(IA) La inteligencia artificial generativa,
capaz de crear textos, imágenes, música e incluso ideas,
está redefiniendo los límites
de lo que entendemos por creatividad,
conocimiento y humanidad.
Pero, ¿cómo funciona realmente esta tecnología?
¿Qué implicaciones éticas, legales y sociales trae consigo?
El curso de verano de la UNED
nos invita a explorar estas preguntas
desde una perspectiva multidisciplinar,
reuniendo a expertos de distintos campos
para analizar, debatir y comprender
los retos y oportunidades
de la inteligencia artificial generativa.
Lo que acaban de escuchar es un texto creado y locutado
por herramientas de inteligencia artificial.
En el Círculo de Bellas Artes, junto a la estatua de Diana,
Diana, diosa de la naturaleza, salvaje y no domesticada,
vamos a reflexionar sobre todo esto
junto a diferentes expertos en la materia.
Estamos aquí en el Círculo de Bellas Artes de Madrid
en un curso de verano de la UNED
dedicado a la inteligencia artificial generativa.
Para este programa, le he pedido a ChatGPT
que me genere una voz en off introductoria
y luego, introduciendo los nombres de los entrevistados y su profesión,
le he pedido que me redacte un par de preguntas.
Así que bueno, esto es un experimento.
Vamos allá.
Lo que me ha dicho ChatGPT, que te puedo preguntar es:
-Primero, vigila con los experimentos,
que luego algunos jefes tienen ideas raras.
Una de las cosas más fascinantes de la inteligencia artificial
y de su uso cotidiano es que la gente la usa de manera privada.
No es como para la educación o para el trabajo,
que la gente la usa para hacer una redacción,
o para hacer un cálculo, o para escribir un email.
El uso privado es extraordinario
y verdad es que no tenemos mucha visibilidad
en que la gente usa para buscar cosas en Internet,
para conversar como haría con un amigo,
para entretenerse preguntándole cosas raras y que conteste.
Con lo cual, hay un montón de variables ahí
que me encantaría, como periodista, conocer mejor
cómo realmente la gente usa esta nueva tecnología,
y es algo que, al estar al principio,
llevamos apenas dos años y pico de esto,
es muy difícil saber exactamente hacia dónde evolucionará.
O sea, vemos un montón de gente preguntando cosas
que antes preguntábamos a Google,
consultando cosas que antes preguntábamos
a profesionales de la psicología,
o a fontaneros incluso, cómo arreglar cualquier cosa, una bicicleta...
Hay un montón de cosas ahí que se van imponiendo poco a poco
y que realmente, y esta es una de las cosas más fascinantes,
no tenemos ni idea de hasta dónde llegará.
-Pues, aunque parezca sorprendente, en principio,
la respuesta es la C, a nadie en absoluto,
y te explico un poco.
Los derechos de autor se dirigen a proteger
la labor creativa de autores, de autores personas físicas.
Entonces, lo que se ha convenido dentro de los estudiosos,
de cómo interpretamos la legislación de propiedad intelectual,
es que, no habiendo un autor persona física,
no surgen derechos de autor,
y, por tanto, la obra no es protegible a favor de nadie.
Cuestión diferente, quizá, es cuando hay supuestos más grises,
donde hay un primer borrador
que ha hecho una inteligencia artificial
y después, a partir de ahí, trabaja un autor,
y ahí se puede dar una obra un poco mixta.
Ahí podríamos estar en un supuesto de autoría de esa persona
que, aunque ha trabajado a partir de un borrador generado por IA,
pero sí ha añadido elementos creativos suficientes
como para ser considerada autor,
y ahí sí que podría haber una protección
en favor de esa persona, que igual ha introducido los prompts,
y también después ha hecho ese desarrollo posterior.
-Quizá hay que explicar primero que la inteligencia artificial
es un programa científico, es un programa de investigación
de más de 60 años,
pero que lo que conocemos popularmente
como inteligencia artificial
en la última década
es una tecnología muy concreta
que han explotado, fundamentalmente, corporaciones tecnológicas.
Eso significa que los objetivos, los plazos que se imponen,
las agendas, digamos, están marcadas por la industria,
y además ha generado un fenómeno un poco de mímesis,
las mejores mentes en los centros de investigación,
en las universidades,
han aprovechado pasarelas de movilidad a la industria,
y aunque trabajen en centros públicos,
incorporan las agendas de las empresas privadas.
-Lo cambia definitivamente.
Piensa que las máquinas han conquistado,
finalmente, el lenguaje humano, era una frontera para la IA
y ahora son capaces de comprender el lenguaje tan bien como lo hacemos,
y generarlo tan bien como lo hacemos nosotros
de una manera indistinguible.
Desde un punto de vista de las marcas,
esto supone un cambio fundamental,
porque ahora la IA puede
y es un interlocutor que habla de marcas,
es un interlocutor que ejerce una tremenda influencia
al respecto de cómo las percibimos
y cómo nos formamos una opinión a partir de ellas.
Entramos en un escenario en que uno de cada diez habitantes del planeta
utilizan ChatGPT de manera semanal,
y eso significa que están expuestos a sus opiniones,
y esas opiniones nos interesa controlarlas,
pero tenemos que utilizar otro paradigma para poder influir
en lo que la IA dice al respecto de nosotros.
Imaginen una red de miles de nodos interconectados,
como un enorme cerebro artificial.
Cada nodo recibe información, la procesa y la pasa a otros,
aprendiendo de la experiencia.
Esto es una red neuronal de inteligencia artificial.
ChatGPT, por ejemplo, utiliza estas redes
para entender el lenguaje
y generar respuestas coherentes,
como si estuviera conversando con el usuario.
Julio Gonzalo Arroyo,
catedrático de Lenguajes y Sistemas Informáticos de la UNED,
nos explica cómo funcionan estas herramientas.
- Buenos días, Julio. - Buenos días.
-Nos gustaría saber un poco cómo funciona
todo esto de la inteligencia artificial
en un plano más práctico, para que lo pueda entender
cualquier persona que no sea especialista en informática.
Me gustaría empezar por preguntarte qué es ChatGPT
y cómo funciona, cómo está programado.
-Qué es ChatGPT desde el punto de vista de la funcionalidad,
para qué lo usa la gente,
no hace falta explicárselo a la gente,
porque cada uno tiene su propia...
casi todo el mundo los ha utilizado ya,
ChatGPT o cualquiera de sus primos hermanos.
Y, de hecho, cada uno tiene que descubrir para qué sirve,
porque es una herramienta que no ha sido diseñada
para resolver ningún problema concreto,
y sí todos a la vez.
Respecto a cómo funciona, que es un poco lo que...
lo que los usuarios no sabemos de antemano,
lo que se puede decir es que es un cerebro artificial,
como una gigantesca fórmula con entradas y salidas,
que imita más o menos el funcionamiento del cerebro,
de una forma muy limitada,
pero imita cómo se configuran nuestras neuronas
y cómo se pasan la información entre ellas
para tener un estímulo y, como consecuencia de ese estímulo,
de esa entrada, pues hacer algo con él o dar una respuesta.
Y ese cerebro está entrenado en varias fases.
Primero, se lee todo el contenido que hay online,
virtualmente, y aprende a manejar nuestro idioma.
Y cuando digo nuestro idioma me refiero a todo lo que encuentra,
todos los idiomas que tienen representación online,
incluso también los formales,
por ejemplo, lenguajes de programación.
Y una vez que ya tiene cierto dominio de nuestros idiomas,
de nuestra forma de hablar,
y se ha leído todo lo que hay en Internet,
después entra en otra fase de entrenamiento
en la que primero se le enseña a responder,
ejecutar instrucciones, por así decirlo,
que es como nosotros usamos ChatGPT,
le pedimos que haga cosas por nosotros,
y entonces hay una fase de entrenamiento ya con humanos,
que le supervisan y le dan con el látigo
cuando lo hace bien y cuando lo hace mal,
y aprende a resolver cosas por nosotros,
a seguir instrucciones.
Y finalmente, también lo intentan alinear con nuestros valores,
es decir, que se comporte de manera que esté de acuerdo
con los valores de los usuarios.
-Pero en el caso concreto, por ejemplo, cuando yo le he pedido
que me redacte un par de preguntas,
¿cómo ha hecho ese proceso?
¿Ha copiado otras entrevistas de otras personas?
¿Cómo se ha adaptado a lo que yo le estaba pidiendo?
Pues puede ser de varias maneras,
porque el modelo elige en cada momento si acude...
porque todo lo que te he contado yo, todo ese aprendizaje,
al final tienes una especie de "sabio"
que se ha leído todo lo que hay online, y entonces
te puede responder prácticamente a cualquier tema.
Pero eso se hace en un momento dado del tiempo,
imagínate que se le entrena con datos en febrero del 2023, por ejemplo,
pues no te puede contestar por cosas que están pasando en marzo de 2024.
Entonces, lo que hacen...
a veces el modelo es capaz de tomar la decisión de decir:
"Ah, para contestar a esto necesito consultar información actualizada".
Y entonces hace como haría un humano.
Busca en Internet y coge todo lo que encuentra en Internet
que es pertinente para lo que le has preguntado,
se lo lee, y después de que se lo ha leído,
pues te sintetiza esa información
en función de lo que tú le has preguntado.
Y si consulta o no consulta a Internet
lo decide sobre la marcha,
y, de hecho, donde ChatGPT, para la misma pregunta,
puede hacer una consulta a Internet,
a lo mejor otro modelo similar,
como Claude, o como Gemini, o como Grok,
pues no lo hace, y te contesta con lo que ya sabe a antemano.
O sea que es una cosa un poquito impredecible.
-Y, por ejemplo, ¿cómo redacta una frase?
Por ejemplo, cuando le he pedido que redactara
una voz en off para un documental,
¿por qué elige una determinada palabra?
-Pues es curioso porque, en cada momento,
el funcionamiento habitual de estos cacharros,
como ChatGPT, de estos chatbots, es que van generando...
la respuesta que te van a dar la generan palabra a palabra.
En realidad es token a token, o sea, a cachos de palabra.
Es decir, no planifican su respuesta,
no piensa en la respuesta y luego la verbalizan,
sino que van soltando palabras, una detrás de otra,
y cada vez que sueltan una palabra
la utilizan para estudiar cuál tiene que ser la siguiente.
Y, en ese proceso, normalmente lo que intentan es
maximizar la probabilidad.
En cada momento te dan la palabra más probable
dado todo el contexto anterior.
Pero no siempre, y no es completamente predecible,
porque hay un parámetro, una configuración en el modelo,
que es la temperatura,
que lo que quiere decir la temperatura es
cuánto de extraño, raro o inesperado
puede ser la salida del sistema.
Si tú le pones una temperatura alta,
entonces no siempre elige la palabra más probable,
sino que tiene una cierta probabilidad
de escoger cosas un poco menos probables,
con lo cual, lo que te dice es menos previsible
que si la temperatura es cero,
que es el nivel de predictibilidad máximo.
-¿Y eso hila un poco con los casos
en los que se inventa, alucina, y dices:
"¿Por qué se está inventando esto?,
¿por qué no reconoce que no sabe algo?".
-Pues hila totalmente.
En el proceso de predecir la siguiente palabra,
que lo hace jugando consigo mismo,
con todo el material que hay en Internet,
lo que hace es aprender a representar la información que está leyendo.
En principio era la información textual,
pero ahora es también la información multimedia en general.
Aprender a representarla quiere decir que tiene
una representación interna,
que son ristras de números
que si los miras para ti no significan nada
pero que tienen un componente semántico muy fuerte.
Por ejemplo, cuando ha acabado el proceso de entrenamiento,
las palabras que tienen significados parecidos
tienen listas de números,
que son su representación interna, que se parecen entre sí.
Mientras que si son palabras que no tienen nada que ver, tienen
listas de números que son completamente distintas.
Entonces, ChatGPT sabe cuándo dos términos son parecidos
en dos contextos determinados.
Entonces hay una cierta abstracción
ahí en la forma que tiene de representar,
que yo creo que es muy interesante.
-Claro, por ejemplo, te pongo un ejemplo que a mí me ocurrió.
A lo mejor le preguntas por una película
y debe ser que no sabe
ese dato concreto, por la razón que sea,
"¿quién dirigió esta película o este cortometraje?",
y entonces se inventa un director, que existe,
el director existe, pero él no había hecho eso.
Y le dices: "no, no, no, perdona, este dato es erróneo".
Y entonces te pide disculpas, es muy educado.
Te dice: "ay, lo siento, sí, esto lo hizo Fulanito",
y se lo vuelve a inventar.
Entonces entras como en una especie de bucle de invenciones.
A veces es muy difícil salir.
-De hecho, me acabo de dar cuenta que no te he contestado
a la pregunta anterior, porque, efectivamente,
he contado cómo representa y cómo genera la siguiente palabra,
pero ¿por qué se lo inventa?
Pues porque, al maximizar la probabilidad,
en realidad lo que está haciendo es intentar construir un texto
lo más fluido y natural posible.
Pero fluido y natural no tiene por qué coincidir
con lo que es verdad o con lo que no es verdad.
Es decir, de hecho, no tiene mecanismos de verificación
de lo que es cierto o no, de por sí.
El programador tiene que buscarlos externamente.
Tiene que poner mecanismos de control sobre lo que está generando.
Pero de forma natural lo único que hace es contarte cosas
que sean lo más fluidas y naturales posible.
Por eso a los investigadores, cuando nos pone citas,
son citas que siempre suenan bien,
y a lo mejor resulta que se ha inventado la revista.
el nombre de la revista no existe;
ahora, tendría que existir, porque justo, claro, es que...
O incluso nos ha pasado a veces: "¡Este artículo es fascinante!
¿Cómo no me lo he leído antes?" Y es que no existe,
pero te está construyendo un artículo que es fluido, natural
y que encaja perfectamente en lo que tú estás investigando
y en lo que necesitas.
Y es por eso, o sea, técnicamente,
y lo dicen también los padres de ChatGPT,
estas máquinas están constantemente fabulando,
constantemente alucinando.
Es decir, están hablando por hablar.
Lo que pasa es que, con todo lo que han leído,
ese hablar por hablar, en un porcentaje de veces enorme,
coincide con la realidad y te da información que es útil y cierta.
Pero, en realidad, están fabulando todo el rato.
Entonces, claro, hay muchas ocasiones
en las que están dando información que es completamente falsa.
Y lo peligroso de estos modelos es que...
hablan con una...
generan una sensación de autoridad enorme
en el que los utiliza.
Es decir, es alguien que te engaña,
pero que, además, parece que lo sabe todo,
que es la peor situación posible.
Alguien con apariencia de autoridad que te la mete doblada
sin que tú te des cuenta,
porque la mentira te la cuela fenomenal.
Por cierto, que cuando empezaron el primer ChatGPT,
había gente muy optimista que decía:
"bueno, ahora... sí, alucina, miente de vez en cuando,
pero esto es apretarle las tuercas,
esto en un par de años está resuelto y ya no alucinarán".
Y hace poco Sam Altman, que es uno de los padres de la criatura,
el CEO de OpenAI, reconoció que los modelos más inteligentes,
que ahora son bastante más "inteligentes" que los anteriores,
alucinan más, lo que pasa es que alucinan mejor,
sus mentiras son todavía más indetectables
que hace dos años.
-¿Por qué no reconoce "esto no lo sé" y, sin embargo, se lo inventa?
-Se le puede entrenar para todo.
Tú le puedes acostumbrar a que diga "no lo sé".
El problema es que diga "no lo sé" cuando no lo sabe...
-Es el problema.
-...porque, tal y como funcionan los modelos,
que se limitan a predecir la siguiente palabra,
los conceptos no están entendiendo lo de "verdad".
Por eso los llamo "supercuñados",
porque es un cuñado que habla de oídas,
no ha entendido nada, pero habla de oídas, parece experto
hasta que eres tú experto y te das cuenta
de que lo que dice no tiene sentido;
pero claro, es un supercuñado porque lo ha leído todo,
y a veces es imposible distinguir a un supercuñado
de un sabio o de un experto,
porque ya llega a un nivel de lo que ha asimilado
de oídas, de mala manera, que ya es muy difícil pillarle.
Entonces, a veces parece un experto de verdad.
Sí le puedes acostumbrar a rectificar
y, de hecho, es un problema que tienen los modelos ahora.
Como fabulan mucho y alucinan mucho,
los programadores les enseñan a, cuando el usuario insiste,
reconocer que se han equivocado, darle la razón al usuario.
¿Qué pasa?
Que eso también tiene su lado malo,
que es que un usuario le puede convencer
de cualquier cosa.
Los modelos, además, ahora están tan optimizados
a interaccionar con el usuario
de manera que al usuario le guste,
que ahora dan demasiado la razón, son demasiado aduladores.
Y como hay mucha gente que los está utilizando
como herramientas de...
por ejemplo, de terapia psicológica, pues es un peligro bastante grande.
Cuando lo usa una persona que tiene algún problema mental,
las consecuencias son impredecibles,
porque, como tiene esa tendencia a la adulación y a darte la razón,
pues te pueden llevar... o sea, si tú tienes una tendencia
a una fabulación específica,
te pueden dar la razón y llevarte por allí.
-Claro, es muy pelota, ChatGPT es muy pelota.
-Hay gente que se ha suicidado, porque...
tenían ya de salida su cerebro un poco mal
y empezaron a hablar con ChatGPT y les decían cosas tipo Matrix.
"Hay algo que no me encaja en la realidad",
y enseguida ChatGPT engancha ahí y "te ayuda",
o sea, te va metiendo más profundo
y al final te dice: "sí, sí,
y si saltas por la ventana, pues como en Matrix,
si crees firmemente que la realidad es mentira, te encontrarás volando".
Y ha habido gente que se ha tirado por la ventana
y se ha matado siguiendo los consejos de ChatGPT.
Y todo eso viene de precisamente eso, de haberles entrenado
para que sus fabulaciones no las sostengan hasta la muerte,
sino que reconozcan sus errores.
O sea, que a veces lo que parece una buena idea para un informático,
cuando interacciona tu sistema con los humanos,
resulta que no era tan buena idea.
Y es porque los informáticos no sabemos tanto de los humanos
como los humanistas, ese es un problema que hay,
que los humanistas no están suficientemente metidos
en el núcleo del diseño de estos programas.
-Dices que estaría bien que los humanistas hablaran,
que dijeran también su visión de esto,
no solo tienen que hablar los ingenieros de informática.
- Explícame un poco esto. - En realidad hablan de esto,
lo que pasa es que tienen ahora mismo un papel más reactivo.
Sale una herramienta de IA al mercado
y se verifica si cumple unos principios éticos, etc.
Es que yo creo que tienen que estar en el diseño de las herramientas.
Porque si algo distingue a la inteligencia artificial ahora
es que está toda basada en el aprendizaje automático.
Y el aprendizaje automático, la forma en la que funciona es
que aprende por prueba y error.
Un poco como nuestro aprendizaje intuitivo,
como cuando aprendemos de bebés a llevarnos la cuchara a la boca
y luego hay millones de tareas que hacemos intuitivamente,
que no hacemos con un proceso racional,
sino simplemente
que hemos aprendido por prueba y error.
¿Y qué significa error?
Lo importante es, cuando intentan hacer una tarea
y fracasan, ¿quién le dice que han fracasado?
Entonces hay una cosa que es
la noción de cuándo lo han hecho bien
y cuándo lo han hecho mal,
y eso es lo que tienen que perseguir.
Y eso es lo que se llama optimizar para cumplir una misión.
¿Y qué misión tienen que cumplir?
Eso es lo que está diciendo ahora mismo un informático.
Por ejemplo, el algoritmo de recomendación de TikTok
es un algoritmo de aprendizaje automático.
Aprende por sí solo a ofrecerle a cada usuario el contenido
que... la optimización, en este caso, es
que le deje más tiempo viendo vídeos.
Y eso lo dice un informático y dice: "¿Qué puede salir mal?
Si yo quiero recomendar contenido
y la persona a la que se lo recomiendo
se queda viéndolo todo, pues es la situación ideal".
Entonces yo le pido a mi sistema de aprendizaje automático
que aprenda a maximizar el tiempo
que el usuario se queda viendo contenido.
¿Qué podría ir mal? Pues todo podría ir mal,
porque como no tienes a alguien que entienda a los humanos ahí,
¿cuál es el resultado?
Pues que el algoritmo descubre, por ejemplo,
que para un perfil de usuarios
que no tiene ni por qué saber qué edad tienen,
pero que resulta que son adolescentes y tienen unos gustos parecidos,
pues resulta que los vídeos de exaltación del suicidio
les interesan y se quedan viéndolos.
Y entonces el algoritmo aprende a que, cuando detecta que tus gustos
son de un chaval de 13 años, pues te sueltan los vídeos de suicidio
a ver si cuelan,
porque hay una probabilidad alta de que te interesen.
¿Qué pasa? Que cuando se lo das a un adolescente
con el cerebro en formación, que además tiene algún problema,
pues puede acabar habiendo chavales que se suicidan.
¿Cuál es el problema?
Que no es un algoritmo, es un ecosistema
en el que un sistema que aprende,
un sistema automático que está aprendiendo
a servir contenido
y a maximizar el tiempo que te quedas mirando,
entra en un ecosistema con los usuarios,
influye en lo que los usuarios consumen
y a su vez los usuarios influyen en cómo funciona el algoritmo.
O sea que es un ecosistema, no es una lavadora,
que funciona como funciona
y luego la gente la usa como la usa.
No, no.
Es algo que está vivo, que al interaccionar con nosotros
modifica su comportamiento y modifica también nuestro comportamiento.
Y cuando estamos en un ecosistema entre algoritmos y humanos
necesitas expertos en cómo funcionan los algoritmos
y expertos en cómo funcionan los humanos.
Y entonces, si tuvieras ahí a un humanista,
que es el que sabe cómo funcionan los humanos,
esa función de optimización no sería solo
que se quede todo el tiempo posible viendo vídeos.
No, ahí llegaría un humanista y te diría: "Pero ¿dónde vas?
Eso va a generar todo tipo de cosas catastróficas".
Hay que pensar mucho mejor qué es lo que quieres optimizar.
-Pues muchas gracias Julio, creo que nos has aclarado
muchos conceptos sobre ChatGPT y la inteligencia artificial.
- Gracias. - Gracias a vosotros.
Nos quedamos con esta última reflexión
sobre la unión de humanistas e informáticos
para trabajar de forma conjunta
en el desarrollo de herramientas de inteligencia artificial
que tengan en cuenta
sus implicaciones éticas y políticas.