a estas alturas de la mañana estaríais ya muy cansados y entonces
proponen algo ligero, que es una reflexión filosófica sobre el
futuro de la inteligencia artificial. Bueno, y esto es lo que voy a hacer,
entreteneros un rato, jugando también con
que tengo que competir contra vuestros
jugos gástricos que ya estarán bastante
activados a la hora de la mañana en la
que nos encontramos. Voy a tratar de hacerlo lo más rápido que pueda,
en lugar de hablar muy deprisa yendo a
lo fundamental de cada de los mensajes
que quería comunicaros. No voy a hablar
estrictamente de la radio, sino del
paisaje digital que estamos generando con esta transformación tecnológica y
dejo para los deberes de cada uno pensar
cómo este paisaje desafía al oficio que
cada uno tenga, en mi caso de profesor o en
el puesto de periodistas, de empresarios,
médicos, etcétera. Estamos en un momento en el que a mí me gusta definir
como de histeria digital, en el cual hay dos narrativas fundamentales.
Una de ellas es "esto va a ser fabuloso porque
vamos a dejar de trabajar, ya era hora,
las máquinas van a hacer las cosas en vez de nosotros, fantástico".
Este sería el mensaje bueno, pero creo que no es el realista.
El otro mensaje es "vamos a dejar de trabajar y por tanto me voy a
ir al paro, vamos a dejar de decidir y
entonces esto va a dejar de ser una democracia". Si os fijáis, estos dos
mensajes coinciden en una cosa, en pensar
que máquinas y humanos hacemos lo mismo.
y por tanto, si las máquinas lo hacen
con más exactitud, con más rapidez, con
menos consumo, etcétera, pues nos quitamos del medio, ¿no?
Para bien o para mal. Y esto no es así. Este sería mi primer mensaje.
Si tuviéramos mucha prisa y tuviera que
deciros "quedaros con una idea" o el que
tenga mucha hambre y no soporte más el hambre, que se quede con esto,
pues que se quede con esta frase de Norbert Wiener.
A ver si esto se le da así o...
A ver, alguien que me ayude.
Que yo sé mucho de filosofía de la tecnología, pero no sé de tecnología.
Debe ser... ¿Pueden venir a ayudarlo?
Ah, sí, ahí está.
Es que... Hay que darle fuerte, además.
Gracias. Bueno, si alguien quiere quedarse con una
idea, yo diría "aprenderos a esta frase" y ya está.
Aquí está. Aquí está dicho todo.
Norbert Wiener, uno de los padres fundadores de la
inteligencia artificial, nada más y nada
menos que el año 1964, dice esto que
leís aquí, "el mundo del futuro será una
lucha cada vez más exigente". Lucha, ¿no?
Contra las limitaciones de nuestra inteligencia. Estamos hablando de la
gente de la radio, de la gente de la universidad, de los trabajadores en
general. No una confortable hamaca en la que podamos tumbarnos para que nos
atiendan nuestros robots esclavos.
No sé si esto es una buena noticia o una mala
noticia, pero subrayaría lo de una lucha cada vez más exigente.
Nos vamos a encontrar ante cosas, máquinas que hacen
muy bien una cosa y nosotros, planteándonos,
¿tiene sentido que yo la haga yo? Mal.
¿Cómo la puedo hacer yo mejor?
Vamos a cooperar y competir con unas máquinas
que hacen bien unas cosas, y esto es lo
que ahora quiero insistir, y no hacen demasiado bien otras cosas.
¿Cuáles son esas cosas que hacemos
mejor, peor, los humanos? Pues mirar, yo
yo lo resumiría, porque ya no me quiero
detener mucho y tenemos poco tiempo,
estos son los puntos de lo que yo quiero decir.
El punto número dos es, la pregunta, ¿es tan inteligente la
inteligencia artificial? Y mi respuesta es
no, no es tan inteligente.
Y lo voy a demostrar en cinco minutos, como todas las
cuestiones fáciles como esta, que se demuestran en cinco minutos.
No es tan inteligente. ¿Por qué no es tan inteligente?
Pues mirad, fundamentalmente
porque
la...
A pesar de lo que dicen algunos de esa
famosa tesis de la singularidad, que va
a llegar un momento en que la inteligencia
artificial va a ser más inteligente que nosotros.
Por cierto, un momento que se va retrasando, se va
retrasando, iba a ser hace unos años y
ahora no, nos quedan todavía cinco años
más, diez años más. Yo creo que se va retrasando, sencillamente, porque
esta gente sabe mucha tecnología, pero
no saben cómo funciona el cerebro humano,
no saben de epistemología, no saben otras cosas que son muy importantes.
Se trata de dos inteligencias distintas.
¿Por qué esa manía de que se parezcan tanto a nosotros? Ahora hay todos los
debates de hace tiempo acerca de la responsabilidad moral de los robots.
¿Cómo hacemos para darles emociones? Si podemos conseguir que tengan
autoconciencia. Y yo me pregunto, ¿y para qué queremos eso?
Vamos a ver, ¿cuáles son las ventajas de un coche autónomo?
Pues que no bebe, que no se cansa.
Pues fantástico. Ahora queremos que beba, se
canse, tenga emociones, un día no le
apetezca conducir. La gente que usa robots
sexuales, que no es mi caso, no me interesa especialmente, supongo
yo que la ventaja de los robots sexuales
debe ser algo así como que no les duele
nunca la cabeza, que no son celosos, que
están siempre disponibles. Bueno, pues si te gusta eso, pues adelante.
Pero creo que la sexualidad humana tiene otra
dimensión mucho más interesante, más
complicada, más difícil, más arriesgada, más enigmática.
Elijamos, pero son dos cosas distintas.
Bien, el ejemplo más claro que se puede
poner de esto es por qué, antes de los
hermanos Wright, ¿a qué se debieron los fracasos del ser humano para
diseñar una máquina que volara?
Leonardo da Vinci y otros tantos, porque
todos estaban empeñados en que si
hacíamos algo que volara, tenía que ser
algo similar a un pájaro y por tanto
algo que hiciera algo así como mover las alas.
¿Cuál fue el acierto de los hermanos Wright? Que
empezaron a estudiar aerodinámica, sencillamente.
Bueno, pues pensemos nosotros también, a lo mejor
hemos oído lo de Putin haciendo películas, hemos oído esta mañana
ciertas amenazas y si nos ponemos a estudiar la aerodinámica de nuestra
profesión, a lo mejor perdemos menos
tiempo y de luego pasamos menos miedo.
Estudiemos aerodinámica, hagamos creatividad de esa que no se pueda
sustituir por una máquina. Bueno, un par de ejemplos nada más,
para ilustrar esto. Vamos a ver, aquí hay una foto,
decidme cuánto tiempo, cuántos segundos
habéis tardado en haceros una idea de
lo que está en juego ahí, de qué se trata.
Ya está, ya habéis entendido todos de
qué se trata, no hace falta que yo cuente
ahora que hay un escenario, por cierto,
esto se parece, salvando las distancias, a la foto de Millet ayer con los
empresarios, todo hombre, tal, pero bueno,
de otras características, pero todos entendemos que hay un tío que se está
pesando, que no tiene hojas en la nuca,
entendemos, sabéis que a los humanos,
esto es una máquina, hay que explicárselo,
pero sabéis que a los humanos no nos gusta
pesar demasiado en general, lo sabíais, sí,
lo sabíais, ¿no? Bueno, sabéis que esa es una
máquina que, bueno, el de detrás fue
presidente de los Estados Unidos, está
pisando de tal manera que si pisa abajo,
¿qué va a ocurrir? Que va a pesar más de
lo que el tío pensaba que pesaba.
La gente detrás está medio riendo, ¿por qué?
Porque adivina que cuando vuelva a la cara y descubra el engaño se va a
cabrear un poco, pero tampoco es tan grave, ¿no?
Hemos entendido a la broma el chiste cuatro, cinco o seis segundos.
Bueno, esto ahora démoselo a una máquina
y hagamos como, iba a decir como los
catalanes, pero esto no se puede decir,
bueno, vamos a explicarle el chiste a la máquina, ¿no?
Y seguramente, y la máquina necesita que
le demos un montón de instrucciones, al print, ¿qué hay que hacer?
Para que una máquina entienda, esto lo puede llegar a
entender, pero para que lo entienda es de
unas instrucciones complicadísimas y eso
es la paradoja de Morávech famosa, ¿no?
De que lo fácil es difícil, lo difícil es fácil.
Nosotros los humanos hacemos cosas muy difíciles
fácilmente y cosas, y en cambio las máquinas hacen cosas fáciles muy
difícilmente. A las máquinas les cuesta
muchísimo hacer, por ejemplo, un niño, un
niño tarda muy poco tiempo en saber
quién es su madre, pero muy poco tiempo.
Una máquina puede reconocer, no, no reconoce, a mí yo donde voy a nadar
pongo la cara y me reconoce y ya entro
sin carnet, pero toda la cantidad de
información de tecnología que ha habido
que aplicar para que me conozca a mí, ha
sido inmensa, ¿no? Esto qué quiere decir, que los humanos
hacemos bastante bien algún tipo de problemas.
Yo lo resumiría diciendo, los
humanos resolvemos bastante bien problemas que están,
voy a decirlo al revés, las máquinas resuelven bastante bien problemas que
están bien estructurados, donde hay muchos datos, donde las soluciones
soluciones son binarias, lo resuelven muy bien.
Nosotros, en cambio, los humanos, esos
problemas nos cuestan mucho porque hay
que invertir, hay que recopilar datos y
tal, pero en cambio hacemos bastante bien,
resolvemos bastante bien problemas que
un científico, un neurólogo americano
llamaba problemas salvajes, problemas
poco estructurados, problemas que tienen,
para los que hay pocos datos, son ambiguos,
difusos y se lo das a un humano y un
humano lo resuelve relativamente bien,
se lo das a una máquina y colapsa.
Es exactamente al revés, en muchas cosas somos exactamente al revés.
Pensemos en nuestra profesión que parcelas le
podemos confiar a una máquina con este
principio, porque tenemos muchos datos,
las soluciones binarias, tal, tal, tal y
pensemos qué cosas nos reservamos nosotros,
porque la vamos a hacer mejor, ¿no?
Otro ejemplo, las máquinas, hay una cosa que se llama en tecnología
informática y son los ataques adversariales, que es una pequeña
modificación, por ejemplo, de una imagen,
descompone toda la situación, toda la estrategia que la máquina se había
hecho para, por ejemplo, reconocer una
determinada situación. En cambio, los humanos,
con una pequeña deformación, tenemos mucha más capacidad de
reconocer eso, ¿no? Bueno, hay un ejemplo,
hay un ejemplo que yo creo que es muy
ilustrativo y os ayudará a esta dimensión de entretenimiento que me
han pedido que haga en esta última hora de la mañana, que es, si consigo
pasar...
Sí, este vídeo.
Por favor.
Jazz tocando jazz.
Suavizalo.
Hacer batidos.
Calendario.
No hay reuniones hoy.
¿Recordar?
Dentista al 930.
Dispara.
¡Dispara! Puerta abierta.
¡Puerta! Abierto.
Y vamos a hacer uno más.
Está bien.
¡Puerta abierta! ¡Correr!
Comando de voz.
¡Puerta abierta! ¡Correr! Comando de voz.
Repite eso.
Oh Dios.
No entendí eso.
¡Ey! ¡Oh!
Ve a jugar en el suelo como en el suelo.
Se acabó.
bueno.
Oh, sí, es un error.
Hola, radio Little Rock.
Oh oh.
Control. Oh.
Más alto.
Alto y más alto. Sí.
Oh sí.
Bueno, no hace falta saber mucho y él es
para hacerse cargo de algo que una máquina no
se hace cargo, ¿no? Una pequeña deformación... Bueno, otro...
La chica no ha tenido ningún problema en
reconocerlo y eso que estaba lloviendo,
estaba lejos, el aparato estaba cerca,
ahí no caía agua y el camión no la ha reconocido.
Bueno, y la voz y tal, ¿no? Otro ejemplo...
Sabéis que hay muchos sesgos en los
bases de datos sobre los que se hace el
reconocimiento facial y entonces a Géminis,
el buscador, el lenguaje generativo nuevo
de Google, le dijeron "hay que corregir los sesgos".
Entonces, "proporcióname
imágenes de soldados nazis sin sesgos" y el resultado fue este.
Estúpido, estúpido. No había soldados
nazis negros ni mujeres soldados, ¿no?
Pero le han dicho que hay que ser...
Que hay que ser equilibrado, que no hay que
tener sesgos, ¿no? Y entonces va y si no
se le ocurre otra cosa que poner a
mujeres ya soldados negros, ¿no? Estúpido.
Bueno, esa estupidez no la cometeríamos
los humanos que hacemos otras muchas, ¿no?
Bien, la...
Bueno, yo soy... La cátedra que dirijo en
el Instituto Europeo de Florencia se llama
Inteligencia Artificial y Democracia y acabamos.
.. Hace tres días se fue publicado
este documento que nos encargó UNESCO sobre inteligencia artificial y
democracia que complementaría uno que
publicaron hace dos años sobre ética de
la inteligencia artificial. Bueno, a quien...
Como no tenemos mucho tiempo, no me da
tiempo aquí a resumir las ideas de esto,
simplemente que podéis consultarlo si tenéis más interés en esto, ¿no?
Antes hablaba de que había una histeria
digital, también hay una histeria
democrática en relación con los efectos
de que va a suponer para la democracia.
Yo he leído libros de todo, ahora os podía
poner aquí una pila de diez libros que
dicen que esto va a ser maravilloso para
la democracia y otros diez que dicen que
se la va a cargar definitivamente, ¿no?
Bueno, ¿cuál es mi posición? Pues, mira, yo creo que hay dos grandes
asuntos para que haya una democracia genuina, que son, tiene que haber una
conversación de calidad y tiene que
haber una toma de decisiones adecuada.
Examinemos estos dos asuntos y con esto ya
termino esta intervención un poco apresurada.
Lo primero, quizá os interese más, aunque es menos
de mi campo de investigación, tiene que
haber una conversación de calidad, es
decir, no hay democracia si no hay una
conversación, si no hay un espacio
público en el cual se delibere, se discuta
acerca de las cuestiones previas que luego darán lugar a las decisiones
correspondientes. ¿Qué es lo que ha sucedido a grandes rasgos en estos
últimos años? Que Internet, las redes sociales han horizontalizado la
conversación, es decir, cualquiera puede...
antes había que convencer al director del
periódico local para que le publicaran
una carta a uno y a veces con mentalidad
muy caciquil, ¿no? Hoy en día tú puedes
expresar tu opinión en las redes sociales,
las redes sociales en el fondo lo que
han hecho es disolver esa o disminuir esa
distancia entre información acreditada
y conversación pública, lo cual tiene un
efecto democratizador fabuloso.
Genera varios problemas, fundamentalmente dos.
Uno, el hecho de la plataformización de la opinión. Estamos en
plataformas, plataformas que tienen intereses privados, no entraré en la
lista de problemas que esto plantea de
gestión de la atención, cómo quieren
que mantenga nuestra atención, tema de
los datos, etcétera. Y el otro que es el
tema de la desinformación, fake news, etcétera.
Sobre esto un par de cosas nada más.
Primero, creo que es bueno que nos vayamos
haciendo a la idea de que hagamos lo que
hagamos, que podemos hacer muchas cosas,
vamos a vivir en un entorno informativo
más caótico que aquel que teníamos, un
poco más caótico. Dependerá de que lo
hagamos bien la regulación, que no sea
insoportablemente caótico, pero más desordenado.
Y yo creo que esto tampoco es tan malo.
Parece que acabamos de descubrir los bulos. Llevamos dos semanas
hablando de bulos, como si esto no
hubiera existido antes o la desinformación en general.
Pero, ¿cuál es el asunto? El asunto fundamental es que
se nos ha vuelto más difícil en este espacio de información o pseudo
información más accesible, encontrar
criterios para, por un lado, criterios para
discriminar qué es buena información de
calidad y qué no lo es. Se nos ha vuelto
más difícil, lo cual no quiere decir que no se pueda hacer. Y la segunda
idea que quería decir sobre esto, que a propósito de que tenemos que
acostumbrarnos a vivir en un entorno un poco más caótico, informativamente
hablando, que la democracia se basa en el descubrimiento
tardío en la humanidad de que es mejor
correr el riesgo del error que el riesgo
de la falta de libertad. Y a veces eso
se paga teniendo que soportar que haya mucha gente diciendo tonterías.
Bueno, hay unos límites, hay un derecho penal,
hay unos derechos de propiedad, hay muchos
instrumentos que podemos poner en el
juego, pero no pensemos que eso se pueda resolver del todo y sobre todo
sepamos que lo que hay que equilibrar son
dos derechos fundamentales, el derecho a la información y el derecho a la
libertad de expresión y, sobre todo, el
derecho a que no haya nadie que tenga
algo así como el monopolio de la verdad.
Finalmente, el otro requisito de la
democracia es que tengamos, ya me lo
he dado, no me lo he cargado del todo,
que tengamos un buen procedimiento de
toma de decisiones.
Sí, bueno, no sé si la he puesto correctamente.
Bueno, para que veáis la histeria digital
que hay en relación con el tema de la democracia,
la revista del MIT de tecnología, que es
una revista muy prestigiosa, publicó un
año, me lo he puesto al revés, un año publicó una portada en la que decía
"La inteligencia artificial va a salvar a
la democracia", seis años después publica
otro número en medio del escándalo y que enviecha analítica y otras cosas
diciendo "esto se lo va a cargar". Bueno, sí, exactamente, es al revés,
tenía que haber puesto "los grandes datos salvarán a la política". Bueno,
¿qué se podría concluir? Pues yo creo que la mejor conclusión es la
otra portada, en este caso, del de
Economist, a ver, qué es esta, esta es la
solución, esta es la verdadera, el buen
diagnóstico es este, el diagnóstico
que hizo en esta portada el de Economist.
Es decir, la inteligencia artificial nos va a
servir para un conjunto de asuntos que
tienen que ver, por ejemplo, con la
objetivización de los debates. Yo estoy
en una comisión asesorada al gobierno en materia de calidad, del impacto
normativo. Bueno, hay una parte de...
hemos hecho una ley para que bajen los
precios de los alquileres, bueno, pues
podemos verificar si han bajado los precios de los alquileres, punto.
Una cosa tan sencilla como esta puede producir una
cierta desideologización de nuestros debates.
Oiga, mire, estos son los datos, ¿no?
Entonces, uno se pone en plan Yolanda Díaz y dice, estos son los datos y
dejemos de decir tonterías.
Esa parte del proceso político puede ser muy útil,
pero hay otra parte del proceso político
que tiene que ver con valores, que tiene
que ver con cosas más discutibles, en
virtud de los cuales, pues, esto no será
tan sencillo de hacer. Un ejemplo, y ya con esto
prácticamente termino, encamino a una breve conclusión.
El Estado de Nueva York, el sistema escolar
del Estado de Nueva York, inventa un
algoritmo para distribuir a los niños y
niñas en los colegios. Y cuando lo van
a implementar, se Dan cuenta de que
realmente hay dos grandes valores acerca
de qué hacer con los niños y niñas.
Uno, respetar el principio de proximidad,
cuanto menos le alejes al chaval de su familia, cuanto más cerca tenga la
escuela, mejor. Muchos padres están por eso. O otro valor que no es muy
compatible, que es el valor de la mezcla social.
Vamos a conseguir, en vez de que haya guetos y que en barrios ricos solo
vayan niños ricos a colegios de ricos y
de pobres, vamos a conseguir una mezcla
social que combine esto para que haya una cierta cohesión social.
Bueno, son dos principios completamente distintos.
Esto un algoritmo no lo va a resolver.
Tú al algoritmo le dices, distribúyame
correctamente y te dirá qué significa correctamente.
Dímelo, debátelo. Entonces, esta sería la conclusión de esto.
No estamos ante una cuestión tecnológica, sino ante una cuestión previa.
Concluyo con una cosa, tengo que omitir algunas que quería decir, pero
concluyo con una cosa que más o menos he
anticipado al principio. Si queremos saber
en nuestro trabajo, en el espacio en el
que nos movemos, qué hacer, yo diría,
piensa, haz una relación de problemas.
Una lista en la cual aparezcan problemas
relativamente bien estructurados, donde
hay muchos datos, las soluciones son binarias, no hay ambigüedad, eso
déjalo a las máquinas. Otro conjunto de
problemas, haz otra lista con otro
conjunto de problemas donde ni siquiera
esté muy claro cuál es el problema. Eso que llamaba antes, citando a un
neurólogo norteamericano, problemas salvajes, haya muy pocos datos, gran
incertidumbre, resérvatelos. Y termino con una anécdota personal.
El año que España se aprobaba la ley del
divorcio, en el año 82, si no recuerdo mal,
me llamó mi madre muy apurada porque había leído en el periódico que
como consecuencia de esa ley se iban a divorciar la mitad, se iban a
romper la mitad de los matrimonios. Y entonces yo tenía que cumplir la
función filial de tranquilizar a una madre de otra generación, con una
preocupación bastante normal para aquella época. Y entonces a mí se me
ocurrió decirle, pues me parece una tasa
de éxito bastante elevada, teniendo en
cuenta el deficiente estudio de mercado
que uno hace para una decisión tan relevante.
Teniendo en cuenta además que se trata
de juntar dos vidas que van a tener
un desarrollo totalmente impredecible.
En un momento, en un paréntesis, en uno de los
momentos en los que los humanos estamos más
locos, más llenos de testosterona y excitados, y que es el momento del
enamoramiento, un momento en el que no
hay que tomar ninguna decisión relevante, ¿no?
Y tomamos una de las más relevantes de nuestra vida, ¿no?
Hombre, que solo se rompan la mitad, mamá,
no te pongas así. Bueno, yo creo que no
conseguí ningún resultado que quería, pero bueno, me quedé satisfecho con
la opinión y es la que ahora os ofrezco para que si esto sirve, pues lo
apliquéis a otras circunstancias similares de vuestra vida.
Nada, muchísimas gracias y que comáis bien. Gracias.
(Aplausos)