También,
como ya sabéis, estamos dedicando una serie de programas
para dar a conocer la academia joven de España
y los investigadores que pertenecen a esta institución.
En esta ocasión nos acompañan, Verónica Colón,
que como todos los académicos que nos han visitado hasta ahora
tiene un currículum impresionante es profesora de Ciencias
de la computación y tecnologías de la información de la Universidad
de a coruña e investigadora en el Centro de Investigación.
Su tesis doctoral sobre métodos de aprendizaje automático
ha recibido varios premios por parte
de la Asociación Española para la Inteligencia Artificial,
así como el premio extraordinario de doctorado
de la Universidad de a coruña ha publicado varios libros,
más de 100 artículos en revistas y congresos internacionales,
y son investigaciones altamente citadas,
algo muy importante en este ámbito
y que además tienen una clara aplicación social,
por ejemplo, en medicina.
Ingeniería o educación.
Actualmente trabaja en temas de investigación
relacionados con varias áreas de la inteligencia artificial,
especialmente en Inteligencia Artificial,
sostenible, colaborando con otros grupos de investigación
nacionales e internacionales.
Ha recibido numerosos reconocimientos a su trayectoria
científica y profesional
y está además muy implicada en el fomento
de la vocación científico -tecnológica.
Entre las niñas
y, además de pertenecer a la Joven Academia de España,
es académica también de la Real Academia de Ciencias Exactas,
físicas y naturales de España,
siendo la mujer más joven de la corporación.
Bueno, casi me quedo sin respiración,
leyendo tu currículo, y eso que está muy resumido
buenos días verónica bienvenida sin Distancias Dueñas días
muchas gracias Pretenen.
Bueno, también nos ha acompañado Borja Franco, que, como ya sabéis,
porque ha participado en la mayoría de estos programas,
es profesor de Historia del Arte en la UNED,
y además también es miembro de la Academia Joven de España
-Buenos días, Borja.
Buenos días, verónica.
Oímos hablar a todas horas de la inteligencia artificial,
pero la mayoría no sabemos lo que es exactamente.
Podrías explicarnos de una forma sencilla en qué consiste, si,
pues la inteligencia artificial.
Es una disciplina científica que intenta replicar,
la forma que pensamos los humanos,
pero utilizando programas de ordenador,
y aunque la gente se cree que es algo que ha aparecido ayer,
pues no se es una disciplina que ya nace en 1956,
ha pasado por periodos muy buenos,
que se llamaban primaveras y periodos
en los que había expectativas muy altas,
no se cumplía.
Se cortaba la financiación que se llamaba inviernos,
pero, bueno, también me gusta compararlo a un caminito de piedras
que vamos poniendo,
y todas esas bases teóricas que había en 1956,
pues ahora ha encontrado ordenadores potentes
y muchos datos de los que aprender,
y por eso ahora esta explosión bien y cómo la fió,
es decir, vinculado a las instituciones,
tuvo este nacimiento, y cómo iba evolucionando a,
más allá de tramitó que las cuentas alargó a la historia
a un pico especial momento cumbre creas que es clave
si nace en una escuela de verano, en dar voz en 1956,
como he dicho antes,
donde se reúnen varios investigadores que trabajaban en torno a la pregunta
de pueden las máquinas pensar, no?
Entonces, ahí se establecen las dos corrientes
que se llama simbólica i sub simbólica,
y la clave de por qué ahora está en su mejor momento
fue la llegada del Big Data.
No es esta habilidad que tenemos ahora de producir muchísimos datos,
porque estábamos conectados a los móviles del tiempo
y de recopilarlos.
Entonces la inteligencia artificial, las técnicas que utilizamos ahora.
Cuantos más datos mejor aprende no.
Por poner.
Un símil.
Como aprendió un niño, distinguir entre un perro y un gato,
porque va por la calle y ve perros,
ve gatos y sus padres le hice la Inteligencia Artificial
hace algo similar,
pero necesita no unos cuantos ejemplos, sino millones.
Entonces le damos millones de fotos,
de gato y le hicimos esto es un gato millones de fotos,
de perro le decíamos.
Esto es un perro.
En ningún momento le decimos.
Es un gato porque tiene un tamaño.
De esta forma, los perros tienen distintos tamaños,
no simplemente lo hicimos, es un perro,
es un gato y cuantos más datos
y más diferentes el sistema aprende mejor.
Entonces, cuando llegó el Big Data más o menos en 2000 diálogo,
pues fue la clave y también la potencia de los ordenadores,
que no se puede comparar como a mediados del siglo pasado,
donde un ordenador ocupaba toda esta habitación
y no era nada potente.
Bueno, quizás la aplicación que más le suena a todo el mundo
es la del chat, gdt, pero supongo que la inteligencia artificial
es muchísimo más amplia que otras aplicaciones.
Podría destacar,
porque, además, cuando te presentado he citado que tus investigaciones
se han centrado en las aplicaciones de la inteligencia artificial,
a la medicina, a la ingeniería
o a la educación, por ejemplo, no.
Si así es, a mí
lo que más me gusta de trabajar en Inteligencia Artificial,
es que no te aburre, señor solo día,
porque se puede aplicar a cualquier cosa,
ni un día.
Incluso me dijeron.
Tú crees que se va a aplicar inteligencia artificial
en los tanatorios, yo creo,
pues si algo habrá que se pueda predecir o optimizar,
y, por ejemplo, tiene muchísimo potenciar en medicina.
Yo ya hace más de 10 años, pues lo aplique a detectar.
Retinopatía del prematuro,
que es una enfermedad que tienen algunos bebés recién nacidos,
pero en medicina se usa muchísimo porque los médicos al final a veces
no son objetivos o no pueden analizar millones de imágenes,
pero el ahí así Entonces en medicina ya nos está ayudando mucho,
y todavía hay mucho potencial.
Tiene esos otros ámbitos que comentabas que cualquier problema,
donde queramos entender cómo se toma una decisión
o predecir, por ejemplo, cuando usamos Netflix.
La gente no se da cuenta,
pero cuando se está prediciendo que te gusta
es inteligencia artificial e incluso es tal la personalización que a mí
y a otra persona, aunque no recomiende la misma serie.
No utiliza la misma miniatura porque se intenta ajustar
a lo que sabe que a ti te gusta como profesor de universidad.
Una cuestión que me produce mucho interés es cómo puede ayudarnos
o perjudicarnos está ahí ya no tengo muchos debates
de cómo los estudiantes están, utilizan de manera
muchas veces indiscriminada la guía para los trabajos
y supone una reflexión de qué tipo de exámenes,
qué tipo de tareas pedirles.
No tuvo a partir de investigadores profesora, como te ese futuro.
Cómo está tu manera de impartir la docencia?
Está ahí hay que consejo,
nos daríais aquellos que nos enfrentamos a tal reto.
Pues yo creo que debemos verlo como una herramienta que en general
nos va a facilitar la vida tanto profesores
como al alumnado que pasa, que nos tenemos que adaptar,
igual que nos tuvimos que adaptar cuando se pasó de enciclopedias
en papel a internet, no, que ya no era tan fiable
y a mí me afecta especialmente porque en la Facultad de Informática
como en la que yo imparto docencia,
pues había muchos ejercicios de programación que eso lo hace chance
como le da la gana y encima no puedes detectar copias
porque cada vez lo hace de una forma.
Entonces, nos tuvimos que replantear la evaluación.
Entonces, ahora, en vez de entregarnos el código,
pues tiene que hacer un esa mente hipótesis, por ejemplo, en papel.
Sin ningún ordenador estamos volviendo un poco a lo de antes, no.
Entonces es un reto para los profesores
porque tenemos que replantearnos la evaluación,
pero al mismo tiempo es una ayuda, pues nos puede ayudar mucho.
Yo le digo a veces dame ejemplos de que puede poner unas diapositivas
sobre este tema que contaría.
Estuve en esta diapositiva.
Dime preguntas tipo, entes, de este tema en particular.
Por supuesto, siempre hace falta supervisión,
o sea, yo le pido eso y después ya le superviso,
porque a veces mete la pata muchísimo,
pero a mí me ahorra mucho tiempo.
Yo creo que todo el profesorado nos puede ayudar.
A los alumnos, por supuesto, también les ayuda,
pero para mí es un error prohibírselo,
porque seguramente cuando llegué al mercado laboral
pues va a ser una ventaja competitiva la persona que sepa utilizar
estas herramientas.
Bueno, hasta ahora estamos hablando de las ventajas
de la inteligencia artificial,
pero también oímos hablar mucho de los miedos
frente a esta nueva herramienta,
no que desafíos éticos nos presenta a ver yo.
Ahí me gustaría distinguir entre unos miedos que hay que a veces
es como es titulares de la ya va a acabar con la humanidad,
nos va a matar al todas las cosas que ya entiende
que es sensacionalismo,
y creo que espero estamos muy lejos de eso,
pero a veces me da pena que aparte el foco de lo importante,
que son problemas que la haya actualmente tiene
y cuáles son nuestros problemas, ya que la vamos a utilizar
y la estamos utilizando pues necesitamos que sea confiable
y para ser confiable
pues necesitamos, por ejemplo, que sea robusta.
Todavía es bastante fácil, sin manipulase imágenes y le metes;
un ruido que es imperceptible al ojo humano.
Pero si engañas al sistema de ya.
Y esto?
Pues sistemas de reconocimiento de imágenes en tiempo real
como un coche autónomo, por ejemplo, es un problema grave.
Después tenemos un gran problema de transparencia,
esto es métodos día, son muy buenos,
pero tienen la particularidad de que no los entendemos sea.
No sabemos cómo han tomado una decisión.
Entonces, si tú utilizas un sistema de guía para decidir
a quién le das un préstamo y no puedes dar una explicación
a la persona,
pues no estás garantizando sus derechos.
Entonces se trabaja mucho también en eso,
y en parte relacionado con esta opacidad está el problema
de los sesgos que todavía nos afecta muchísimo, y se sabe,
y hay muchísimos ejemplos de problemas
de ya que discriminan tanto por raza como por sexo, etc. Entonces,
yo creo que eso son los desafíos a los que nos tenemos que enfrentar
que esa conseguir que podamos utilizar con confianza.
La Inteligencia Artificial para muchos no lo saben peor.
España está siendo un país que está
un poco en la vanguardia de este tipo de trabajos,
hay que ver tu currículum, tus publicaciones,
pero también por la creación de la Agencia Estatal de supervisión
de inteligencia artificial,
que es un experimento que vamos a empezar aquí.
Voy a explicar brevemente qué se espera de ella
o cómo va a funcionar, si es una agencia que bueno,
varias ciudades de España se postularen para ser sede
y ganamos en La Coruña, no.
Entonces va a ser la primera agencia de supervisión de Europa,
vamos a ser ahí el piloto y la clave va a ser.
No es una agencia de desarrollo de ella, sino de supervisión,
pues tenemos ahora una primera ley europea de Inteligencia, Artificial,
pero ya tenemos que aterrizar lo y llevarlo a pasos concretos
o cómo se va a utilizar la ya en la Administración
como las empresas va a poder certificar que utilizan la guía
de una forma responsable,
etc, etc. Entonces es esta parte muy relacionado
con el derecho que necesitamos, asegurar sobre los sistemas de ella.
Bueno, otro de los aspectos que quería que nos comentase
es es que hemos oído muchas noticias sobre el uso indebido
de la inteligencia artificial, contra las mujeres,
por ejemplo, modificando fotografías en las que aparece el rostro
de una chica y el cuerpo desnudo de otra,
y luego eso se publica en redes sociales,
perjudicando muchísimo a esta persona,
no?
Entonces,
de qué forma nos afecta esto y cómo se pueden generar
estos sesgos de entrenamiento?
De la inteligencia artificial se pueden evitar
si a ver el problema de, por ejemplo,
aplicaciones que desnuda a mujeres sea ya el problema,
viene de la propia aplicación,
porque si le metes la foto de un hombre no le desnuda;
o sea, ya hay ahí un sesgo muy evidente
no, pero sin llegar a esos extremos,
que por supuesto son súper preocupantes
y necesitamos una ley que solucione, sí que los sistemas,
quiénes, esos y por qué tienen por culpa
de los desarrolladores haber puede haber ahí un sesgo,
pero el gran problema son los datos.
Antes.
He explicado que la inteligencia artificial
aprende sobre datos.
Los datos los generamos los humanos y los humanos
desgraciadamente tenemos ser entonces estos sesgos están transmitiendo
y yo le digo siempre es un problema grande
porque yo soy una persona y puede tener misses os,
pero no afectó a mucha gente, no, pero cuando misses por ejemplo entra
en un sistema de inteligencia artificial
no solo se perpetúa, sino que se magnífica
por lo que decía de imagínate que se utiliza un sistema de guía
para decidir a quien se le da una ayuda social
y discrimina a las mujeres o a determinados colectivos
no se están magnificando.
Entonces es un problema bastante grave,
a veces parece que queremos mirar para otro lado en plagas,
que es culpa de los datos.
No haber.
Tenemos igual la responsabilidad de utilizar datos de calidad,
de asegurarnos que no tiene sesgos y de hacer muchas pruebas empla,
pues tengo un sistema de reconocimiento facial.
Reconoce igual a un hombre o a una mujer,
reconoce igual a una mujer negra que a un hombre blanco.
Esas son las pruebas que tenemos que hacer y se han visto
en muchísimos casos.
Son algoritmo de Amazon
para contratar gente que no contrataba ninguna mujer.
Bueno, muchísimos sistemas que no reconocen caras de personas negras
y, bueno,
una de las soluciones podría ser tener equipos más diversos,
porque, al final, si tú estás ahí en el desarrollo de estos sistemas,
si eres una mujer, pues te asegurarán de que reconoce la cara
de las mujeres maquilladas que también, un problema que ha habido,
que sí tema que ya vayan antes nacía entonces,
necesitábamos, por favor, más mujeres en el mundo tecnológico.
Tú mismo es un ejemplo de ello en una mujer
que lucha por reivindicar de la mujer investigadora
y está en la vanguardia de la ciencia,
pues contarnos un poco el tus retos, a partir de ahora te vas a dedicar
y cómo potencias también estas vocaciones
de las mujeres científicas.
Si yo tengo un reto, por una parte, que es el de conseguir
que haya más mujeres en el mundo tecnológico,
porque a ver yo,
pues en mis clases suele haber un 13 por 100 de mujeres.
Ahí yo tengo algún grupito que son todo chicos,
y me da pena porque.
Hay un desconocimiento muy grande acerca de la Ingeniería,
Informática si tiene esa imagen de friki, de persona antisocial,
y no es verdad, sino que, como decía antes,
trabajamos con personas de otras disciplinas
y hay que ser muy sociable la verdad.
Entonces yo ocupo una gran parte de mi tiempo en esas iniciativas.
De hecho coordinó A Coruña.
Un programa para el fomento de la vocación científicotecnológica
entre las niñas en la Academia joven,
coordina el grupo de mujer y ciencia.
Bueno, me involucró mucho
y después ya en el ámbito más de investigación,
pues ahora estoy investigando en algoritmos verdes qué es esto?
Pues este serviremos verdes, que antes no lo he dicho,
pero otro desafío que tenemos es que ahora resulta
que la inteligencia artificial contamina
porque con la llegada de chats
PTs acción vete funcionan superbién pero para lograr eso ha tenido
que aprender lo que se llama el proceso de entrenamiento
durante meses, y ese proceso es costos;
de hecho no lo sabemos exactamente porque no lo revela,
pero hay estimaciones que dicen que una única sesión de entrenamiento
de chats, vete consume tanta energía como 175 casas danesas año.
Son datos muy grandes;
después está ligado a los centros de datos,
sea cuando decimos las cosas está en la nube,
no está en la nube, está en ordenadores reales,
no que se utilizan también para el entrenamiento
de estos sistemas y además de su consumo energético,
tiene un gran coste de refrigeración, por ejemplo,
y va a poner un gran centro de datos de aquí en España,
en CastillaLa Mancha y decían que iba a consumir cada media hora;
tanta agua como una persona;
un año; en una zona donde ya hay problemas de sequía,
pues muy ético no es no.
Entonces, estamos trabajando en algoritmos de inteligencia
artificial, que sean más verdes, o más sostenibles,
pues que entren en menos tiempo que los datos
digamos que tengan menos decimales, no para que me entendáis;
bueno, cositas que se pueden hacer y que quizás pierdes un poquito
de precisión, luego, en el resultado,
pero no es relevante, no?
Yo.
Digo muchas veces, pues sí es para curar el cáncer,
vamos a poner todos los recursos,
pero para que me Flix me recomienda la película,
pues si se equivoca un poquito más, no pasa nada, no?
Entonces, yo ahora me veo en esa responsabilidad
de intentar desarrollar métodos que sea más sostenibles
y más éticos y responsables en general.
Bueno, verónica está claro que la inteligencia artificial
no es sólo ya el futuro, sino que es el presente.
Realmente.
El otro día leí por ejemplo que Arabia Saudí estaba invirtiendo
muchísimo dinero para el desarrollo de la inteligencia artificial,
contratando a los mejores de todo el mundo.
En fin, lo que se puede hacer con mucho dinero me imagino
que los punteros serán en Estados Unidos,
no sé China, pero bueno,
y sobre todo también cuál es el papel que la Inteligencia Artificial
o qué importancia es el Estado dando en nuestro país,
está invirtiendo también dinero en su desarrollo,
50 nos un poco bueno.
Estoy convencida de la importancia de la inteligencia artificial.
Antes os he dicho que había primaveras inviernos,
pero ahora no se prevé que lleguemos a un invierno,
se.
Este es algo que ha llegado para quedarse y tenemos también
que pensar que seguramente va a haber una transformación
en el mercado laboral, ya no sea alarmista de,
se va a perder muchos empleos y tal, se va a transformar y bueno,
ya lo he mencionado antes, creo, pero las personas que sepa utilizar
estas nuevas herramientas va a tener una ventaja competitiva,
va a ser más productivos,
las empresas les van a contratar más,
etc, y bueno, no está relacionado con la pregunta,
pero aprovecho para reivindicar que a mí me encantaría que tuviésemos
como sociedad una educación en Inteligencia Artificial.
Yo creo que hoy en día,
igual que los niños empiecen a estudiar inglés infantil,
debería empezar a estudiar TICs, no sólo inteligencia artificial,
pero tener un buen manejo de los ordenadores naciones,
básicas de programar, etcétera,
porque al final está prácticamente en todos los trabajos.
En cuanto al papel de España, a ver España,
obviamente no es un país tan.
Ya nos gustaría, yo creo que se hace un esfuerzo saber España
tiene una estrategia nacional de inteligencia artificial
ya hace tiempo, no todos los países la tiene.
Está por ejemplo muy preocupada, por los algoritmos verdes,
y tenemos un programa nacional de algoritmos, verdes y somos de los muy
pocos países que nos estamos preocupando de eso
y, bueno, la inversión que se hace, pues los científicos
vivimos de los programas de investigación igual que cualquiera,
y es verdad que ha habido alguna convocatoria especial.
No ha habido una convocatoria de cátedras
que financiaba el ministerio
para investigar y transferir en Inteligencia Artificial
ha habido alguna convocatoria de programas de transición digital?
Algo hay ahora para estar al nivel de esos países.
Estamos muy lejos en general.
En Europa sea Europa, está un pasito por detrás
comparado con Estados Unidos, China, etcétera.
Yo lo veo como que no estamos mal y tenemos que buscar nuestro nicho,
que no es.
No tenemos los medios para sacar el próximo chats,
porque es que hace falta muchísimo dinero.
Esos grandes computadoras
también cuesta mucho dinero, no, y no tenemos los recursos,
pero sí que podamos irnos a la búsqueda de esa
y ya más responsable, más ética, más sostenible que en algún momento;
a lo mejor, pues es lo que se busca,
porque estos grandes modelos del lenguaje como mucha cpt,
pues también a veces tienen el problema
de que no se pueden meter en dispositivos móviles
porque son como muy grandes,
cuando los haces son más sostenibles,
pues su efecto colateral es que son como más pequeñitos.
Entonces, de ahí también les puede interesar
o si de repente llegaban una ley que dice,
pues no se puede emitir tanto cegados por cosas de ordenadores, no,
y entonces se va a tener que adaptar.
Yo creo que en Europa, con nuestras limitaciones
y en España en particular, tenemos que buscar algún nicho,
el que podamos sobresalir porque talento tenemos.
Bueno, pues no sé si quieres añadir algo más Borja,
una frase.
Me parece magnífico esa reivindicación
de educar en ella.
No hay que tener miedo a ella si lo.
Separar a los jóvenes que están en el colegio
o en la universidad a saber utilizar las herramientas potentísima
entonces abogó por esa estrategia,
y ojalá los rectores o el Ministerio de Educación
inviertan en ello, incluso, y también si me permitís,
no solo a la gente joven sino a toda la sociedad,
porque tampoco queremos una brecha generacional,
porque al final, a lo mejor ya la gente más mayor
se ha tenido que adaptar a ir al banco
y a tener que hacerlo todo con cajero,
pues más cosas de este estilo va a haber
y la gente mayor es más vulnerable.
Ante la parte mala de la llana que se puede utilizar
como cualquier herramienta para hacer el mal,
para manipular, para engañar.
Entonces necesitamos una educación para toda toda la sociedad bueno,
pues verónica Colón y Borja Franco los dos miembros
de la academia joven de España;
muchísimas gracias por habernos acompañado de esta mañana;
sin distancias ha sido un placer y muy interesante
todo lo que habéis contado muchas gracias encantada.
Y.