Vamos a empezar ya con la la última charla.
El título es límites de la aplicación de la guía
en el contexto universitario.
Nos la va a dar José Luis Aznar ni Lladó,
que es del departamento de Inteligencia Artificial,
de allí de la casa de la UNED, y nada cuando quieras,
muchas gracias.
Bueno, pues buenas, buenas tardes ya a todo el mundo muchísimas
gracias a Isabel y a la Facultad de Psicología de la UNED
por invitarme a esta jornada que está resultando superinteresante
gracias a que las las ponencias que hemos escuchado hasta ahora
pues iluminan partes de un problema que es enorme,
enormemente complejo y que que, bueno, yo voy a intentar dar
también algunas pinceladas desde una perspectiva
para que tengáis un poco de contexto,
pues yo, como como ha dicho Isabel, soy catedrático del departamento
de Inteligencia Artificial
y he trabajado en modelos predictivos de inteligencia artificial,
con aplicaciones diversas como por ejemplo,
el sistema de predicción de la calidad del aire,
que el Ayuntamiento de Madrid tiene operativo en estos momentos
y utiliza para dar una pincelada de por dónde vengo.
Pero es verdad que el último año
hay cada vez más preguntas insidiosas para quienes nos dedicamos a esto,
particularmente a quienes nos dedicamos a la docencia que,
por cierto, no, no ejerzo ahora
porque estuve en comisión de servicio, en la aneca;
pero esas preguntas yo creo que pues es muy importante
que nos las hagamos, no solamente quienes nos dedicamos a esto
sino también como sociedad.
En realidad lo que está ocurriendo ahora
no es algo nuevo, no la historia de la interesase artificial;
ha habido varios, lo llaman inviernos,
que responden también a que ha habido varios veranos;
los veranos;
son épocas en las que hay una expectativa enorme
puesta en la tecnología que se llama entonces artificial en cada época
se ha llamado una manera y los inviernos
es una época de decepción con esta tecnología.
Por qué no ha cubierto, digamos,
las expectativas que se tenía puestas en ella?
Lo que pasa claro este verano de la guía que estamos viviendo ahora
tiene algunas características muy particulares que tienen que ver,
a mi juicio con la financiarización que,
que está en torno a esta tecnología.
Nunca antes ha habido tanto dinero metido en esta tecnología
y nunca nada, nunca antes ha habido tantas expectativas de ganancia
por parte de un puñado de empresas con unas características
muy comunes.
Además, que han determinado de alguna manera el discurso público
en los últimos daños sobre esta tecnología,
este discurso público se ha basado o giraba
en torno a una cuestión que es una palabra difícil
de decir que es la antropomorfa acción
de la tecnología.
Como hemos visto, esta mañana tendremos hacernos preguntas.
Cómo será la guía capaz de entender una cuestión,
la que se vea al hacer eso?
Lo que estamos haciendo es otorgar una,
unas características humanas
a alguien que no hay más que matemáticas aplicada
y que hoy por hoy no ha demostrado en absoluto
que tenga capacidades humanas, ni mucho menos sobre humanas,
no alguna así muy pequeñas, muy pequeñas,
igual que lo tenía ya otras tecnologías que ya existía.
El problema de la ya se ha planteado como un poco, como una,
como una solución a casi todos los problemas que podamos imaginar.
Hay gente que lo llama una solución en busca de problemas
y esto es un esto.
Es algo muy, muy, muy delicado,
porque una solución en busca de problemas es una un punto
de partida que desde un punto de vista científico
es absolutamente peligroso.
Tenemos un martillo y lo queremos clavar todo,
y además estos enraízan una una cuestión
que crece un cierto tecnooptimismo,
una, una especie de solucionin mo tecnológico,
que está digamos muy estudiado desde algunas disciplinas
de Sociología son sociología o filosofía de la ciencia
y que.
Y qué son?
Qué es que es que es problemático?
Yo me vuelvo a centrar un poco en el ámbito de la de la educación,
aunque procuraré poner ejemplos de algún otro ámbito que puedan
ser de interés también en el contexto en el que la mayor parte de la gente
tenéis formación en Psicología.
Ya dije antes que yo no tengo ninguna y espero no meter
la meter la pata en alguna cosa,
pero en el ámbito de la educación es me parece un gran ejemplo
porque se produce muchas veces efectos inesperados de este.
Este solucionin o tecnológico al que me refería
antes de aceptar el texto que tengo.
Ahora tuve la suerte de participar en el rectorado de la UNED.
En el Vicerrectorado de innovación educativa
no me acuerdo cómo,
como se llama actualmente, digitalización e innovación
se llamaba entonces y me vi expuesto a tener
que tomar decisiones o tener que aportar reflexiones
sobre cómo aplicar la guía a la educación y, por resumir mucho,
mucho mi posición para que nadie se llame a engaño mi
dio a mi resumen es que cada duro que gastemos en guía
lo gastaríamos mejor, en reducir la tasa profesional,
vale, o sea, quiero decir que hay cosas que sabemos que funciona
y otras que tienen un contenido, unas promesas; en fin,
esto para para para que sepáis desde dónde, desde donde,
donde parto no perdóname que no tenga una presentación
o aquellas quieren aquellas de vosotras vosotros,
que tengáis como mente más visual tratar hoy de que nos aburran
y de que lo que cuente sea clara.
Vamos a ver, yo quiero hablar o no
y de una cosa muy concreta, de una aplicación muy concreta
de la guía, y no son los modelos del lenguaje,
perdonar ahí pero que veréis cómo luego podemos llevarlo también
a esos lugares.
Me gustaría hablar de una cosa que andaban llamar
optimización predictiva.
Muchas de las cosas que le voy a decir hoy,
si no la a la práctica totalidad de la que se puede decir hoy
no son mías, son por supuesto de otras investigadoras y en concreto
de un trabajo de y inaugurado Sayas, Captur, Solón,
barrocas y Arbina rayana que hicieron un trabajo excelente
el año pasado sobre este asunto de la optimización predictiva,
voy a tratar de explicar primero
qué entendemos por optimización predictiva y luego explicaré
cuáles son los problemas que se derivan de esto.
Vamos a ver, podemos establecer tres categorías interesantes
dentro de todo este asunto de la del haya.
Por un lado, tenemos sistemas de decisión
automatizado sobre personas vale quiero decir con esto
pues procesos de toma de decisiones que afecta a personas.
Se pueden automatizar procesos burocráticos complejos,
no como por ejemplo, la aplicada a automatizar,
la aplicación de reglas existentes, digamos, tenemos un marchamo
para lo que la UNED se llama la bufanda automatizar
o unas becas, un programa de becas no automatizar.
La asignación de esas becas a partir de las reglas
que se utilizan habitualmente, pues se puede,
puede puede ser útil, no puede ahorrar trabajo,
digamos que de forma automática.
Las personas son clasificadas en grupos
y en ese grupo cada uno recibe una tratamiento distinto.
Una una cosa que también podrían podrían entrar dentro de esto
sería la corrección automática de exámenes.
Voy como monstruo permiso.
La automatización de dictámenes de varios tipos no en concreto,
pues la.
La.
La corrección automática de exámenes.
Esta es una categoría.
Ahora otra categoría que me interesa establecer son las aplicaciones
aprendizaje automático.
Ahí ya si hablamos de inteligencia artificial
en términos muy laxo.
Yo prefiero hablar de Matemática Aplicada
porque en el fondo no son más que fórmulas que se aplican
para resolver un problema dentro de esas aplicaciones
de aprendizaje automático.
Pues si se digamos que la característica común
podemos definirlo como a partir de un volumen
usualmente muy grande de datos, bueno, grandes, ahora,
hace 15 o 20 años, cuando yo empecé era un santo grial,
era encontrar conjunto de datos.
No, ahora tenemos muchísimos datos, ejemplos previos.
No tenemos muchísimos ejemplos previo
guiará mediante técnicas estadísticas.
Lo que logramos es que una una sistema matemático
incidiera cosas sobre ejemplos que no ha visto.
Vale?
Entonces, el aprendizaje automático,
identificar características de hasta entre los que no hemos visto,
a partir de lo que hemos podido extrapolar, extraer inferir,
pero no entender ni comprender sobre un conjunto de datos,
por ejemplo, la automatización de los dictámenes
de los de los de la corrección automática de exámenes hay un solape
entre estas dos categorías sería esta.
Esta cuestión no, pero también tenemos a la clasificación automática
de patrones.
Por ejemplo, clasificación de cáncer es de piedra del cribado de frutas
en una cadena en una, en una fábrica;
el filtrado de España en nuestras bandas de entrada,
la prohibición de series temporales, que es a lo que yo me he dedicado;
por ejemplo pues la que decía de la contaminación.
En fin, estas aplicaciones pues, como digo,
aprenden de los datos donde aprenden,
es un término que es resbaladizo, pero permite luego
ser utilizado para anticipar que nivel de adn o dos
va a haber en la atmósfera de Madrid mañana, a partir de la meteorología
y de los datos de hoy, una tercera categoría que me interesa hablar hoy
son los modelos predictivos
-en general,
o sea se trata de anticipar un futuro de ciertas magnitudes
esto es muy anterior a la a-la guía está la regresión lineal,
se utiliza para extrapolar y tiene no sé si 200 años me quedo corto
Pedro, pues yo que sé también existen algoritmos
para predecir la meteorología,
que no tiene nada que ver con la idea, que son
ecuaciones diferenciales condiciones de partida,
y una serie de formalismo matemáticos,
que no tiene nada que ver con la guía,
pero también la ayuda se utiliza.
Para predecir valores futuros de ciertas magnitudes
hay un cierto nivel de solape.
La predicción de la contaminación que yo he realizado,
mi investigación tiene tiene que ver con esas dos categorías bien
entonces repito tenemos los modelos productivos
los modelos de aprendizaje automático y, por último,
los sistemas de decisión automatizadas sobre personas.
Vale cuando estas tres categorías se juntan en una misma aplicación,
resulta que tenemos aplicaciones,
que son extraordinariamente delicadas y problemáticas,
y esto es lo que voy a intentar explicar a continuación.
Hay más categorías, por supuesto, los alumnos, los modelos de lenguaje
estarían en otra en otras de estas categorías,
aunque también hacen cosas que se solapan con esto, pero bueno,
las las aplicaciones, que cumplan estas tres categórica.
Estas tres características, que usan aprendizaje automático,
que predicen resultados futuros
y que se usan para tomar decisiones automáticas sobre individuo,
tienen problemas relacionados con la equidad,
con la imparcialidad, con la justicia,
con la protección de colectivo vulnerable,
o con la mitigación de desigualdades,
y son extraordinariamente problemático,
ejemplos para ambos.
Hace un poco como una cosa de clase, no en la distribución de ayudas,
del plan de acción social, de la universidad,
imaginemos un aplicado, una aplicación informática,
e automáticamente, sin que nosotros tengamos
que rellenar ningún formularlo, asigna a cada persona
cuál es el dinero que le corresponde por ese plan de acción social.
Esto sería optimización productiva bueno no usa aprendizaje automático,
sino que aplica unas reglas preexistentes,
con lo cual no sería vale.
Quiero decir eso
que esto es una aplicación totalmente segura y limpia,
es decir, nosotros querría que la UNED
implementara un sistema así para asignación automática
de del plano social.
Yo personalmente preferiría que no, pero bueno, no se trata
de de optimización predictiva.
Segundo ejemplo,
una de plazas de profesorado universitario o evaluaciones de Aneca
hay baremo, y ese baremos se aplica a ampa;
un perfil a una, a un curriculum de una persona.
No hay un mayor nivel de incertidumbre,
no porque como de relevantes,
un papel que además no hemos leído para el perfil de la plaza.
Bueno, pues sería concebible desarrollar una aplicación
cogiera todas las actas de evaluación de todas las plazas
de los últimos 30 años y tú le dieras una plaza
y un currículum emite, dijera.
Quienes el elegido o la elegida sería concebible,
sería concebible, sería esto.
Optimización predictiva?
Pues no, porque no se trata de predecir resultados futuro,
sino de aplicar decisiones pasadas.
Sobre sobre sobre casos concretos
no de nuevo no desearía yo que este sistema
se implementara porque es extraordinariamente delicado
también, pero no es optimización predictiva
otro ejemplo prediciendo el abandono.
Esto en mi época en el Vicerrectorado
era algo que estaba muy muy de moda en realidad.
Código muy de moda
era que llegaban a empresas todo el tiempo a vender su producto,
a la Universidad de predicción de abandono,
un modelo de ellas que a partir de una serie
de características de cada estudiante
predice la probabilidad de que termine o no la carrera
esto es un ejemplo de optimización predictiva.
Si esto es útil bueno, según se mire,
luego luego abundaremos más en este ejemplo.
Un último ejemplo.
Para gestionar mejor los recursos humanos de la universidad,
gerencia establece un sistema en función de las características
de cada persona de las características que se conoce,
un de ellas incluyendo pues yo, que es el tiempo que pasa
en la plataforma, su salario,
su un enfermedades previas,
calcula las probabilidades de que sufre una baja laboral
y ajusta al sistema el que sea, de recursos humanos.
Conforme a eso,
esto también es un ejemplo de optimización predictiva
y no hace falta que nos explique la problemática,
que puede que pueden entrañar un sistemas no vale.
Espero que haya quedado más
o menos claro el concepto de optimización predictiva
y ahora me gustaría ver cuáles son los principales problemas
que se pueden identificar en este en estos annex
estas aplicaciones.
No.
La cuestión es que estos problemas
que voy a mencionar tener en la cabeza que son inherentes,
es decir son estructurales, no sé no es no, salvo que sea fácil
erradicar y por tanto deberían de poner en guardia
a cualquiera que ejerza al mínimo el principio de prudencia a la hora
de aplicar soluciones de este tipo.
Bien, son siete u ocho problemas para generar empaque,
no duda de que el asunto es delicado,
bere buenas producciones sobre sobre personas
no tienen por qué llevar a buenas decisiones,
y esto es una tontería, pero es esencial.
En este contexto la hipótesis básica de la optimización predictiva
es si hacemos la producción en urbanas.
Resolveremos el problema mediante decisiones muy buenas,
y ahí hay una trama.
Hay una trampa
porque, primero cualquier sistema económico
se basa en los datos disponibles.
Los datos no, no tienen información sobre intervenciones futuras
que vayamos a hacer.
Por lo tanto, estamos optimizando una cosa que no es el resultado
de las decisiones que vamos a tomar, que es lo que querríamos optimizar.
Hay un salto, lo es, no este salto se obvia, se obvia,
nunca se forma ese optimiza directamente el impacto
de las intervenciones, sino de forma indirecta.
Esa Indira acción produce monstruos.
Otra.
Otra cara de del problema es que,
como estamos trabajando con personas,
habrá personas que reaccionen de formas distintas
a la misma intervención y, por tanto,
pues todavía es más difícil optimizar esa intervención,
por ejemplo, a estudiantes para quienes
la predicción de abandono les diga que están en riesgo de abandono,
pero es que resulta que en fin, pues están en la UNED
y les ha salido un trabajo y ha decidido que van a seguir
otra otro tránsito de vida y de hierro,
tomarán el asunto en la UNED.
Esto no pasa mucho permíteme que lo diga también.
Cuando el ministerio establece que son que es el abandono,
no, nunca tiene en cuenta las particulares características
del alumnado de la UNED.
En ese caso la intervención que hiciéramos
sería mucho menos eficaz en el caso de alguien
que que no no es, por lo tanto, medir la bondad de esa intervención
sería todavía más más difícil.
Además, es que las intervenciones que hagamos,
no afectar casi seguro a lo predicho
y entonces estamos en un problema nuevo, eurobonos,
que no se muerde la cola y que científicamente debería
de ponernos en guardia a cualquiera, no.
Por ejemplo, se ha demostrado
que una fianza judicial más grande en Estados Unidos,
donde hay un sistema de predicción del riesgo de reincidencia,
pues sí el riesgo de decir reincidencias
elevado en juez por una fianza más grande
y esto aumenta el riesgo de reincidencia, pero bueno,
como pueden ser si el sistema funciona superbién bueno,
es que el sistema está trabajando con personas,
y si a una persona le cae una fianza grandísima,
pues a lo mejor decide que su camino es otro.
No.
La concesión automática de créditos hay muchísimas de los bancos,
utilizan un sistema automático de concesión de créditos,
sobre todo en Estados Unidos.
El modelo predictivo dice si te dan o no el crédito
y resulta que se ha demostrado con con un estudio
y con datos la, la, la concesión de un proyecto
a través de un modelo productivo
afecta negativamente a la probabilidad de impago.
Por qué?
Pues yo qué sé, pero lo que está claro
es que ese modelo no sirve.
Se está haciendo de hecho,
pues ese modelo fue retirado por mi pueblo,
por el banco que lo usaba,
no la agregación de producciones individuales óptimas.
Imaginemos que pudiéramos hacer predicciones individuales, óptimas,
no tiene por qué llevar a una decisión global,
óptima herramientas de reclutamiento en una empresa,
de ellas que hay ahora mismo, pues herramientas automáticas
que filtran los currículum y deciden quién entre quien no entra,
si la función se si la predicción se hace en función del volumen
de ventas de esa persona, pues bueno,
a lo mejor esa persona vende mucho.
Pero esa predicción no tiene en cuenta que a lo mejor
esa persona no se lleva bien.
Con su compañera y no trata bien al clara,
a los clientes o no cae bien a los clientes.
Esos dos factores son clarísimamente un unos factores
a tener en cuenta por parte de alguien que quiere
que una empresa vaya bien y sin embargo,
si setecientas, la negación de ventas en predecir el nivel de ventas,
contratar a alguien que luego no dará buenos resultados,
es decir, la las proyecciones individuales,
incluso fueran óptimas,
no tienen por qué dar una decisión global óptima.
Por último, hay intervenciones y esto a mí me parece gravísimo.
Hay intervenciones que se adaptan más a una formulación predictiva
que otras, lo cual lo que hace es acotar
y reducir muchísimo el universo de intervenciones que somos capaces
de imaginar.
Un ejemplo.
Yo necesito saber si mi alumno han copiado Concha eje.
Saben que esto me están diciendo todo el día que es fantástico,
lo he probado yo y joder,
responde perfectamente a la pregunta que tengo que hacer algo,
pero algo solo lo pensamos en término tecnológico.
Necesita un detector necesite un detector,
no necesita cambiar las preguntas,
necesita preguntarte si preguntas que se pueden repetir
de es que se pueden responder de esa manera.
Son útiles para el objetivo de tu examen, que es determinar
si ha habido una aprendizaje significativo o no.
Entonces el hecho de que no tengamos en este marco mental
de la de la predicción de la optimización predictiva
hace que haya un montón de soluciones que no se nos van a ocurrir.
Bien, este es el primer problema.
Sólo siete crono abrumar.
El segundo problema lo llamamos el problema del constructo,
y aquí va todo.
Resulta muy fácil déficit.
Es difícil medir aquello que nos preocupa
y utilizamos variables proxys que les dicen de matemáticas
y en otras disciplinas para aproximar.
Eso que queremos medir son las variables.
Podemos usar las que hay disponibles, no las mejores
ni las más,
sino aquellas que tenemos, porque al final,
pues la dramatismo es que tienes que hacer
un modelo productivo, pues lo hace con lo que, por lo que
pero, claro lo demás que lo tienes que hacer,
esas variables se acercan de forma indirecta,
a la representación válida de ese constructo que queremos.
Queremos predecir de nuevo el desempeño laboral.
Si queremos, desde el punto de vista recursos humanos,
medir el desempeño laboral,
pues la variable de medida va a ser, pues sí es una tienda.
El volumen de ventas, la satisfacción de cliente,
las encuestas de satisfacción del alumnado es ese,
eso el desempeño laboral.
Yo creo que el ejemplo de la 50 de satisfacción muy claro,
no nadie, nadie, ninguno, desde las personas que nos dedicamos
a la docencia con confiamos del todo, en esas encuestas
por mucho que sean estadísticamente significativas no, y que en fin,
hay muchos estudios también que demuestran
que las encuestas del alumnado están, están fatalmente sesgadas
y no son útiles para esto, no, pero bueno,
ese pero sí que hay ese prosigue.
Ahí tenemos que tenemos que tirar con lo que con lo que tenemos
no está implica que siempre siempre; siempre va a haber un desajuste
entre el objetivo de la producción, pero es la variable medible
y el constructo no, porque nosotros vamos a optimizar
para la variable medible, pero no para el constructo,
como además lo vamos a hacer a futuro;
pues madre mía; no;
menudo lío; por lo menos tendríamos que tener siempre
en la cabeza que lo que estamos haciendo es mentira.
Hay un grado de mentira que asumimos,
pero que lo tengamos arriba.
No hay una local.
Tiene no que lo pongamos bien.
Bien claro.
No.
De nuevo un ejemplo de Estados Unidos.
Se evalúa automáticamente el riesgo
de que una persona condenada reincida reincida no, como decía,
la reincidencia no es directamente observable,
porque es algo futuro o no;
y entonces, si se usan habitualmente variables
como el número de arrestos o el número de denuncias,
la predicción de arrestos o denuncias no necesariamente igual
a la predicción de reincidencia, vale;
y además quien creo que tiene una proporción más grande
de estos y denuncia, pues ciertas capas
de la población que además ya de partida perjudicadas no puede
ser población afroamericanas.
Hubo población pobre.
No?
Claro, lo que lo que estamos diciendo
es eso, que cómo podemos controlar.
Qué pasa cuando nuestra variable medible,
se desvía del constructo que queremos que queremos optimizar,
pues el problema es ese,
que no lo podemos controlar; no lo podemos controlar.
Bueno, esto es un problema que no afecta solo
a la optimización predictiva,
sino que afecta a muchas más cosas; por supuesto no;
y por supuesto los constructos son una herramienta superútil
en la ciencia sociales, pero aquí hay una salvedad que es
que no es lo mismo ser un constructo para hacer.
Inferencia sobre datos agregados que para hacerlo sobre datos personales,
una persona no es lo mismo decir en esta court constructo
me sirve, para inferir una serie de conclusiones.
Es decir, esta persona va a reincidir?
Creo que hay una.
Hay un matiz.
En fin, nosotros sabéis más de eso que yo.
Seguramente no, pero va a decir más.
Más ejemplos.
No sé si habéis visto igual que era una serie estupenda,
sobre la, sobre policías a ratos y sobre otras cosas en otros datos,
pero allí era muy claro que los policías
lo que querían era aumentar el número de multas, no,
reducir la criminalidad, el sin aumentar el número de multas.
Por qué?
Porque era lo que podían medir
y porque además era lo que les daba luego beneficios no el constructo.
Ahí está totalmente abandonado; y los objetivos, digamos, de esa,
de esa identificación, del constructo de una variable,
no son objetivos que respondan a las necesidades de la sociedad,
sino que son un objetivo que están en otro asunto.
No una universidad.
Podría mejorar las notas medias si quisieran, Estados Unidos,
que compiten mucho más que aquí hasta ahora,
pero, pero las notas medias son un buen indicador
de que la universidad hace buena docencia, los exámenes,
un buen, un buen mecanismo de evaluación.
Bueno, yo creo que esas preguntas hay que hacérselas
antes de lanzarse a confiar estas cosas.
Hay un algoritmo automático,
y por último, es que estos estos constructo
o más bien los objetivos que llevan al laboratorio constructos
pueden estar definidos con precisión,
porque no son cosas que se puedan definir, es el éxito académico,
no es el aprendizaje.
Bueno, pues sí apretárselo las notas, sin problema,
pero creemos que puede haber, tienen que tener más facetas
no de lo que una única variable.
Objetivo puede capturar, no, en fin, la cuestión es que la precisión
del sistema, ese 95 por 100 de precisión,
está fuertemente en entredicho.
Por esta, este salto entre constructo
y la variable bien.
Tercer problema.
La distribución de los datos y las variaciones de la distribución
de los datos en las asignaturas de Minería de Datos;
ahí en la Facultad de al lado.
Esto lo sabe.
El alumnado al primer mes de estudiar estas asignaturas,
no la precisión de los métodos de aprendizaje,
se degrada cuando haya cambios, aunque sean muy, muy leves,
en la distribución de los datos de entrenamiento,
mejor dicho, de los datos reales.
Con relación a los datos de internamiento,
si esa distribución sea el toda,
la levemente, la, la, la precisión de los modelos es muy, muy variable,
vale?
Entonces, es muy arriesgado hacer afirmaciones
sobre un modelo de aprendizaje automático aplicado a personas,
sabiendo que la multiplicidad de las personas,
desafortunadamente infinita y por tanto, difícil de clac,
de capturar, en una distribución,
máxime cuando hablamos de comportamiento,
que no estamos hablando de niveles de glucosa en sangre,
entonces ocurre que la población que utilizamos para entrenar puede
ser distinta de la población que utilizamos
para una vez que estás usando el modelo,
no la población de la universidad que sea
o de, o del sistema universitario español,
es la misma ayer que hoy después de los resultados
en Estados Unidos de las elecciones,
por poner un evento o después de La Habana?
Pues igual no.
Y cómo?
Cómo afecta?
Eso no lo sabemos, no lo podemos controlar.
Por lo tanto, esa precisión.
Cuidado si tú dice que el 25 por 100,
si en tu conjunto entrenamiento son representativos
donde tuvo un entrenamiento.
Bueno, ese es el santo grial de la realidad automático.
Encontrar datos representativos, pero es que a lo mejor no podemos,
es que a lo mejor en el caso concreto de la de la persona,
cuando estamos trabajando con personas, a lo mejor no podemos,
porque siempre va a ser un subconjunto de las personas
las que han dado lugar a esos datos de entrenamiento.
Pero es que hay una cosa más perversa todavía,
que las propias decisiones del sistema automático
pueden hacer evolucionar a esa población.
Pueden cambiar esa población.
Luego lo veremos en la última, el último de los de los problemas.
Un ejemplo de que este de que este problema
pueden ser muy grave, es el sistema viogén que utilizaban la fuerza
y cuerpo de seguridad del Estado
para arrojar luz sobre las mujeres víctimas de violencia de género,
ese sistema solo está entrenado con aquel subconjunto
de las mujeres víctimas de conjunta de violencia de género
que han sido vistas por las fuerzas y cuerpos de seguridad del Estado.
Todas las demás no están en ese sistema,
ese subconjunto, estas ese conjunto,
sistemáticamente desviado del conjunto que quiere modelar,
yo me atrevería a decir que casi seguro que sí así seguro
que sí bien civilidad, que es una palabra que yo me he inventado,
pero entendí lo que quiere decir.
No todo es predecible, sea como siempre,
como sin aprendizaje automático,
y en concreto las las comportamientos de las personas
que no son predecible,
comportamiento de un 10.000.000 de personas a la vez pues sí,
pero de una persona imposible.
Hay un montón de cosas que hacemos de forma irreflexiva,
que no quiere decir que sea aleatoria o o que no,
que no responda a un patrón.
De ahí sabréis vosotros más que yo,
pero desde luego es creo que seguro decir que es imposible
predecir ciertas cosas.
Que hacemos, la persona imposible,
o sea yo no sé porque acera, voy a ir mañana a mi casa,
digo igual cruzó.
Hay una, que prefiero y solo hay por esta,
pero igual ve o algo incruste, no de nuevo
el riesgo de reincidencia en Estados Unidos, compararon,
lo que predecía automáticamente el sistema con un un conjunto
de personas que no tenían ninguna experiencia en Derecho Penal
que predecían la reincidencia, y lo hacía más o menos igual
lo hacía más o menos, igual que quiere decir eso.
Pues a ver es que igualdad.
La reincidencia no es tan predecible como nos gustaría
no quizá afortunadamente porque si no menudo menudo
el mundo no el modelo Este modelo americano
obtenía 137 variables, 137 características de las personas,
y esto mismo investigadores demostraron que un modelo lineal,
con dos variables tenía más o menos la misma precisión que ocurre,
porque el problema es demasiada o caótico
para poderlo predecir.
Con matemáticas, afortunadamente, me parece, a mí no.
El problema es que esta baja calidad estructural de las predicciones
contradice el reclamo básico de estas tecnologías, que es.
Vamos a dar precisión.
Vamos a eliminar los sesgos humanos.
Vamos a hacer que esto sea blanco, neutro y totalmente.
Preciso no, bueno, pues es que igual ese punto de partida es.
No es más que un reclamo publicitario,
pero no responde a la realidad.
Sobre todo el problema derivado de esto es muy probable
que el nivel concreto de precisión resulta aceptable en cada caso,
porque si está prediciendo las acciones de una empresa,
tú puedo decir más dispuesto
a perder un cinco por 100 de unidad de cómo funciona ese mundo,
pero estoy dispuesto a perder un cinco por 100,
pero estamos dispuestos a dejar atrás a un cinco por 100 de las personas
aún anunció no conoce los 5.
Cuántas son 30 a 15, a 2.
Pues igual no.
Por mucho que subamos el nivel de precisión,
si siempre va a quedar alguien que se va a ver perjudicado por esto,
porque no sabemos si sabemos que la precisión
nunca va a ser del 100 por 100, sino que va a ser más baja
y no sabemos cuál es el nivel de precisión adecuado,
pues no se no seáis problemático y además esto lo que ha pasado
la reciente historia de estas aplicaciones
es que esto ha dañado.
Irremisible irremediablemente la la.
La perspectiva, digamos, comercial de estas empresas
y hay crack casos grandísimos de proyectos grandísimos
que han tenido que tirar atrás porque se ha demostrado
que no iban a ningún lado.
Casos de miles de millones de dólares que se han echado atrás,
no en sistemas de análisis clínicos para la calidad del agua.
Ese sustituyeron a las personas que hacían el pipe
o por una sistema de guía.
Fracaso instantáneamente en la ciudad de Toronto
y lo tuvieron que cancelar.
Sistema productivo para infecciones, en hospitales decían
que tenía unas tasas de entre 0, 76 83.
Luego, al cabo de un tiempo se dieron los datos
y resulta que era muchísimo peor, era muchísimo peor y claro,
pues fue cancelado inmediatamente no.
La predictibilidad también es un problema para la efectividad
-asimétrica no es posible, no es posible.
Es imposible mitigar los rendimientos desiguales de los algoritmos
sobre una misma población modificando esos algoritmo.
Esto no se debe a las carencias de los datos.
Hay unos, hay unos teoremas que están,
que están demostrados, que son los de imposibilidad de la equidad,
que vienen a decir que no es posible;
un algoritmo que garantice tasas de falsos positivos iguales
para grupos en los que la casa base difiere.
Esto se parece mucho a lo que ha contado
Gorka hace un rato, pero es algo que es estructural,
que no, que no va a tener más datos, que no va a hacer mejor el modelo,
que es que va de que estamos haciendo cosas que no se pueden hacer;
en fin, además, el problema es que esas disparidades,
dentro de un mismo grupo, responden a motivo que las origina,
esas desigualdades se pueden perpetuar o amplificar
a través de estos sistemas,
porque si estamos dejando fuera de forma sistemática
a un mismo colectivo que ya partía de posición perjudicada,
lo que va a pasar es que ese colectivo va
a estar peor después de este grupo.
Después de este este sistema?
No, los grupos marginalizado no van a estar al más claro.
La cuestión es esa que nosotros podemos intervenir
sobre el algoritmo.
Nosotros hablo de modeladores,
gente que se dedica a hacer estos modelos,
no hacer estos sistemas de predicción,
pero cualquier intervención que haga,
no solo laborismo
no va a modificar las condiciones que dieron lugar a la desigualdad,
y eso, pues lo tenemos que asumir los criterios de justicia algorítmica
que es un término que ahora se está empezando a utilizar.
No son más que diagnósticos,
son síntomas de injusticias que ya están en la realidad
y que queremos hacer con ellas.
No las queremos perpetuar ni las queremos hacer peores.
No es verdad que el concepto de justicia,
un conflicto normalmente resbaladizo,
que hay ahí hay elementos que son profundamente políticos
en el mejor sentido de la palabra en ese en ese asunto,
pero que un sistema que es justo en términos puramente estadísticos
uno perfectamente, ampliar esas desigualdades
y ser profundamente injusto en la realidad
y además, como decíamos antes, la mejor intervención
en una situación dada no tiene por qué ser algorítmica,
o sea, que el problema es que las medidas que no son algorítmicas,
que van más a la realidad
y que tocan un poco más a las personas
y que involucra a la persona.
Son mucho más costosa, son mucho más costosas,
mucho más sencillo decir.
Yo pongo un sistema de ella y que resuelva este problema,
no no trabajar la desigualdad y trabajar los blogs.
Los orígenes de esa desigualdad es algo muy costoso
y que está en conflicto con los recoge el reclamo fundamental
de las destas de estas tecnologías,
que van a ahorrar costes.
Claro, esto es la cabeza de quienes toman decisiones
suena miel sobre hojuelas pero bueno
pues sí sí sí las realidades que en esos sesgos
no se van a mitigar con está conectado asuntos
sino al revés.
Pues bueno, tenemos un problema no impugna habilidad,
necesitamos que cada una de las decisiones automáticas
tengan un mecanismo.
Para ser impugnadas; si no lo tienen, estamos horribles.
Por qué?
Porque las tasas de ras son distintas de cero lo sabemos.
Qué pasa cuando se equivoca?
Necesitamos mecanismos accesible para que la gente pueda entender.
Primero lo que ha pasado y luego actuar en consecuencia,
es decir, impugnar esas decisiones tiene que haber una explicación,
que acompañe a cada decisión.
Esa explicación tiene que ser al nivel de las personas
que tienen que leer esa explicación tiene que tiene que incluir
los datos personales que se han que se han utilizado
y tiene que incluir los detalles sobre el modelo que se ha utilizado,
y tiene que haber un mecanismo para corregir esas decisiones.
Todo esto que acabo de decir es mucho más caro
que montoro, modelo modelos encontrando patadas
con un con, con una base de datos.
Ahora hacer todos estos mecanismos
para que la gente probara es una cantidad de recursos humanos
y técnico que deja de ser digamos que desmienten totalmente
el principio de que todo va a ser mucho más barato.
Claro, sí sí si no ponemos estos mecanismos,
pero claro si no lo ponemos lo que ocurre ya podéis imaginar.
En 2013 el gobierno holandés utilizó un sistema
para la detección de fraude.
En ayudas sociales
estudia también se está utilizando aquí en España,
en el algoritmo se luego se demostró que había acusado
falsamente a 30.000 familias, hubo quitas de custodia,
de niños y niñas, hubo gente que se suicidó.
Hubo gente que se fue a la ruina, no tenían manera desde de replicar,
no tenía manera de impugnar esa decisión eran incorrectas.
Llegó a dimitir el Gobierno de Holanda,
por ese caso no.
Entonces, la cuestión es esa,
que como estos modelos son cajas negras,
que dan un resultado con su mandato,
pero si tienes que poner los mecanismos
para que esto no sea así de nuevo,
recurro al ejemplo del Vicerrectorado,
hacemos un sistema de predicción de abandona automática,
vale, bien, pero lo podemos hacer de hecho,
pues aquí hay gente que se dedica a eso y hace modelos de eso.
Ahora quién va a hacer en la aplicación?
En el medio que te llega haya un correo electrónico.
Que tú puedas escribir de una persona,
que lo lea, que hay que contratar a un funcionario
para que haga eso ya se ha ido, tú la vamos, es imposible.
Es imposible contratar a un funcionar.
Una entidad, una funcionaria,
una persona que se dedica a atender ese asunto,
que se vamos a echar a alguien que ya tenía en su 40 ahora llena
de trabajo,
pues tampoco no, pero sin embargo ahí como es acusado tenemos
que hacerlo porque 10 lo moderno
y y hay que hacerlo sea tener cuidado.
Con eso no último y termino.
Esta parte la ley de Madrid dibujar es burbuja
de un señor que se se dio cuenta de que en la India colonial,
el gobierno de la India, colonia del gobierno inglés,
decidió erradicar las cobras porque le explicaba
y las constaban problemas no?
Y entonces alguien un lumbreras,
decidió que daba de interrumpidas por cada cobra muerta
que trajera a la oficina.
Claro, la gente se puso agilidad, cobra como nuevo.
Si no hubiera un mañana, qué quiere decir esto?
Que la gente se adapta estratégicamente
ante contextos normativos,
nos adaptamos si entendemos cómo funciona.
El sistema, nos adaptamos y nos adaptamos para que le da darle
al algoritmo lo que necesita, para que nos de buena nota,
para que esto destruye la precisión del algoritmo,
no se puede hacer ninguna afirmación sobre el algoritmo.
Si estamos actuando así
y actuamos así ese es un comportamiento muy cómodo
ni que no tiene que ver con esto, pero es esa búsqueda
y hay que tener en cuenta que también no sea enseñamos al alumnado
a aprobar exámenes o le enseñamos el contenido
y competencias que dicen otros títulos.
Bueno, yo el día que aprendí a hacer exámenes fue
cuando me empezó a sacar buenas notas en la carrera que quiere decir eso.
Yo me adapte estratégicamente a al contexto,
no cuando a mí cuando ahora,
que ahora que hay muchos sistemas de cribado automático de currículum
en la empresa que reclutan la gente ya sabe qué palabras hay que poner
y cuáles no, qué hace eso?
Arruinar totalmente la bondad del sistema, la la la precisión.
No, no podemos hacer ninguna afirmación
sobre la precisión del sistema,
porque cuando cuando se da este este fenómeno
y será siempre siempre que entendamos lo que está pasando,
cuando no tenemos ninguna información,
obviamente no se da.
Vale?
Esto son los una, una selección de problemas.
Yo me imagino que sí podremos encontrar más
y cómo van a ir arrojando una perspectiva profundamente pesimista
sobre sobre esto no, no sé cómo vamos de tiempo
porque temen unas ejemplos.
Pasaba podemos particularizar esto en algún ejemplo más
que nos sirva un poco de una manera más más directa,
el sistema de efectivo para detectar el riesgo de suicidio
de las personas avanzáis boom, necesitado de lavar su cara
a permitirme que lo ponga en estos términos anunciado;
un sistema que va a predecir el riesgo de suicidio vale,
vamos a analizarlo a la luz de estos siete problemas
que os he contado.
Primero, intervenciones contra predicciones
uno intenta entender que cree intervenciones
pueden ser útiles en un caso cómprese,
sino que solamente se detecta.
Si hay lo que ellos llaman riesgo, no, pero,
qué ocurre muchas veces en todos los estos.
Este este riesgo elevado,
si cruza el umbral arbitrario lo que redunda, lo que hago,
lo que resulta es en una visita de una pareja de policía tu casa,
pues aquí en Estados Unidos,
y si eres negro puede ser un problema,
y aunque no seas chaqué, tú estás enfrentado con ideaciones suicidas
y se te aparece un padre.
Policías de la casa,
a lo mejor te parece que ha venido Papa Noel,
pero a lo mejor te lleva a un estado de nervio mucho peor,
no cuales cuáles sea, cómo podemos, cómo podemos,
a partir de esa predicción llegar a una intervención buena?
Pues a lo mejor es que tampoco es la pregunta adecuada,
no el constructo constructores, el riesgo de suicidio,
pero es que la variable que podemos medir
pues al parecer son reportes de amigos,
que dan un botón y dice.
Uy, creo que esta persona cine y de acción suicida
y reportes de moderadora son moderadores que están ahí;
se supone haciendo esto, vaya vaya aproximación,
no del constructo, no tiene,
no creo que no hace falta entrar en los problemas que se puede tener,
no en problemas de la distribución.
El modelo, como digo, se basa en esos comentarios
e informes que que obviamente van a estar sesgados, por ejemplo.
Hacia dónde va a ser lo mismo quien tiene 2000 amigas y amigos en Cebú
que quien tiene 20 no.
La distribución no es la misma.
Ahí hay un un sesgo matemático que es problemático.
No, no es lo mismo en una cultura en la que el suicidio
estaban que en una en la que no está adaptando el alumno
a las diferentes culturas permítanme que lo dude.
No es lo mismo en inglés, donde hay una los recursos de modelo perdón,
de moderación muy grandes, creen lengua minoritaria
donde no hay recursos de moderación.
Bueno, pues esa distribución de probabilidad,
que ha dado lugar a ese modelo enormemente complicada,
predecibilidad, no hay métricas de desempeño del modelo,
nadie sabe si el modelo funciona bien o no.
Por lo tanto, no sabemos si el problema es predecible o no.
Podemos a hablar en un contexto como este
si el suicidio, suicidios predecible o no,
pero no, no lo basaremos en en ese tipo de datos,
no lo basaremos en otro tipo de estudios
y otra replanteamiento científico.
No asimetría en la efectividad.
Estos modelos muchas veces se basan en modelo del lenguaje
que han demostrado ampliamente están afectados
por la asimetría en la efectividad y que perjudican a colectivos
vulnerables en los que los modelos de lenguaje,
de detección de si has usado modelo de lenguaje o no a todas las personas
que cuidaban,
cuya lengua materna no es el inglés,
es mucho más fácil que nos saque la bandera,
arroja de que nos hemos equivocado, no sabe qué que nos hemos copiado.
Quiero decir.
Por lo tanto, eso ya induce a pensar que estos este sistema
puede ser problemático, contestabilidad tiene alguna manera.
Los usuarios, de de conocer los datos, de conocer los modelos,
de saber si han sido afecta, si estudiados bajo este prisma,
pueden elegir, no forman parte de formar parte
a diferencia de lo que hacemos en las universidades,
y ahí no hay un comité de ética obligatorio
que tenga que revisar tu trabajo.
No, ahí se hace lo que se lo que se quiere, no.
Eso deja a la gente totalmente; vendida a la hora
de impugnar una decisión de este tipo;
y por último, la ley dibujar estos sistemas
van a provocar cambios en el comportamiento.
Primero se pueden organizar campañas para llevar la policía a la puerta
de alguien que no te cae bien.
No ya estás arruinando a la la, la, la precisión del sistema.
Además, cuando cuando nos vigilan cambiamos nuestro comportamiento,
si yo sé que hay un sistema de suicidio,
pues a lo mejor me abstengo, mucho de hacer ciertos comentarios,
o al revés, a lo mejor los hago a ver qué pasa sin sin tener
ninguna ideación del tipo.
No como ven, estos estos problemas que afectan a este tipo concreto
de sistemas de optimización predictiva
es un, son problemas grandes,
no son además todos ellos.
Problemas técnicos son más bien socio técnicos
y algunos no tienen mucha solución.
Dónde voy a dejarlo?
Aquí tengo otro ejemplo sobre la tasa de abandono,
pero es que es lo mismo Vanesa a estudiar,
un sistema de tasas de abandono,
y te enfrentas todo el rato a las mismas.
Preguntas que quiere decir esto,
quiere decir que la guía no vale para nada,
no quiere decir que tenemos que aplicar el principio de prudencia
quiere decir que es una tecnología nueva
y que lanzarse a confiar en ella
y utilizarla para tratar con personas es un riesgo inasumible,
una irresponsabilidad que ocurre que llevamos dos años,
3, cuatro o cinco años,
con una una campaña de permitirme global,
lo llame la bao de de cerebro donde se nos viene diciendo
que la guía nos va a hacer el desayuno
y va a escribir nuestra tesis doctoral,
que lamentablemente no es más que una campaña publicitaria
y que no hay más que mirar el los, los balances económicos
de las empresas que promueven este tipo de investigaciones
para darse cuenta de que esto es una catástrofe,
y esto llega al límite de perversión
de que el año pasado el tema de conversación
era que la guía era peligrosa y era de esta propia empresa
las que decía.
Hay que parar, luego porque es que va
a tomar conciencia y va a acabar con nosotros.
Nadie que sepa de esto se puede sostener una,
una afirmación.
Han escandalosa y tan extrema, no es una campaña publicitaria,
en fin, podría seguir durante horas,
pero me interesa mucho más que que intercambiemos un poco tanto
quienes estáis aquí en la sala como quienes estáis en Internet,
porque yo creo que es un tema que daba para mucho, para mucho,
para mucho.
Habla, encantado de cucharón.
Muchas gracias por por las charlas,
a pesar de no tener por un power point, SEO,
como bien bien interesante, claro,
creo que comparto bastante contigo sea los peligros y no los riesgos,
la mala utilización.
Hay ejemplos también en España de del uso de estos algoritmos
para para calcular riesgo de reincidencia
con con problemas súper evidentes desde esas cosas
al a los temas de inevitables de la prevalencia y demás.
Entonces está claro que el uso actual
no como la mayor parte de los usos actuales,
son son potencialmente peligrosos y muchas veces dañinos
y demás.
Pero, claro, no como por tratar de romper una lanza
a favor de un futuro mejor.
Se te ocurre en es no como hay, hay cosas inevitables
y como, como, como he comentado en su momento hay, hay,
hay problemas que no son evitables,
matemáticamente es imposible, o formalmente es imposible, pero,
pero es verdad que que en el fondo sí si asumiéramos ese ese dictamen,
no haríamos nada y la humanidad no funciona.
Así no vamos a hacer cosas.
Entonces hay, se te ocurre en maneras
de mejorar, de, de, de aplicarlos a contextos concretos
donde efectivamente son útiles de crear condiciones o desarrollos
que permitan en contextos probablemente más concretos,
darles utilidad bueno,
o sea, que yo llevo 20 años investigando estas cosas
y haciendo modelos, lo que pasa es que he procurado siempre mantenerme
al margen de cualquier modelo que incluyera datos personales
como un principio de prudencia extremo,
porque es verdad que puede haber contextos
en los que da datos personales; muy agregado,
puedan permitir hacer cosas que no sean éticamente reprobables,
pero es que incluso si no utilizamos datos personales,
serán situaciones totalmente asombrosas.
Por ejemplo, conocéis esta aplicación.
Para que te diga la especie de una planta,
haces una foto que aplicación allí a quienes nos gusta la naturaleza
es una cosa excepcional.
Hablas con Botánico y te dicen vamos a ver, está pasando;
está pasando en las especies mayoritarias;
son las que tienen representación en esa aplicación
y están eclipsando totalmente a las especies minoritarias
que dejan de existir y ya no están en la aplicación
y, por tanto, la realidad son difíciles
de distinguir.
A se les hubiera podido ocurrir que una aplicación tan limpia
pudiera producir esto?
No, por supuesto que hay un montón de cosas que se pueden hacer
y que van a mejorar nuestra vida,
pero, ojo, porque es que es es es, es una campaña muy,
muy intensa a la que venimos soportando aplicaciones médicas,
un cáncer en una radiografía lo puedo detectar un algoritmo.
Si yo, hecho un algoritmo de detección de pooling
los granos de problem son muy difíciles
porque son muy pequeños, muy parecidos;
bueno, pues resolvemos el problema al 95 por 100
queda un cinco por 100,
pero a nadie le importa, no pasa nada,
esto resuelve el problema.
Pero qué ocurre con las radiografías?
Que hay un, cinco por 100 que falla
o un uno o un cerco?
5, no.
Entonces, para que eso sea útil,
lo que hace falta es un sistema automático.
Un radiólogo una radiólogo pagada con un salario grande.
Entonces, la conjunción de esas dos cosas resulta más cara
que lo que había que el propio radial al propio radio de la sola.
Bueno, pues demonios,
mejor no nos estamos perdiendo la cabeza con este asunto.
No, a lo mejor sí que son útiles para que una lavadora, la abrevien,
pero igual no hace falta llevarlo a todos los ámbitos de la vida.
No lo sé, o sea, yo estoy convencido de que sí que hay.
Bueno, la vemos, las usamos todos los días,
aplicaciones que son útiles,
pero creo que están muy sobredimensionada,
y soy pesimista.
No tengo más remedio.
Bueno, es nada, muchas gracias.
Me uno también al comentario de referencia y bueno,
a veces no hace falta usar impositivas para seguir una charla
interesante, bueno, toca mucho tema, voy a tirar,
pero por otro lado y es que creo que la he comentado,
transmite una problemática que existe sin tener estos sistemas.
Quiero decir, en muchos casos, todos y todas esas reglas,
toda esa forma
de evaluar burocráticamente otra vez algún conjunto, de paso burocrático,
más reglas, decisiones tomadas en muchos casos
por humano.
Siguen produciéndose esos fallos que hemos comentado,
no que no están en la inteligencia artificial.
Entonces claro, muy muy pesimista.
Sí hemos estado operando, encontrar herramientas
que traten de superar o mejorar nuestras capacidades
para regular y funcionar en otro tipo de ámbitos,
sociales y personales.
Pues resulta que estas herramientas sí si funciona,
creo que han dado ahora un poco de optimismo con la luz,
con tu último comentario,
que era lo que yo pensaba.
Claro, es que la herramienta por sí sola no puede
ser que tiene que ser la herramienta junto con una supervisión
por especto.
Entonces, bueno, redondo un poco lo que ya has comentado, pero bueno,
es un poco a pensando, claro, pero es que esto,
antes de que existiese, podemos ir más fácil
para hablar de lo que es enfrentarse a la burocracia,
trata de resolver problemas personales,
sociales y donde al final no sabes lo de la caja negra.
No, aquí le tengo que preguntar, no sé que me lo va a resolver.
Entonces, bueno, creo que es una problemática
que tenemos que resolver y que, por lo que tú dices,
no solo nos vale la Inteligencia Artificial,
verdad?
Claro, si es que es que os pregunto quién ha sido alguna vez feliz,
siendo atendido por un robo telefónico?
Están pensando todos los responsables
de todas las instituciones que tengan más de 30 personas en su equipo,
poner un robot telefónico incluida la ump?
Pero cómo?
Pero bueno,
pero por quién estamos viviendo una, una especie de espejismo que no,
que no tiene mucho sentido nuevo.
Es decir, para informar esta mañana nos hemos desayunado orgánica,
con que una universidad española ha hecho un bao
para responder todas las preguntas sobre la acreditación
del profesorado.
El asunto ha sido resuelto y dice.
Pero vamos a ver si hay preguntas que dieron que no sabemos responder.
Nosotros luego lo averiguamos no, pero como pueden ser
que alguien confíe en que un auto con fletador de texto
un loro estocástico allá a dar esa información mejor
que una persona y luego es que luego dice Palé,
me lo ha dado mal, quiero protestar.
Y qué vas a otro robo telefónico o a otro robot, textual,
y ya está y anda que nos hemos ahorrado dinero
en atención al público.
Bueno, en aneca, panorama de mi experiencia.
Hay como 30 o 40 cuentas de correo abiertas al público,
que se responden al ritmo que se puede.
Todas ellas se responden desde un punto de vista de gestión.
Dices, pero esto no puede ser.
Esto no es esto que cambiarlo, esto hay que quitarlo,
pero al mismo tiempo dice que el otro, porque, pues eso,
dar respuestas y a veces la gente se queda contenta,
traducción, no, en fin, no sé o sea, yo hay ámbitos concretos
donde creo que hay que extremar la prudencia.
La educación es claramente uno de ellos, pues mucho
que nos digan que la la guía puede ser como un exoesqueleto,
que nos ayuda a ser mejores profesores
gastemos el dinero en más profesores mediocres
en vez de esos esqueletos para profesores mediocres no.
Si vale solo bueno un de cosillas que lo
primero muchas veces por la charla.
Creo que esto es un tipo de debate que tiene que tener lugar,
seguramente a falta tenerlo en otros lugares,
no solo aquí y aquí se se prevé que vaya a existir, no el debate,
pero, pero debería existir en otros lugares de demás,
donde incida más el poder de decisión.
Un de cosas que creo que puede ser beneficioso
dentro del mundo de la computación.
Tener unas una asignatura de psicometría en una
de las de la de las otras ramas de ciencias, computacionales,
no que explique el problema de la generaliza habilidad
de problema de la validez de la fiabilidad a la hora
de crear herramientas,
no que traten de medir constructos psicológicos,
que es a lo que se dedica la psicometría.
Entonces necesitan yo creo que es necesario
que exista una asignatura en ese sentido
dentro de las ciencias de computación,
para que realmente los las personas que salgan formadas
de ahí tiene emociones de cómo podemos medir estas cosas,
y lo segundo que creo que es es importante explicar un poco
todo este, todos los peligros que pueden tener,
las herramientas automáticas de toma de decisiones.
Pero tampoco creo que haya que demonizar al a la tecnificación,
porque eso nula un poco también a ver
cómo formulo esto para que se entienda bien,
nula un poco también el problema de fondo.
No les estamos dando asignando el plural,
la problemática, la tecnificación cuando la problemática
esta es estructural,
no la lógica de la que tenemos que seguir es el lugar
de utilizar una lógica de la productividad.
Vamos a crear
herramientas que nos permitan mejorar nuestra productividad,
que permitan que yo desee bajemos el número de policías
que estén dedicados a evaluar si una mujer
está en riesgo de violencia de género,
que reduzcamos el número de personas que tienen que irse;
desplazarse a una vivienda para saber si una persona se dedicó a su ciudad
en lugar de de abarcar el problema,
poniendo la lógica en la productividad,
deberíamos poner la lógica en el cuidado
en donde vamos a a tratar qué es lo que tratamos de mejorar
con nuestra tecnificación.
Tratamos de mejorar el cuidado.
Entonces, a lo mejor la solución cuando tengo un algoritmo
de detección de suicidio no es mandar un policía,
a lo mejor ni siquiera tengo que tener ese algoritmo,
es, digamos, la plataforma no es Félix,
a lo mejor mi solución debería poner el foco en el cuidado
y poner el foco en la comunidad no y donde va
a encontrar esa persona.
Una ayuda realmente y no en la productividad
de donde voy a generar menos, donde voy,
a poder unos recursos o donde voy a poder ahorrar más
en recursos.
Entonces, bueno, quería dejar esa reflexión ahí porque al final
se nula no esa el problema.
El problema de base, que es el que el de fondo
no es el que realmente está causando todo toda esta problemática
en la tecnificación claro claro o sea respecto a la asignatura
totalmente pero no solo también una de filosofía de la ciencia,
una de Sociología, de la ciencia, que está esta idea
de que la la tecnología es neutra,
que los ingenieros nos nos machacan desde el principio a estas alturas
de del siglo xxi.
Yo creo que está totalmente desacreditada
y, sin embargo, esto no se refleja en los planes de estudios,
no se refleja en ningún lado y por otro lado lo que dice
la, la, la, la ética del cuidado me lleva y me alegra a a contar,
aunque muchos lo sabréis lo recordaré.
Desde hace unos años se hizo una un proceso participativo
en la UNED para determinar un marco ético
para el uso de tecnologías basadas en datos masivos.
Esto lo hicimos desde el vicerrectorado
en el que yo hubo participada y está está ahí esta iniciativa.
Hablaba de la ética del cuidado
como algo que nos pide en el cuidado, al mismo tiempo
que cuidamos de no, y creo que es que es eso justamente no.
El problema es que la lógica que impera
en quienes toman decisiones
no suele ser esta, no suele ser esta y que hoy por hoy
decir en un discurso la palabra guía pues venden montón
y hace que parezca superguay, súper moderno y súper todo todo.
Todo.
Fantástico, no, y esta posición que yo defiendo
es una posición de aguafiestas para esa gente,
para la gente que dice ahí.
Pero si es que yo digo en el discurso que vamos a poner,
como ayer en la Comunidad de Madrid,
que en el plan de drogas van a poner un chat.
Voz y lo dicen de las tres cosas más importantes que van a hacer
en el plan de drogas es cómo, pero.
Pero cómo es posible, no sea bueno?
Pues es que es eso, es una cosa, es lo que lo que vende
y otra cosa es la realidad.
Lamentablemente, muchas gracias por echarla a mí.
Uno de los aspectos que ha comentado en relación
con la transmisión de conocimiento de los profesores hacia el alumnado
me llama la atención el hecho de que finalmente
el profesor tenga que cambiar su forma de aprendizaje
porque los alumnos no copien a través de hechas a ti.
Entonces eso me hace plantearme el hecho de decir
y tan evaluando realmente lo que quieren evaluar,
porque ellos es por una herramienta que se supone
que va a facilitar la vida,
lo que está haciendo es modificando ese aprendizaje,
eso de de una parte y de otra.
Sabemos que se desarrollan una serie de habilidades con las tareas
que envían los los profesores que, gracias a esta tecnología,
pues no se llevan a poner en marcha.
Entonces estamos evolucionando involucionando en ese sentido,
claro que claro, justo último.
Yo ahora la cuestión es que para mí lo que introduce
en estas tecnologías, que pasa un poco también en la pandemia
y recordaba, es como un cambio de perspectiva,
era un poco la luz y vemos el problema de la educación
donde otra luz entonces ocurre que usamos exámenes
porque no tenemos otra forma más eficiente,
pero todos estamos de acuerdo en que los exámenes
son muy mejorables, como herramienta para determinar si una persona
aprendido o no aprendido no, pero ya se sabía, Adam,
El aprendizaje memorístico es mucho peor
que otro tipo de aprendizaje de cara a conseguir,
lo que llamado aprovechase significativo de nuevo
contribuyendo a enverdecer,
al que no.
No conozco más que como profesor que no he estudiado, pero,
pero desde luego sin inicia entramos en el aprendizaje memorístico
nuestra nuestra labor tenemos que asumir
que lo estamos haciendo mal Entonces que otra charge Pepe.
Muestra de la pregunta de si las preguntas de examen
que hacemos cada uno de nosotros cumplen el objetivo
y, si no terminaríamos mejor un quitar esas preguntas
que son respondérselas, memorísticamente y poner otras
que sean de pensar, de hilar de juntar conceptos,
de producir pensamiento mucho más difícil de poner,
mucho más difíciles de poner incluso de corregir.
Pero, bueno, hemos venido.
No venía hacerlo bien,
pues entonces no es para mí, es evidente.
En el caso de la pandemia también pasó igual,
o sea, cómo?
De repente, yo, yo abogaba por que se suprimiera la clase de un año
y nos permitieran a todos rehacer nuestra docencia,
nos dieran cursos y y pero, pero,
bueno, pues seguimos como en el mismo mismo,
la misma situación,
cuando realmente, pues igual el suelo Cerrato,
ya que no estaba debajo de nuestros pies,
y yo creo que eso es bueno,
no que la realidad desafía los prejuicios,
o lo hago lo juicios o las formas de trabajar que tenemos,
a mí me parece, bueno, pero hay que tomarlo desde ahí.
Una crisis, una oportunidad,
aunque son un poco así de autoayuda.
Pero creo que es que en este caso concreto
nos permite aprender cosas que no sabíamos o que se intuíamos,
pero queríamos ver.
Ahora están vistas, es mucho mejor una tesis de 600 páginas
que una tesis de 100?
Pues según la disciplina
no para empezar en mi disciplina probablemente no,
pero todavía hay gente que dice es que te curtes escribiendo
600 páginas.
Bueno, bueno, pues yo qué sé igual un seqta
y para eso no se vea claramente no puedes adquirir una tesis
Concha
-gt, pero yo escribo cartas, aburridas que tengo que escribir,
y quiero que estén bien escritas en inglés,
pues a veces se las has hecho ahí para que me corrija,
no sé o sea como que creo que hay que reflexionar mucho
sobre la herramienta y lo que la herramienta
provoca en la nuestra realidad, y el el asumirla de forma crítica
y de forma, como como consumidores,
como si estuviéramos viviendo CocaCola,
pues es arriesgado.
En contextos en los que las personas están en primer plano,
como la educación o la medicina es una posición ética,
pero creo que es compartible por cualquiera.
En realidad, lo que pasa que, bueno, pues han puesto mucho esfuerzo
en que no lo planteáramos desde ese lugar.
Muchas gracias por la charla.
Muy interesante.
Te quería preguntar.
Te quería decir, primero, que me hubiera gustado
que hayas nombrado de la campaña publicitaria
porque personalmente me considero muy analógico.
Llevo tres meses leyendo o escuchando sobre esto
y me parecía que me había dado cuenta de algo así.
Algo que están manejando se están llevando el pastel,
pero, claro, así no, en general del sistema.
Has dejado claro y, y me ha parecido muy creíble,
no que haga falta falta supervisar
todo eso que que pase a través de y a.
En las necesidad de, o sea, o en los puestos de trabajo,
sean pequeños y todavía haya que necesitar sea.
Quiero decir,
si la ya quitara simplemente puestos de trabajo.
Era distinta porque para qué?
Un pequeño porcentaje de más gente que no trabaje buena parte
tengamos menos tiempo dedicar al trabajo trabajo,
por ejemplo.
Gracias.
Aquí hay cómodos respuestas.
La respuesta que pertenece
es no todo es así; no todo es así;
yo desmiento la mayor.
La ciencia no es así; la ciencia no puede ser así
y aquí estamos hablando de ciencia, que es
que estamos hablando de de ciencia y de otras cosas a la vez.
No?
Entonces debería decirlo.
Aquí está mi respuesta ahora,
desde un punto de vista estrictamente personal
y no relacionado con mi investigación.
Lo único que soy claro
es que todos los avances científicos desde los últimos 200 años
no han servido para reducir las horas de trabajo.
No veo por qué esto iba a servir,
para eso van a servir para lo mismo de siempre,
para que otros se lleven los beneficios,
pero desde luego no va a ser,
a nosotros nos va a beneficiar ese asunto.
Como digo,
esto es algo totalmente personal y en el mundo de la casi,
casi que de la, bueno, de otras cosas que no tienen que ver
con literaria.
Sí;
sí es una mirada sobre la industria muy pesimista.
Es es, es, hombre, era Guerra Civil unas y también por qué es evento,
es parte de la Semana de la ciencia,
y nos han dicho que aquí tenéis su qr,
es un formular y muy cortito.
Por si alguien quiere entrar y responder a a algunas preguntas,
no, para que yo también tengan conocimiento
un poco cómo ha ido función como funcionado la la charla
no y bueno, pues nada, gracias.
Yo creo que también hemos con esta charla visto que al final la ella
también toma decisiones que también tiene sus limitaciones.
No, también se equivoca exactamente igual
en qué nos la mondo, los manos no, y yo creo
que el mensaje de hoy es es una herramienta buenísima,
no porque hemos yo creo que hoy hemos dicho
todo lo malo vendiendo,
pero que al final todo el mundo sabe que es una herramienta muy buena,
pero yo creo que el mensaje es si se prudente no y ser también crítico
con la herramienta que tenemos, no, y que sin duda
va a ser parte de nosotros y que es parte de nosotros,
ya asignado.
Pues muchísimas gracias y, bueno, damos por finalizada la.
El elemento.