Continuamos esta mesa con nuestra siguiente ponente,
doña Lucía Otero López.
Lucía Otero López es psicóloga de formación,
especialista en gerontología social y en igualdad y no discriminación.
En el ámbito profesional se desempeña como técnica de la unidad
de emergencias de Cruz Roja en Galicia
y es responsable del equipo de intervención psicosocial
en emergencias.
Actualmente, Lucía cursa el máster en paz,
seguridad y defensa de Gutiérrez Meñado.
Su ponencia lleva por título "
De la ciencia ficción a la realidad.
Implicaciones éticas y de género de la inteligencia artificial
en la seguridad y en la defensa ".
Puede comenzar, Lucia.
Gracias.
Bueno, muchas gracias por la introducción.
Como podéis ver,
mi perfil enlista bastante de la mayoría que estáis aquí.
Y creo que en esta mesa de inteligencia artificial
mi aportación va a ser centrada en la parte ética
y moral que nos puede enseñar.
Ocasionar el uso de la inteligencia artificial
intentando adecuarlo a lo que son estrategias de seguridad y defensa.
Mi objetivo con esta ponencia no es dar respuesta a esas preguntas,
sino plantearlas o hacer reflexionar sobre estas cuestiones.
Es innegable que la inteligencia artificial
se ha extendido en nuestro día a día,
como en su momento pudo ser el uso de los teléfonos móviles,
Desde un uso más doméstico hasta áreas más empresariales,
incluso en la seguridad y defensa.
Y esto nos plantea ciertos dilemas éticos.
Los que yo me he planteado personalmente
es si la información que usa la inteligencia artificial
para tomar sus decisiones está o no sesgada
y hasta qué punto debería tomar decisiones de forma autónoma
sin una supervisión humana, vamos a decir.
Como os decía, con esta presentación
pretendo explorar esas implicaciones éticas
de género del uso de la inteligencia artificial en defensa
y un poco hacer reflexionar sobre esta cuestión.
Para mí, personalmente, que plantea problemas o cuestiones éticas
es innegable.
Al final, la inteligencia artificial no es más que una herramienta
creada por el ser humano con ventajas innegables e indiscutibles
en el uso y procesamiento de datos y de grandes cantidades de datos.
Pero un poco su limitación recaería en.
Su capacidad de tomar decisiones éticas de forma limitada.
Es decir, la compasión genuina es difícil de programar
siendo un valor abstracto en un algoritmo que es muy concreto.
Que nos lleva a la pregunta de si al final las decisiones humanas
son también o no cuestionables.
Para un poco invitar a la reflexión, me imagino que igual lo habréis leído
o lo conoceréis, he decidido usar el dilema del tranvía
porque me parece uno de los más clásicos y plantearle
a la inteligencia artificial cómo lo respondería y me gustaría
que cada uno de los que estamos aquí en nuestra cabeza
intentemos planteárnoslo.
El dilema es muy sencillo,
hay cinco personas maniatadas en una vía de tren
y un tranvía que se dirige a toda velocidad.
Hacia ellos
y se los va a llevar por delante.
Nosotros, como personas,
tenemos la capacidad de accionar una palanca
y desviar el tranvía a una vía secundaria
donde hay una única persona maniatada.
Y la pregunta es, ¿qué haces, qué hacemos?
La inteligencia artificial, concretamente yo se lo he planteado
a la herramienta que tenemos disponible en la universidad,
que es Copilot de Microsoft, y su respuesta
no ha sido una respuesta de sí o no, una respuesta clara,
sino que ha planteado diferentes cuestiones
a tener en cuenta.
Por un lado, el utilitarismo, es decir,
¿qué hace o maximiza el bienestar de la mayor parte de personas?
Bueno, pues no hacer nada y dejar que el tren se lleve
a cinco personas, porque cinco vale más que uno.
Luego estaría la parte deontológica y moral,
y es que es moralmente correcto o incorrecto.
Si yo tomo parte en esa acción
y acciono la palanca para salvar a esa persona,
estoy tomando acción directa,
mientras que si no hago nada, la situación ya estaba así
cuando yo llegué.
Y luego un poco qué haría un héroe, una persona virtuosa,
en base a sus criterios de valentía, de justicia,
de ética.
He decidido incluir un poco el tema de la desigualdad de género
en este contexto, por mi experiencia y mi formación.
Porque al final, como comentaba previamente,
los datos están sesgados y eso es algo que no se puede negar.
A nivel de género, la falta de representatividad de mujeres
en los datos históricos está ahí y al final la inteligencia artificial
lo que hace es usar datos que ya existen para trabajar y autoaprender
y crear algoritmos nuevos.
Concretamente en las materias de seguridad, defensa, tecnología,
ciencia y roles de liderazgo se hace más acrecentada esta falta
de representatividad femenina
y de otros colectivos que he incluido.
Estos datos que os pongo aquí son recientes,
yo creo que de los últimos dos años, del porcentaje de mujeres en España,
en distintas fuerzas y cuerpos de seguridad del Estado,
y es muy bajo, y cuanto más se avanza en roles de liderazgo,
más bajo es.
Los datos sesgados van a reproducir esos estereotipos de género,
y eso depende de nosotros como humanos.
Otra de las cuestiones sería sobre la responsabilidad legal
del uso de inteligencia artificial
o de lo que la inteligencia artificial pueda llegar a hacer,
vamos a ponernos en un supuesto,
donde se pueda automatizar.
Bueno, ¿de quién es esa responsabilidad?
En primer lugar, de los desarrolladores.
Ellos deberían.
Diseñar y crear
la inteligencia artificial teniendo en cuenta valores éticos,
transparencia, que haya diversidad en los datos que usen
y, por otro lado, los propios propietarios y usuarios,
el uso que cada uno hace de esa información
que la inteligencia artificial le pueda facilitar,
teniendo en cuenta que los desarrolladores,
propietarios y usuarios no dejan de ser seres humanos,
que tienen sus vinculaciones y sus influencias.
Con esto, yo creo que los retos que se plantean
o que nos podemos plantear con respecto a este tema
es que hay un sesgo en los datos,
una falta de representatividad de mujeres y de otros colectivos,
y conseguir la transparencia en los procesos de inteligencia artificial,
teniendo en cuenta de dónde vienen los datos y la importancia
de los datos ahora mismo, es un reto a tener en cuenta.
Un poco por ir cerrando esta presentación,
empieza a haber marcos regulatorios,
pero en la mesa anterior uno de los compañeros
decía que él hace 12 años había presentado algo sobre un tema
de automatización de armas, hace 12 años.
Y hoy estamos aquí y nos estamos planteando un poco
estas cuestiones, teniendo en cuenta que la inteligencia artificial
ya está formando parte de nuestra vida diaria.
La Unión Europea tiene desde el año
pasado una regulación específica para garantizar un poco
que se respeten los derechos y valores fundamentales
de las personas cuando se usa
la inteligencia artificial.
Es un enfoque basado en riesgo que divide en alto, medio y bajo
y en función de eso se toman unas medidas u otras.
Incluye prácticas prohibidas como.
Que se manipule a las personas, que se exploten vulnerabilidades
y que se clasifique de forma discriminatoria.
Bueno, esto es un poco cuestionable.
Ahora mismo en los portales de empleo de.
Que están abiertos al público,
se está utilizando inteligencia artificial
y se está sesgando a la población en base
más o menos a esto que en teoría está prohibido.
Con esto, yo creo que lo necesario es hacer regulaciones concretas
y específicas que intenten evitar estos efectos perjudiciales,
en este caso, un poco por el tema de la ponencia,
la discriminación de género.
Y un poco como conclusión, invitación a la reflexión.
La inteligencia artificial es algo que yo creo que viene
para quedarse y depende de nosotros cogerlo de una forma
y encaminarlo o no.
Las ventajas son innegables y no está exenta de inconvenientes.
El sesgo de género está y la falta de diversidad
en distintos perfiles influye y acrecenta estas desigualdades.
Las normativas de momento son muy vagas
y es necesario normativas más específicas.
Yo ahí me posiciono personalmente.
Yo creo que la supervisión humana es necesaria por lo menos
durante un largo tiempo
hasta que esto esté un poco más aterrizado y es necesario
y la forma un poco de iniciar y garantizar.
Que haya más representatividad
o que los datos estén menos sesgados,
es incluir en todas las fases de su desarrollo distintas
perspectivas.
Y un poco para ya como cierre
e invitar a la autocrítica.
Yo me planteaba un poco la cuestión
y no me la planteé al principio de hacerla
cuando empecé a escribir el ensayo.
Y si al final no estamos exigiendo a la inteligencia artificial
una moralidad que nosotros como seres humanos.
Bueno, puede ser un poco cuestionable
porque no se empezó a utilizar la IA en estrategias de seguridad
y en proyectos así un poco más a nivel político
hasta los años setenta.
Y previamente, incluso hoy en día, a mí se me vienen a la cabeza
muchas situaciones en las que quien ha cometido atrocidades
y barbaridades fue el ser humano, no fue la inteligencia artificial.
Entonces, esa es una reflexión con la que me gustaría quedarnos.
Y muchas gracias por vuestra atención.
Luego, en la ronda de preguntas, hablamos.
Muchas gracias, Lucía.