Hola, soy Isabel Cornejo Plaza,
soy catedrática Jean Monnet sobre comportamiento humano
y regulación de neurotecnología de la Universidad Autónoma de Chile
y en esta segunda parte del curso de Inteligencia Artificial
y Neurotecnología veremos precisamente las regulaciones
de las neurotecnologías.
Existe una preocupación multinivel, por así decir,
especialmente de organismos multilaterales por regular
las neurotecnologías.
Entre ellos tenemos, por ejemplo,
la OEA en América Latina
y el PARLATINO.
El PARLATINO es un conjunto de programas.
Donde se reúne el parlamento de los distintos estados latinoamericanos.
Además tenemos la ONU, UNESCO, la Organización Mundial de la Salud,
la OMS, UNIDROIT y el OCDE,
entre otros.
Pero esto principalmente a nivel global
ha manifestado una preocupación.
El draft o la directiva que actualmente se está trabajando,
la más reciente es la de UNESCO.
No es cierto que en su reunión del año pasado,
en abril del año pasado, digamos, se crea un grupo especial de expertos
para preparar un proyecto de texto de recomendación sobre la ética,
de la neurotecnología,
es decir, dar una visión de qué principio y valores
desde el punto de vista de la ética deberían dirigir
las diferentes regulaciones que posteriormente los países
quisieran darse en el ejercicio de su propia soberanía.
Este draft o borrador ya está siendo trabajado y en noviembre.
Se va a estrenar el primer documento,
la primera resolución que se ha desarrollado en UNESCO.
Para ello vamos a comenzar señalando qué es una neurotecnología.
La neurotecnología puede ser definida.
Según la revista Nature of Biotechnology,
en el 2007 la definió como cualquier desarrollo
que permita monitorear o modificar la función cerebral.
Luego en el 2019 la OSD retomó esta definición.
Identificando como neurotecnología a todos los dispositivos
y procedimientos que se utilizan para acceder, investigar, evaluar,
manipular y emular la estructura y función
de los sistemas neuronales.
El campo de la neurotecnología se puede dividir además
en diferentes subcampos dependiendo de su funcionamiento
y de su interacción con el sistema nervioso.
Por ejemplo, acá tenemos algunas diferentes neurotecnologías,
entre ellas acá tenemos la interfase cerebro-ordenador,
donde una persona es monitoreada a través de un computador que le da
ciertas órdenes, por así decir.
Ciertas instrucciones
y luego la persona también le da una instrucción
y por lo tanto se produce ya una comunicación directa
entre el cerebro de una persona y el computador.
Esto se llama Brain Computer Interface en inglés.
Es, por así decir, una de las neurotecnologías
que mayor preocupación de regulación está evidenciando actualmente
por los distintos organismos multilaterales.
Existen otras neurotecnologías muy antiguas,
como por ejemplo la electroinsafolografía,
que da señales eléctricas del cerebro humano.
Y, por cierto, no es invasiva porque no requiere una cirugía
ni intervenir con mayor sofisticación el cerebro humano,
sino que se utiliza una serie de electrodos
sobre el cuero cabelludo.
Una neurotecnología, ¿no es cierto?
, muy, muy sofisticada en la resonancia nuclear magnética,
especialmente la funcional, la functional magnetic
radiology imaging, ¿no es cierto?
, que hace o arroja diferentes cortes del cerebro humano,
lo cual permite inferir ciertas deducciones
e interpretar qué parte, ¿no es cierto?
, según las luces, los medios de contraste,
que arroja el cerebro humano,
le permite al técnico hacer ciertas inferencias
de dónde está inhibido o dónde está excitado
el sistema nervioso central.
Todas estas neurotecnologías se utilizan vastamente
en el ámbito terapéutico, pero, como hemos visto,
también se están utilizando en otros desarrollos,
y es aquí donde principalmente.
Se está poniendo la atención en la regulación,
es decir, cuando se utilizan en ámbitos
relacionados no con la salud, no para mejorar la salud,
sino que para el ámbito lúdico o comercial.
Otra neurotecnología es la optogenética,
que busca un control preciso y específico de la actividad celular
mediante la luz, la estimulación cerebral profunda,
donde esto ya es una neurotecnología distinta, directa e invasiva,
porque requiere, por cierto, una operación en el cerebro.
Y se utiliza para la depresión profunda,
para fobias sociales, para el Parkinson,
el Alzheimer, etc. Infusión neurofarmacológica.
Aquí esto se trata de procedimientos médicos
en el cual se administran medicamentos directamente
en el sistema nervioso central a través de una infusión continua.
Este método se utiliza para tratar variedad de condiciones
neurológicas y neuropsiquiátricas
mediante la administración de fármacos específicos
que modulan la actividad neuronal.
¿Cómo se podrán imaginar un aspecto importante de.
Las neurotecnologías es que utilizan gran cantidad de datos,
o recopilan gran cantidad de datos,
que en este ámbito se denominan neurodatos.
¿Qué son los neurodatos?
Son datos cuantitativos sobre la estructura,
la actividad y la función del sistema nervioso
de un organismo vivo.
Abarcan los datos relativos a la actividad de un sistema nervioso
incluyendo tanto las mediciones directas
de la estructura la actividad y o función neuronal
como por ejemplo el disparo neuronal o las señales bioeléctricas.
Sumadas de las electroesofalografías,
como los indicadores funcionales indirectos,
por ejemplo, un flujo sanguíneo detectado por la functional magnetic
radiology imaging, o a nivel neurobiológico,
los datos neuronales son los correlatos más directos
de los estados mentales,
ya que toda actividad cognitiva y afectiva
se procesa principalmente.
En el sistema nervioso.
Por tanto, la perspectiva de decodificar
o de modificar la actividad neuronal va a implicar la posibilidad
de decodificar o modificar a su vez procesos cognitivos y afectivos.
Los neurodatos, como hemos dicho,
son una parte crucial de la regulación
de las neurotecnologías.
También, por ejemplo, la Agencia Española de Protección de
Datos y la European Data Protection, ¿no es cierto?
, ha querido regularlos, ¿ya?
, porque no están precisamente incorporados
o se necesita incorporarlos, ¿no es cierto?
, en el GDPR, ¿no es cierto?
, de la Unión Europea.
Entonces,
esta es una de las novedades que trae este draft de ética
de las neurotecnologías que está actualmente elaborando UNESCO.
Es decir, la nueva irrupción de los datos de última generación,
por así decir, que son estos datos biométricos cognitivos
que podemos subclasificar a su vez en neurodatos y datos mentales.
Los datos neuronales o neurodatos,
así como otros datos recogidos de un determinado individuo
o grupo de individuos a través de los datos biométricos
y de biosensores, pueden procesarse y utilizarse para inferir
estados mentales que describimos en el presente documento
como datos biométricos cognitivos.
El procesamiento de datos neuronales y otros datos de biosensores,
especialmente si se apoyan en técnicas de inteligencia artificial,
pueden permitir inferencias sobre estados cognitivos,
afectivos, conativos, es decir,
inferir estados mentales del individuo.
Por lo tanto, los datos biométricos cognitivos
incluyen no solo datos neuronales,
sino también inferencias sobre estados mentales
realizados mediante el procesamiento de otros datos de biosensores.
Bien, la neurotecnología,
como vemos, presenta desafíos éticos, ¿no es cierto?
Sobre todo en lo que respecta a la anonimización
de esta especie de datos de última generación,
que son los datos biométricos cognitivos,
ya sean neurodatos o los datos mentales.
Porque la posibilidad de identificar a una persona en.
Con, digamos, intenciones inescrupulosas,
podrían llevar a una estigmatización,
una discriminación de la misma, ¿cierto?
O la revelación de correlatos neurobiológicos de enfermedades,
de trastornos, de estados mentales generales,
sin el consentimiento de su titular, podría, como hemos dicho,
llevar a a que la persona pueda ser discriminada,
pueda ser objeto de desigualdades muy fuertes
y por lo tanto afectar sus derechos humanos y fundamentales.
Dentro de los desafíos de la neurotecnología tenemos
que ésta plantea amenazas potenciales a la identidad
y a la agencia de la persona,
o sea la posibilidad de elegir.
Además.
Presenta una coerción implícita debido al desequilibrio de poder
y la desventaja competitiva.
Por ejemplo, si se utilizaran neurotecnologías para recabar
o para reclutar el personal a emplear.
Lo cierto es que sabemos que esta es una práctica que está prohibida
por el Artificial Intelligence Act,
pero en otros países, en la mayoría de los países en el mundo,
no está prohibido y por eso que las regulaciones
de neurotecnologías tienen un acento importante en este aspecto.
Por otro lado, la modulación de comportamientos individuales
de manera inesperada, no deseada y no consentida,
que podrían modificar, por ejemplo, la continuidad de la personalidad
de una persona, modificar.
También los aspectos identitarios y de identidad de la misma,
por lo tanto las neurotecnologías no son en ningún caso inocuas
o inofensivas,
sino más bien requieren estar en manos que obedezcan
a una regulación y a principios éticos claros
y establecidos.
La convergencia de los avances de la inteligencia artificial
con la neurotecnología plantea riesgos particulares
relacionados con sesgos algorítmicos, es decir,
una serie de prejuicios que se introducen
a través de estos datos, neurodatos o datos biométricos cognitivos
y que por lo tanto reproducen estructuralmente inequidades
o prejuicios que podrían.
Conculcar con los derechos humanos y fundamentales.
Además, podría existir falta de transparencia y riesgo
para la privacidad mental de las personas
y además aumentar la posibilidad de manipulación y elaboración
de perfiles.
Un acceso desigual a las neurotecnologías
y una distribución injusta de sus beneficios
debido a la desigualdad de recursos económicos,
la distribución actualmente distorsionada
del esfuerzo de inteligencia artificial más D en neurotecnología,
con la mayoría de las patentes más bien concentrada
en pocos países, podría, por cierto, ocasionar una.
A un aumento de la brecha de desigualdad
entre los mejor situados y los peor situados en la sociedad.
Por otro lado, la participación desigual
en el diseño y elección estratégica de las neurotecnologías.
Y finalmente, la explotación potencial de recursos comunitarios
y los conocimientos indígenas.
Por ejemplo, plantas medicinales y conocimientos originarios
no tienen actualmente un reconocimiento
y debería trabajarse más.
Porque en el mundo existe población originaria y comunidades indígenas,
por ejemplo en Oceanía, en Latinoamérica,
una población importante presenta esta condición.
Finalmente, una forma de construcción reciente,
novedosa de la neurotecnología está dado por los neuroderechos.
Los neuroderechos, es una irrupción, una construcción,
como hemos dicho, novedosa, que parte, por así decir,
ya en el 2000,
con una fuerte influencia norteamericana,
que pone fondo en la Dana Foundation,
en el año 2003 bajo la administración de Barack Obama
para descifrar el cerebro humano.
Y a partir del 2003 comienza un gran desarrollo que eclosiona
con un trabajo científico,
un artículo científico que presenta dos escuelas diferenciadas,
una en Norteamérica y otra en Europa,
que sin tener conocimiento entre ellas.
Llegan a la conclusión
de que deberían presentarse nuevos derechos humanos
en el ámbito del desarrollo de la neurotecnología,
porque impactan, como hemos dicho,
cuestiones que antes no habían sido evidenciadas.
El primer grupo que publica el Fourth Ethical Priority for
Neurotechnologies and
Artificial Intelligence en la revista Nature,
son el grupo de Rafael Yuste, Sara Goering,
et a el.
Un grupo muy nutrido del Dana Foundation
y del Morningside Group, que presentan
o proponen la elaboración de ciertos neuroderechos.
El derecho a la privacidad de la información
producida por la actividad cerebral,
a la cual es posible acceder a través de neurotecnología,
a lo que han denominado el privacy y el consent.
Dos, el derecho a la identidad personal
y a la autodeterminación, denominada agency en inglés.
El tercero, el derecho a la igualdad frente a la aumentación
de las capacidades cognitivas o cerebrales,
a augmentation o mejoramiento mental.
Y el cuarto es el derecho al control de sesgos algoritmos,
denominado BIAS.
Todas estas propuestas, como hemos dicho,
coinciden con la también propuesta de la escuela ya europea,
liderada por el paper publicado por Marcelo Yenka y Roberto Andorno
en 2017 también, denominado Tolbert New Human Rights
in the Age of
Neuroscience and Neurotechnology, publicado en la revista
Life Science, Society and Policy.
Ellos proponen como derechos humanos o neuroderechos
la libertad cognitiva, la continuidad psicológica,
la integridad mental y la privacidad mental.
Como hemos visto, no.
Contemplan el control o el derecho al control de sesgos algorítmicos
ni tampoco el derecho a la igualdad frente a la aumentación
de las capacidades cognitivas.
Pero el privacy o la libertad cognitiva
son los más consensuados de estos neuroderechos,
por así decir.
Los neuroderechos presentan o evidencian.
Desarrollos que actualmente podríamos consensuar ya
no como nuevos derechos humanos,
sino como nuevas dimensiones de derechos humanos
ya conocidos, donde se pone al centro y se podría decir
que en la literatura ya existe mayor consenso doctrinario
en el ámbito de la libertad cognitiva,
de la privacidad mental.
Estos son los dos neuroderechos,
como hemos dicho anteriormente, más prevalentes e importantes,
sin perjuicio de que los demás, como la integridad mental,
también presentan, por así decir, un desarrollo muy fecundo.
A nivel global, Chile presenta una constitucionalización,
es decir, el rasgo de mayor jerarquía,
para la protección de estos derechos.
Neuroderechos.
Ya en el año 2021 se incorpora al artículo 19 número 1
de la carta fundamental en su inciso final
un apartado que protege la actividad cerebral
y en la historia fidedigna del establecimiento
de esta reforma constitucional se puede leer que se incorpora.
Todos los neuroderechos,
tanto los de la escuela de Rafael Yuste
como la escuela de Yenka y Andorno.
Muchas gracias.