WEBVTT
0
00:00:08.520 --> 00:00:08.995
Hola,

1
00:00:09.045 --> 00:00:14.020
soy María Isabel Cornejo Plaza, 
catedrática Jean Monnet y profesora 

2
00:00:14.160 --> 00:00:16.000
de la Universidad Autónoma de Chile.

3
00:00:16.200 --> 00:00:20.180
El día de hoy veremos el curso 
sobre la primera parte, 

4
00:00:20.300 --> 00:00:23.505
sobre integridad en investigación 
biomédica, 

5
00:00:23.555 --> 00:00:25.820
el uso de neurodatos en salud.

6
00:00:26.180 --> 00:00:29.420
Veremos en esta primera parte 
los principios éticos, 

7
00:00:29.500 --> 00:00:32.740
la gobernanza y los consorcios 
de investigación. 

8
00:00:36.530 --> 00:00:39.125
Bien, ¿qué es la investigación 
científica? 

9
00:00:39.175 --> 00:00:42.345
Existen diferentes criterios 
para definir 

10
00:00:42.395 --> 00:00:45.185
de qué hablamos cuando hablamos 
de investigación científica, 

11
00:00:45.235 --> 00:00:50.210
pero todos coinciden en que hablamos 
de investigación científica 

12
00:00:52.410 --> 00:00:57.065
cuando existe una sustancia 
metodológica 

13
00:00:57.115 --> 00:01:01.330
frente a meras etiquetas comerciales 
o opiniones. 

14
00:01:01.750 --> 00:01:06.750
Un sustento científico está basado 
en una metodología consensuada 

15
00:01:09.130 --> 00:01:14.130
y esta metodología consensuada 
está basada. 

16
00:01:19.140 --> 00:01:24.140
Adscrita a un test, por así decir, 
que depende de seis factores. 

17
00:01:24.560 --> 00:01:28.135
La metodología científica 
debe ser rigurosa 

18
00:01:28.185 --> 00:01:32.395
y debe contener un diseño de 
investigación formulado, 

19
00:01:32.445 --> 00:01:36.275
la formulación de la hipótesis clara

20
00:01:36.325 --> 00:01:39.000
y los objetivos de conocimiento 
colectivo. 

21
00:01:40.110 --> 00:01:43.450
Que en el ámbito de las ciencias 
duras, por así decir, 

22
00:01:43.670 --> 00:01:48.670
implica que esa hipótesis pueda 
ser posteriormente refutada 

23
00:01:48.990 --> 00:01:52.150
o pueda ser reafirmada.

24
00:01:53.650 --> 00:01:56.850
Lo mismo en el ámbito de 
las ciencias sociales. 

25
00:01:57.290 --> 00:02:02.290
Y posteriormente debe existir una 
supervisión ética independiente, 

26
00:02:03.030 --> 00:02:07.525
dada o garantizada esta 
independencia por comités de ética 

27
00:02:07.575 --> 00:02:08.438
de investigación.

28
00:02:10.660 --> 00:02:14.395
Además, deben existir criterios 
de exclusión, 

29
00:02:14.445 --> 00:02:19.420
es decir, una optimización interna 
de un producto, por ejemplo, 

30
00:02:20.800 --> 00:02:23.189
que utilice sistemas de inteligencia 
artificial, 

31
00:02:25.200 --> 00:02:28.615
no tenga la intención de publicar, 
¿no es cierto? 

32
00:02:28.665 --> 00:02:33.640
, la vigilancia post 
comercialización sin un plan de difusión transparente 

33
00:02:35.200 --> 00:02:37.560
o el business intelligence,

34
00:02:37.960 --> 00:02:42.960
es decir, el sistema de 
negocio inteligente 

35
00:02:44.300 --> 00:02:49.300
que utilice datos de pacientes 
sin la metodología aprobada. 

36
00:02:51.750 --> 00:02:55.345
Bueno, obviamente debe existir 
un equilibrio de derechos 

37
00:02:55.395 --> 00:02:57.350
que está dado por las garantías.

38
00:02:58.660 --> 00:03:03.660
Contenidas en el artículo 89 del 
RGP, o el Reglamento de Protección de 

39
00:03:05.640 --> 00:03:07.875
Datos Personales de la Unión Europea,

40
00:03:07.925 --> 00:03:10.795
que nos habla, no es cierto, 
de un régimen favorable 

41
00:03:10.845 --> 00:03:15.120
para la investigación que exige 
garantías adecuadas. 

42
00:03:15.280 --> 00:03:18.635
Además, la aplicación 
debe ser estricta, 

43
00:03:18.685 --> 00:03:23.060
de minimización y 
pseudo-anonimización. 

44
00:03:23.160 --> 00:03:24.420
Y, por cierto,

45
00:03:24.540 --> 00:03:27.665
debe existir una protección adecuada 
de la libertad de investigación 

46
00:03:27.715 --> 00:03:32.690
salvaguardando en este caso al 
paciente o al sujeto de investigación 

47
00:03:33.130 --> 00:03:35.450
si corresponde.

48
00:03:37.820 --> 00:03:40.935
Bien, cuando hablamos de 
los principios éticos 

49
00:03:40.985 --> 00:03:43.815
en investigación, que 
en neurotecnología, 

50
00:03:43.865 --> 00:03:48.360
que normalmente converge con además 
el uso de inteligencia artificial, 

51
00:03:48.560 --> 00:03:52.820
debemos velar por la protección 
de valores fundamentales. 

52
00:03:52.940 --> 00:03:55.300
Entonces, en el núcleo bioético,

53
00:03:55.460 --> 00:03:58.040
que en el ámbito del uso 
de neurotecnología, 

54
00:03:59.240 --> 00:04:03.900
Se llama neuroética, neuroética 
práctica, por así decir, 

55
00:04:04.080 --> 00:04:07.455
que no es ni más ni menos 
que el conjunto 

56
00:04:07.505 --> 00:04:12.480
de todos los principios y valores 
que se utilizan en el ámbito bioético, 

57
00:04:13.560 --> 00:04:17.579
pero aplicado a la investigación 
del sistema nervioso central. 

58
00:04:18.340 --> 00:04:20.975
Entonces, esta neuroética práctica

59
00:04:21.025 --> 00:04:25.385
tiene este núcleo basado también 
en la dignidad, 

60
00:04:25.435 --> 00:04:29.740
en el respeto por la dignidad humana 
y la integridad mental. 

61
00:04:29.820 --> 00:04:34.820
Es decir, debe existir una 
protección de dignidad. 

62
00:04:35.760 --> 00:04:40.175
La inviolabilidad de la mente, 
la inviolabilidad cerebral 

63
00:04:40.225 --> 00:04:44.840
o la inviolabilidad de este 
sistema nervioso central. 

64
00:04:45.100 --> 00:04:48.735
Esto no quiere decir que estemos 
siendo reduccionistas 

65
00:04:48.785 --> 00:04:50.520
y que estemos protegiendo un órgano.

66
00:04:51.120 --> 00:04:54.575
Sino que se está protegiendo 
por supuesto a la persona 

67
00:04:54.625 --> 00:04:59.375
lo que pasa es que en el ámbito 
de la neurotecnología 

68
00:04:59.425 --> 00:05:03.815
el órgano dado por el cerebro 
dado por la protección 

69
00:05:03.865 --> 00:05:08.840
del sistema nervioso central tiene 
ciertas características que implican 

70
00:05:09.840 --> 00:05:14.840
que se resguarde la memoria el 
pensamiento donde se producen 

71
00:05:17.030 --> 00:05:20.950
todas las estructuras 
del libre albedrío, 

72
00:05:21.130 --> 00:05:23.350
de la responsabilidad, de 
la autonomía moral, 

73
00:05:23.610 --> 00:05:28.610
etc. Entonces, valores como 
la autonomía cognitiva 

74
00:05:29.110 --> 00:05:34.110
y la autodeterminación pretenden 
resguardar la libertad 

75
00:05:35.050 --> 00:05:39.470
frente a ciertas modificaciones 
forzadas que. 

76
00:05:40.670 --> 00:05:41.950
Forzadas o no forzadas,

77
00:05:42.030 --> 00:05:46.785
pero que es posible al día 
de hoy que existan 

78
00:05:46.835 --> 00:05:49.605
a través de estos desarrollos 
de la neurotecnología 

79
00:05:49.655 --> 00:05:51.074
y la inteligencia artificial.

80
00:05:52.230 --> 00:05:57.230
Por otro lado, otro valor 
fundamental es hablar de solidaridad digital, 

81
00:05:59.210 --> 00:06:04.210
es decir, compartir datos para 
el bien común global. 

82
00:06:05.140 --> 00:06:08.275
Una especie de, no de altruismo,

83
00:06:08.325 --> 00:06:10.780
porque altruismo se contrapone 
a egoísmo, 

84
00:06:10.860 --> 00:06:15.860
pero sí tiene elementos de 
poder compartir aquello 

85
00:06:16.600 --> 00:06:21.600
que necesitamos para poder 
investigar cuestiones que nos pueden impactar 

86
00:06:24.580 --> 00:06:25.820
a todos globalmente.

87
00:06:26.120 --> 00:06:30.720
Entonces, en ese sentido, sabemos 
que el paradigma propietario. 

88
00:06:31.530 --> 00:06:33.085
De los datos, es decir,

89
00:06:33.135 --> 00:06:36.510
que la persona titular del dato 
es quien puede usar, 

90
00:06:36.710 --> 00:06:41.385
gozar y disponer de ello 
arbitrariamente, deberíamos pensar 

91
00:06:41.435 --> 00:06:46.410
que se está desquebrajando 
en el ámbito digital, 

92
00:06:46.610 --> 00:06:48.050
porque algunos de estos.

93
00:06:49.430 --> 00:06:54.150
Propios del paradigma propietario, 
deberían dar espacio, 

94
00:06:54.430 --> 00:06:59.430
oxigenación para investigar con 
todos los resguardos y protecciones 

95
00:07:00.890 --> 00:07:02.565
a las garantías fundamentales

96
00:07:02.615 --> 00:07:06.785
y a los derechos fundamentales de 
las personas para poder entender 

97
00:07:06.835 --> 00:07:11.810
en mejor medida cómo funciona y qué 
es lo que realmente sería mejor 

98
00:07:14.050 --> 00:07:17.810
del uso de la neurotecnología y 
la inteligencia artificial. 

99
00:07:19.330 --> 00:07:24.330
Otro principio de actuación 
fundamental 

100
00:07:24.410 --> 00:07:28.905
que debe guiar al investigador 
en el ámbito 

101
00:07:28.955 --> 00:07:33.075
de los estudios con neurotecnología 
inteligente artificial es, 

102
00:07:33.125 --> 00:07:38.110
por supuesto, aplicar, el principio 
de precaución y proporcionalidad. 

103
00:07:38.520 --> 00:07:42.655
Es decir, debe existir una 
correcta evaluación 

104
00:07:42.705 --> 00:07:47.680
anticipada de los riesgos de 
utilizar neurotecnología para las personas. 

105
00:07:48.820 --> 00:07:49.960
¿Por qué?

106
00:07:50.060 --> 00:07:53.735
Porque puede incidir en cuestiones 
fundamentales 

107
00:07:53.785 --> 00:07:58.760
como la agencia, el control humano, 
la identidad de la persona, 

108
00:08:00.520 --> 00:08:03.880
la integridad de la persona, 
etcétera. 

109
00:08:05.180 --> 00:08:10.180
Es decir, debe ponerse siempre en 
el centro a la persona humana, 

110
00:08:10.460 --> 00:08:12.840
por eso se habla del 
human in the loop, 

111
00:08:12.960 --> 00:08:17.960
para evitar las automatizaciones 
opacas. 

112
00:08:18.520 --> 00:08:20.860
Y esto nos lleva al siguiente 
principio. 

113
00:08:21.850 --> 00:08:24.905
El principio dado por 
la transparencia 

114
00:08:24.955 --> 00:08:29.930
y la explicabilidad, que no es más 
que un correlato o una derivada 

115
00:08:30.850 --> 00:08:33.465
del principio de responsabilidad,

116
00:08:33.515 --> 00:08:37.930
como muy bien dice la profesora 
constitucionalista Yolanda Gómez. 

117
00:08:38.150 --> 00:08:43.150
Es decir, la transparencia 
y la explicabilidad, 

118
00:08:44.150 --> 00:08:49.150
que desde el punto de vista 
técnico no es absoluta, 

119
00:08:50.780 --> 00:08:55.080
debería ser una consecuencia 
de un actuar responsable. 

120
00:08:55.160 --> 00:08:55.935
¿Por qué?

121
00:08:55.985 --> 00:09:00.980
Porque esto implica una claridad 
sobre los algoritmos decodificadores 

122
00:09:02.540 --> 00:09:04.175
o el uso de los algoritmos,

123
00:09:04.225 --> 00:09:06.780
o sea, el uso correcto de 
una neurotecnología, 

124
00:09:06.880 --> 00:09:11.880
implica también que en 
el diseño pueda. 

125
00:09:13.800 --> 00:09:18.360
Ponerse atención en la mayor 
medida de lo posible, 

126
00:09:18.460 --> 00:09:23.135
porque sabemos que la inteligencia 
artificial utiliza esta caja negra 

127
00:09:23.185 --> 00:09:28.160
y que aunque se introduzcan datos en 
el input, el output o la salida, 

128
00:09:30.760 --> 00:09:35.760
no siempre se sabe con precisión 
cómo es que actúa el algoritmo. 

129
00:09:37.910 --> 00:09:40.705
Pero cada vez los desarrollos,

130
00:09:40.755 --> 00:09:45.730
desde la primera etapa de 
una investigación, 

131
00:09:47.010 --> 00:09:52.010
debería ponerse atención en entender 
que esos desarrollos 

132
00:09:52.450 --> 00:09:56.745
y esa evolución tecnológica debe 
poner especialmente énfasis 

133
00:09:56.795 --> 00:10:01.770
en cómo esos algoritmos puedan 
ser explicados. 

134
00:10:04.240 --> 00:10:09.240
En la medida de lo posible porque 
dan lugar a una trazabilidad 

135
00:10:09.340 --> 00:10:14.340
para poder eventualmente entender 
dónde estuvo el nudo 

136
00:10:14.680 --> 00:10:17.840
de una eventual responsabilidad.

137
00:10:18.700 --> 00:10:22.815
Por otro lado, al hablar 
de diversidad 

138
00:10:22.865 --> 00:10:26.835
y de justicia, Un principio 
fundamental 

139
00:10:26.885 --> 00:10:31.580
en la aplicación de la investigación 
con neurotecnología es la equidad, 

140
00:10:31.700 --> 00:10:33.555
la equidad científica.

141
00:10:33.605 --> 00:10:35.220
¿Y acá a qué nos referimos?

142
00:10:35.360 --> 00:10:40.360
Nos referimos a que no exista una 
discriminación algorítmica 

143
00:10:41.140 --> 00:10:46.140
y esto nos lleva a entender 
los sesgos, 

144
00:10:46.300 --> 00:10:49.175
que los datos con los 
cuales se alimenta 

145
00:10:49.225 --> 00:10:52.575
la inteligencia artificial y 
la neurotecnología deben 

146
00:10:52.625 --> 00:10:53.760
estar tratados.

147
00:10:54.480 --> 00:10:58.095
La jerga de datos es curados, 
¿no es cierto? 

148
00:10:58.145 --> 00:11:01.715
Debe existir una correcta curación 
y tratamiento de los datos 

149
00:11:01.765 --> 00:11:03.940
para evitar los sesgos.

150
00:11:04.280 --> 00:11:05.940
Varios son los sesgos,

151
00:11:06.000 --> 00:11:08.875
pero en el ámbito de la 
equidad científica 

152
00:11:08.925 --> 00:11:10.855
que exista, ¿no es cierto?

153
00:11:10.905 --> 00:11:14.695
No existe una discriminación, una 
discriminación de género, 

154
00:11:14.745 --> 00:11:17.315
una discriminación cognitiva

155
00:11:17.365 --> 00:11:20.660
o todas las que pudiesen 
eventualmente existir. 

156
00:11:21.080 --> 00:11:23.960
Entonces, esto va a poder.

157
00:11:25.420 --> 00:11:30.420
Efectivamente disminuir hasta llegar 
a un umbral permitido los sesgos 

158
00:11:33.860 --> 00:11:38.680
que eventualmente pueden incurrirse 
si no se trata bien los datos. 

159
00:11:38.960 --> 00:11:42.200
Por otro lado, la inclusión.

160
00:11:43.460 --> 00:11:45.080
En perspectiva intercultural,

161
00:11:45.360 --> 00:11:49.635
sobre todo en los países 
en que existen, 

162
00:11:49.685 --> 00:11:54.660
o las regiones del mundo donde 
existe una cohabitación intercultural 

163
00:11:55.580 --> 00:11:59.135
importante, ya sea, por ejemplo, 
en Latinoamérica, 

164
00:11:59.185 --> 00:12:03.835
que se trata de una población 
eminentemente mestiza, 

165
00:12:03.885 --> 00:12:08.880
con fuerte población indígena, 
Es muy importante incluir 

166
00:12:15.330 --> 00:12:20.330
y entender esas cosmovisiones, 
porque muchas veces 

167
00:12:20.830 --> 00:12:24.365
si no se incorporan estos 
diseños en los datos, 

168
00:12:24.415 --> 00:12:29.410
solamente vamos a tener datos 
extraídos de, por ejemplo, 

169
00:12:29.690 --> 00:12:34.690
el norte global, O datos que 
pudiesen ser más bien masculinizados 

170
00:12:36.760 --> 00:12:39.555
y no ingresar, ¿no es cierto?

171
00:12:39.605 --> 00:12:44.580
, datos que tengan este componente 
de género o interseccional, etc. 

172
00:12:45.700 --> 00:12:50.655
Por otro lado, tenemos que hablar 
de la rendición de cuentas 

173
00:12:50.705 --> 00:12:53.760
o el accountability en inglés, que.

174
00:12:54.630 --> 00:12:58.145
Implica tener presente conciencia

175
00:12:58.195 --> 00:13:00.525
que durante todo el proceso 
de investigación 

176
00:13:00.575 --> 00:13:05.550
se deben realizar desarrollos que 
puedan tener esta trazabilidad 

177
00:13:06.290 --> 00:13:11.290
para dar cuenta durante todo el 
siglo de vida del proyecto. 

178
00:13:16.190 --> 00:13:20.010
Existen regímenes dobles, 
por así decir, 

179
00:13:20.210 --> 00:13:25.210
que están resguardados en 
tanto los artículos 6º 

180
00:13:26.250 --> 00:13:29.185
como 9º del Reglamento 
de Protección de 

181
00:13:29.235 --> 00:13:31.605
Datos Personales de la Unión Europea,

182
00:13:31.655 --> 00:13:34.470
que refuerzan.

183
00:13:34.940 --> 00:13:37.275
Las bases legitimadoras 
para el tratamiento 

184
00:13:37.325 --> 00:13:39.400
de los neurodatos en investigación.

185
00:13:39.880 --> 00:13:43.585
Entonces, aspectos relacionados 
con el consentimiento, 

186
00:13:43.635 --> 00:13:48.620
que debe ser explícito, que 
debe ser específico, 

187
00:13:49.200 --> 00:13:54.200
que debe estar delimitado por 
áreas de investigación 

188
00:13:54.860 --> 00:13:56.940
y de revisión ética.

189
00:13:57.000 --> 00:13:59.980
Tiene que también existir 
un interés público, 

190
00:14:00.220 --> 00:14:01.720
un interés público específico,

191
00:14:03.010 --> 00:14:06.890
con excepción de los ámbitos de 
salud pública e investigación, 

192
00:14:07.390 --> 00:14:10.625
pero que en los proyectos 
públicos en el ámbito 

193
00:14:10.675 --> 00:14:14.465
de la inteligencia artificial y de 
los neurodatos biométricos, 

194
00:14:14.515 --> 00:14:19.490
debe existir proyectos o alianzas 
con metadatos legales 

195
00:14:20.710 --> 00:14:21.610
claros.

196
00:14:22.230 --> 00:14:25.510
Por otro lado, en el ámbito 
del interés legítimo, 

197
00:14:25.590 --> 00:14:30.505
tenemos que la investigación 
científica, 

198
00:14:30.555 --> 00:14:32.030
cuando está.

199
00:14:33.730 --> 00:14:37.005
Dirigida por entidades 
privadas requieren 

200
00:14:37.055 --> 00:14:40.905
de un test de ponderación y 
salvaguardas que están contenidas 

201
00:14:40.955 --> 00:14:43.695
en el artículo 89, ustedes 
podrán revisar, 

202
00:14:43.745 --> 00:14:47.055
del Reglamento de Protección de 
Datos Personales de la Unión Europea. 

203
00:14:47.105 --> 00:14:50.730
Y las obligaciones legales, 
¿no es cierto? 

204
00:14:52.670 --> 00:14:56.065
, relacionadas con el tratamiento 
por profesionales sanitarios 

205
00:14:56.115 --> 00:15:01.090
bajo secreto profesional para 
diagnóstico biomédico. 

206
00:15:01.370 --> 00:15:06.355
Tiene que estar resguardada por 
la confidencialidad propia 

207
00:15:06.405 --> 00:15:07.223
de esta relación.

208
00:15:08.810 --> 00:15:13.810
Ahora bien, en la 
reconceptualización del consentimiento informado 

209
00:15:13.910 --> 00:15:17.095
en el ámbito de la investigación 
con neurotecnologías, 

210
00:15:17.145 --> 00:15:18.070
tenemos.

211
00:15:20.710 --> 00:15:23.235
Los modelos clásicos,

212
00:15:23.285 --> 00:15:27.790
en que se habla del consentimiento 
tradicional, 

213
00:15:28.230 --> 00:15:31.605
que asume un sujeto sano en 
posición de negociación, 

214
00:15:31.655 --> 00:15:32.963
en igualdad de condiciones,

215
00:15:33.330 --> 00:15:36.445
acá hablamos de pacientes 
con deterioro cognitivo 

216
00:15:36.495 --> 00:15:41.160
o parálisis que no pueden cumplir 
este estándar, Entonces, 

217
00:15:41.340 --> 00:15:46.120
aquí hay riesgos de exclusión 
de ciertos beneficiarios. 

218
00:15:46.240 --> 00:15:50.540
Entonces, ahí nos vamos a 
la normativa general. 

219
00:15:50.640 --> 00:15:55.640
Entonces, cuando un paciente tiene 
algún daño cognitivo que le permita 

220
00:15:56.160 --> 00:16:01.160
que tenga, digamos, repercusión 
en su competencia cognitiva, 

221
00:16:02.020 --> 00:16:06.420
debe actuar representado por su 
representante legal, ¿verdad? 

222
00:16:07.430 --> 00:16:10.095
, Ahora, el consentimiento 
cualificado, 

223
00:16:10.145 --> 00:16:10.797
¿cuál es este?

224
00:16:11.070 --> 00:16:15.645
Este es el que exige información 
explícita sobre efectos físicos, 

225
00:16:15.695 --> 00:16:17.570
emocionales y cognitivos.

226
00:16:17.770 --> 00:16:20.845
Tiene advertencias sobre 
la reversibilidad 

227
00:16:20.895 --> 00:16:25.465
de las intervenciones neurales y 
los riesgos de manipulación 

228
00:16:25.515 --> 00:16:28.565
y la evaluación de capacidades 
progresivas 

229
00:16:28.615 --> 00:16:30.930
y apoyo en las tomas de decisiones.

230
00:16:31.030 --> 00:16:33.650
Y finalmente el consentimiento 
dinámico, 

231
00:16:34.600 --> 00:16:39.215
que se utiliza, por ejemplo, en 
el ámbito de los biobancos, 

232
00:16:39.265 --> 00:16:44.240
que permite al participante 
actualizar autorizaciones 

233
00:16:44.320 --> 00:16:46.400
mediante las plataformas digitales.

234
00:16:47.640 --> 00:16:50.455
También es idóneo para estudios 
longitudinales 

235
00:16:50.505 --> 00:16:54.895
con la reutilización de neurodatos 
e inteligencia artificial 

236
00:16:54.945 --> 00:16:59.920
y está expresamente reconocido 
por la gobernanza de datos 

237
00:17:01.020 --> 00:17:05.540
y el espacio de datos personales 
biomédicos. 

238
00:17:06.360 --> 00:17:10.720
Ahora bien, la gobernanza 
y la responsabilidad. 

239
00:17:11.370 --> 00:17:15.030
Por los consorcios de inteligencia 
artificial en ámbito biomédico. 

240
00:17:15.130 --> 00:17:19.564
Es un concepto funcional de 
responsabilidad para alianzas 

241
00:17:19.615 --> 00:17:21.625
que se puedan producir 
entre hospitales, 

242
00:17:21.675 --> 00:17:24.470
universidades y el mundo privado.

243
00:17:25.740 --> 00:17:29.875
Aquí el escritorio funcional está 
dado por la responsabilidad, 

244
00:17:29.925 --> 00:17:33.785
que no depende de quien posee 
materialmente el dato o la muestra, 

245
00:17:33.835 --> 00:17:34.655
o sea su titular,

246
00:17:34.705 --> 00:17:38.955
sino que lo decisivo es quien 
determina efectivamente los fines 

247
00:17:39.005 --> 00:17:40.900
y los medios de este proyecto.

248
00:17:41.280 --> 00:17:45.500
Y el examen está dado 
por caso a caso, 

249
00:17:45.560 --> 00:17:50.560
hay una casuística importante del 
rol de cada integrante en el consorcio. 

250
00:17:52.410 --> 00:17:52.885
Ahora,

251
00:17:52.935 --> 00:17:57.910
la corresponsabilidad está dada por 
la aplicación de estos entes 

252
00:17:59.130 --> 00:18:01.605
cuando el hospital y la empresa 
desarrolladora 

253
00:18:01.655 --> 00:18:04.890
co-determinan el modelo de 
inteligencia artificial, 

254
00:18:06.050 --> 00:18:09.765
exige un acuerdo transparente 
de corresponsabilidad 

255
00:18:09.815 --> 00:18:14.790
formalmente documentado, suscrito 
entre los entes participantes 

256
00:18:15.430 --> 00:18:20.430
y, por otro lado, en el ámbito 
de las cláusulas esenciales 

257
00:18:22.590 --> 00:18:25.850
en el contrato entre estos 
entes de los consorcios, 

258
00:18:25.970 --> 00:18:28.635
hay puntos relevantes que 
no pueden faltar, 

259
00:18:28.685 --> 00:18:32.005
como por ejemplo el ejercicio de 
derechos de los pacientes, 

260
00:18:32.055 --> 00:18:36.650
el resguardo de los derechos 
que tiene el paciente, 

261
00:18:36.790 --> 00:18:39.910
la distribución de responsabilidad 
en materia de seguridad, 

262
00:18:40.210 --> 00:18:41.225
¿no es cierto?

263
00:18:41.275 --> 00:18:43.025
, y los límites de la propiedad 
intelectual 

264
00:18:43.075 --> 00:18:45.870
sobre los modelos derivados 
de los datos en salud. 

265
00:18:49.650 --> 00:18:53.425
Obviamente, todo lo referente 
a la anonimización, 

266
00:18:53.475 --> 00:18:57.825
pseudonimización y riesgo de 
reidentificación, ¿no es cierto? 

267
00:18:57.875 --> 00:18:59.845
, de los datos derivados 
de estos pacientes, 

268
00:18:59.895 --> 00:19:01.845
prohibición de captura masiva

269
00:19:01.895 --> 00:19:04.450
e indeterminada de señales 
cerebrales. 

270
00:19:04.610 --> 00:19:08.885
Solo deben recopilarse los 
neurodatos estrictamente necesarios 

271
00:19:08.935 --> 00:19:13.530
para resguardar la hipótesis y el 
desarrollo de la investigación. 

272
00:19:14.230 --> 00:19:18.390
Además, los procesamientos 
prioritarios de datos no personales. 

273
00:19:19.020 --> 00:19:20.340
O anonimizados.

274
00:19:21.080 --> 00:19:26.080
El ámbito de los riesgos de 
reidentificación se debe mitigar 

275
00:19:26.980 --> 00:19:31.980
a través de que las ondas cerebrales 
y los datos biométricos cognitivos 

276
00:19:32.980 --> 00:19:35.720
poseen una alta singularidad 
individual. 

277
00:19:36.080 --> 00:19:40.160
Es por eso y de ahí deriva su riesgo.

278
00:19:40.900 --> 00:19:43.355
Entonces, los avances en 
inteligencia artificial 

279
00:19:43.405 --> 00:19:48.235
permiten reidentificar sujetos 
a partir de estos microdatos 

280
00:19:48.285 --> 00:19:51.255
anonimizados y los sistemas 
de Machine Learning 

281
00:19:51.305 --> 00:19:56.280
pueden cruzar fuentes externas 
para vulnerar el anonimato. 

282
00:19:56.940 --> 00:20:00.295
Por lo tanto, la obligación de 
procesar datos sensibles 

283
00:20:00.345 --> 00:20:03.820
en entornos cerrados y federados.

284
00:20:04.480 --> 00:20:07.075
El uso de aprendizaje federado,

285
00:20:07.125 --> 00:20:11.440
es decir, interrogar datos 
sin moverlos, 

286
00:20:11.520 --> 00:20:15.175
y la encriptación avanzada 
y protocolos estrictos 

287
00:20:15.225 --> 00:20:18.875
de descarga de resultados permiten 
un entorno seguro 

288
00:20:18.925 --> 00:20:23.140
para el trabajo en investigación 
con neurodatos. 

289
00:20:25.450 --> 00:20:30.450
Ahora, ya hemos hablado de la 
solidaridad de los datos. 

290
00:20:31.830 --> 00:20:36.830
Esto nos deriva a un ámbito 
un poco más específico, 

291
00:20:37.550 --> 00:20:40.730
pero muy importante, que es 
el altruismo de datos, 

292
00:20:40.850 --> 00:20:45.850
que está expresamente contemplado 
en las normativas presentes 

293
00:20:46.610 --> 00:20:50.385
en la Unión Europea, a través 
de la cesión voluntaria 

294
00:20:50.435 --> 00:20:54.890
y sin compensación económica de 
datos de salud para fines generales. 

295
00:20:55.380 --> 00:20:58.215
O en el registro oficial de 
organizaciones de altruismo 

296
00:20:58.265 --> 00:21:01.075
de datos reconocidos por 
la Unión Europea, 

297
00:21:01.125 --> 00:21:04.755
que encaja con la lógica solidaria 
y de bien común 

298
00:21:04.805 --> 00:21:06.600
en investigación biomédica.

299
00:21:07.280 --> 00:21:09.455
También hay reglas específicas

300
00:21:09.505 --> 00:21:12.440
para los biobancos que aplican 
almacenes clínicos, 

301
00:21:12.620 --> 00:21:15.995
archivos de imágenes y repositorios 
genómicos 

302
00:21:16.045 --> 00:21:17.695
y también de neurodatos.

303
00:21:17.745 --> 00:21:19.855
La conservación válida solo

304
00:21:19.905 --> 00:21:22.935
para la investigación razonablemente 
previsible 

305
00:21:22.985 --> 00:21:26.155
y la prohibición de conservación 
indefinida 

306
00:21:26.205 --> 00:21:31.180
para cualquier uso futuro de 
estos datos especiales 

307
00:21:31.560 --> 00:21:32.355
que se utilizan

308
00:21:32.405 --> 00:21:35.640
o pueden utilizarse en sistemas 
de inteligencia artificial. 

309
00:21:37.550 --> 00:21:41.085
Ahora bien, es importante que 
todos estos resguardos 

310
00:21:41.135 --> 00:21:43.425
se hagan de la manera más segura.

311
00:21:43.475 --> 00:21:43.945
¿Por qué?

312
00:21:43.995 --> 00:21:46.765
Porque impactan precisamente 
en la confianza pública 

313
00:21:46.815 --> 00:21:51.790
que implica mecanismos de control 
democráticos e institucionales 

314
00:21:52.890 --> 00:21:55.050
sobre estos repositorios.

315
00:21:55.390 --> 00:22:00.390
La transparencia en la concesión de 
acceso a investigadores públicos 

316
00:22:01.170 --> 00:22:02.630
y privados es importante.

317
00:22:02.870 --> 00:22:07.090
También las salvaguardas contra 
la bioperote, bioperote. 

318
00:22:08.230 --> 00:22:13.230
Piratería de datos que existe y la 
aprobación comercial exclusiva. 

319
00:22:15.310 --> 00:22:19.965
Ahora bien, última cuestión, 
es relacionada 

320
00:22:20.015 --> 00:22:24.525
con la convergencia regulatoria dada 
por el Reglamento de Protección de 

321
00:22:24.575 --> 00:22:27.645
Datos Personales y la Artificial 
Intelligence Act 

322
00:22:27.695 --> 00:22:32.325
o Reglamento de Inteligencia 
Artificial de la Unión Europea, 

323
00:22:32.375 --> 00:22:34.530
que.

324
00:22:36.000 --> 00:22:38.920
Fija su eje de análisis en 
la calidad de datos, 

325
00:22:39.100 --> 00:22:44.100
acá se evalúan la representatividad 
y la mitigación de sesgos 

326
00:22:45.860 --> 00:22:49.755
en el ámbito del dataset, 
con su correlato 

327
00:22:49.805 --> 00:22:51.695
en la exigencia de datos 
de entrenamiento, 

328
00:22:51.745 --> 00:22:55.405
sin errores y que sean 
representativos, 

329
00:22:55.455 --> 00:22:58.335
para que el sistema de inteligencia 
artificial 

330
00:22:58.385 --> 00:23:01.140
pueda actuar conforme al reglamento.

331
00:23:02.140 --> 00:23:05.595
Ahora bien, otro eje de análisis 
es la transparencia, 

332
00:23:05.645 --> 00:23:07.795
que tiene su derivada 
en la información 

333
00:23:07.845 --> 00:23:11.880
detallada al interesado y la 
comunicación de los fines. 

334
00:23:12.990 --> 00:23:16.825
Que a su vez impacta en la 
explicabilidad algorítmica 

335
00:23:16.875 --> 00:23:20.310
y el mercado claro de los sistemas 
de inteligencia artificial, 

336
00:23:20.730 --> 00:23:23.525
regulado en el artículo 
13 del reglamento 

337
00:23:23.575 --> 00:23:24.939
de inteligencia artificial.

338
00:23:25.230 --> 00:23:26.475
Por otro lado,

339
00:23:26.525 --> 00:23:30.245
un principio fundamental es el 
de la supervisión humana, 

340
00:23:30.295 --> 00:23:33.705
que implica un refuerzo de las 
garantías establecidas 

341
00:23:33.755 --> 00:23:38.490
en el artículo 22 del reglamento de 
protección de datos personales, 

342
00:23:39.160 --> 00:23:43.380
que tiene su derivada en la 
exigencia del human in the loop, 

343
00:23:43.500 --> 00:23:47.895
cuando sobre todo los sistemas 
de inteligencia artificial 

344
00:23:47.945 --> 00:23:49.935
han sido catalogados de alto riesgo.

345
00:23:49.985 --> 00:23:52.720
Y finalmente la rendición de cuenta,

346
00:23:52.880 --> 00:23:57.880
que implica una evaluación de 
impacto en la protección de datos personales 

347
00:23:58.340 --> 00:23:59.960
de manera obligatoria.

348
00:24:00.690 --> 00:24:04.405
Su derivada en el reglamento 
de inteligencia artificial 

349
00:24:04.455 --> 00:24:06.995
está dada por la evaluación 
de conformidad, 

350
00:24:07.045 --> 00:24:10.510
gestión de riesgos y documentación 
técnica.