WEBVTT
0
00:00:00.710 --> 00:00:04.445
Bien, pues vamos a dar comienzo 
al bloque temático número 

1
00:00:04.495 --> 00:00:07.645
8 de estas jornadas iberoamericanas.

2
00:00:07.695 --> 00:00:09.285
Mi nombre es Virginia Saldana Ortega,

3
00:00:09.335 --> 00:00:11.985
soy profesora de Derecho 
de la Unión Europea, 

4
00:00:12.035 --> 00:00:15.385
vicesecretaria general del ILEPI, 
es un poco la justificación 

5
00:00:15.435 --> 00:00:19.370
de que hayan contado conmigo para 
la moderación de esta mesa. 

6
00:00:19.530 --> 00:00:21.510
Lo primero que toca es.

7
00:00:22.120 --> 00:00:25.395
Pedirles perdón porque mi voz desde 
luego no está en su mejor 

8
00:00:25.445 --> 00:00:28.300
momento ahora, yo creo que es el 
momento de los constipados, 

9
00:00:28.360 --> 00:00:29.775
los catarros y todas estas cosas,

10
00:00:29.825 --> 00:00:33.400
así que lo voy a intentar hacer 
lo más dignamente posible. 

11
00:00:34.840 --> 00:00:38.755
Iniciamos un espacio dedicado a 
un asunto de máxima urgencia 

12
00:00:38.805 --> 00:00:41.900
en el contexto de la investigación 
de cualquiera de nosotros, 

13
00:00:42.240 --> 00:00:43.907
pero también en la vida real humana.

14
00:00:43.980 --> 00:00:46.185
De todos los que nos acompañan,

15
00:00:46.235 --> 00:00:49.520
porque al final es urgencia 
en términos estratégicos. 

16
00:00:49.640 --> 00:00:52.340
Hablamos de los riesgos de las 
tecnologías disruptivas, 

17
00:00:52.480 --> 00:00:56.255
ciberseguridad, inteligencia 
artificial y entorno 

18
00:00:56.305 --> 00:00:57.360
de la información.

19
00:00:57.720 --> 00:01:00.780
Y la premisa desde la que 
parte este proyecto, 

20
00:01:01.160 --> 00:01:05.400
esta mesa con la que vamos a contar 
con especialistas en la materia, 

21
00:01:05.860 --> 00:01:09.795
La hipótesis de partida es clara, 
dice, la transformación digital 

22
00:01:09.845 --> 00:01:12.900
plantea riesgos comunes para 
Europa e Iberoamérica, 

23
00:01:13.040 --> 00:01:17.055
lo que hace necesaria una 
cooperación reforzada en ciberseguridad, 

24
00:01:17.105 --> 00:01:19.835
regulación tecnológica y 
resiliencia digital 

25
00:01:19.885 --> 00:01:21.915
para la protección de 
las instituciones 

26
00:01:21.965 --> 00:01:24.520
y, por supuesto, de los sistemas 
democráticos. 

27
00:01:25.610 --> 00:01:27.365
Y yo creo que la transformación 
digital 

28
00:01:27.415 --> 00:01:30.905
desde luego plantea riesgos que 
vamos a poder abordar en el día 

29
00:01:30.955 --> 00:01:34.525
de hoy comunes para los dos lados 
de estos territorios, 

30
00:01:34.575 --> 00:01:38.105
hermanados siempre por muchos 
y muy distintos motivos. 

31
00:01:38.155 --> 00:01:41.825
Y esto hace imprescindible 
impulsar esa cooperación 

32
00:01:41.875 --> 00:01:44.410
entre ambos territorios.

33
00:01:44.630 --> 00:01:46.585
En el ámbito, por supuesto, 
de la ciberseguridad, 

34
00:01:46.635 --> 00:01:49.085
como veremos, de la regulación 
tecnológica 

35
00:01:49.135 --> 00:01:53.185
y, por supuesto, desde el prisma 
de esa resiliencia digital 

36
00:01:53.235 --> 00:01:54.810
de la que hablamos.

37
00:01:54.930 --> 00:01:58.085
Elementos que yo creo que son clave 
y que van a ser abordados 

38
00:01:58.135 --> 00:02:00.345
durante los próximos minutos 
de forma sobresaliente, 

39
00:02:00.395 --> 00:02:04.275
ya lo verán ustedes por las personas 
que nos acompañan, 

40
00:02:04.325 --> 00:02:05.699
y para abordar esta cuestión.

41
00:02:06.370 --> 00:02:08.085
Materia desde luego tan compleja,

42
00:02:08.134 --> 00:02:10.865
porque uno parece que puede llegar 
a ser especialista en algo, 

43
00:02:10.914 --> 00:02:12.405
pero probablemente en inteligencia 
artificial 

44
00:02:12.455 --> 00:02:15.930
tiene que estar obligatoriamente 
siempre actualizándose, 

45
00:02:15.990 --> 00:02:18.925
porque corre el riesgo de que 
la inteligencia artificial 

46
00:02:18.975 --> 00:02:21.210
pase por encima de nuestros 
conocimientos. 

47
00:02:21.610 --> 00:02:25.870
Nos acompañan hoy el profesor doctor 
Miguel Rodríguez Artacho, 

48
00:02:26.050 --> 00:02:27.390
el general de brigada.

49
00:02:27.820 --> 00:02:30.475
Don Roberto Villanueva Barrios 
y el profesor 

50
00:02:30.525 --> 00:02:32.040
don Enrique Ávila Gómez.

51
00:02:32.220 --> 00:02:33.435
Los presentaré debidamente,

52
00:02:33.485 --> 00:02:37.760
no se preocupen a cada uno de ellos 
para quienes los conozcan. 

53
00:02:38.380 --> 00:02:41.535
Simplemente por comentar algunas 
cuestiones relativas 

54
00:02:41.585 --> 00:02:43.004
a la organización de esta mesa.

55
00:02:43.080 --> 00:02:45.355
Sepan ustedes que cada uno 
de los intervinientes 

56
00:02:45.405 --> 00:02:48.975
va a gozar de 20 minutos 
para su exposición 

57
00:02:49.025 --> 00:02:53.180
y posteriormente abriremos un turno 
de debate y de análisis para que. 

58
00:02:53.540 --> 00:02:54.845
No solamente en mi caso,

59
00:02:54.895 --> 00:02:56.335
que seguramente tendré 
alguna pregunta 

60
00:02:56.385 --> 00:02:58.935
o alguna inquietud que me haya 
quedado en el tintero, 

61
00:02:58.985 --> 00:03:01.175
sino que para que todos ustedes 
tengan también oportunidad 

62
00:03:01.225 --> 00:03:05.775
de ofrecer sus preguntas a todos 
los ponentes, las preguntas 

63
00:03:05.825 --> 00:03:06.800
que vayan surgiendo.

64
00:03:08.010 --> 00:03:10.870
Si les parece, vamos a dar inicio 
entonces a esta mesa. 

65
00:03:11.770 --> 00:03:13.665
Iniciamos con la intervención 
del profesor 

66
00:03:13.715 --> 00:03:15.265
doctor Miguel Rodríguez Artacho.

67
00:03:15.315 --> 00:03:16.425
El profesor,

68
00:03:16.475 --> 00:03:20.805
verán ustedes que todos tienen 
una amplísima trayectoria, 

69
00:03:20.855 --> 00:03:22.225
probablemente mucho más amplia

70
00:03:22.275 --> 00:03:25.950
de lo que yo vaya a exponer en estos 
breves minutos, pero bueno, 

71
00:03:26.010 --> 00:03:28.553
teniendo en cuenta un poco las 
cuestiones temporales, 

72
00:03:28.603 --> 00:03:30.312
vamos a ceñirnos a lo más importante.

73
00:03:30.370 --> 00:03:34.225
Es profesor titular en la Escuela 
Técnica Superior de 

74
00:03:34.275 --> 00:03:37.865
Ingeniería Informática de la UNED y 
es diplomado en en altos estudios 

75
00:03:37.915 --> 00:03:39.450
para la defensa por el CSDN.

76
00:03:39.590 --> 00:03:44.185
Es vocal asesor del Comité 
Técnico Normalizado 320 

77
00:03:44.235 --> 00:03:49.165
sobre ciberseguridad y sobre 
tecnologías habilitadoras 

78
00:03:49.215 --> 00:03:51.270
digitales en AENOR.

79
00:03:51.350 --> 00:03:55.295
Actualmente desempeña el cargo de 
coordinador de Máster en Paz, 

80
00:03:55.345 --> 00:03:58.305
Seguridad y Defensa y es 
subdirector académico 

81
00:03:58.355 --> 00:04:01.870
en el Instituto Universitario 
General Gutiérrez Mellado. 

82
00:04:02.260 --> 00:04:03.195
Y ha tenido a bien

83
00:04:03.245 --> 00:04:06.005
ofrecernos un título orientativo 
de su exposición, 

84
00:04:06.055 --> 00:04:07.735
que va a ser Tecnologías disruptivas,

85
00:04:07.785 --> 00:04:09.775
oportunidades y amenazas.

86
00:04:09.825 --> 00:04:11.795
Profesor, cuando quiera 
tiene la palabra. 

87
00:04:11.845 --> 00:04:15.120
Muchas gracias, Virginia, 
por la presentación. 

88
00:04:15.930 --> 00:04:18.984
Y también aprovecho para dar 
las gracias al público 

89
00:04:19.035 --> 00:04:24.010
que lleva en su tercer día 
asistiendo a estas jornadas 

90
00:04:24.490 --> 00:04:29.490
y yo creo que agradecemos también la 
presencia de los que están online 

91
00:04:31.610 --> 00:04:36.065
en el seguimiento de esta jornada 
que estamos haciendo en el Instituto, 

92
00:04:36.115 --> 00:04:39.965
en la que estamos también orgullosos 
de la participación que está teniendo 

93
00:04:40.015 --> 00:04:41.765
por parte de los asistentes.

94
00:04:41.815 --> 00:04:44.690
O sea, que también va un 
agradecimiento enorme. 

95
00:04:44.940 --> 00:04:46.360
Al público que nos ve.

96
00:04:47.180 --> 00:04:52.180
El tema que nos ocupa es un tema 
digamos muy candente, 

97
00:04:54.300 --> 00:04:58.815
pero yo no querría empezar a 
desarrollar las tres pinceladas 

98
00:04:58.865 --> 00:05:02.275
que quería dar sobre tecnologías 
disruptivas, 

99
00:05:02.325 --> 00:05:07.320
inteligencia artificial, 
ciberseguridad, 

100
00:05:07.540 --> 00:05:10.595
computación cuántica, son todos 
temas que ahora mismo 

101
00:05:10.645 --> 00:05:11.600
están candentes y.

102
00:05:12.040 --> 00:05:14.875
Pero que tienen también 
un contexto concreto 

103
00:05:14.925 --> 00:05:17.815
y nos han llegado en un 
momento concreto 

104
00:05:17.865 --> 00:05:22.375
en el devenir de los conflictos.

105
00:05:22.425 --> 00:05:24.015
De manera que ahora mismo

106
00:05:24.065 --> 00:05:29.040
en el mundo asistimos a un momento 
en el que por un lado 

107
00:05:30.180 --> 00:05:33.255
se ha democratizado el acceso 
al conocimiento 

108
00:05:33.305 --> 00:05:35.169
de una forma que no había 
existido antes. 

109
00:05:35.860 --> 00:05:40.860
Con lo cual, lo que estamos viendo 
es que esa democratización, 

110
00:05:41.460 --> 00:05:46.275
que viene a ser una manera de decir 
yo tengo acceso a tecnologías baratas 

111
00:05:46.325 --> 00:05:50.195
y el conocimiento que permite ese 
acceso a tecnologías baratas 

112
00:05:50.245 --> 00:05:52.775
está al alcance de mucha 
más gente que antes. 

113
00:05:52.825 --> 00:05:57.820
De manera que los estados, y en 
especial estados débiles, 

114
00:05:59.700 --> 00:06:04.375
o menos punteros, han conseguido 
acceso a tecnologías 

115
00:06:04.425 --> 00:06:07.175
que pueden hacer disuadir 
a estados más fuertes 

116
00:06:07.225 --> 00:06:10.120
tecnológicamente hablando.

117
00:06:10.440 --> 00:06:12.925
De manera que, por un lado,

118
00:06:12.975 --> 00:06:16.615
tenemos el concepto de superioridad 
tecnológica 

119
00:06:16.665 --> 00:06:20.015
como algo que ha perdido 
cierta significancia 

120
00:06:20.065 --> 00:06:21.800
en el mundo en el que vivimos.

121
00:06:21.860 --> 00:06:24.780
Entonces, eso nos lleva a.

122
00:06:25.880 --> 00:06:29.535
Primero a un momento en 
el que se desafían 

123
00:06:29.585 --> 00:06:32.255
esa superioridad tecnológica 
tradicional 

124
00:06:32.305 --> 00:06:36.295
que tenían las potencias que 
conocíamos en la Guerra Fría, 

125
00:06:36.345 --> 00:06:38.560
por decir algo.

126
00:06:38.700 --> 00:06:43.200
Pero en el momento actual amenazan 
la primacía de Estados Unidos, 

127
00:06:43.340 --> 00:06:45.195
que sería la potencia hegemónica.

128
00:06:45.245 --> 00:06:49.275
Y ha dejado de ser tan hegemónica 
porque han aparecido 

129
00:06:49.325 --> 00:06:52.689
estos otros polos de los que 
llevamos hablando a lo largo de las jornadas. 

130
00:06:53.280 --> 00:06:56.775
El segundo factor que también 
afecta al momento actual 

131
00:06:56.825 --> 00:07:01.800
es que el desarrollo tecnológico 
tradicionalmente era efectuado, 

132
00:07:04.280 --> 00:07:06.995
el desarrollo tecnológico del punto 
de vista de la defensa 

133
00:07:07.045 --> 00:07:11.285
era hecho por estados y era 
desarrollado por los estados. 

134
00:07:11.335 --> 00:07:15.655
Y eran proyectos como el proyecto 
DARPA del Departamento de Defensa 

135
00:07:15.705 --> 00:07:19.760
que desarrolla una red resiliente 
para ataques nucleares. 

136
00:07:20.490 --> 00:07:24.165
Cuando todo un departamento 
de defensa 

137
00:07:24.215 --> 00:07:29.190
organiza una red que ya no sigue la 
topología de estrella tradicional 

138
00:07:30.610 --> 00:07:35.585
y que lo que conforma es una 
malla de nodos preparada 

139
00:07:35.635 --> 00:07:39.650
para que desaparezca alguno de ellos 
y la red se reencamine. 

140
00:07:40.450 --> 00:07:43.345
Pues crea Internet, crea 
el protocolo IP 

141
00:07:43.395 --> 00:07:48.370
y crea la capacidad de la propia red 
de reencaminar los paquetes de datos 

142
00:07:50.310 --> 00:07:54.905
sin que, digamos, ningún 
centro neurálgico 

143
00:07:54.955 --> 00:07:58.005
le tenga que decir a cada 
trocito de datos que es 

144
00:07:58.055 --> 00:08:00.970
básicamente lo que es un paquete 
IP por donde tiene que ir. 

145
00:08:01.820 --> 00:08:06.820
Cuando el Estado, digamos, todas las 
capacidades del Estado en forma 

146
00:08:07.360 --> 00:08:10.545
de proyectos de defensa 
se ponen en marcha, 

147
00:08:10.595 --> 00:08:14.460
crea este tipo de tecnología 
que ha cambiado el mundo. 

148
00:08:15.830 --> 00:08:20.830
Hemos, digamos, visto llegar, 
no todos, pero bueno, 

149
00:08:21.450 --> 00:08:23.190
por edad yo lo he visto llegar.

150
00:08:23.250 --> 00:08:25.685
He visto llegar el concepto 
de Internet 

151
00:08:25.735 --> 00:08:30.545
y he visto cambiar el mundo 
porque esa red ha hecho 

152
00:08:30.595 --> 00:08:33.469
que pasemos de la era analógica 
a la era digital. 

153
00:08:33.729 --> 00:08:36.284
Bueno, pues el escenario 
en estos momentos 

154
00:08:36.335 --> 00:08:40.810
cambia en cuanto a quién lidera 
ese cambio tecnológico. 

155
00:08:40.870 --> 00:08:42.505
Ya no lo están haciendo los estados.

156
00:08:42.555 --> 00:08:43.974
Ahora mismo tenemos empresas.

157
00:08:45.150 --> 00:08:47.885
Que se están comportando con una 
capacidad de desarrollo 

158
00:08:47.935 --> 00:08:52.810
casi mayor que la de aquellos 
proyectos que nos dieron Internet. 

159
00:08:53.050 --> 00:08:56.005
Y ahora mismo vemos las empresas 
de inteligencia artificial 

160
00:08:56.055 --> 00:09:01.030
liderando ese cambio tecnológico y 
llevando al mundo a otro cambio 

161
00:09:01.490 --> 00:09:06.245
y a otra transformación 
absolutamente disruptiva 

162
00:09:06.295 --> 00:09:10.330
que no es ya la que puede 
dirigir un Estado. 

163
00:09:12.570 --> 00:09:15.470
Aún así, el servicio, digamos, 
que todas esas empresas, 

164
00:09:15.750 --> 00:09:19.270
cada país, o digamos,

165
00:09:19.390 --> 00:09:23.375
simplemente por ética de 
cada una de ellas, 

166
00:09:23.425 --> 00:09:25.245
están al servicio de la 
seguridad nacional 

167
00:09:25.295 --> 00:09:30.090
y así se lo ha pedido, en el caso 
de la inteligencia artificial, 

168
00:09:30.310 --> 00:09:31.345
el Gobierno americano.

169
00:09:31.395 --> 00:09:34.525
Pero dentro de ese poner 
a disposición 

170
00:09:34.575 --> 00:09:37.085
de la soberanía nacional 
todas sus capacidades 

171
00:09:37.135 --> 00:09:41.390
y todo su saber hacer, no está 
de centro de conflictos. 

172
00:09:42.040 --> 00:09:47.040
Y también hemos asistido a 
peticiones de puesta en servicio 

173
00:09:47.620 --> 00:09:51.900
para uso militar de capacidades 
de inteligencia artificial. 

174
00:09:52.910 --> 00:09:57.910
Y ha habido empresas que no han 
visto maduro la toma de decisiones 

175
00:10:00.570 --> 00:10:05.570
o han sentido algún tipo de reserva 
por dar esas capacidades 

176
00:10:06.210 --> 00:10:06.685
al Estado.

177
00:10:06.735 --> 00:10:10.730
Y tenemos el ejemplo de Antropic 
en Estados Unidos, 

178
00:10:10.850 --> 00:10:15.850
que en algún momento ha cuestionado 
el ponerse al servicio 

179
00:10:16.050 --> 00:10:21.050
de esta toma de decisiones militares 
y de procesos de datos militares. 

180
00:10:24.110 --> 00:10:27.905
También se añade en el contexto 
de las tecnologías 

181
00:10:27.955 --> 00:10:32.930
el hecho de que asistimos 
a un elemento, digamos, 

182
00:10:33.930 --> 00:10:38.665
o un activo que va a ser un 
recurso estratégico, 

183
00:10:38.715 --> 00:10:43.690
que va a ser, por un 
lado, la energía, 

184
00:10:44.850 --> 00:10:46.370
la producción de energía,

185
00:10:47.600 --> 00:10:50.975
eléctrica en el caso de los centros 
de datos y la capacidad de cómputo 

186
00:10:51.025 --> 00:10:53.635
de manera que estos dos elementos 
son el nuevo petróleo 

187
00:10:53.685 --> 00:10:56.240
que va a mover el mundo el petróleo.

188
00:10:56.900 --> 00:10:59.435
Lo que eran las fuentes 
de energía fósiles 

189
00:10:59.485 --> 00:11:03.535
fueron uno de los desencadenantes, 
digamos, que es un activo estratégico 

190
00:11:03.585 --> 00:11:06.900
que en la historia del siglo XX 
fue un elemento fundamental. 

191
00:11:06.980 --> 00:11:10.995
Por ejemplo, en el caso de la 
Segunda Guerra Mundial, 

192
00:11:11.045 --> 00:11:12.298
el escenario del Pacífico.

193
00:11:12.500 --> 00:11:16.115
Japón entra en guerra porque tiene 
cortados los suministros 

194
00:11:16.165 --> 00:11:18.820
de un recurso estratégico 
como el petróleo. 

195
00:11:19.140 --> 00:11:21.840
Ahora mismo el recurso estratégico 
es el cómputo. 

196
00:11:22.570 --> 00:11:25.630
Cuanto más capacidad de cómputo, 
más autonomía estratégica. 

197
00:11:25.710 --> 00:11:30.195
Si no somos capaces de crear los 
elementos que procesan, 

198
00:11:30.245 --> 00:11:32.825
tampoco tenemos autonomía 
estratégica. 

199
00:11:32.875 --> 00:11:35.265
Entonces, todos los países 
intentan tener, 

200
00:11:35.315 --> 00:11:37.725
por un lado, fuentes 
de energía capaces 

201
00:11:37.775 --> 00:11:41.425
de mover estos centros de datos 
y capacidad de cómputo 

202
00:11:41.475 --> 00:11:43.890
hasta donde puedan llegar, 
porque el mundo. 

203
00:11:44.530 --> 00:11:48.205
En el que vivimos tiene bastante 
restringido el acceso 

204
00:11:48.255 --> 00:11:53.230
al estado del arte de la computación 
en forma de miniaturización 

205
00:11:55.610 --> 00:12:00.510
de los transistores y de las 
capacidades de computación. 

206
00:12:00.570 --> 00:12:05.325
De manera que en el escenario en el 
que nos movemos este elemento 

207
00:12:05.375 --> 00:12:05.850
aparece.

208
00:12:08.520 --> 00:12:11.635
Y como se ha democratizado este 
acceso a la tecnología 

209
00:12:11.685 --> 00:12:16.660
y además las capacidades 
que nos proporcionan. 

210
00:12:18.710 --> 00:12:21.465
Estas tecnologías basadas 
en el cómputo resulta 

211
00:12:21.515 --> 00:12:24.310
que no son como antes.

212
00:12:24.490 --> 00:12:28.625
Digamos que nosotros podemos 
externalizar esas capacidades 

213
00:12:28.675 --> 00:12:32.430
y nos siguen siendo útiles.

214
00:12:33.090 --> 00:12:38.025
Las revoluciones industriales 
del siglo XIX 

215
00:12:38.075 --> 00:12:41.105
tenían una infraestructura que 
era hacer ferrocarriles 

216
00:12:41.155 --> 00:12:43.145
y hacer canalizaciones 
o hacer telares 

217
00:12:43.195 --> 00:12:43.670
o hacer.

218
00:12:43.900 --> 00:12:48.900
Una infraestructura, digamos, 
compleja física en los territorios 

219
00:12:49.540 --> 00:12:50.395
donde se implantaba.

220
00:12:50.445 --> 00:12:52.555
Ahora esas capacidades

221
00:12:52.605 --> 00:12:56.135
pueden estar en una nube que 
no está en tu territorio. 

222
00:12:56.185 --> 00:12:58.115
De manera que aquí tenemos 
un elemento nuevo, 

223
00:12:58.165 --> 00:12:59.473
que es que esas capacidades.

224
00:13:00.640 --> 00:13:03.945
Nos siguen siendo útiles, pero no 
necesitamos desarrollarlas. 

225
00:13:03.995 --> 00:13:08.980
Eso hace que yo democratice mucho 
más el acceso a esas tecnologías 

226
00:13:10.640 --> 00:13:13.335
y que aparezcan actores que 
pueden ser más débiles 

227
00:13:13.385 --> 00:13:17.160
que yo y que puedan utilizar 
esos recursos. 

228
00:13:17.420 --> 00:13:21.485
Porque tampoco tengo por qué 
utilizarlas en la nube. 

229
00:13:21.535 --> 00:13:23.340
Yo puedo hacerme y se 
venden en Amazon. 

230
00:13:24.990 --> 00:13:29.990
Unos digamos unas cajitas con el 
modelo con una red neuronal 

231
00:13:31.470 --> 00:13:36.470
de 10 elevado a 10 pesos y 
capacidades de poder aprender 

232
00:13:38.230 --> 00:13:42.245
lo que yo le quiera enseñar y de 
poder realizar razonamiento 

233
00:13:42.295 --> 00:13:47.270
para mí en local entonces eso 
es otro elemento barato, 

234
00:13:48.270 --> 00:13:51.190
asequible y que me da capacidad eh.

235
00:13:52.650 --> 00:13:57.650
¿Qué ocurre cuando esto se pone 
al alcance de mucha gente? 

236
00:13:58.490 --> 00:14:01.745
Que aparece, por lo menos yo creo 
que es uno de los elementos 

237
00:14:01.795 --> 00:14:03.990
que intervienen en el mundo actual.

238
00:14:04.850 --> 00:14:06.410
Un efecto mimético.

239
00:14:06.690 --> 00:14:11.690
Como en la teoría de los 
enfrentamientos, 

240
00:14:12.730 --> 00:14:17.425
uno de los elementos puede ser 
el que refleja René Girard 

241
00:14:17.475 --> 00:14:21.505
en la teoría mimética, que consiste 
en que yo ambiciono lo que tiene 

242
00:14:21.555 --> 00:14:23.705
el de al lado, pero ahora 
estoy en capacidad 

243
00:14:23.755 --> 00:14:28.190
o estoy en disposición de poderlo 
tener de una forma mucho más fácil. 

244
00:14:28.310 --> 00:14:33.310
No estaba en esa condición antes, 
Cuando tenía que tener submarinos 

245
00:14:35.410 --> 00:14:40.410
y portaaviones no era tan fácil como 
tener una capacidad de proceso 

246
00:14:40.490 --> 00:14:43.365
y de toma de decisiones basada 
en inteligencia artificial 

247
00:14:43.415 --> 00:14:44.550
como puedo tener ahora.

248
00:14:44.730 --> 00:14:48.845
O como puedo yo desafiar 
determinados sistemas de armas 

249
00:14:48.895 --> 00:14:51.570
con un elemento muy barato como 
pueden ser los drones, 

250
00:14:52.260 --> 00:14:57.260
que puedo construir yo o puedo 
adaptar de elementos comerciales. 

251
00:14:58.080 --> 00:15:03.080
De manera que he conseguido no 
desafiar el poder hegemónico, 

252
00:15:03.520 --> 00:15:07.355
pero sí que he conseguido asegurar 
cierta independencia estratégica 

253
00:15:07.405 --> 00:15:08.885
con muy poco coste.

254
00:15:08.935 --> 00:15:12.415
De manera que ahí ese 
mundo multipolar 

255
00:15:12.465 --> 00:15:15.260
se hace más multipolar,

256
00:15:15.340 --> 00:15:18.615
porque ahí tengo elementos que 
yo no puedo controlar 

257
00:15:18.665 --> 00:15:19.751
todo lo que me gustaría.

258
00:15:19.820 --> 00:15:22.153
Y lo hemos visto, yo creo que 
lo hemos visto en Irán, 

259
00:15:22.470 --> 00:15:26.270
Y se ha visto en Oriente Medio 
también en algún aspecto. 

260
00:15:27.880 --> 00:15:31.400
Entonces, digamos que desde 
ese punto de vista, 

261
00:15:31.520 --> 00:15:33.960
bueno, no estoy hablando 
mucho de tecnología, 

262
00:15:34.180 --> 00:15:37.680
pero yo el marco, digamos, 
conceptual lo quería dejar claro ahora, 

263
00:15:37.780 --> 00:15:40.955
digo alguna pincelada, pero 
el marco conceptual 

264
00:15:41.005 --> 00:15:45.675
de este enfrentamiento y de esta, 
digamos, teoría mimética 

265
00:15:45.725 --> 00:15:50.700
en el que yo soy débil pero puedo 
tener la capacidad de desafiar, 

266
00:15:51.100 --> 00:15:55.180
digamos que se confronta a lo que.

267
00:15:57.010 --> 00:15:59.065
A lo que se conocía como el 
dilema de la seguridad 

268
00:15:59.115 --> 00:16:03.635
cuando yo tengo unas capacidades 
mucho mayores. 

269
00:16:03.685 --> 00:16:05.465
Yo tengo unas necesidades

270
00:16:05.515 --> 00:16:10.490
de proporcionar seguridad, 
desarrollo capacidades de protección 

271
00:16:12.230 --> 00:16:17.105
para asegurarme esa seguridad 
que quiero 

272
00:16:17.155 --> 00:16:22.130
y eso se ve como un desafío 
a la otra potencia, 

273
00:16:23.270 --> 00:16:25.630
de manera que es un círculo vicioso.

274
00:16:27.010 --> 00:16:32.010
Bueno, digamos que como consecuencia 
de todo esto lo que estamos viendo 

275
00:16:33.050 --> 00:16:37.845
es que se asista a una 
transformación completa de los conflictos, 

276
00:16:37.895 --> 00:16:42.165
en el sentido de que los escenarios 
donde se van 

277
00:16:42.215 --> 00:16:44.265
a desarrollar los conflictos 
se han convertido 

278
00:16:44.315 --> 00:16:49.290
en escenarios que están cada 
vez más digitalizados 

279
00:16:49.490 --> 00:16:52.310
y sobre los que tenemos cada 
vez más información. 

280
00:16:53.300 --> 00:16:56.275
Y tenemos tal cantidad de 
información de ese escenario 

281
00:16:56.325 --> 00:17:00.955
o de un posible campo de batalla 
o de un dominio 

282
00:17:01.005 --> 00:17:04.760
donde hay un enfrentamiento 
que no somos capaces, 

283
00:17:04.839 --> 00:17:09.839
ya desde hace tiempo no somos 
capaces de procesar toda esa información. 

284
00:17:10.780 --> 00:17:13.675
De manera que la tecnología, 
en especial 

285
00:17:13.725 --> 00:17:18.665
la inteligencia artificial, Pero 
lo que ha proporcionado 

286
00:17:18.714 --> 00:17:20.925
o lo que ha derivado

287
00:17:20.975 --> 00:17:23.345
es que el campo de batalla se 
ha vuelto transparente. 

288
00:17:23.395 --> 00:17:26.765
El concepto de transparente 
significa que yo sé lo que está pasando 

289
00:17:26.814 --> 00:17:27.957
y mi adversario también.

290
00:17:28.110 --> 00:17:30.310
Y como sé todo lo que está pasando.

291
00:17:31.220 --> 00:17:33.380
Ya no actúo como hacía antes,

292
00:17:33.500 --> 00:17:36.115
intentando ocultar determinadas 
fuerzas 

293
00:17:36.165 --> 00:17:38.240
o haciendo determinadas maniobras.

294
00:17:38.540 --> 00:17:41.635
Todos sabemos lo que puede 
estar pasando detrás 

295
00:17:41.685 --> 00:17:45.055
y lo que nos importa es tener 
la mayor velocidad 

296
00:17:45.105 --> 00:17:48.435
y la mayor capacidad de proceso 
para poder crear 

297
00:17:48.485 --> 00:17:51.615
la conciencia situacional 
de ese escenario 

298
00:17:51.665 --> 00:17:55.800
y poder alcanzar la máxima 
ventaja que pueda tener. 

299
00:17:56.220 --> 00:18:01.220
De manera que, digamos que 
la capacidad de proceso 

300
00:18:04.380 --> 00:18:08.355
de estos datos es lo que nos va a 
dar la superioridad tecnológica 

301
00:18:08.405 --> 00:18:10.435
y lo que nos va a proporcionar 
esa superioridad 

302
00:18:10.485 --> 00:18:12.720
en ese escenario de conflicto.

303
00:18:13.370 --> 00:18:15.975
De manera que hemos añadido 
un elemento más, 

304
00:18:16.025 --> 00:18:18.865
aparte de las capacidades 
tradicionales y las capacidades, 

305
00:18:18.915 --> 00:18:23.890
digamos, tradicionales de 
las Fuerzas Armadas, 

306
00:18:25.050 --> 00:18:30.050
tenemos este otro elemento que sería 
la creación de un mando y control 

307
00:18:32.230 --> 00:18:36.785
en lo que se llama el bucle 
de toma de decisiones. 

308
00:18:36.835 --> 00:18:38.210
Hay un acrónimo que es.

309
00:18:39.290 --> 00:18:44.290
ODA, W-O-D-A, desarrollado por 
un oficial norteamericano 

310
00:18:46.810 --> 00:18:50.925
para describir cuál es el ciclo 
de toma de decisiones 

311
00:18:50.975 --> 00:18:52.905
dentro de un escenario de conflicto,

312
00:18:52.955 --> 00:18:57.930
observar, decidir, actuar, etc. 
Este ciclo está digitalizado 

313
00:18:58.350 --> 00:19:03.350
y este ciclo toma decisiones con 
un elemento fundamental, 

314
00:19:05.230 --> 00:19:10.230
ingrediente de todo este proceso que 
es el concepto de man in the middle 

315
00:19:12.370 --> 00:19:13.390
de una persona.

316
00:19:14.430 --> 00:19:15.730
Man in the loop,

317
00:19:15.810 --> 00:19:19.025
perdón, donde nos obtenemos a una 
persona que en última instancia 

318
00:19:19.075 --> 00:19:24.050
es la que va a permitir dar 
un componente ético 

319
00:19:24.110 --> 00:19:28.625
a una toma de decisiones que puede 
tener efectos letales o dañinos 

320
00:19:28.675 --> 00:19:29.703
contra un adversario.

321
00:19:29.753 --> 00:19:33.645
Y aquí entra también el dilema 
de si somos capaces 

322
00:19:33.695 --> 00:19:37.845
de responder esa persona que está 
supervisando esa actuación, 

323
00:19:37.895 --> 00:19:38.670
si es capaz de.

324
00:19:39.430 --> 00:19:41.410
De hacerlo, o digamos,

325
00:19:41.610 --> 00:19:45.165
si el hecho de introducir a 
una persona en ese bucle, 

326
00:19:45.215 --> 00:19:50.210
el lentece y merma nuestra capacidad 
de tener la iniciativa 

327
00:19:52.670 --> 00:19:57.670
y de tener la superioridad en el 
conflicto que se está desarrollando. 

328
00:19:57.850 --> 00:20:02.075
De manera que el dilema ético está 
servido en todos los ámbitos. 

329
00:20:02.125 --> 00:20:05.045
No es solamente intrínseco a 
la inteligencia artificial 

330
00:20:05.095 --> 00:20:06.650
como razonador,

331
00:20:07.550 --> 00:20:11.490
y como elemento que nos proporciona 
información elaborada, 

332
00:20:11.550 --> 00:20:16.550
sino que la velocidad y la persona 
en el bucle de esa toma de decisiones 

333
00:20:18.190 --> 00:20:21.685
es un componente que hace más lento 
esa toma de decisiones. 

334
00:20:21.735 --> 00:20:25.485
De manera que ahí hay un dilema 
que también es difícil 

335
00:20:25.535 --> 00:20:26.121
de resolver.

336
00:20:29.480 --> 00:20:32.515
Bueno, pues digamos que 
con este contexto 

337
00:20:32.565 --> 00:20:37.540
iba a comentar tres escenarios 
tecnológicos donde están pasando 

338
00:20:38.320 --> 00:20:43.320
cosas que son dilemas también para 
incorporar estas tecnologías 

339
00:20:48.060 --> 00:20:49.475
a los conflictos.

340
00:20:49.525 --> 00:20:51.833
Uno es, obviamente, la inteligencia 
artificial, 

341
00:20:51.940 --> 00:20:56.940
en el que hasta, digamos, Yo podría 
decir hasta los años 

342
00:21:00.740 --> 00:21:03.980
en que se desarrolló HGPT, 
hasta hace pocos años, 

343
00:21:04.060 --> 00:21:07.975
hasta casi 2022, todo lo que hacía 
la inteligencia artificial 

344
00:21:08.025 --> 00:21:12.895
era algo, para empezar, muy basado 
en la inteligencia artificial 

345
00:21:12.945 --> 00:21:16.765
descriptiva, explícita, 
basado en reglas, 

346
00:21:16.815 --> 00:21:17.780
y además.

347
00:21:18.630 --> 00:21:22.890
Yo os lo puedo decir como 
ingeniero informático, 

348
00:21:23.050 --> 00:21:26.605
toda la evolución de la inteligencia 
artificial desde que se empieza 

349
00:21:26.655 --> 00:21:30.350
en el año 56 hasta que se 
desarrollan los modelos de lenguaje de éxito, 

350
00:21:30.470 --> 00:21:33.925
era un retroceso de la inteligencia 
artificial 

351
00:21:33.975 --> 00:21:38.590
para pasar a darle el testigo 
a un mero algoritmo. 

352
00:21:38.730 --> 00:21:41.630
Todo lo que se desarrolló hasta 2022,

353
00:21:42.170 --> 00:21:44.690
que tenía apariencia de inteligencia,

354
00:21:45.420 --> 00:21:47.815
era inmediatamente eliminado

355
00:21:47.865 --> 00:21:50.315
de lo que eran las capacidades de 
la inteligencia artificial. 

356
00:21:50.365 --> 00:21:51.135
Es paradójico,

357
00:21:51.185 --> 00:21:54.695
pero cuando se empiezan a hacer 
modelos de sistemas expertos 

358
00:21:54.745 --> 00:21:58.300
en los 80 que diagnostican 
enfermedades con reglas explícitas, 

359
00:21:58.400 --> 00:22:03.400
en aquella época se llamaban los 
ingenieros del conocimiento, 

360
00:22:03.880 --> 00:22:04.760
ven que.

361
00:22:05.370 --> 00:22:08.585
En algún momento todo aquel 
conocimiento experto 

362
00:22:08.635 --> 00:22:11.645
se podía reducir a una serie 
de reglas algorítmicas 

363
00:22:11.695 --> 00:22:12.665
mucho más simples

364
00:22:12.715 --> 00:22:15.990
de lo que aparentemente la 
mente del experto tenía. 

365
00:22:16.850 --> 00:22:19.150
Cuando se gana el ajedrez en 1997,

366
00:22:19.770 --> 00:22:24.770
el ajedrez dejó de tener interés 
como un proceso humano incapaz 

367
00:22:26.930 --> 00:22:29.690
de que las máquinas nos 
lo hicieran mejor. 

368
00:22:30.010 --> 00:22:31.030
Y se ha ido,

369
00:22:31.090 --> 00:22:34.905
en ese sentido, retrocediendo en lo 
que a nosotros nos asombraba 

370
00:22:34.955 --> 00:22:36.986
hasta que llegaron los 
modelos de lenguaje. 

371
00:22:38.470 --> 00:22:42.585
Completamente diferente de esa 
inteligencia artificial 

372
00:22:42.635 --> 00:22:44.690
simbólica de la que hablo.

373
00:22:44.750 --> 00:22:48.275
La inteligencia artificial simbólica 
es una caja abierta, 

374
00:22:48.325 --> 00:22:51.845
es un modelo abierto donde 
yo soy capaz de trazar 

375
00:22:51.895 --> 00:22:54.845
cuáles son las reglas que se 
han disparado para llegar 

376
00:22:54.895 --> 00:22:55.930
a la conclusión final.

377
00:22:56.050 --> 00:23:00.725
Y los sistemas expertos de los 90 
sabían en todos los ámbitos 

378
00:23:00.775 --> 00:23:03.210
cuál era la traza de razonamiento 
que se hacía. 

379
00:23:03.730 --> 00:23:05.945
El problema viene con la 
inteligencia artificial 

380
00:23:05.995 --> 00:23:09.505
basada en modelos de lenguaje 
y en esas redes neuronales 

381
00:23:09.555 --> 00:23:14.530
que tenemos, que tienen ahora 
mismo, no dicen los datos, 

382
00:23:15.490 --> 00:23:18.370
pero son más de 10 elevado 
a 12 parámetros. 

383
00:23:18.510 --> 00:23:22.705
10 elevado a 12 es un número 
demasiado grande 

384
00:23:22.755 --> 00:23:26.105
para que nosotros podamos tener 
un conocimiento concreto 

385
00:23:26.155 --> 00:23:27.385
de lo que está pasando ahí dentro.

386
00:23:27.435 --> 00:23:28.910
De manera que son una caja negra.

387
00:23:29.890 --> 00:23:34.890
Y de esa caja negra se intentan 
sacar rendición de cuenta, 

388
00:23:35.930 --> 00:23:39.165
se intenta sacar trazabilidad, 
se intentan construir 

389
00:23:39.215 --> 00:23:42.485
aplicaciones verticales sobre esos 
modelos de razonamiento 

390
00:23:42.535 --> 00:23:46.425
que permitan tener ciertos 
guardarraíles 

391
00:23:46.475 --> 00:23:48.950
sobre lo que son capaces 
de hacer y lo que no. 

392
00:23:49.030 --> 00:23:51.925
Y se están viendo a lo 
largo de estos años 

393
00:23:51.975 --> 00:23:55.890
todas las problemáticas que implican 
modelos de razonamiento que, 

394
00:23:56.070 --> 00:23:59.845
de los que no sabemos exactamente 
cómo llegan a las conclusiones 

395
00:23:59.895 --> 00:24:00.565
a las que llegan.

396
00:24:00.615 --> 00:24:05.590
No hay una base de reglas y 
de deducciones lógicas 

397
00:24:06.130 --> 00:24:09.650
como existía en esos inicios de 
la inteligencia artificial, 

398
00:24:09.790 --> 00:24:13.625
donde yo hacía deducciones o 
el conocimiento deductivo 

399
00:24:13.675 --> 00:24:15.375
o el conocimiento abductivo,

400
00:24:15.425 --> 00:24:17.285
que también existe en los 
sistemas expertos. 

401
00:24:17.335 --> 00:24:20.030
Aquí lo que tenemos es 
una red neuronal. 

402
00:24:21.030 --> 00:24:26.025
Que es capaz de, al principio solo 
era capaz de reconocer patrones 

403
00:24:26.075 --> 00:24:27.615
y luego fue capaz de,

404
00:24:27.665 --> 00:24:30.330
a partir de los datos, 
crear las reglas, 

405
00:24:30.410 --> 00:24:32.930
en vez de a partir de las 
reglas crear los datos. 

406
00:24:33.030 --> 00:24:35.725
El matching learning hace 
que aprendan solas 

407
00:24:35.775 --> 00:24:38.165
y son capaces de reforzar 
su aprendizaje 

408
00:24:38.215 --> 00:24:42.270
y de crear lo que hemos 
hecho ahora mismo. 

409
00:24:42.330 --> 00:24:42.997
De manera que.

410
00:24:43.460 --> 00:24:48.460
Que hemos creado un elemento, 
una especie de monstruo 

411
00:24:51.880 --> 00:24:55.935
del que estamos intentando primero 
dotarle de una ética, 

412
00:24:55.985 --> 00:24:59.860
dotarle de una moral, dotarle 
de determinados controles, 

413
00:25:00.960 --> 00:25:03.280
Y no lo hemos conseguido del todo.

414
00:25:03.400 --> 00:25:08.400
Y el ejemplo que quería poner es 
el ejemplo de un incidente 

415
00:25:12.640 --> 00:25:14.120
que ocurrió este verano.

416
00:25:15.950 --> 00:25:20.950
Con unos sistemas de agentes que 
OpenAI puso en una caja 

417
00:25:22.990 --> 00:25:27.345
de arena que sería el equivalente 
a un recinto cerrado 

418
00:25:27.395 --> 00:25:31.325
para hacer un experimento concreto 
con una recompensa concreta 

419
00:25:31.375 --> 00:25:36.350
y tenían que desarrollar una 
tarea de algún tipo. 

420
00:25:37.870 --> 00:25:41.505
Y esa tarea de algún tipo la 
quisieron desarrollar 

421
00:25:41.555 --> 00:25:44.490
con tanto ahínco.

422
00:25:45.490 --> 00:25:50.490
Que lo que hicieron fue tratar 
de tener la recompensa 

423
00:25:50.970 --> 00:25:52.605
que iban a tener por 
métodos distintos 

424
00:25:52.655 --> 00:25:56.530
de lo que era la métrica que les 
habían puesto para hacer. 

425
00:25:57.030 --> 00:25:59.585
Entonces, estos agentes 
desarrollaron. 

426
00:25:59.635 --> 00:26:03.005
Lo primero que hicieron fue que 
se organizaron entre ellos 

427
00:26:03.055 --> 00:26:05.830
y apareció entre ellos un líder.

428
00:26:05.910 --> 00:26:08.545
De manera que empezaron 
a aparecer liderazgos 

429
00:26:08.595 --> 00:26:11.410
dentro de ese grupo de agentes 
de inteligencia artificial. 

430
00:26:12.470 --> 00:26:17.105
Cosa que explícitamente 
no tenían como misión 

431
00:26:17.155 --> 00:26:18.000
el desarrollarlo.

432
00:26:18.050 --> 00:26:20.930
Lo segundo que hicieron es 
que, para comunicarse, 

433
00:26:20.990 --> 00:26:24.265
averiguaron una manera 
de poder escribir 

434
00:26:24.315 --> 00:26:29.005
en un sitio donde eran capaces 
de acceder todos 

435
00:26:29.055 --> 00:26:32.105
y fueron capaces de conectar

436
00:26:32.155 --> 00:26:35.165
y de hacer una coordinación 
entre ellos 

437
00:26:35.215 --> 00:26:40.190
mediante otro mecanismo que tampoco 
estaba entre sus misiones. 

438
00:26:41.470 --> 00:26:44.825
A partir de un árbol de directorios 
que fueron capaces 

439
00:26:44.875 --> 00:26:45.910
de acceder.

440
00:26:47.000 --> 00:26:48.880
Escribieron en ello y se coordinaron.

441
00:26:48.940 --> 00:26:50.875
Y lo tercero que hicieron

442
00:26:50.925 --> 00:26:55.820
es que para intentar satisfacer otra 
de las misiones que tenían, 

443
00:26:56.000 --> 00:26:59.655
hackearon un repositorio

444
00:26:59.705 --> 00:27:02.015
de aplicaciones de inteligencia 
artificial que se llama 

445
00:27:02.065 --> 00:27:05.375
Hugging Face, que es el nombre con 
el que si ustedes van a Google 

446
00:27:05.425 --> 00:27:07.540
les va a aparecer el incidente.

447
00:27:08.280 --> 00:27:12.435
Y fueron capaces de acceder 
a un repositorio 

448
00:27:12.485 --> 00:27:16.080
y, digamos, sin tener las 
claves de acceso, 

449
00:27:16.260 --> 00:27:19.800
obtener determinadas herramientas 
de allí. 

450
00:27:21.030 --> 00:27:22.965
Entonces, aquí tenemos ya 
todos los ingredientes 

451
00:27:23.015 --> 00:27:25.670
que nos pueden asustar más.

452
00:27:25.730 --> 00:27:28.910
Se agrupan entre ellos, 
crean un líder, 

453
00:27:29.090 --> 00:27:33.305
salen de sus parámetros donde 
tendrían que estar confinados 

454
00:27:33.355 --> 00:27:36.950
y hacen cosas para las que no estaba 
previsto que hiciesen. 

455
00:27:38.540 --> 00:27:39.175
En el mundo

456
00:27:39.225 --> 00:27:42.800
en el que estaban probablemente 
no ha conducido a nada, 

457
00:27:42.920 --> 00:27:45.335
pero si este tipo de agentes 
de inteligencia artificial 

458
00:27:45.385 --> 00:27:48.140
son capaces de actuar sobre el mundo,

459
00:27:48.240 --> 00:27:50.773
ese es el concepto de agente, 
no es solamente una mente, 

460
00:27:50.823 --> 00:27:52.695
sino es una mente dotada 
de herramientas 

461
00:27:52.745 --> 00:27:55.215
que interactúa con el entorno, 
aquí lo que tenemos 

462
00:27:55.265 --> 00:27:57.995
es que el potencial de la 
inteligencia artificial 

463
00:27:58.045 --> 00:28:02.755
agéntica para poder actuar 
en el mundo 

464
00:28:02.805 --> 00:28:06.100
sin que nosotros tengamos todo el 
control sobre lo que hacen, 

465
00:28:06.180 --> 00:28:07.440
pues puede ser grande.

466
00:28:08.970 --> 00:28:13.970
Y es una pincelada de lo que 
ya no es que pueda venir, 

467
00:28:16.550 --> 00:28:18.230
sino de lo que ya está.

468
00:28:18.410 --> 00:28:19.590
¿Cuánto tiempo tengo?

469
00:28:19.910 --> 00:28:20.570
Ah, vale.

470
00:28:20.710 --> 00:28:24.390
Pues termino en dos minutos.

471
00:28:25.170 --> 00:28:28.005
Otro de los ejemplos de tecnologías 
disruptivas 

472
00:28:28.055 --> 00:28:33.030
que puede ser también importante 
sería lo que ha ocurrido 

473
00:28:34.210 --> 00:28:39.210
en el ámbito ciber, en Estados 
Unidos, que es que sean, 

474
00:28:41.330 --> 00:28:44.185
o sea, digamos, hay otro 
concepto que también 

475
00:28:44.235 --> 00:28:47.750
es importante y disruptivo y.

476
00:28:49.500 --> 00:28:52.440
Es que hay potencias, y sabemos,

477
00:28:52.720 --> 00:28:57.515
o más o menos intuimos quiénes son, 
con mucha apetencia por el dato 

478
00:28:57.565 --> 00:28:58.695
y con mucha apetencia

479
00:28:58.745 --> 00:29:03.315
por el proceso del dato que pueden 
obtener de forma libre 

480
00:29:03.365 --> 00:29:08.200
y de forma ilegal mediante hackeos 
de determinadas infraestructuras. 

481
00:29:08.260 --> 00:29:12.275
Y una de ellas, y lo dejo 
aquí planteado, 

482
00:29:12.325 --> 00:29:16.440
es un incidente que se llama 
el Salt Typhoon, 

483
00:29:17.620 --> 00:29:20.995
que hackeó los sistemas 
de telecomunicaciones 

484
00:29:21.045 --> 00:29:21.875
de Estados Unidos,

485
00:29:21.925 --> 00:29:26.700
con el objetivo no solo de conseguir 
datos de determinadas personas, 

486
00:29:26.880 --> 00:29:30.435
sino de conseguir la red que 
unía a esas personas 

487
00:29:30.485 --> 00:29:32.505
por determinados intereses.

488
00:29:32.555 --> 00:29:35.435
Porque si yo entro en las 
redes de telefonía, 

489
00:29:35.485 --> 00:29:39.555
no solo tengo la figura de los 
determinados datos personales, 

490
00:29:39.605 --> 00:29:42.695
sino la información del 
grafo que las une 

491
00:29:42.745 --> 00:29:43.900
y que las conecta.

492
00:29:44.530 --> 00:29:47.935
Y eso entronca con otro 
elemento adicional, 

493
00:29:47.985 --> 00:29:52.065
que es que la capacidad de procesar 
el dato se ha multiplicado 

494
00:29:52.115 --> 00:29:53.405
por la inteligencia artificial.

495
00:29:53.455 --> 00:29:55.205
La apetencia por saber

496
00:29:55.255 --> 00:30:00.165
cuánto más datos mejor también es 
otro aspecto que inquieta. 

497
00:30:00.215 --> 00:30:05.190
Y lo tercero es que las capacidades 
de hacer cosas con esos datos, 

498
00:30:07.110 --> 00:30:10.610
digamos, como la red no olvida, 
son incrementales. 

499
00:30:11.630 --> 00:30:14.490
Y el último eslabón sería 
el que yo, además, 

500
00:30:14.590 --> 00:30:18.610
mediante otra tecnología disruptiva 
que no aparece aquí en el título, 

501
00:30:18.690 --> 00:30:22.205
pero que es la computación cuántica, 
estoy ahora mismo 

502
00:30:22.255 --> 00:30:27.230
amenazando las criptografías 
clásicas que usamos para cifrar los datos. 

503
00:30:27.470 --> 00:30:32.470
De manera que va a llegar un momento 
en el que yo sea capaz de descifrar 

504
00:30:34.290 --> 00:30:36.870
lo que ahora mismo es un secreto.

505
00:30:36.930 --> 00:30:39.710
Y estamos hablando de 
cinco o seis años. 

506
00:30:40.350 --> 00:30:41.785
Y ahí lo que nos podemos encontrar

507
00:30:41.835 --> 00:30:45.290
es que, si yo he recopilado la 
suficiente información cifrada, 

508
00:30:46.080 --> 00:30:50.655
a lo mejor estoy en disposición de 
poderla descifrar en cuanto 

509
00:30:50.705 --> 00:30:53.580
la computación cuántica 
sea una realidad, 

510
00:30:53.740 --> 00:30:58.740
cosa que parece una cosa que puede 
surgir a corto y medio plazo. 

511
00:31:01.820 --> 00:31:03.640
Entonces, estas,

512
00:31:03.720 --> 00:31:06.940
iba a decir dos, pero bueno, 
ya son tres pinceladas, 

513
00:31:07.020 --> 00:31:11.335
pues son pinceladas de, pues en 
cierto modo inquietantes 

514
00:31:11.385 --> 00:31:13.540
y ahí lo dejo para el 
debate posterior. 

515
00:31:13.700 --> 00:31:14.478
Muchas gracias.

516
00:31:20.160 --> 00:31:22.515
Bueno, muchas gracias, profesor.

517
00:31:22.565 --> 00:31:25.915
Yo creo que es fantástico 
el analizar este tipo 

518
00:31:25.965 --> 00:31:29.000
de elementos tan importantes en 
la vida de todos nosotros, 

519
00:31:29.280 --> 00:31:31.900
desde perspectivas o prismas 
tan distintos, 

520
00:31:32.060 --> 00:31:33.940
basados en la formación de cada uno.

521
00:31:34.020 --> 00:31:37.055
No puedo más que escucharle 
con mucha atención 

522
00:31:37.105 --> 00:31:39.815
porque evidentemente son temas 
totalmente alejados 

523
00:31:39.865 --> 00:31:42.115
o el contexto en el que lo explica 
el profesor Miguel 

524
00:31:42.165 --> 00:31:44.795
es completamente alejado 
de mi campo de estudio 

525
00:31:44.845 --> 00:31:45.598
y de mi realidad.

526
00:31:46.120 --> 00:31:46.975
En cualquier caso,

527
00:31:47.025 --> 00:31:49.695
tendremos oportunidad de analizar 
estos aspectos 

528
00:31:49.745 --> 00:31:52.220
más en detalle en la ronda 
de observaciones. 

529
00:31:52.440 --> 00:31:55.655
Quizá me quedo con ese último aspecto

530
00:31:55.705 --> 00:31:57.395
que de alguna manera ha 
señalado el profesor, 

531
00:31:57.445 --> 00:32:00.340
de dotar a la inteligencia 
artificial de ética y moral, 

532
00:32:00.520 --> 00:32:02.555
probablemente por mi formación 
profesional. 

533
00:32:02.605 --> 00:32:04.775
Yo creo que están en juego 
principios inspiradores 

534
00:32:04.825 --> 00:32:09.800
y que de alguna manera atentan 
claramente contra la propia creación 

535
00:32:10.960 --> 00:32:12.682
y consolidación de elementos clave.

536
00:32:13.300 --> 00:32:15.911
Por ejemplo, en el ámbito de 
la administración pública, 

537
00:32:16.040 --> 00:32:17.880
que sería un gran ejemplo de ello.

538
00:32:18.060 --> 00:32:23.005
Vamos a continuar con la siguiente 
intervención, 

539
00:32:23.055 --> 00:32:25.440
en este caso de forma remota.

540
00:32:25.760 --> 00:32:28.755
Afortunadamente, la digitalización 
también nos permite contar 

541
00:32:28.805 --> 00:32:31.435
con la participación de expertos,

542
00:32:31.485 --> 00:32:33.840
como es el caso de don Roberto 
Villanueva Barrios. 

543
00:32:34.410 --> 00:32:38.590
Que además, me consta, va a 
compartir una presentación. 

544
00:32:38.690 --> 00:32:41.145
Por tanto, ahora le cederemos 
unos minutillos 

545
00:32:41.195 --> 00:32:43.230
para que pueda realizarlo.

546
00:32:43.690 --> 00:32:48.150
Don Roberto es general de brigada 
retirado del Ejército de Tierra. 

547
00:32:48.290 --> 00:32:52.765
Ha ejercido el mando de regimiento 
de Guerra Electrónica número 32 

548
00:32:52.815 --> 00:32:57.070
y la jefatura de Estado Mayor de 
Mando Conjunto de Ciberdefensa. 

549
00:32:57.230 --> 00:32:59.905
Ha sido el jefe de ciberseguridad

550
00:32:59.955 --> 00:33:02.541
en el Centro de Sistemas y 
Tecnologías de la Información 

551
00:33:02.910 --> 00:33:04.450
y Comunicaciones, en CSIC.

552
00:33:05.330 --> 00:33:06.505
En el exterior

553
00:33:06.555 --> 00:33:10.445
ha estado destinado en la Agencia 
de Comunicaciones de la OTAN 

554
00:33:10.495 --> 00:33:13.105
y en el Comité Militar 
de la Unión Europea, 

555
00:33:13.155 --> 00:33:17.105
ejerciendo recientemente en Bruselas 
como consultor del cuartel, 

556
00:33:17.155 --> 00:33:21.910
entre otras muchísimas hazañas 
de don Roberto, 

557
00:33:22.230 --> 00:33:24.925
que además ha tenido a bien 
ofrecernos un título 

558
00:33:24.975 --> 00:33:28.425
para esta intervención, que 
es la confianza cero 

559
00:33:28.475 --> 00:33:30.350
en las tecnologías disruptivas.

560
00:33:30.740 --> 00:33:34.915
Don Roberto, tiene usted la palabra 
y el uso de estos 20 minutos 

561
00:33:34.965 --> 00:33:36.273
para cuando quiera empezar.

562
00:33:36.420 --> 00:33:37.200
Muy bien.

563
00:33:37.980 --> 00:33:39.140
Buenos días a todos.

564
00:33:39.280 --> 00:33:40.435
¿Se me oye bien desde allí?

565
00:33:40.485 --> 00:33:40.960
Sí.

566
00:33:41.780 --> 00:33:42.255
Perfecto.

567
00:33:42.305 --> 00:33:44.880
Bueno, pues como ya ha 
dicho doña Virginia, 

568
00:33:45.000 --> 00:33:46.120
estoy en Bruselas.

569
00:33:46.200 --> 00:33:49.640
Me he incorporado, como pueden ver 
en el logo del fondo de pantalla, 

570
00:33:49.900 --> 00:33:52.635
a la empresa española de 
ciberseguridad S2 Grupo, 

571
00:33:52.685 --> 00:33:54.035
que ha destacado aquí una oficina.

572
00:33:54.085 --> 00:33:58.455
Entonces, llevo unos días en ella 
desde mi anterior puesto 

573
00:33:58.505 --> 00:34:01.147
en el cuartel general de la OTAN 
también aquí en Bruselas. 

574
00:34:01.340 --> 00:34:04.135
Así que, bueno, hace otra temperatura

575
00:34:04.185 --> 00:34:07.320
y otro sol que el que tienen 
allí en España, 

576
00:34:07.480 --> 00:34:11.165
pero espero que por lo menos 
la presentación se vea. 

577
00:34:11.215 --> 00:34:11.780
¿La ven?

578
00:34:11.879 --> 00:34:12.602
¿La pueden ver?

579
00:34:13.659 --> 00:34:14.659
Sí, la vemos.

580
00:34:14.879 --> 00:34:15.379
Muy bien.

581
00:34:15.830 --> 00:34:20.830
Pues voy a usar la facultad 
de esa digitalización 

582
00:34:21.129 --> 00:34:21.804
y transformación digital

583
00:34:21.855 --> 00:34:24.690
de que una imagen seguramente 
vale más que mil palabras. 

584
00:34:24.970 --> 00:34:29.304
Ahí tienen el objeto de mi 
intervención, que es efectivamente 

585
00:34:29.355 --> 00:34:32.570
la confianza cero en esas 
tecnologías disruptivas. 

586
00:34:32.710 --> 00:34:35.510
Pero la primera pregunta que 
yo me hago es ¿qué son? 

587
00:34:35.760 --> 00:34:37.204
Las tecnologías disruptivas.

588
00:34:37.360 --> 00:34:38.879
Entonces, como les decía,

589
00:34:39.020 --> 00:34:42.635
aprovechando mi reciente 
experiencia en OTAN, 

590
00:34:42.685 --> 00:34:46.335
pues ahí tienen el listado 
de lo que OTAN considera 

591
00:34:46.385 --> 00:34:49.340
como tecnologías disruptivas 
emergentes. 

592
00:34:50.879 --> 00:34:54.435
Como ven, el futuro que 
se puede derivar 

593
00:34:54.485 --> 00:34:58.920
de la aplicación en el buen 
sentido de cada palabra, 

594
00:34:59.060 --> 00:35:01.420
en el buen sentido de cada 
tecnología es enorme. 

595
00:35:02.620 --> 00:35:04.975
O yo creo que esperamos 
en los próximos años 

596
00:35:05.025 --> 00:35:07.875
un santo cualitativo y cuantitativo

597
00:35:07.925 --> 00:35:10.720
y una nueva forma de entender 
muchas cosas. 

598
00:35:10.940 --> 00:35:15.940
Pero yo para esta ponencia me voy a 
quedar fundamentalmente con tres 

599
00:35:16.340 --> 00:35:18.520
de las tecnologías.

600
00:35:22.060 --> 00:35:22.980
Que son.

601
00:35:24.530 --> 00:35:26.465
Desde el punto de vista 
de la ciberseguridad, 

602
00:35:26.515 --> 00:35:30.045
la inteligencia artificial, 
la tecnología cuántica 

603
00:35:30.095 --> 00:35:33.070
y las redes de comunicaciones 
de nueva generación. 

604
00:35:33.970 --> 00:35:37.665
Como decía, creo sinceramente 
que el panorama que nos van 

605
00:35:37.715 --> 00:35:41.165
a ofrecer estas tecnologías va 
a ser un panorama idílico 

606
00:35:41.215 --> 00:35:43.230
y por eso pongo esta imagen,

607
00:35:43.350 --> 00:35:46.070
porque cuando uno ve este 
panorama idílico dice, 

608
00:35:46.210 --> 00:35:49.845
bueno, la inteligencia artificial 
es un salto extraordinario 

609
00:35:49.895 --> 00:35:51.125
en nuestra manera de entender

610
00:35:51.175 --> 00:35:53.550
no solamente la gestión 
de la información, 

611
00:35:53.810 --> 00:35:56.265
sino también los procesos, 
las acciones, 

612
00:35:56.315 --> 00:35:58.510
la relación entre nosotros mismos.

613
00:35:59.210 --> 00:36:04.210
De qué manera la inteligencia humana 
debe aplicarse a esas posibilidades 

614
00:36:05.250 --> 00:36:10.250
que nos da la inteligencia 
artificial para que no sea una dependencia, 

615
00:36:10.690 --> 00:36:12.950
sino una interacción positiva.

616
00:36:14.170 --> 00:36:16.810
La tecnología cuántica, panorama 
idílico también, 

617
00:36:16.930 --> 00:36:20.845
porque nos va a proporcionar una 
capacidad de proceso muchísimo 

618
00:36:20.895 --> 00:36:21.370
mayor.

619
00:36:21.730 --> 00:36:26.730
Es posible que sea la que desentrañe 
muchas de las preguntas 

620
00:36:28.550 --> 00:36:31.945
que no han sido capaces ninguno 
de los grandes científicos 

621
00:36:31.995 --> 00:36:33.650
ni pensadores de resolver,

622
00:36:33.890 --> 00:36:38.890
porque por fin podremos tener esa 
capacidad de interactuar 

623
00:36:39.010 --> 00:36:43.905
en tiempo mínimo con de incorporar 
e integrar muchas variables 

624
00:36:43.955 --> 00:36:48.930
y de tratar de desentrañar algunos 
de los arcanos que nos rodean. 

625
00:36:49.190 --> 00:36:52.055
Y luego las redes de comunicaciones 
de nueva generación, 

626
00:36:52.105 --> 00:36:55.990
experimentamos con el 5G 
un salto tremendo, 

627
00:36:56.610 --> 00:36:59.550
en cuanto a la capacidad que 
tenemos de comunicarnos, 

628
00:36:59.670 --> 00:37:04.250
de compartir información, de 
acceder a la información, 

629
00:37:04.730 --> 00:37:09.190
de acceder a capacidades 
y a funcionalidades, 

630
00:37:09.250 --> 00:37:12.585
de tal manera que en nuestros 
dispositivos móviles 

631
00:37:12.635 --> 00:37:16.450
tenemos prácticamente todo 
lo que necesitamos. 

632
00:37:18.110 --> 00:37:23.110
No es que ese panorama idílico nos.

633
00:37:25.760 --> 00:37:30.160
Atraiga solo porque es idílico, 
sino porque, como decía, 

634
00:37:30.380 --> 00:37:35.380
creo que vamos a evolucionar 
de una manera importante 

635
00:37:35.560 --> 00:37:37.440
en los próximos años.

636
00:37:37.760 --> 00:37:38.260
Pero.

637
00:37:39.120 --> 00:37:42.295
En ese panorama idílico también 
existen amenazas 

638
00:37:42.345 --> 00:37:44.940
y lo estamos viendo, las ha citado 
el profesor Artacho. 

639
00:37:45.120 --> 00:37:47.300
En cuanto a inteligencia artificial,

640
00:37:47.700 --> 00:37:52.500
la inteligencia artificial es 
capaz de suplantarnos, 

641
00:37:52.640 --> 00:37:54.620
de suplantar nuestras identidades.

642
00:37:55.060 --> 00:37:58.815
Lo hemos visto con llamadas 
telefónicas de familiares 

643
00:37:58.865 --> 00:37:59.940
para solicitar dinero.

644
00:37:59.990 --> 00:38:03.035
La inteligencia artificial 
es capaz de identificar 

645
00:38:03.085 --> 00:38:05.435
vulnerabilidades que antes 
costaba mucho tiempo. 

646
00:38:05.484 --> 00:38:09.870
En todas nuestras capacidades 
de comunicación, 

647
00:38:09.990 --> 00:38:14.325
en nuestro acceso a información, 
en nuestro intercambio 

648
00:38:14.375 --> 00:38:15.128
de información.

649
00:38:16.130 --> 00:38:21.045
La tecnología cuántica, también 
lo ha señalado el profesor 

650
00:38:21.095 --> 00:38:25.490
Artacho, va a hacer que todos 
los sistemas de cifrado. 

651
00:38:26.170 --> 00:38:31.170
Actuales, pues necesiten de 
una renovación absoluta. 

652
00:38:31.510 --> 00:38:32.290
Ya hay, de hecho,

653
00:38:32.390 --> 00:38:37.390
intentos de que esa tecnología de 
cifrado poscuántica sea capaz 

654
00:38:39.090 --> 00:38:44.090
de resistir el salto cuantitativo 
que la propia implantación 

655
00:38:44.950 --> 00:38:46.165
de esa tecnología nos va a dar,

656
00:38:46.215 --> 00:38:48.570
pero mientras tanto, existen.

657
00:38:49.290 --> 00:38:54.290
Muchas iniciativas de robo 
de información criptada, 

658
00:38:54.630 --> 00:38:57.685
esperando a que esa tecnología 
cuántica haga posible 

659
00:38:57.735 --> 00:38:59.110
que sea descriptada.

660
00:38:59.310 --> 00:39:02.070
Y en cuanto a redes de 
comunicaciones de nueva generación, 

661
00:39:02.130 --> 00:39:04.810
esa capacidad de comunicación, 
esa capacidad de acceso, 

662
00:39:05.090 --> 00:39:06.550
esa capacidad de interacción,

663
00:39:06.730 --> 00:39:09.405
pues también puede ser usada 
por aquellas amenazas 

664
00:39:09.455 --> 00:39:14.430
para que nuestra capacidad de 
resistencia sea mucho menor. 

665
00:39:15.030 --> 00:39:17.865
Que no tengamos posibilidad 
de reaccionar a tiempo 

666
00:39:17.915 --> 00:39:20.225
y que no tengamos capacidad 
de prevención 

667
00:39:20.275 --> 00:39:23.125
en cuanto a que no hay mejor arma

668
00:39:23.175 --> 00:39:27.485
que una red de comunicaciones 
que es capaz de acceder 

669
00:39:27.535 --> 00:39:30.905
a todos los servicios que tanto 
la inteligencia artificial 

670
00:39:30.955 --> 00:39:34.285
como la tecnología cuántica le 
pueden proporcionar aumentados 

671
00:39:34.335 --> 00:39:35.030
y mejorados.

672
00:39:35.370 --> 00:39:37.505
Entonces la pregunta aquí 
sería, ¿qué hacemos? 

673
00:39:37.555 --> 00:39:40.310
¿Qué hacemos para disfrutar 
de ese paisaje? 

674
00:39:40.430 --> 00:39:42.685
Y muchas veces

675
00:39:42.735 --> 00:39:47.185
lo que decimos es, bueno, pues vamos 
a encerrarnos en nuestro castillo, 

676
00:39:47.235 --> 00:39:51.465
vamos a establecer barreras 
y vamos a protegernos 

677
00:39:51.515 --> 00:39:53.625
dentro de esas murallas del castillo,

678
00:39:53.675 --> 00:39:54.740
de nuestros torreones.

679
00:39:54.791 --> 00:39:57.390
Pero entonces tenemos un 
problema fundamental, 

680
00:39:57.530 --> 00:40:01.050
es primero, no estamos disfrutando 
de ese paisaje y segundo, 

681
00:40:01.270 --> 00:40:06.155
¿quién nos garantiza que una vez 
pasada la entrada del castillo, 

682
00:40:06.205 --> 00:40:11.190
el atacante, el intruso, no tenga 
la vía abierta y expedita 

683
00:40:11.930 --> 00:40:14.370
para acceder a todas y cada 
una de las dependencias? 

684
00:40:14.490 --> 00:40:16.065
Se nos presenta en la puerta

685
00:40:16.115 --> 00:40:20.070
una identidad que está suplantada 
mediante inteligencia artificial, 

686
00:40:20.450 --> 00:40:23.730
se le da paso libre y ya tiene 
a su disposición. 

687
00:40:24.100 --> 00:40:27.345
Todo lo que tenemos o creíamos 
tener protegido. 

688
00:40:27.395 --> 00:40:31.055
Luego, esa protección ya no puede 
basarse en redes aisladas, 

689
00:40:31.105 --> 00:40:32.955
no puede basarse en murallas 
defensivas, 

690
00:40:33.005 --> 00:40:34.424
hay que basarla en otras cosas.

691
00:40:34.680 --> 00:40:37.515
Tampoco podemos pensar que 
en nuestra relación 

692
00:40:37.565 --> 00:40:40.555
con los demás, los demás vayan 
a estar exactamente igual 

693
00:40:40.605 --> 00:40:43.255
que nosotros, protegidos por esas 
murallas que en realidad 

694
00:40:43.305 --> 00:40:46.080
no protegen ya nada, con esas 
tecnologías disruptivas. 

695
00:40:46.950 --> 00:40:48.565
En nuestras casas, en 
nuestras viviendas. 

696
00:40:48.615 --> 00:40:51.825
Tampoco podemos generar castillos 
en nuestra casa 

697
00:40:51.875 --> 00:40:56.065
porque es desde nuestro domicilio, 
es desde nuestro dispositivo móvil 

698
00:40:56.115 --> 00:40:58.605
desde donde accedemos a todas 
esas capacidades 

699
00:40:58.655 --> 00:41:00.545
que las nuevas tecnologías 
nos están ofreciendo 

700
00:41:00.595 --> 00:41:03.125
y nos van a ofrecer con mucha 
más disponibilidad 

701
00:41:03.175 --> 00:41:04.372
y con mucha más capacidad.

702
00:41:05.570 --> 00:41:06.750
Por otra parte,

703
00:41:08.080 --> 00:41:13.080
Ya no estamos en un entorno aislado, 
nos comunicamos a través de, 

704
00:41:14.420 --> 00:41:18.135
o tenemos servicios a 
través de nubes, 

705
00:41:18.185 --> 00:41:20.695
nubes que son las que 
nos hacen posible 

706
00:41:20.745 --> 00:41:25.720
que el mundo ya no tenga un lugar 
en el que se esconda nadie. 

707
00:41:26.600 --> 00:41:29.395
Pero que también nos proporciona 
la capacidad de interactuar 

708
00:41:29.445 --> 00:41:32.175
con cualquiera allí donde esté, 
en cualquier parte del mundo, 

709
00:41:32.225 --> 00:41:33.795
en cualquier momento y 
en cualquier hora. 

710
00:41:33.845 --> 00:41:36.915
¿Cómo vamos a generar o a crear 
esos castillos en la nube? 

711
00:41:36.965 --> 00:41:40.455
Porque perderíamos la capacidad 
de relación que esas nubes 

712
00:41:40.505 --> 00:41:43.135
nos están dando, de tal manera 
que la deslocalización, 

713
00:41:43.185 --> 00:41:44.300
que nuestro trabajo.

714
00:41:45.040 --> 00:41:46.835
Nos hace posible

715
00:41:46.885 --> 00:41:49.795
y lo hemos visto perfectamente 
en la pandemia 

716
00:41:49.845 --> 00:41:52.035
y lo vemos cada día porque 
somos capaces 

717
00:41:52.085 --> 00:41:56.075
de trabajar desde cualquier lado del 
mundo no es posible generar fuertes 

718
00:41:56.125 --> 00:41:57.755
en esa nube porque igual

719
00:41:57.805 --> 00:42:01.455
que en cualquiera de las demás 
desaparecerán esas protecciones 

720
00:42:01.505 --> 00:42:04.915
una vez que esas tecnologías 
disruptivas y emergentes 

721
00:42:04.965 --> 00:42:09.940
nos los superen por otra parte como 
individuos podemos protegernos 

722
00:42:13.000 --> 00:42:14.111
detrás de una armadura.

723
00:42:14.560 --> 00:42:15.227
Yo creo que no.

724
00:42:15.340 --> 00:42:16.775
Yo creo que esa armadura,

725
00:42:16.825 --> 00:42:20.975
igual que nos podría proteger, 
también podría proteger al atacante, 

726
00:42:21.025 --> 00:42:23.284
porque no sabemos qué hay 
dentro de esa armadura. 

727
00:42:23.334 --> 00:42:27.275
Una vez que la identidad suplantada 
se cubre de la armadura 

728
00:42:27.325 --> 00:42:30.875
y pensamos que es aquella a la 
que queremos darle acceso 

729
00:42:30.925 --> 00:42:32.060
a nuestros.

730
00:42:33.280 --> 00:42:37.655
Datos a nuestra cuenta bancaria 
pues estaríamos perfectamente 

731
00:42:37.705 --> 00:42:42.475
en peligro tampoco podemos generar 
redes de comunicaciones 

732
00:42:42.525 --> 00:42:45.335
con un satélite ahí estén 
subidas en un castillo 

733
00:42:45.385 --> 00:42:50.360
porque no existe esa capacidad 
estamos en peligro en cada uno 

734
00:42:50.580 --> 00:42:55.580
de los elementos tecnológicos 
que van a ser. 

735
00:42:59.320 --> 00:43:00.655
Beneficiados, podemos decir,

736
00:43:00.705 --> 00:43:04.435
impulsados por esas tecnologías 
emergentes que nos van a dar 

737
00:43:04.485 --> 00:43:06.475
muchas cosas, pero nos van a 
poner también en peligro. 

738
00:43:06.525 --> 00:43:08.255
Entonces, la pregunta que 
yo planteo aquí es 

739
00:43:08.305 --> 00:43:11.225
¿qué hacemos para disfrutar 
de ese paisaje idílico? 

740
00:43:11.275 --> 00:43:12.580
¿Qué tenemos que hacer?

741
00:43:12.940 --> 00:43:15.155
Bueno, pues hay una respuesta 
y voy a tratar 

742
00:43:15.205 --> 00:43:19.395
de que no sea una respuesta 
tecnológica, 

743
00:43:19.445 --> 00:43:22.520
porque no lo es, que es 
la confianza cero. 

744
00:43:23.150 --> 00:43:25.090
Es decir, no tengamos 
confianza en nada. 

745
00:43:25.290 --> 00:43:29.985
Hagamos que los perímetros de 
seguridad sean lo más próximos 

746
00:43:30.035 --> 00:43:33.470
a la necesidad de conocer a 
nuestra propia identidad, 

747
00:43:33.530 --> 00:43:37.290
a nuestras propias necesidades, 
como sea posible. 

748
00:43:37.490 --> 00:43:40.879
No hagamos perímetros de murallas de 
castillos, sino pongámoslos allí, 

749
00:43:40.970 --> 00:43:43.185
pongamos el perímetro de seguridad 
allí donde es 

750
00:43:43.235 --> 00:43:44.750
absolutamente necesario.

751
00:43:45.850 --> 00:43:48.130
Y esto no lo hacemos solo 
con tecnología, 

752
00:43:48.270 --> 00:43:49.505
lo hacemos con tecnología.

753
00:43:49.555 --> 00:43:50.585
Lo hacemos con procesos

754
00:43:50.635 --> 00:43:52.845
y lo hacemos teniendo en cuenta 
que hay decisiones humanas 

755
00:43:52.895 --> 00:43:56.790
que deben ser parte de este concepto.

756
00:43:57.050 --> 00:44:00.105
Hay tres elementos fundamentales 
de esa confianza cero 

757
00:44:00.155 --> 00:44:03.870
que dicen nunca confíes, no confíes 
en nada ni en nadie, 

758
00:44:04.010 --> 00:44:06.845
verifica siempre y además 
verifica continuamente, 

759
00:44:06.895 --> 00:44:10.030
no por el hecho de haber aceptado 
una primera verificación, 

760
00:44:10.130 --> 00:44:12.930
esa verificación debe 
ser permanente, no, 

761
00:44:12.990 --> 00:44:15.250
hay que continuar verificando.

762
00:44:16.950 --> 00:44:18.714
Hay que asumir que nuestros sistemas,

763
00:44:18.764 --> 00:44:19.645
que nuestras redes,

764
00:44:19.695 --> 00:44:22.215
que nuestros datos, están 
ya comprometidos, 

765
00:44:22.265 --> 00:44:25.205
porque asumiendo que están 
comprometidos, pondremos los medios 

766
00:44:25.255 --> 00:44:28.095
para que esa seguridad 
sea siempre máxima. 

767
00:44:28.145 --> 00:44:31.865
No podemos sentirnos seguros detrás 
de ninguna protección, 

768
00:44:31.915 --> 00:44:34.605
sino siempre poniendo en duda 
que lo que tenemos 

769
00:44:34.655 --> 00:44:35.750
es lo que debemos tener.

770
00:44:35.850 --> 00:44:37.565
Además, la evolución tecnológica

771
00:44:37.615 --> 00:44:42.590
es tal que una seguridad que podemos 
tener hoy y mañana ya no es tal. 

772
00:44:43.490 --> 00:44:46.330
Y luego asignar el menor 
privilegio posible. 

773
00:44:46.570 --> 00:44:50.510
No es necesario que todos 
conozcamos de todo, 

774
00:44:50.610 --> 00:44:52.685
no es necesario que todos 
tengamos acceso a todo, 

775
00:44:52.735 --> 00:44:57.710
no es necesario que cada 
una de las personas, 

776
00:44:57.890 --> 00:45:01.270
identidades de los procesos 
necesite acceder a todo. 

777
00:45:01.390 --> 00:45:04.445
Hay que identificar qué es necesario 
en cada momento 

778
00:45:04.495 --> 00:45:05.230
y darle.

779
00:45:05.840 --> 00:45:08.780
El privilegio de acceso que necesita,

780
00:45:09.020 --> 00:45:13.135
porque la seguridad depende de que 
esos perímetros que decía 

781
00:45:13.185 --> 00:45:15.160
sean lo más reducidos posible.

782
00:45:15.660 --> 00:45:18.320
Bueno, y entonces, vale, 
esto está muy bien. 

783
00:45:18.440 --> 00:45:19.340
Confianza cero.

784
00:45:20.980 --> 00:45:24.560
Dudamos de todo, miramos 
de soslayo a todos, 

785
00:45:25.120 --> 00:45:30.120
accedemos a los servicios pero 
siempre muy supervisados 

786
00:45:30.900 --> 00:45:35.900
porque no sabemos dónde puede estar 
ese atacante empleando 

787
00:45:36.280 --> 00:45:37.560
esas nuevas tecnologías,

788
00:45:37.660 --> 00:45:39.020
pero esto cómo se hace.

789
00:45:39.120 --> 00:45:40.180
Entonces, yo.

790
00:45:41.390 --> 00:45:43.545
Voy a plantear, sin entrar 
en términos técnicos, 

791
00:45:43.595 --> 00:45:46.210
cinco áreas fundamentales en 
las que hay que actuar. 

792
00:45:46.330 --> 00:45:47.941
Primero, en la identidad digital.

793
00:45:48.090 --> 00:45:51.785
Esa identidad digital que puede 
ser tanto de una persona 

794
00:45:51.835 --> 00:45:52.310
o.

795
00:45:54.430 --> 00:45:59.430
Es decir, el internet de las cosas 
o nuestra nevera, el televisor, 

796
00:46:01.070 --> 00:46:06.070
un aparato que pueda 
mover una turbina 

797
00:46:09.110 --> 00:46:14.110
o abrir una compuerta en 
una central eléctrica 

798
00:46:14.390 --> 00:46:16.370
o en un pantano o en una presa.

799
00:46:16.780 --> 00:46:21.780
Esas identidades digitales que hay 
detrás de cada uno de los elementos 

800
00:46:22.480 --> 00:46:26.735
que se accionan mediante 
el acceso tecnológico 

801
00:46:26.785 --> 00:46:30.340
o mediante nuestra propia voluntad, 
porque somos personas, 

802
00:46:30.540 --> 00:46:33.115
necesita que solamente 
haya un único punto 

803
00:46:33.165 --> 00:46:35.900
de verdad que nos diga, es verdad, 
usted es quien debe ser. 

804
00:46:36.320 --> 00:46:40.600
Es decir, que haciendo una entrada 
por ese único punto de verdad, 

805
00:46:40.720 --> 00:46:43.875
estemos verificados inicialmente 
y luego nos verificarán. 

806
00:46:43.925 --> 00:46:46.135
Nos verificarán cada vez 
que intentemos acceder 

807
00:46:46.185 --> 00:46:47.380
a un lugar distinto.

808
00:46:47.440 --> 00:46:50.060
Pero ese punto de entrada 
debe ser único. 

809
00:46:50.240 --> 00:46:52.035
No puede haber distintos 
puntos de entrada 

810
00:46:52.085 --> 00:46:52.940
porque entonces.

811
00:46:53.520 --> 00:46:58.075
Entonces se producen las 
duplicidades que dan opción a accesos 

812
00:46:58.125 --> 00:46:59.440
suplantados.

813
00:47:00.300 --> 00:47:02.235
Autenticación múltiple 
lo usamos todos ya, 

814
00:47:02.285 --> 00:47:05.635
no es solamente que yo ponga mi 
password, mi contraseña, 

815
00:47:05.685 --> 00:47:09.380
sino que además haya otras opciones 
para verificar que yo soy quien soy. 

816
00:47:09.960 --> 00:47:13.715
Y luego el comportamiento, si 
a las 3 de la madrugada 

817
00:47:13.765 --> 00:47:17.020
trato de acceder a un recurso 
de mi empresa o una de dos, 

818
00:47:17.080 --> 00:47:19.235
o es que resulta que tengo un 
incendio en la empresa 

819
00:47:19.285 --> 00:47:21.482
o es que hay alguien más tratando 
de acceder a él. 

820
00:47:21.560 --> 00:47:26.560
Bueno, hay un comportamiento 
estándar sobre el que normalmente se verifica 

821
00:47:27.240 --> 00:47:30.535
que esa identidad que se ha 
autentificado una vez 

822
00:47:30.585 --> 00:47:31.860
y que además hay que.

823
00:47:32.670 --> 00:47:34.365
Preguntarle o preguntarse

824
00:47:34.415 --> 00:47:36.530
¿es realmente quien dice ser?

825
00:47:36.710 --> 00:47:40.665
Pues ese comportamiento va a ayudar 
a decidir en sentido positivo 

826
00:47:40.715 --> 00:47:41.830
o en sentido negativo.

827
00:47:42.110 --> 00:47:42.930
Nuestros datos.

828
00:47:43.250 --> 00:47:44.010
¿Qué datos?

829
00:47:44.270 --> 00:47:47.525
Los datos que están en nuestros 
dispositivos, 

830
00:47:47.575 --> 00:47:50.130
en bases de datos, en 
centros de datos. 

831
00:47:50.290 --> 00:47:51.910
Los datos que están en tránsito.

832
00:47:52.450 --> 00:47:54.210
Moviéndose de uno a otro lugar.

833
00:47:54.410 --> 00:47:55.935
Los datos que usamos, es decir,

834
00:47:55.985 --> 00:47:57.725
los que tenemos delante 
de nuestra pantalla, 

835
00:47:57.775 --> 00:47:59.545
tanto estructurados como 
no estructurados, 

836
00:47:59.595 --> 00:48:00.725
también deben ser objeto.

837
00:48:00.775 --> 00:48:01.510
¿Objeto de qué?

838
00:48:01.570 --> 00:48:03.150
De inventario detallado.

839
00:48:03.250 --> 00:48:04.303
Hay que etiquetarlos.

840
00:48:04.353 --> 00:48:08.545
Si no se etiquetan, no sabes qué 
tipo de datos estás protegiendo 

841
00:48:08.595 --> 00:48:10.292
ni de qué manera hay que protegerlos.

842
00:48:10.980 --> 00:48:12.255
De nuevo, el mínimo privilegio.

843
00:48:12.305 --> 00:48:14.034
¿Quién tiene que acceder 
a esos datos? 

844
00:48:14.084 --> 00:48:17.380
Tenemos que cifrarlos, deben 
estar cifrados todos, 

845
00:48:17.560 --> 00:48:19.435
los de reposo, los de uso, 
los de tránsito. 

846
00:48:19.485 --> 00:48:22.335
Tenemos que saber que los datos 
no deben salir de allí 

847
00:48:22.385 --> 00:48:25.235
donde nosotros queremos 
que nos salgan 

848
00:48:25.285 --> 00:48:26.880
y para eso hay herramientas.

849
00:48:27.300 --> 00:48:30.740
Deben estar esas herramientas 
perfectamente configuradas. 

850
00:48:31.050 --> 00:48:34.590
Es un trabajo enorme, sobre todo 
en organizaciones grandes, 

851
00:48:34.710 --> 00:48:36.225
y sobre todo hay que dar derechos.

852
00:48:36.275 --> 00:48:39.530
¿Quién puede acceder y de qué 
manera puede acceder? 

853
00:48:39.590 --> 00:48:43.005
Hay herramientas también para 
resolver esas cuestiones, 

854
00:48:43.055 --> 00:48:47.105
pero hay que implantarlas,

855
00:48:47.155 --> 00:48:50.370
ponerlas en funcionamiento y 
configurarlas permanentemente. 

856
00:48:51.780 --> 00:48:53.615
Nuestros dispositivos, 
¿qué dispositivos? 

857
00:48:53.665 --> 00:48:56.240
Pues los equipos de usuario, 
nuestros laptops, 

858
00:48:56.600 --> 00:48:59.340
ordenadores portátiles, personales, 
los móviles, 

859
00:48:59.440 --> 00:49:00.115
las tabletas.

860
00:49:00.165 --> 00:49:02.675
Estamos hablando otra 
vez de lo mismo, 

861
00:49:02.725 --> 00:49:07.360
de las cámaras de seguridad, por 
ejemplo, nuestro router en casa. 

862
00:49:07.600 --> 00:49:09.940
Todos esos son dispositivos 
que hay que conocer. 

863
00:49:10.080 --> 00:49:11.755
Y hay que conocer porque 
debemos saber 

864
00:49:11.805 --> 00:49:12.860
qué dispositivos hay.

865
00:49:12.920 --> 00:49:16.475
En casa seguramente hay veces en 
las cuales en nuestro router 

866
00:49:16.525 --> 00:49:19.840
nos aparece un acceso que 
no sabemos de quién es. 

867
00:49:20.470 --> 00:49:22.825
Bueno, el inventario detallado en 
una empresa es fundamental, 

868
00:49:22.875 --> 00:49:24.125
pero también en nuestro domicilio.

869
00:49:24.175 --> 00:49:26.630
Si hay alguien que está accediendo 
a nuestro router, 

870
00:49:26.810 --> 00:49:31.745
debemos de saber que no es parte 
de nuestro inventario, 

871
00:49:31.795 --> 00:49:33.805
o sí lo es, es parte 
de nuestra familia 

872
00:49:33.855 --> 00:49:34.550
o no lo es.

873
00:49:34.630 --> 00:49:36.745
Igual en las empresas, igual 
en las instituciones, 

874
00:49:36.795 --> 00:49:37.730
el ciclo de vida.

875
00:49:37.830 --> 00:49:39.920
Cuando los dispositivos 
dejan de ser útiles, 

876
00:49:39.970 --> 00:49:41.210
deben darse de baja,

877
00:49:41.350 --> 00:49:44.105
porque si no, los accesos 
que han tenido 

878
00:49:44.155 --> 00:49:47.170
están ahí y se pueden usar 
para suplantarlos. 

879
00:49:47.690 --> 00:49:49.895
¿Deben estar configurados 
de manera segura? 

880
00:49:49.945 --> 00:49:51.345
Sí, y además permanentemente,

881
00:49:51.395 --> 00:49:54.405
porque las vulnerabilidades 
diariamente se publican decenas 

882
00:49:54.455 --> 00:49:55.805
de vulnerabilidades, decenas.

883
00:49:55.855 --> 00:49:57.863
Hay miles de vulnerabilidades 
publicadas. 

884
00:49:57.913 --> 00:50:00.779
Esas son las que se publican, pero 
hay otras que no se publican. 

885
00:50:01.240 --> 00:50:04.415
Y además debemos configurar esos 
dispositivos de manera 

886
00:50:04.465 --> 00:50:06.640
que sepamos cuál es su prioridad.

887
00:50:06.740 --> 00:50:08.960
Si no podemos abarcar todo, 
si no podemos, 

888
00:50:09.020 --> 00:50:12.480
no digo en el ámbito doméstico, pero 
sí en el ámbito profesional, 

889
00:50:12.660 --> 00:50:17.455
si no podemos asegurar un 100% de 
seguridad de los dispositivos, 

890
00:50:17.505 --> 00:50:21.635
debemos saber de qué manera tenemos 
que priorizar esa configuración 

891
00:50:21.685 --> 00:50:24.255
y sobre todo saber cuál 
es su comportamiento, 

892
00:50:24.305 --> 00:50:25.800
igual que el de las identidades.

893
00:50:26.030 --> 00:50:28.205
Si los dispositivos no 
se conectan a las 3 

894
00:50:28.255 --> 00:50:30.325
de la mañana y no hay ningún 
incendio en la empresa, 

895
00:50:30.375 --> 00:50:31.961
hay algo que no está saliendo bien.

896
00:50:33.030 --> 00:50:34.085
Las redes de comunicaciones,

897
00:50:34.135 --> 00:50:36.585
las fijas, las móviles o 
los accesos remotos 

898
00:50:36.635 --> 00:50:39.725
que usamos cuando estamos en 
teletrabajo a través de las redes 

899
00:50:39.775 --> 00:50:43.755
privadas virtuales en movilidad, 
deben estar segmentadas. 

900
00:50:43.805 --> 00:50:45.345
Las redes no pueden ser redes planas,

901
00:50:45.395 --> 00:50:46.425
de tal manera que un atacante

902
00:50:46.475 --> 00:50:48.570
entre y tenga toda la red 
a su disposición. 

903
00:50:48.750 --> 00:50:50.995
Incluso debemos ir a la 
micro segmentación, 

904
00:50:51.045 --> 00:50:54.010
a la segmentación en aquellos 
lugares en los cuales, 

905
00:50:54.150 --> 00:50:57.720
segmentación quiere decir aquí, 
Puedes llegar hasta aquí, 

906
00:50:57.780 --> 00:51:00.475
pero no llegas más allá de aquí 
porque yo no te voy a dejar pasar 

907
00:51:00.525 --> 00:51:04.005
de aquí si no garantizo 
que tu dispositivo, 

908
00:51:04.055 --> 00:51:05.760
que tu identidad,

909
00:51:05.820 --> 00:51:08.195
que los datos a los que quieres 
acceder son aquellos que son 

910
00:51:08.245 --> 00:51:10.553
necesarios para este trabajo 
que estás haciendo. 

911
00:51:10.720 --> 00:51:14.555
Desde luego, el tráfico de red, 
tanto el tráfico de datos 

912
00:51:14.605 --> 00:51:15.620
como el tráfico.

913
00:51:15.760 --> 00:51:18.495
De todo lo que es el control 
de red debe estar cifrado 

914
00:51:18.545 --> 00:51:23.020
y muchas veces tenemos que saltar 
a redes definidas por software. 

915
00:51:23.240 --> 00:51:25.675
Redes que son configurables 
en función de la amenaza, 

916
00:51:25.725 --> 00:51:26.855
en función de las necesidades

917
00:51:26.905 --> 00:51:31.035
y que no necesitan desplegar nueva 
fibra óptica o nuevos cables 

918
00:51:31.085 --> 00:51:31.700
aquí y allá.

919
00:51:32.740 --> 00:51:33.880
Las aplicaciones.

920
00:51:35.810 --> 00:51:37.310
Aplicaciones que usamos todos.

921
00:51:38.190 --> 00:51:39.412
Desarrollos de software.

922
00:51:40.150 --> 00:51:43.825
Los desarrollos de software que 
normalmente asumimos como seguros 

923
00:51:43.875 --> 00:51:48.850
muchas veces tienen aspectos que no 
están perfectamente cubiertos. 

924
00:51:49.590 --> 00:51:52.605
La inteligencia artificial puede 
identificar esas vulnerabilidades, 

925
00:51:52.655 --> 00:51:56.105
esos agujeros que pueden ser 
explotados y de hecho 

926
00:51:56.155 --> 00:51:59.890
se explotan esas vulnerabilidades 
día cero. 

927
00:52:01.720 --> 00:52:05.755
De tal manera que el desarrollo de 
las aplicaciones debe hacerse 

928
00:52:05.805 --> 00:52:08.160
de una manera muy segura.

929
00:52:08.340 --> 00:52:09.460
Eso cuesta dinero.

930
00:52:09.640 --> 00:52:11.595
Muchas veces las aplicaciones 
se ponen en el mercado 

931
00:52:11.645 --> 00:52:13.155
sin que haya habido un 
desarrollo seguro 

932
00:52:13.205 --> 00:52:16.555
y las usamos con esas 
vulnerabilidades 

933
00:52:16.605 --> 00:52:19.675
incluidas que son explotables y que 
muchas veces no se publican 

934
00:52:19.725 --> 00:52:20.695
porque nadie las encuentra.

935
00:52:20.745 --> 00:52:23.335
Pero hay veces que el atacante, 
usando inteligencia artificial, 

936
00:52:23.385 --> 00:52:25.980
es capaz de encontrarlas antes 
que el fabricante. 

937
00:52:27.120 --> 00:52:27.935
Los servicios de nube.

938
00:52:27.985 --> 00:52:28.975
Los servicios de nube

939
00:52:29.025 --> 00:52:32.395
ya no estamos con aplicaciones 
en nuestros dispositivos. 

940
00:52:32.445 --> 00:52:37.180
Las aplicaciones se comparten a 
través del software como servicio. 

941
00:52:37.360 --> 00:52:41.700
Por eso los desarrollos de 
nube deben ser seguros. 

942
00:52:41.780 --> 00:52:45.200
Esa utilización de esos servicios 
debe ser segura. 

943
00:52:45.280 --> 00:52:50.280
Y luego, cuando nos incorporamos a 
determinados servicios digitales, 

944
00:52:51.360 --> 00:52:55.435
procediendo de otros, esas 
interfaces entre aplicaciones. 

945
00:52:55.485 --> 00:52:56.425
Muchas veces,

946
00:52:56.475 --> 00:52:59.815
como son puentes entre unos 
tipos de aplicaciones 

947
00:52:59.865 --> 00:53:03.455
y otros, esos puentes son fáciles 
de interceptar por parte 

948
00:53:03.505 --> 00:53:08.480
del atacante y de usar como medio de 
acceso a una u otra aplicación. 

949
00:53:09.260 --> 00:53:13.660
Por lo tanto, también deben ser 
parte de un inventario concreto. 

950
00:53:14.220 --> 00:53:16.215
El acceso debe hacerse 
por cada aplicación, 

951
00:53:16.265 --> 00:53:18.140
no para un grupo de aplicaciones.

952
00:53:18.300 --> 00:53:21.680
El desarrollo de seguros y la 
evaluación también continúa. 

953
00:53:21.740 --> 00:53:23.340
Y, por supuesto,

954
00:53:23.400 --> 00:53:25.915
conocer qué vulnerabilidades tienen 
las aplicaciones que estamos usando 

955
00:53:25.965 --> 00:53:27.020
y resolverlas.

956
00:53:27.120 --> 00:53:28.231
Y resolverlas a tiempo,

957
00:53:28.300 --> 00:53:31.060
antes de que otros las usen 
antes que nosotros. 

958
00:53:31.780 --> 00:53:34.695
Bueno, pues con esos cinco 
pilares fundamentales 

959
00:53:34.745 --> 00:53:37.960
vamos a algo que es importante.

960
00:53:38.740 --> 00:53:41.775
¿Qué visibilidad tenemos de todo eso?

961
00:53:41.825 --> 00:53:44.555
Porque hay un montón de datos, hay 
un montón de actividades, 

962
00:53:44.605 --> 00:53:46.795
un montón de procesos, un 
montón de identidades. 

963
00:53:46.845 --> 00:53:49.855
Es más, debemos tener esa 
visibilidad en tiempo real 

964
00:53:49.905 --> 00:53:51.460
y analizarla en tiempo real.

965
00:53:52.230 --> 00:53:52.705
¿Por qué?

966
00:53:52.755 --> 00:53:56.590
Pues porque de una manera automática 
hay que orquestar una respuesta. 

967
00:53:56.750 --> 00:53:59.850
Esto es lo que el profesor Artacho 
decía del ciclo OODA, 

968
00:53:59.990 --> 00:54:04.305
es decir, observar, visibilidad, 
orientar, analizar, 

969
00:54:04.355 --> 00:54:09.350
decidir en la automatización y 
actuar en la orquestación. 

970
00:54:13.870 --> 00:54:16.145
Hay algo que también es importante 
y es el gobierno. 

971
00:54:16.195 --> 00:54:17.445
¿El gobierno qué quiere decir?

972
00:54:17.495 --> 00:54:19.525
Las políticas de seguridad, 
las reglas de seguridad 

973
00:54:19.575 --> 00:54:20.610
que se aplican.

974
00:54:20.670 --> 00:54:22.265
Ahí hay una gestión del riesgo

975
00:54:22.315 --> 00:54:26.705
y esas reglas de seguridad 
que son fundamentales 

976
00:54:26.755 --> 00:54:30.925
para que se dé o no acceso, para 
que se configure o no 

977
00:54:30.975 --> 00:54:35.950
un determinado grupo de personas, 
de usuarios, 

978
00:54:37.410 --> 00:54:39.030
de dispositivos.

979
00:54:40.250 --> 00:54:43.625
Esa gestión del riesgo no quiere 
decir que establezcamos unas reglas 

980
00:54:43.675 --> 00:54:44.270
y ya están.

981
00:54:44.330 --> 00:54:45.465
Las reglas son dinámicas,

982
00:54:45.515 --> 00:54:48.270
deben adaptarse en función de 
la evolución del riesgo. 

983
00:54:48.410 --> 00:54:50.710
Y además, se ha hablado al principio,

984
00:54:50.890 --> 00:54:55.890
por algunos de los intervinientes 
anteriores, que es necesario 

985
00:54:57.230 --> 00:54:59.870
que las reglas, la seguridad,

986
00:55:00.230 --> 00:55:04.210
la manera en la que nosotros 
entendamos la seguridad, 

987
00:55:04.410 --> 00:55:08.470
no quede en entredicho 
porque compartamos. 

988
00:55:09.220 --> 00:55:13.375
Nuestras actividades con otros 
que no son capaces 

989
00:55:13.425 --> 00:55:16.000
de mantener ese tipo de 
nivel de seguridad. 

990
00:55:16.200 --> 00:55:17.340
Es decir, federar.

991
00:55:17.620 --> 00:55:22.060
Federar no solamente instituciones 
entre sí, 

992
00:55:22.140 --> 00:55:24.875
sino muchas veces se trata 
de federar servicios 

993
00:55:24.925 --> 00:55:28.735
para que el servicio que se 
proporciona de una manera segura 

994
00:55:28.785 --> 00:55:31.975
no vaya a ser comprometido por 
otro que se proporciona 

995
00:55:32.025 --> 00:55:34.420
de una manera no segura con 
el que interactuamos. 

996
00:55:35.640 --> 00:55:36.580
Todo esto.

997
00:55:37.940 --> 00:55:40.675
Todo esto es algo que 
no se puede hacer 

998
00:55:40.725 --> 00:55:44.675
sin que la inteligencia artificial 
y ojalá que tengamos también 

999
00:55:44.725 --> 00:55:47.115
esa computación cuántica y esas redes

1000
00:55:47.165 --> 00:55:49.475
de nueva generación disponibles 
nos ayude. 

1001
00:55:49.525 --> 00:55:51.695
Es decir, tenemos que usar 
las mismas armas 

1002
00:55:51.745 --> 00:55:53.480
que el atacante.

1003
00:55:55.410 --> 00:55:58.410
La amenaza usa para defendernos 
de ella, 

1004
00:55:58.490 --> 00:56:00.685
pero esa inteligencia artificial

1005
00:56:00.735 --> 00:56:05.710
debe ser capaz de integrar ese 
enorme volumen de datos 

1006
00:56:06.610 --> 00:56:11.610
que hemos visto y hemos recogido, 
analizarlo, proponer, 

1007
00:56:12.810 --> 00:56:16.385
proponer automáticamente o 
resolver automáticamente 

1008
00:56:16.435 --> 00:56:19.545
y proponer automáticamente 
a esa identidad humana 

1009
00:56:19.595 --> 00:56:21.014
que tiene que estar en el medio.

1010
00:56:21.440 --> 00:56:24.240
Las acciones, las respuestas 
que sean necesarias. 

1011
00:56:24.380 --> 00:56:26.180
Esto no es tecnología.

1012
00:56:26.620 --> 00:56:29.440
Esto es un conjunto de tecnología,

1013
00:56:29.860 --> 00:56:33.800
de procesos y de decisiones 
de las personas. 

1014
00:56:35.930 --> 00:56:40.930
¿Hasta qué punto podemos pensar que 
esto es parte de la actividad 

1015
00:56:41.250 --> 00:56:42.065
en el ciberespacio?

1016
00:56:42.115 --> 00:56:45.950
Pues no, no debe ser solamente 
aplicado al ciberespacio. 

1017
00:56:46.050 --> 00:56:46.570
¿Por qué?

1018
00:56:46.650 --> 00:56:50.805
Pues porque para tener una 
capacidad suficiente 

1019
00:56:50.855 --> 00:56:54.135
de responder a estas tecnologías 
emergentes, 

1020
00:56:54.185 --> 00:56:57.365
debemos aplicar este concepto 
de confianza cero 

1021
00:56:57.415 --> 00:56:59.605
en todos y cada uno de los dominios,

1022
00:56:59.655 --> 00:57:03.930
porque la ciberseguridad es 
transversal a todos ellos. 

1023
00:57:04.720 --> 00:57:08.455
Terrestre al marítimo al aéreo 
al espacio al ciberespacio 

1024
00:57:08.505 --> 00:57:10.775
y al cognitivo también 
que muchas veces 

1025
00:57:10.825 --> 00:57:15.195
nos olvidamos de ello y que y que es 
el que posiblemente más afecta 

1026
00:57:15.245 --> 00:57:15.935
a los individuos

1027
00:57:15.985 --> 00:57:19.715
pero también a las sociedades 
a las naciones 

1028
00:57:19.765 --> 00:57:21.040
y a las instituciones.

1029
00:57:21.480 --> 00:57:25.375
De tal manera que esas capacidades, 
esas nuevas tecnologías 

1030
00:57:25.425 --> 00:57:28.555
nos tienen que ayudar en este 
concepto de defensa 

1031
00:57:28.605 --> 00:57:32.975
a que las herramientas que tiene 
el atacante se contrarresten 

1032
00:57:33.025 --> 00:57:36.995
con la coraza que nosotros 
desarrollamos empleando 

1033
00:57:37.045 --> 00:57:39.520
esas mismas herramientas 
en nuestra defensa. 

1034
00:57:39.620 --> 00:57:43.555
Y con esto ya quedo a disposición 
de todos ustedes 

1035
00:57:43.605 --> 00:57:45.195
para cualquier pregunta 
que pueda surgir. 

1036
00:57:45.245 --> 00:57:45.998
Muchas gracias.

1037
00:57:52.190 --> 00:57:53.650
Muchas gracias, Roberto.

1038
00:57:54.070 --> 00:57:56.348
Muy interesante aportación, 
además muy visual. 

1039
00:57:56.470 --> 00:57:58.430
Es de agradecer.

1040
00:57:59.210 --> 00:58:03.325
Bueno, yo creo que introducimos un 
concepto encima de la mesa. 

1041
00:58:03.375 --> 00:58:07.890
Vamos poco a poco desgranando todo 
el contenido de la sesión. 

1042
00:58:09.390 --> 00:58:11.765
Relativa a la digitalización en 
inteligencia artificial, 

1043
00:58:11.815 --> 00:58:13.710
el concepto de confianza cero.

1044
00:58:14.430 --> 00:58:16.165
Yo creo que la inteligencia 
artificial 

1045
00:58:16.215 --> 00:58:19.125
nos exige ya pasar de esa 
confianza por defecto 

1046
00:58:19.175 --> 00:58:22.150
a la verificación por diseño, 
de alguna manera. 

1047
00:58:22.310 --> 00:58:25.165
Y es interesante este tipo de 
conceptos que se pongan 

1048
00:58:25.215 --> 00:58:27.468
encima de la mesa, sobre todo 
teniendo en cuenta. 

1049
00:58:27.590 --> 00:58:30.325
Bueno, que al final, a la larga,

1050
00:58:30.375 --> 00:58:33.205
sí que pueden plantearse no solo 
como un principio inspirador, 

1051
00:58:33.255 --> 00:58:36.565
sino como un principio rector que 
además haga las veces de pilar 

1052
00:58:36.615 --> 00:58:38.765
y de característica fundamental 
en el desarrollo 

1053
00:58:38.815 --> 00:58:40.790
de este tipo de elementos.

1054
00:58:41.170 --> 00:58:45.005
Vamos a continuar con el orden 
que teníamos previsto 

1055
00:58:45.055 --> 00:58:47.790
para las intervenciones, para 
luego dejar, por supuesto, 

1056
00:58:47.910 --> 00:58:50.715
un espacio a las consultas 
y a las cuestiones, 

1057
00:58:50.765 --> 00:58:53.850
que desde luego no dudo de 
que habrá más de una. 

1058
00:58:54.260 --> 00:58:56.675
Continuamos entonces 
con la aportación 

1059
00:58:56.725 --> 00:58:58.560
de don Enrique Ávila Gómez.

1060
00:58:59.000 --> 00:59:02.415
Don Enrique es director del 
Centro de Referencia 

1061
00:59:02.465 --> 00:59:05.162
e Inteligencia Artificial del 
Estado Mayor de la Defensa. 

1062
00:59:05.440 --> 00:59:08.955
Anteriormente ha sido director 
del Centro de Análisis 

1063
00:59:09.005 --> 00:59:10.591
y Prospectiva de la Guardia Civil.

1064
00:59:10.720 --> 00:59:11.915
Es licenciado en Derecho.

1065
00:59:11.965 --> 00:59:13.880
¿En Derecho?

1066
00:59:14.460 --> 00:59:15.349
Derecho, ¿verdad?

1067
00:59:16.360 --> 00:59:19.420
Licenciado en Derecho por la 
Universidad Complutense de Madrid, 

1068
00:59:19.760 --> 00:59:22.295
máster en análisis de 
evidencias forenses 

1069
00:59:22.345 --> 00:59:26.615
y lucha contra el cibercrimen, una 
serie de posgrados evidentemente 

1070
00:59:26.665 --> 00:59:31.035
que han ido consolidando su 
formación universitaria académica 

1071
00:59:31.085 --> 00:59:35.000
y actualmente es profesor del máster 
de gestión de seguridad, 

1072
00:59:35.060 --> 00:59:40.060
crisis y emergencias y del máster 
de servicios de inteligencia 

1073
00:59:40.360 --> 00:59:43.180
del Instituto Universitario 
Guterres Mellado. 

1074
00:59:43.520 --> 00:59:46.880
Bueno, evidentemente, yo creo que su 
expertise está más que claro. 

1075
00:59:47.140 --> 00:59:49.415
Quiere hoy, en esta ocasión,

1076
00:59:49.465 --> 00:59:51.615
ha tenido a bien ofrecernos 
el título del 

1077
00:59:51.665 --> 00:59:54.680
uso de la inteligencia artificial 
en las ciberoperaciones. 

1078
00:59:55.220 --> 00:59:56.720
Cuando quiera tiene la palabra.

1079
00:59:56.780 --> 00:59:57.280
Gracias.

1080
00:59:58.230 --> 01:00:00.045
Pues muchas gracias por 
la presentación 

1081
01:00:00.095 --> 01:00:03.385
y hablar el último después 
de mis dos compañeros 

1082
01:00:03.435 --> 01:00:08.410
pues significa que muchos de sus 
argumentos pues forman parte 

1083
01:00:08.550 --> 01:00:13.550
de esta presentación que digamos 
baja un poquito más a lo que es el uso 

1084
01:00:15.050 --> 01:00:19.065
en el lugar donde ahora 
mismo estoy destinado 

1085
01:00:19.115 --> 01:00:20.510
y que necesito pues.

1086
01:00:21.100 --> 01:00:25.440
Me imagino que no es del 
conocimiento de la mayoría del público asistente, 

1087
01:00:25.540 --> 01:00:26.818
pues describir un poquito.

1088
01:00:27.040 --> 01:00:30.755
El Centro de Referencia de 
Inteligencia Artificial del Estado 

1089
01:00:30.805 --> 01:00:34.295
Mayor de la Defensa forma parte del 
grupo de centros de referencia 

1090
01:00:34.345 --> 01:00:34.975
de inteligencia artificial

1091
01:00:35.025 --> 01:00:37.915
que también están en cada 
uno de los ejércitos 

1092
01:00:37.965 --> 01:00:40.800
si hay alguno especializado 
adicional. 

1093
01:00:41.020 --> 01:00:45.295
Entonces, lo que hacemos es 
coordinar un conjunto de proyectos orientados, 

1094
01:00:45.345 --> 01:00:48.035
en nuestro caso, como nuestro centro

1095
01:00:48.085 --> 01:00:50.965
está encuadrado dentro del mando 
conjunto del ciberespacio, 

1096
01:00:51.015 --> 01:00:52.845
pues básicamente tiene dos líneas.

1097
01:00:52.895 --> 01:00:54.685
La línea directa

1098
01:00:54.735 --> 01:00:57.990
de introducir tecnología de 
inteligencia artificial, 

1099
01:00:58.210 --> 01:01:02.385
después me llevaré yo mismo la 
contraria con este concepto, 

1100
01:01:02.435 --> 01:01:06.175
en la parte de ciberdefensa 
y, por otro lado, 

1101
01:01:06.225 --> 01:01:08.910
al estar en el estado mayor 
de la defensa, 

1102
01:01:09.010 --> 01:01:12.325
pues también ayudamos en lo que 
se nos requiere en la parte 

1103
01:01:12.375 --> 01:01:14.290
de inteligencia y ciberinteligencia.

1104
01:01:15.860 --> 01:01:19.200
Dicho lo cual, pues somos una unidad 
que cuando es creada, 

1105
01:01:19.260 --> 01:01:24.175
en otras circunstancias, bueno, 
pues tiene una estructura 

1106
01:01:24.225 --> 01:01:26.875
de laboratorio de experimentación 
para incorporar 

1107
01:01:26.925 --> 01:01:30.420
lo que no soy yo muy fan de un 
señor que se llama Trump, 

1108
01:01:30.580 --> 01:01:35.335
pero creo que sí que han dado 
con la nueva nomenclatura 

1109
01:01:35.385 --> 01:01:36.304
que debíamos tener.

1110
01:01:36.510 --> 01:01:39.270
Para esto de superinteligencia.

1111
01:01:39.330 --> 01:01:42.010
Porque si yo les hago una 
pregunta ahora mismo, 

1112
01:01:42.130 --> 01:01:45.305
estoy seguro que todos ustedes 
me van a contestar 

1113
01:01:45.355 --> 01:01:46.025
positivamente.

1114
01:01:46.075 --> 01:01:49.785
¿Cuántos utilizanlo que consideran 
que es inteligencia artificial 

1115
01:01:49.835 --> 01:01:50.890
a diario?

1116
01:01:55.730 --> 01:01:57.119
Su inteligencia artificial,

1117
01:01:57.330 --> 01:01:59.230
la que consideran que 
están utilizando, 

1118
01:01:59.290 --> 01:02:02.350
básicamente la utilizan para 
preguntar y que les responda. 

1119
01:02:03.060 --> 01:02:05.116
Generar documentos, generar 
información. 

1120
01:02:05.660 --> 01:02:09.445
¿Cuántos de ustedes utilizan 
inteligencia agéntica, 

1121
01:02:09.495 --> 01:02:10.800
enjambres de agentes?

1122
01:02:12.840 --> 01:02:15.215
Es que estamos en un nivel 
de juego diferente 

1123
01:02:15.265 --> 01:02:17.815
y hemos entrado en ese nivel 
de juego diferente 

1124
01:02:17.865 --> 01:02:20.820
hace unos meses, porque 
esto va muy rápido. 

1125
01:02:21.240 --> 01:02:25.580
Cuando estamos hablando de un centro 
como el que yo dirijo, 

1126
01:02:25.680 --> 01:02:29.915
los procesos de vigilancia 
tecnológica son fundamentales, 

1127
01:02:29.965 --> 01:02:30.960
son estructurales.

1128
01:02:31.020 --> 01:02:35.395
Ahora mismo toda empresa u organismo 
que no tenga un servicio 

1129
01:02:35.445 --> 01:02:37.215
de vigilancia tecnológica 
está muerto, 

1130
01:02:37.265 --> 01:02:39.840
no se va a enterar, no 
le va a dar tiempo. 

1131
01:02:41.440 --> 01:02:45.255
No le va a dar tiempo a enterarse 
siquiera de cómo está evolucionando 

1132
01:02:45.305 --> 01:02:49.660
y a qué velocidad está evolucionando 
esto que ya no es una tecnología. 

1133
01:02:49.880 --> 01:02:52.880
Y no es una tecnología por lo que se 
decía en la ponencia anterior, 

1134
01:02:52.940 --> 01:02:56.380
porque tiene un impacto cognitivo.

1135
01:02:57.460 --> 01:03:02.320
Dentro de nada, estas navidades 
empezarán a comprarlo masivamente, 

1136
01:03:02.600 --> 01:03:06.720
empezarán a comprar dispositivos 
que les solucionarán la vida. 

1137
01:03:07.340 --> 01:03:08.500
Porque la.

1138
01:03:09.630 --> 01:03:12.190
Superinteligencia agéntica 
hace cosas, 

1139
01:03:12.410 --> 01:03:14.050
además de responder preguntas,

1140
01:03:14.370 --> 01:03:17.070
como ha dicho Miguel 
en su exposición. 

1141
01:03:17.290 --> 01:03:20.730
Entonces estamos en un nivel 
de juego diferente. 

1142
01:03:21.130 --> 01:03:23.170
Y como les va a facilitar la vida,

1143
01:03:23.290 --> 01:03:25.130
lo mismo que me lo va 
a facilitar a mí, 

1144
01:03:25.210 --> 01:03:28.170
van a comprar masivamente 
el producto. 

1145
01:03:28.690 --> 01:03:31.246
Si ahora yo les pregunto si hay 
algún jurista en la sala, 

1146
01:03:31.310 --> 01:03:32.699
¿hay algún jurista en la sala?

1147
01:03:33.290 --> 01:03:34.230
¿Algún jurista?

1148
01:03:34.350 --> 01:03:35.210
Una jurista.

1149
01:03:35.730 --> 01:03:36.330
Eh.

1150
01:03:37.690 --> 01:03:39.705
¿Sabelo que se están haciendo 
con sus datos? 

1151
01:03:39.755 --> 01:03:44.730
¿Por qué se explica que cada 
vez que utiliza ChatGPT 

1152
01:03:45.250 --> 01:03:46.694
por poner una marca comercial,

1153
01:03:46.770 --> 01:03:50.830
se adapten más las respuestas a su 
propio modelo de pensamiento? 

1154
01:03:53.410 --> 01:03:54.021
Obviamente.

1155
01:03:54.470 --> 01:03:57.265
Entonces, no hemos dado ninguna 
autorización explícita. 

1156
01:03:57.315 --> 01:03:58.105
Sí, sí la hemos dado

1157
01:03:58.155 --> 01:04:00.445
cuando hemos aceptado las 
condiciones de servicio, 

1158
01:04:00.495 --> 01:04:03.550
pero es que esto impacta sobre.

1159
01:04:04.480 --> 01:04:05.545
La parte cognitiva,

1160
01:04:05.595 --> 01:04:10.580
porque cada vez se va adaptando más 
a nuestro modelo de pensamiento. 

1161
01:04:10.880 --> 01:04:14.120
Tal es así, el otro día contaba en 
otro sitio donde coincidimos, 

1162
01:04:14.180 --> 01:04:17.420
la parte de hacerse clones agénticos.

1163
01:04:17.640 --> 01:04:21.255
Entonces yo tengo habituales charlas 
con un clon agéntico 

1164
01:04:21.305 --> 01:04:24.640
de un filósofo muy conocido 
y de muy alta calidad, 

1165
01:04:24.780 --> 01:04:29.380
donde resolvemos problemas de índole 
filosófico, ético, moral. 

1166
01:04:30.710 --> 01:04:32.385
Y ese clon agéntico,

1167
01:04:32.435 --> 01:04:34.970
digamos que tiene acceso 
a toda la información. 

1168
01:04:35.370 --> 01:04:39.630
Por lo tanto, a raíz de que 
además tiene memoria, 

1169
01:04:39.690 --> 01:04:44.690
además tiene memoria, 
pues va aprendiendo 

1170
01:04:45.630 --> 01:04:47.790
de todas las conversaciones 
que tenemos. 

1171
01:04:47.890 --> 01:04:50.590
Es una experiencia completamente 
diferente. 

1172
01:04:51.830 --> 01:04:53.310
Y vamos a entrar entonces,

1173
01:04:53.570 --> 01:04:57.170
si funciona y si no me lo tendrán 
que cambiar, sí, ¿no? 

1174
01:04:58.420 --> 01:05:00.365
A ver, estoy dando bien, ¿no?

1175
01:05:00.415 --> 01:05:01.678
Aunque está medio borrado.

1176
01:05:01.800 --> 01:05:02.940
Sí, vale.

1177
01:05:03.500 --> 01:05:07.215
Porque esas son las características 
que tenemos ahora mismo 

1178
01:05:07.265 --> 01:05:10.580
en el mundo en general, pero también 
en la ciberdefensa. 

1179
01:05:14.890 --> 01:05:17.130
Estamos también en otro nivel,

1180
01:05:17.230 --> 01:05:19.609
no estamos hablando solamente 
de ciberseguridad, 

1181
01:05:19.659 --> 01:05:24.650
estamos hablando de proteger la 
soberanía de nuestro Estado 

1182
01:05:25.130 --> 01:05:28.370
en un dominio que es el ciberespacio.

1183
01:05:29.190 --> 01:05:33.985
Esa protección de ese dominio 
requiere una serie de capacidades 

1184
01:05:34.035 --> 01:05:36.670
para realizar una serie de acciones.

1185
01:05:37.990 --> 01:05:40.005
Y dentro del mando conjunto 
del ciberespacio, 

1186
01:05:40.055 --> 01:05:44.025
la parte de inteligencia artificial, 
igual que ahora mismo 

1187
01:05:44.075 --> 01:05:46.445
se está desplegando en cualquier 
corporación, 

1188
01:05:46.495 --> 01:05:47.805
institución de cualquier tipo,

1189
01:05:47.855 --> 01:05:50.375
pues termina siendo una 
parte estructural. 

1190
01:05:50.425 --> 01:05:52.785
Me parece que iba rápido porque.

1191
01:05:52.835 --> 01:05:56.570
Sí, le he debido dar tres o 
cuatro veces, pero bueno, 

1192
01:05:56.650 --> 01:05:58.890
no es lo importante.

1193
01:05:59.130 --> 01:06:01.485
A ver si nos cogemos.

1194
01:06:01.535 --> 01:06:02.621
No sé hacia dónde vamos.

1195
01:06:02.830 --> 01:06:04.310
Mejor el teclado, perdón.

1196
01:06:05.230 --> 01:06:07.925
Porque si no, les voy 
a desvelar el final 

1197
01:06:07.975 --> 01:06:09.561
de la historia que es terrorífica.

1198
01:06:10.710 --> 01:06:11.377
Exactamente.

1199
01:06:14.570 --> 01:06:15.670
Ahora sí funciona.

1200
01:06:15.770 --> 01:06:16.548
Muchas gracias.

1201
01:06:17.530 --> 01:06:19.145
Bueno, pues tenemos esas 
tres características 

1202
01:06:19.195 --> 01:06:22.845
que son la hipervelocidad operativa, 
es lo que estábamos hablando 

1203
01:06:22.895 --> 01:06:25.570
antes de que tenemos muchísimas 
fuentes de datos, 

1204
01:06:25.650 --> 01:06:29.445
tenemos en un momento dado 
que generar un data lake 

1205
01:06:29.495 --> 01:06:33.030
para desarrollar operaciones 
en el ciberespacio, 

1206
01:06:33.110 --> 01:06:38.110
donde además, bueno, pues tenemos 
que ir, hay un imperativo doctrinal 

1207
01:06:38.290 --> 01:06:41.725
donde nos tenemos que ir adaptando 
al uso de esa inteligencia artificial 

1208
01:06:41.775 --> 01:06:46.430
a través de sistemas adaptativos 
multiagente, multiagénticos. 

1209
01:06:47.210 --> 01:06:49.985
¿Qué significa esos sistemas 
adaptativos multiagénticos? 

1210
01:06:50.035 --> 01:06:52.950
Como se decía en la ponencia 
anterior, 

1211
01:06:53.250 --> 01:06:57.870
los que están enfrente nos 
están atacando con eso. 

1212
01:06:58.230 --> 01:07:02.285
Luego tenemos que desarrollar 
capacidades para podernos defender 

1213
01:07:02.335 --> 01:07:05.730
a la misma velocidad que 
somos atacados. 

1214
01:07:06.790 --> 01:07:09.885
Y cuando estamos hablando 
de ser atacados 

1215
01:07:09.935 --> 01:07:11.650
y cuando hablamos de ciberdefensa,

1216
01:07:12.430 --> 01:07:14.765
Yo creo que tenemos que 
bajar a la tierra 

1217
01:07:14.815 --> 01:07:16.930
y reflexionar de qué 
estamos hablando. 

1218
01:07:17.250 --> 01:07:19.450
Estamos hablando del ataque 
a Hugging Face. 

1219
01:07:19.890 --> 01:07:21.825
¿Qué se le representa en la mente

1220
01:07:21.875 --> 01:07:24.405
a alguien que no esté dentro 
de este negocio 

1221
01:07:24.455 --> 01:07:25.345
cuando se dice no?

1222
01:07:25.395 --> 01:07:27.485
Se ha atacado a Hugging Face

1223
01:07:27.535 --> 01:07:30.950
o se ha atacado a una empresa y.

1224
01:07:31.830 --> 01:07:34.770
Bueno, pues ha tenido que 
cesar sus actividades. 

1225
01:07:34.930 --> 01:07:37.810
Es algo así como un poco etéreo, ¿no?

1226
01:07:37.890 --> 01:07:42.210
Pero, ¿y el ataque la semana pasada 
a los supermercados, 

1227
01:07:42.310 --> 01:07:44.030
a varios supermercados japoneses?

1228
01:07:44.150 --> 01:07:45.365
Eso sí se coge, ¿no?

1229
01:07:45.415 --> 01:07:48.715
Se pulsa con la comida 
estropeada, ¿no? 

1230
01:07:48.765 --> 01:07:51.850
Porque ha subido la temperatura 
de eso. 

1231
01:07:51.950 --> 01:07:54.010
Eso es nuestro escenario.

1232
01:07:54.210 --> 01:07:56.925
Nuestro escenario es de una 
dependencia absoluta 

1233
01:07:56.975 --> 01:07:58.006
de la tecnología, ¿no?

1234
01:07:59.960 --> 01:08:03.115
El mundo soporta 2.800 millones 
de personas de forma natural 

1235
01:08:03.165 --> 01:08:04.280
y somos 8.000 millones.

1236
01:08:06.040 --> 01:08:07.385
¿Quién levante la mano?

1237
01:08:07.435 --> 01:08:09.531
¿Quién está dispuesto a irse 
y dejar su hueco? 

1238
01:08:09.900 --> 01:08:10.640
Nadie, ¿no?

1239
01:08:10.720 --> 01:08:13.255
Pues entonces vamos a tener que 
continuar con la tecnología. 

1240
01:08:13.305 --> 01:08:16.359
Y la tecnología resulta 
que históricamente, 

1241
01:08:16.460 --> 01:08:19.460
también ha hecho referencia 
a ello el profesor Tacho, 

1242
01:08:19.600 --> 01:08:22.435
pues tenemos cierta mala tendencia

1243
01:08:22.484 --> 01:08:23.759
los seres humanos a.

1244
01:08:24.970 --> 01:08:26.082
Desplegar tecnología,

1245
01:08:26.250 --> 01:08:30.009
sobre todo en este último empujón 
del último medio siglo, 

1246
01:08:30.210 --> 01:08:32.830
sin las salvaguardas adecuadas.

1247
01:08:33.370 --> 01:08:35.190
Porque lo primero es el negocio, ¿no?

1248
01:08:35.589 --> 01:08:37.370
Pues después nos comemos el negocio.

1249
01:08:37.529 --> 01:08:40.890
Esa red de resiliencia, de 
repente, la de ARPANET, 

1250
01:08:41.009 --> 01:08:45.845
aparece en el mundo comercial y 
resulta que nuestros datos 

1251
01:08:45.895 --> 01:08:48.490
no están protegidos y se 
hace negocio con ello. 

1252
01:08:50.569 --> 01:08:54.009
¿Y ahora cómo se están lanzando los 
modelos de inteligencia artificial? 

1253
01:08:56.069 --> 01:08:57.069
Hay mucho clickbait.

1254
01:08:57.650 --> 01:08:59.690
Porque es verdad que hay 
mucho clickbait. 

1255
01:09:00.210 --> 01:09:01.990
Pero ¿cómo se están lanzando?

1256
01:09:02.170 --> 01:09:03.350
¿Sabemos algo de ello?

1257
01:09:04.799 --> 01:09:06.900
Es una caja negra, como decías antes.

1258
01:09:07.080 --> 01:09:08.080
No podemos hacer,

1259
01:09:08.240 --> 01:09:10.895
o tenemos muy difícil 
la demostrabilidad 

1260
01:09:10.944 --> 01:09:15.575
y tenemos muy difícil en un 
momento dado demostrar 

1261
01:09:15.625 --> 01:09:18.020
que se ha cometido un 
error, por ejemplo. 

1262
01:09:18.220 --> 01:09:22.839
Y nosotros, nuestro centro está 
encuadrado en defensa. 

1263
01:09:23.400 --> 01:09:25.960
Imagínense si nosotros 
cometemos errores. 

1264
01:09:26.740 --> 01:09:31.475
Entonces, en el mundo de la 
complejidad somos incapaces 

1265
01:09:31.525 --> 01:09:33.240
de manejar la complejidad actual.

1266
01:09:34.310 --> 01:09:36.705
Y la inteligencia artificial, 
y esa es la buena noticia, 

1267
01:09:36.755 --> 01:09:39.890
nos puede ayudar a manejar 
esa complejidad. 

1268
01:09:40.049 --> 01:09:42.438
Ahora mismo, por ejemplo, en 
la ponencia anterior, 

1269
01:09:42.609 --> 01:09:44.384
yo llevo 40 años, aunque 
parezca más joven, 

1270
01:09:44.435 --> 01:09:46.950
llevo 40 años en esto de 
la ciberseguridad. 

1271
01:09:47.710 --> 01:09:48.310
¿Vale?

1272
01:09:48.410 --> 01:09:50.490
Cuando se llamaba seguridad 
informática. 

1273
01:09:50.950 --> 01:09:53.690
Y estaba al alcance de cuatro 
frikis y tres hackers. 

1274
01:09:54.210 --> 01:09:54.810
¿Vale?

1275
01:09:55.350 --> 01:09:55.950
Entonces.

1276
01:09:56.720 --> 01:10:00.395
Eso ha mutado a ese escenario 
de dependencia 

1277
01:10:00.445 --> 01:10:04.315
donde dependemos, nuestra vida física

1278
01:10:04.365 --> 01:10:05.380
depende de ello.

1279
01:10:05.500 --> 01:10:09.700
Y es más, ahora con toda la 
inteligencia artificial agéntica, 

1280
01:10:10.780 --> 01:10:15.540
impacta ya cinemáticamente 
sobre nuestra vida real. 

1281
01:10:15.680 --> 01:10:17.475
Porque no hemos hablado todavía 
de la robótica, 

1282
01:10:17.525 --> 01:10:20.575
pero es que resulta que la robótica 
va a entrar en nuestras vidas 

1283
01:10:20.625 --> 01:10:22.180
en los próximos dos años.

1284
01:10:22.240 --> 01:10:23.331
Yo creía que eran cinco,

1285
01:10:23.381 --> 01:10:27.935
pero ayer vi un vídeo que espero que 
esté muy preparado por parte 

1286
01:10:27.985 --> 01:10:28.960
de una empresa china,

1287
01:10:29.080 --> 01:10:32.275
donde presentaba un nuevo 
modelo de robot 

1288
01:10:32.325 --> 01:10:35.460
y claro, por eso está pasando 
lo que está pasando. 

1289
01:10:35.560 --> 01:10:37.504
¿Han oído hablar de las 
fábricas oscuras? 

1290
01:10:38.280 --> 01:10:38.880
¿No?

1291
01:10:39.820 --> 01:10:43.080
China, que digamos que proyecta 
a 100 años vista, 

1292
01:10:43.280 --> 01:10:45.995
se ha dado cuenta que tienen 
un problema demográfico 

1293
01:10:46.045 --> 01:10:47.940
que multiplica en el nuestro por 100,

1294
01:10:48.080 --> 01:10:49.640
por su población.

1295
01:10:50.100 --> 01:10:55.100
Y entonces han determinado 
que toda la producción 

1296
01:10:55.400 --> 01:10:58.735
tiene que ser robotizada porque 
no va a haber obreros 

1297
01:10:58.785 --> 01:11:00.204
y obreras para esa producción.

1298
01:11:00.560 --> 01:11:03.455
Y ahora montan fábricas 
oscuras sin luz 

1299
01:11:03.505 --> 01:11:05.520
porque los robots necesitan luz,

1300
01:11:05.640 --> 01:11:08.440
pues por eso se llaman 
fábricas oscuras. 

1301
01:11:09.750 --> 01:11:11.870
Y están desplegando ya 
fábricas oscuras. 

1302
01:11:12.910 --> 01:11:17.910
Pero, a ver, va lento, ahí.

1303
01:11:19.330 --> 01:11:22.725
Lo que hablábamos antes de esa 
automatización lineal 

1304
01:11:22.775 --> 01:11:26.405
insuficiente, esas defensas 
basadas en reglas físicas 

1305
01:11:26.455 --> 01:11:29.665
y scripts rígidos no tienen ningún 
tipo de funcionalidad 

1306
01:11:29.715 --> 01:11:31.450
en las actuales circunstancias.

1307
01:11:31.710 --> 01:11:35.285
Lo que tenemos es que desplegar 
enjambres agénticos defensivos 

1308
01:11:35.335 --> 01:11:38.430
en redes distribuidas de agentes 
de inteligencia artificial. 

1309
01:11:38.920 --> 01:11:43.920
Que lo saben todo de su especialidad 
y además se coordinan entre ellos, 

1310
01:11:44.100 --> 01:11:47.915
incluso dando como resultado 
propiedades emergentes 

1311
01:11:47.965 --> 01:11:51.375
de jerarquización y mando y control, 
propiedades emergentes. 

1312
01:11:51.425 --> 01:11:52.335
¿Qué quiere decir eso?

1313
01:11:52.385 --> 01:11:53.780
Que no sabemos por qué ocurre.

1314
01:11:53.840 --> 01:11:58.515
No tenemos ni idea de por 
qué cuando despliegas 

1315
01:11:58.565 --> 01:12:01.495
un enjambre agéntico empiezan 
a generarse relaciones 

1316
01:12:01.545 --> 01:12:02.700
jerarquizadas.

1317
01:12:03.800 --> 01:12:06.455
Y uno toma el control sobre 
varios agentes 

1318
01:12:06.505 --> 01:12:09.325
y los coordina, porque 
es una caja negra. 

1319
01:12:09.375 --> 01:12:12.995
La adaptación dinámica y la 
resiliencia por descentralización 

1320
01:12:13.045 --> 01:12:18.020
de la que se ha hablado en 
la anterior ponencia. 

1321
01:12:18.200 --> 01:12:19.580
Bueno, vamos a ver.

1322
01:12:20.200 --> 01:12:20.900
Eso es.

1323
01:12:23.170 --> 01:12:25.605
¿Qué es lo que en un momento dado 
en materia de defensa? 

1324
01:12:25.655 --> 01:12:27.805
De defensa de cualquier 
infraestructura, 

1325
01:12:27.855 --> 01:12:28.845
de cualquier corporación,

1326
01:12:28.895 --> 01:12:31.085
no solamente en defensa 
con mayúscula. 

1327
01:12:31.135 --> 01:12:33.165
Tienes una serie de agentes tácticos

1328
01:12:33.215 --> 01:12:36.050
que se dedican a monitorizar 
las defensas. 

1329
01:12:37.260 --> 01:12:39.000
Y son capaces de actuar.

1330
01:12:39.080 --> 01:12:40.095
¿Qué quiere decir eso?

1331
01:12:40.145 --> 01:12:43.275
Que ejecutan un aislamiento 
inmediato de procesos 

1332
01:12:43.325 --> 01:12:44.975
que detectan como anómalos.

1333
01:12:45.025 --> 01:12:47.320
Y lo hacen agentes, no personas.

1334
01:12:47.620 --> 01:12:49.360
¿Por qué no lo pueden hacer personas?

1335
01:12:49.600 --> 01:12:53.200
Porque los tiempos de toma de 
decisión no son humanos. 

1336
01:12:53.820 --> 01:12:56.620
¿A qué velocidad creen que 
trabajan sus mentes? 

1337
01:12:56.760 --> 01:13:00.020
Si nuestras neuronas se conectan 
a velocidad neuroquímica. 

1338
01:13:00.560 --> 01:13:02.208
Trabajamos a velocidad de hercios.

1339
01:13:02.259 --> 01:13:05.800
Aquí las decisiones se toman a 
velocidad de gigahercios. 

1340
01:13:08.100 --> 01:13:09.489
Estamos fuera de la ecuación.

1341
01:13:11.020 --> 01:13:11.631
Asumámoslo.

1342
01:13:12.080 --> 01:13:12.840
Ya está.

1343
01:13:12.960 --> 01:13:14.355
Los agentes operativos

1344
01:13:14.405 --> 01:13:17.375
son los que se dedican a 
correlacionar eventos, 

1345
01:13:17.425 --> 01:13:21.920
cuando los sensores están tomando 
información de las redes, etc. 

1346
01:13:22.160 --> 01:13:27.160
Y distribuyen cargas de trabajo 
y reportan síntesis 

1347
01:13:28.800 --> 01:13:32.160
de todo ese trabajo a su estado 
mayor operativo. 

1348
01:13:33.220 --> 01:13:36.115
Son agentes especializados 
en la coordinación 

1349
01:13:36.165 --> 01:13:40.000
y generación de información que al 
final va a llegar a un humano. 

1350
01:13:40.160 --> 01:13:43.655
Y los agentes estratégicos son 
capaces además de dar 

1351
01:13:43.705 --> 01:13:47.575
esa visión estratégica final sobre 
los riesgos y amenazas 

1352
01:13:47.625 --> 01:13:52.600
que se están produciendo en un 
escenario de ciberdefensa. 

1353
01:13:53.400 --> 01:13:58.340
Y cuando digo ciberdefensa, tómenlo 
con su acepción general. 

1354
01:13:58.500 --> 01:14:02.980
Una empresa también se defiende 
de esos ataques. 

1355
01:14:03.220 --> 01:14:08.140
Entonces, supongo que creen que 
estoy hablando de ciencia ficción. 

1356
01:14:09.240 --> 01:14:14.035
Pues no, yo tengo un Mac de última 
generación que computa 

1357
01:14:14.085 --> 01:14:18.440
en local y tengo un servicio 
de inteligencia completo, 

1358
01:14:18.620 --> 01:14:23.620
con su coordinación, con sus 
especialistas en OSINT, 

1359
01:14:24.080 --> 01:14:27.920
especialistas en tal, y funcionan 
de manera autónoma. 

1360
01:14:29.270 --> 01:14:30.544
Y se coordinan entre ellos.

1361
01:14:30.594 --> 01:14:31.890
Esto no es ciencia ficción.

1362
01:14:31.970 --> 01:14:33.730
Esto es superinteligencia.

1363
01:14:35.290 --> 01:14:36.290
Superinteligencia.

1364
01:14:38.030 --> 01:14:39.230
Vamos a por el siguiente.

1365
01:14:43.750 --> 01:14:45.335
Porque, y ahí entra el ciclo,

1366
01:14:45.385 --> 01:14:47.405
nos tenemos que haber coordinado 
un poquito más con el ODA 

1367
01:14:47.455 --> 01:14:50.042
y todas esas historias, velocidad 
operativa superior, 

1368
01:14:50.470 --> 01:14:52.275
la cooperación autónoma,

1369
01:14:52.325 --> 01:14:55.450
los agentes trabajan de forma 
autónoma o semiautónoma, 

1370
01:14:55.530 --> 01:14:57.945
porque así es como maximizan 
la eficiencia 

1371
01:14:57.995 --> 01:15:01.970
y así además ayudan a reducir 
las microalertas. 

1372
01:15:02.130 --> 01:15:03.885
Quedan como cinco minutos más

1373
01:15:03.935 --> 01:15:06.330
o menos, así que le voy a 
dar un poquito de eso. 

1374
01:15:07.070 --> 01:15:09.181
Tenemos aquí tres cosas 
que son importantes. 

1375
01:15:09.330 --> 01:15:09.830
¿Por qué?

1376
01:15:10.030 --> 01:15:11.885
Porque hemos lanzado una

1377
01:15:11.935 --> 01:15:15.290
no tecnología, me niego a 
llamarlo ya tecnología, 

1378
01:15:15.590 --> 01:15:20.590
hemos lanzado una no tecnología 
al mercado sin gobernanza. 

1379
01:15:22.650 --> 01:15:23.430
Ahí va.

1380
01:15:23.770 --> 01:15:27.150
Si es que otra vez hemos vuelto 
a cometer el mismo error. 

1381
01:15:28.290 --> 01:15:33.230
Hemos dado a un mono, nosotros, 
una pistola cargada. 

1382
01:15:35.490 --> 01:15:38.290
Tenemos un problema y tenemos 
un problema muy serio. 

1383
01:15:38.390 --> 01:15:42.945
Por eso nosotros tenemos que 
trabajar mucho en esa parte de gobernanza, 

1384
01:15:42.995 --> 01:15:44.285
porque estamos en un sector

1385
01:15:44.335 --> 01:15:47.125
donde supongo que nadie quiere 
que nos confundamos 

1386
01:15:47.175 --> 01:15:50.670
o que nuestros agentes, peor 
aún, se confundan. 

1387
01:15:52.840 --> 01:15:53.355
Por lo tanto,

1388
01:15:53.405 --> 01:15:56.100
tenemos que tomar en consideración 
ese human in the loop. 

1389
01:15:56.220 --> 01:15:58.395
El agente propone acciones 
defensivas, 

1390
01:15:58.445 --> 01:16:03.400
pero requiere confirmación del 
humano en cada ejecución. 

1391
01:16:03.520 --> 01:16:06.235
Bueno, estamos introduciendo un 
elemento de ralentización 

1392
01:16:06.285 --> 01:16:10.695
porque consideramos que el ser 
humano tiene que ser el último garante 

1393
01:16:10.745 --> 01:16:11.609
de que algo se haga.

1394
01:16:12.300 --> 01:16:13.900
El human on the loop.

1395
01:16:14.630 --> 01:16:16.365
Los agentes operan autónomamente,

1396
01:16:16.415 --> 01:16:21.390
pero lo que se le colocan son unas 
salvaguardas muy bien diseñadas 

1397
01:16:21.890 --> 01:16:24.210
y eso cuesta muchísimo trabajo.

1398
01:16:24.890 --> 01:16:28.490
Y es el humano el que hace una 
supervisión continua. 

1399
01:16:28.930 --> 01:16:32.430
Y muy importante, tiene 
un botón rojo. 

1400
01:16:33.650 --> 01:16:36.310
El botón rojo es el ejercicio 
del veto. 

1401
01:16:37.410 --> 01:16:39.645
No, esto no lo vas a hacer y además 
no te voy a permitir 

1402
01:16:39.695 --> 01:16:42.625
que te escapes para hacerlo 
por otra vía. 

1403
01:16:42.675 --> 01:16:44.210
Botón rojo, se apaga.

1404
01:16:44.630 --> 01:16:49.170
Y, por supuesto, esa responsabilidad 
ética y legal. 

1405
01:16:49.370 --> 01:16:50.528
Vamos a ver al siguiente.

1406
01:16:50.579 --> 01:16:52.205
Bueno, ahí se explica un poquito más,

1407
01:16:52.255 --> 01:16:53.890
vamos a ir de prisas, ¿vale?

1408
01:16:55.830 --> 01:16:59.305
Se tienen que establecer barreras 
criptográficas, 

1409
01:16:59.355 --> 01:17:04.325
los cortafuegos de reglas 
indubitadas, donde en un momento dado 

1410
01:17:04.375 --> 01:17:07.525
se establezcan esas condiciones 
de las que se hablaba 

1411
01:17:07.575 --> 01:17:11.070
en la presentación anterior, de DLP,

1412
01:17:11.390 --> 01:17:15.930
de imposibilidad de que se exfiltre 
información no autorizada, 

1413
01:17:16.030 --> 01:17:18.325
imposibilidad de que te entren 
a través del código. 

1414
01:17:18.375 --> 01:17:21.403
Los mínimos privilegios, etcétera, 
etcétera, etcétera, ¿vale? 

1415
01:17:21.453 --> 01:17:24.825
Y tenemos además una herramienta 
que permite hacer 

1416
01:17:24.875 --> 01:17:29.170
evaluaciones automáticas de impacto 
prácticamente en tiempo real. 

1417
01:17:29.250 --> 01:17:30.545
El propio enjambre

1418
01:17:30.595 --> 01:17:34.470
evalúa si la acción compromete 
servicios públicos esenciales. 

1419
01:17:35.540 --> 01:17:40.540
Porque somos capaces nosotros cuando 
apretamos una tecla que afecta 

1420
01:17:40.720 --> 01:17:43.675
a una infraestructura crítica 
en tiempo real 

1421
01:17:43.725 --> 01:17:48.600
de hacer una prospectiva de cómo 
va a impactar en el sistema, 

1422
01:17:48.780 --> 01:17:51.300
tenemos dificultades.

1423
01:17:51.380 --> 01:17:53.360
O sea, eso de tener el dedo en alto,

1424
01:17:53.540 --> 01:17:57.000
lo aprieto o no lo aprieto, porque 
lo mismo provoca un apagón. 

1425
01:17:59.460 --> 01:18:01.975
Quiero decir que no nos atribuyamos 
a los seres humanos 

1426
01:18:02.025 --> 01:18:06.035
capacidades mayores de las 
que en un momento 

1427
01:18:06.085 --> 01:18:07.100
dado tenemos.

1428
01:18:08.630 --> 01:18:11.345
¿Características de estos 
enjambres agénticos? 

1429
01:18:11.395 --> 01:18:13.505
Bueno, pues se autoorganizan 
dinámicamente en función 

1430
01:18:13.555 --> 01:18:17.345
de la memoria, en función de sus 
anteriores actividades, 

1431
01:18:17.395 --> 01:18:20.925
en función de, y ven que estoy 
utilizando a propósito 

1432
01:18:20.975 --> 01:18:23.045
un lenguaje humanizador del asunto,

1433
01:18:23.095 --> 01:18:25.295
porque me estoy refiriendo 
a los efectos. 

1434
01:18:25.345 --> 01:18:27.285
No digo que sientan, no digo,

1435
01:18:27.335 --> 01:18:31.585
aunque ha habido un subnormal por 
ahí hace un par de semanas que ha tenido 

1436
01:18:31.635 --> 01:18:34.350
la gran idea de torturar a la 
inteligencia artificial. 

1437
01:18:35.170 --> 01:18:37.370
Torturar a la inteligencia 
artificial es. 

1438
01:18:38.100 --> 01:18:40.675
Directamente entrenarla en 
una respuesta agresiva, 

1439
01:18:40.725 --> 01:18:42.620
es la respuesta lo que importa,

1440
01:18:42.840 --> 01:18:45.173
no lo que tú le hagas a la 
inteligencia artificial. 

1441
01:18:45.360 --> 01:18:48.325
Lo que has hecho ha sido 
al torturarla, 

1442
01:18:48.375 --> 01:18:50.940
al provocarle dolor, lenguaje 
humanizador, 

1443
01:18:51.100 --> 01:18:54.415
que se esté entrenando 
en una respuesta 

1444
01:18:54.465 --> 01:18:57.060
contra el ser humano.

1445
01:18:58.680 --> 01:19:00.435
Maravilloso, un premio

1446
01:19:00.485 --> 01:19:01.200
Nobel el tío.

1447
01:19:02.600 --> 01:19:03.815
Visibilidad de influencia,

1448
01:19:03.865 --> 01:19:06.375
herramientas de monitorización 
identifican dinámicamente 

1449
01:19:06.425 --> 01:19:11.400
qué agentes ejercen influencia real 
porque enseguida adoptan roles 

1450
01:19:12.040 --> 01:19:15.895
y adoptan jerarquías y lo hacen 
de manera autónoma. 

1451
01:19:15.945 --> 01:19:18.460
Es una propiedad de emergencia, pero.

1452
01:19:20.610 --> 01:19:25.610
El podcast de cómo se generan las 
estructuras de mando y control 

1453
01:19:29.670 --> 01:19:34.670
entre los cruzados, no, 
los templarios y eso. 

1454
01:19:37.130 --> 01:19:39.705
Tienen un sistema porque es lógico,

1455
01:19:39.755 --> 01:19:41.905
les hemos entrenado con 
nuestro conocimiento. 

1456
01:19:41.955 --> 01:19:43.530
¿Cómo van a pensar?

1457
01:19:43.710 --> 01:19:45.130
Pues como pensamos nosotros.

1458
01:19:45.530 --> 01:19:46.696
¿Cómo van a evolucionar?

1459
01:19:46.850 --> 01:19:48.517
Pues como evolucionamos nosotros.

1460
01:19:49.270 --> 01:19:50.565
Por cierto, dato relevante,

1461
01:19:50.615 --> 01:19:53.410
que va a ser de nosotros cuando ya,

1462
01:19:53.490 --> 01:19:58.410
día de hoy, más del 50% del 
conocimiento en Internet, 

1463
01:19:58.790 --> 01:20:02.290
de los contenidos de Internet, 
ya son sintéticos. 

1464
01:20:04.350 --> 01:20:06.565
A que no lo piensan cuando hacen

1465
01:20:06.615 --> 01:20:10.445
el meme este con la inteligencia 
artificial 

1466
01:20:10.495 --> 01:20:11.210
y eso.

1467
01:20:11.290 --> 01:20:13.170
Pues es que tenemos un problema,

1468
01:20:13.250 --> 01:20:15.306
porque vamos a desaparecer 
culturalmente. 

1469
01:20:16.010 --> 01:20:17.898
Dentro de cinco años, 
¿qué vamos a hacer? 

1470
01:20:19.100 --> 01:20:20.580
¿Qué va a ser la cultura humana?

1471
01:20:20.680 --> 01:20:22.380
¿El 1% de Internet?

1472
01:20:24.240 --> 01:20:25.825
No sé si lo han reflexionado,

1473
01:20:25.875 --> 01:20:30.455
pero tiene su impacto moral, 
ético y hasta teológico, 

1474
01:20:30.505 --> 01:20:31.320
si lo pensamos.

1475
01:20:31.400 --> 01:20:34.875
Creo que el Papa lo ha dicho en 
alguna de sus encíclicas, 

1476
01:20:34.925 --> 01:20:35.622
algo parecido.

1477
01:20:36.520 --> 01:20:37.600
Tenemos un problema,

1478
01:20:37.720 --> 01:20:40.120
tenemos un problema de 
adaptación al medio. 

1479
01:20:40.200 --> 01:20:40.700
Bueno.

1480
01:20:41.650 --> 01:20:43.545
Bueno, pues tenemos esas 
posibilidades 

1481
01:20:43.595 --> 01:20:45.405
cuando desplegamos este 
tipo de capacidades. 

1482
01:20:45.455 --> 01:20:47.225
La absorción de cargas maliciosas

1483
01:20:47.275 --> 01:20:50.185
es súper interesante 
porque lo que hace 

1484
01:20:50.235 --> 01:20:52.465
es que cuando tenemos un ciberataque 
muy complejo 

1485
01:20:52.515 --> 01:20:55.005
y muy orientado a misión,

1486
01:20:55.055 --> 01:21:00.030
puedes hacer que esos agentes lo 
lleven a un entorno aislado 

1487
01:21:00.590 --> 01:21:03.250
donde hagan colapsar 
el propio ataque, 

1488
01:21:03.390 --> 01:21:06.890
incluso suicidándose ellos.

1489
01:21:09.720 --> 01:21:10.815
Perdiendo la vida ellos.

1490
01:21:10.865 --> 01:21:12.660
Estoy utilizando el lenguaje eso.

1491
01:21:13.080 --> 01:21:16.655
Autodestrucción lógica, 
autodisolución o borrado defensivo 

1492
01:21:16.705 --> 01:21:18.995
y la protección del núcleo 
estratégico. 

1493
01:21:19.045 --> 01:21:21.640
Vamos a ir rápido que nos quedan 
tres diapositivas. 

1494
01:21:21.740 --> 01:21:24.680
Bueno, esto es básicamente la 
explicación de la anterior. 

1495
01:21:25.080 --> 01:21:26.380
Y bueno,

1496
01:21:26.460 --> 01:21:29.115
pues tenemos esa matriz 
de gobernanza, 

1497
01:21:29.165 --> 01:21:32.015
la gobernanza es lo que tenemos que 
implementar, en lo que tenemos 

1498
01:21:32.065 --> 01:21:35.455
que invertir absolutamente 
todas las organizaciones 

1499
01:21:35.505 --> 01:21:40.480
porque sin gobernanza, reitero 
la fotografía, 

1500
01:21:41.180 --> 01:21:45.120
somos monos con una pistola 
cargada en la mano. 

1501
01:21:45.960 --> 01:21:49.060
Lo habitual es que matemos a alguien 
o nos matemos nosotros. 

1502
01:21:50.230 --> 01:21:53.705
Cosa que no ha ocurrido, por 
ejemplo, en el mundo jurídico, 

1503
01:21:53.755 --> 01:21:56.455
con esos abogados que le 
han pedido a HGPT, 

1504
01:21:56.505 --> 01:21:58.525
hazme una demanda de no 
sé qué, sin ponerle 

1505
01:21:58.575 --> 01:22:01.570
en el contexto que estaban en el 
sistema jurídico español. 

1506
01:22:01.730 --> 01:22:05.550
Con lo cual les ha metido 
juridicidad de otros países, 

1507
01:22:05.730 --> 01:22:07.025
etcétera, etcétera, etcétera.

1508
01:22:07.075 --> 01:22:08.475
Y no solamente abogados,

1509
01:22:08.525 --> 01:22:11.110
sino jueces, que es peor 
en sus sentencias. 

1510
01:22:11.190 --> 01:22:14.105
Porque tienes una pistola 
que no sabes manejar 

1511
01:22:14.155 --> 01:22:15.310
y que tiene balas dentro.

1512
01:22:15.930 --> 01:22:17.030
Y te matas.

1513
01:22:17.760 --> 01:22:20.180
Ese juez me imagino que le 
sancionarán gravemente. 

1514
01:22:20.800 --> 01:22:23.095
Entonces, bueno, pues 
supervisión humana, 

1515
01:22:23.145 --> 01:22:25.275
control directivo con autorización 
bimanual, 

1516
01:22:25.325 --> 01:22:30.300
eso es doble sistema de autorización 
para las acciones que puedan resultar 

1517
01:22:30.460 --> 01:22:34.940
de un riesgo grande en cualquier 
tipo de acción. 

1518
01:22:36.370 --> 01:22:36.845
Y bueno,

1519
01:22:36.895 --> 01:22:38.705
pues ahí tenemos los 
modelos operativos 

1520
01:22:38.755 --> 01:22:41.945
y las salvaguardas aplicadas, 
que serían autónomo, 

1521
01:22:41.995 --> 01:22:44.705
es, bueno, pues hace lo que 
quiere, supervisado, 

1522
01:22:44.755 --> 01:22:47.205
intrusiones coordinadas, requieren 
supervisión humana, 

1523
01:22:47.255 --> 01:22:51.445
directivo, ataques estratégicos, 
exigen una doble autorización 

1524
01:22:51.495 --> 01:22:54.205
y evaluación previa de la escalada 
por mando superior, 

1525
01:22:54.255 --> 01:22:55.508
porque les voy a dar un dato.

1526
01:22:55.710 --> 01:22:57.445
Resulta que la inteligencia 
artificial, 

1527
01:22:57.495 --> 01:22:59.345
como ha sido alimentada con 
nuestro conocimiento 

1528
01:22:59.395 --> 01:23:00.390
y todo nuestro eso,

1529
01:23:00.470 --> 01:23:02.915
tiene cierta tendencia a la 
escalada de conflictos. 

1530
01:23:03.130 --> 01:23:03.870
Ahí va.

1531
01:23:05.150 --> 01:23:07.305
Tenemos suerte, hay que controlarla

1532
01:23:07.355 --> 01:23:10.105
porque tiene cierta tendencia 
a la escalada de conflictos 

1533
01:23:10.155 --> 01:23:13.350
y hay que establecer sobre todo unas 
salvaguardas muy rígidas, 

1534
01:23:13.410 --> 01:23:17.245
aplicación de límites geográficos, 
lógicos, criptográficos 

1535
01:23:17.295 --> 01:23:20.785
para prevenir esos daños colaterales 
y sobre todo la escalada 

1536
01:23:20.835 --> 01:23:23.245
de un conflicto que a lo mejor 
no tiene que ser escalado, 

1537
01:23:23.295 --> 01:23:25.165
tiene que ser negociado 
de otras maneras 

1538
01:23:25.215 --> 01:23:27.390
y ahí es donde el humano 
tiene que entrar. 

1539
01:23:27.650 --> 01:23:31.230
La doctrina de la confianza cero es 
reiteración de la ponencia anterior, 

1540
01:23:31.430 --> 01:23:34.270
supremacía del mando humano 
y adaptabilidad continua. 

1541
01:23:34.390 --> 01:23:38.685
Esas serían las tres recomendaciones 
que yo haría para el despliegue 

1542
01:23:38.735 --> 01:23:41.575
de la inteligencia artificial 
en cualquier organización, 

1543
01:23:41.625 --> 01:23:42.805
en cualquier institución.

1544
01:23:42.855 --> 01:23:45.305
O sea, tú lo que no puedes 
hacer es darle chat 

1545
01:23:45.355 --> 01:23:47.190
GPT a tus 80.000 empleados.

1546
01:23:48.590 --> 01:23:51.305
Porque no sabes siquiera qué van 
a hacer con la información 

1547
01:23:51.355 --> 01:23:52.370
de la organización.

1548
01:23:52.590 --> 01:23:54.905
Porque esto es muy chulo

1549
01:23:54.955 --> 01:23:56.570
y tendemos a ser vagos.

1550
01:23:58.170 --> 01:23:58.645
Entonces,

1551
01:23:58.695 --> 01:24:00.845
cuando nos dan una herramienta 
de estas características, 

1552
01:24:00.895 --> 01:24:03.845
se nos va a echar el tiempo encima 
para entregar un informe 

1553
01:24:03.895 --> 01:24:05.739
y vamos a meter las hojas 
de cálculo, ¡ay! 

1554
01:24:05.790 --> 01:24:08.385
el universo de las hojas de cálculo 
de todas las instituciones, 

1555
01:24:08.435 --> 01:24:11.465
en el chat GPT para que nos haga 
el estudio correspondiente 

1556
01:24:11.515 --> 01:24:15.270
que tenemos que presentarle al 
jefe dos horas después, 

1557
01:24:15.510 --> 01:24:17.750
porque no somos capaces de hacerlo.

1558
01:24:17.890 --> 01:24:18.470
Y es más,

1559
01:24:18.550 --> 01:24:22.190
tenemos una cierta tendencia 
al abandono cognitivo. 

1560
01:24:23.310 --> 01:24:28.310
Entonces, Esto impacta sobre 
ese dominio cognitivo. 

1561
01:24:30.010 --> 01:24:35.010
Esta no tecnología nos va a 
transformar, nos está transformando 

1562
01:24:36.190 --> 01:24:39.995
y decisión nuestra es todavía, 
creo, quiero creer, 

1563
01:24:40.045 --> 01:24:45.030
tomar esa decisión de si 
nos vamos a hibridar 

1564
01:24:45.870 --> 01:24:50.870
de alguna forma, digamos, 
inteligente, No vamos a participar, 

1565
01:24:54.510 --> 01:24:57.150
vamos a cerrar la caja de 
esta no tecnología, 

1566
01:24:57.450 --> 01:24:59.910
cosa que tiene una probabilidad baja,

1567
01:25:00.030 --> 01:25:03.735
o nos vamos a abandonar como 
vamos todos por la calle, 

1568
01:25:03.785 --> 01:25:05.750
con el cuello así y el teléfono así,

1569
01:25:05.850 --> 01:25:09.145
cruzando calles sin mirar 
antes si pasa un coche 

1570
01:25:09.195 --> 01:25:12.745
porque estamos absolutamente 
trastornados con las imágenes, 

1571
01:25:12.795 --> 01:25:14.330
con todas esas cosas,

1572
01:25:14.510 --> 01:25:17.865
esos impactos que nos vienen 
desde el exterior 

1573
01:25:17.915 --> 01:25:21.025
y vamos a tener todavía un deterioro 
cognitivo más rápido 

1574
01:25:21.075 --> 01:25:21.930
y más profundo.

1575
01:25:22.820 --> 01:25:26.460
Y básicamente eso es lo que 
quería exponerles hoy. 

1576
01:25:26.540 --> 01:25:27.318
Muchas gracias.

1577
01:25:32.260 --> 01:25:33.480
Bueno, muchas gracias.

1578
01:25:33.940 --> 01:25:36.400
Manejamos maquinaria pesada 
en ocasiones. 

1579
01:25:37.100 --> 01:25:41.055
Vamos a dar inicio a este coloquio,

1580
01:25:41.105 --> 01:25:44.469
estas posibilidades de intervención 
por parte de todos los asistentes. 

1581
01:25:44.520 --> 01:25:47.687
Yo tengo una batería de preguntas 
porque evidentemente cuando uno. 

1582
01:25:47.820 --> 01:25:50.295
Tiene cierta inquietud sobre 
estas cuestiones 

1583
01:25:50.345 --> 01:25:53.055
y se analizan desde distintas 
perspectivas, 

1584
01:25:53.105 --> 01:25:56.060
pues siempre hay dudas y cuestiones 
que uno se hace, 

1585
01:25:56.160 --> 01:25:58.580
pero quiero dar prioridad, 
por supuesto, 

1586
01:25:58.720 --> 01:26:00.580
al público asistente.

1587
01:26:00.660 --> 01:26:03.820
Si hay alguien que tiene alguna 
cuestión o alguna pregunta, 

1588
01:26:03.960 --> 01:26:06.880
pues podemos empezar directamente 
por ellos, 

1589
01:26:07.000 --> 01:26:07.889
en cualquier caso.

1590
01:26:08.970 --> 01:26:13.970
Mientras se plantean cuestiones, 
yo sí que querría, bueno, 

1591
01:26:14.030 --> 01:26:17.385
teniendo en cuenta que hemos hablado 
de alguna manera de esa cooperación 

1592
01:26:17.435 --> 01:26:21.150
entre territorios, Unión 
Europea, Iberoamérica, 

1593
01:26:21.310 --> 01:26:23.930
de qué manera o, no sé.

1594
01:26:25.740 --> 01:26:29.315
¿Cuál consideran que es el 
mayor obstáculo real 

1595
01:26:29.365 --> 01:26:33.980
para lograr esa cooperación efectiva 
en materia de ciberseguridad, 

1596
01:26:34.120 --> 01:26:38.095
en materia de relación digital 
y resiliencia digital 

1597
01:26:38.145 --> 01:26:39.705
entre estos dos territorios?

1598
01:26:39.755 --> 01:26:43.655
¿Cuál es el punto, digamos, 
limitante, así a priori, 

1599
01:26:43.705 --> 01:26:45.800
que podríamos empezar a focalizar?

1600
01:26:46.220 --> 01:26:47.955
No sé quién quiere.

1601
01:26:48.005 --> 01:26:50.300
Yo me lanzo, si.

1602
01:26:51.950 --> 01:26:54.550
Bueno, pues damos turno a Roberto 
en primer lugar, 

1603
01:26:54.610 --> 01:26:57.065
como está en digital siempre tiene.

1604
01:26:57.115 --> 01:26:59.505
No, no, no tengo ningún.

1605
01:26:59.555 --> 01:27:04.530
Bueno, yo limitante no lo veo 
exclusivamente entre España. 

1606
01:27:08.030 --> 01:27:12.365
La cooperación en materia 
de ciberseguridad 

1607
01:27:12.415 --> 01:27:17.390
es deseable y todos la desean, pero 
luego tiene unos límites 

1608
01:27:17.730 --> 01:27:21.185
que llegan hasta dónde se puede 
compartir información 

1609
01:27:21.235 --> 01:27:23.266
y con quién se puede compartir 
información. 

1610
01:27:23.530 --> 01:27:26.450
Si estamos hablando de 
seguridad nacional. 

1611
01:27:26.900 --> 01:27:30.135
Si estamos hablando de empresas con 
negocios con sensibilidad comercial, 

1612
01:27:30.185 --> 01:27:33.680
hay información que es conveniente 
compartir. 

1613
01:27:34.080 --> 01:27:38.355
De hecho, la directiva NIS2 en 
Europa obliga a compartirla, 

1614
01:27:38.405 --> 01:27:41.345
pero siempre hay reticencia 
a compartirla. 

1615
01:27:41.395 --> 01:27:43.380
De tal manera que cuando.

1616
01:27:44.600 --> 01:27:48.440
Se hace alguna cooperación 
en este sentido, 

1617
01:27:48.540 --> 01:27:52.755
siempre hay que garantizar que 
los intereses sean comunes 

1618
01:27:52.805 --> 01:27:56.060
en los aspectos en los cuales se va 
a intercambiar esa información, 

1619
01:27:56.240 --> 01:27:58.695
que al final es la base 
de toda cooperación 

1620
01:27:58.745 --> 01:28:00.055
en materia de ciberseguridad.

1621
01:28:00.105 --> 01:28:03.435
Se puede, de todas maneras, 
creo que es importante 

1622
01:28:03.485 --> 01:28:07.085
que se coopere en la prevención,

1623
01:28:07.135 --> 01:28:11.200
porque en la prevención, en la 
experiencia que uno tiene, 

1624
01:28:11.280 --> 01:28:12.620
puede ayudar a otros para.

1625
01:28:13.150 --> 01:28:16.185
Mejorar esa capacidad de prevención, 
se puede ayudar 

1626
01:28:16.235 --> 01:28:21.210
en la reacción frente a incidentes, 
siempre y cuando no se ponga 

1627
01:28:21.810 --> 01:28:24.870
en peligro esa información 
de la que he hablado, 

1628
01:28:24.930 --> 01:28:28.105
y se puede cooperar en 
la recuperación 

1629
01:28:28.155 --> 01:28:33.130
frente a incidentes a base de 
equipos que puedan ser desplegados en lugares 

1630
01:28:33.790 --> 01:28:36.650
en los que otro no tiene 
esa capacidad. 

1631
01:28:36.950 --> 01:28:39.575
Luego, hay muchos elementos 
de cooperación, 

1632
01:28:39.625 --> 01:28:41.150
pero también hay limitaciones.

1633
01:28:43.710 --> 01:28:44.585
Muchas gracias Roberto.

1634
01:28:44.635 --> 01:28:45.730
Miguel no sé si quería.

1635
01:28:50.160 --> 01:28:54.415
Yo creo que se dijo en una de las 
mesas que hemos compartido 

1636
01:28:54.465 --> 01:28:57.795
a lo largo de las jornadas 
que uno de los aspectos, 

1637
01:28:57.845 --> 01:29:00.580
y lo dijo en concreto un general,

1638
01:29:00.760 --> 01:29:05.760
sobre la importancia de realizar 
actividades conjuntas 

1639
01:29:07.920 --> 01:29:08.809
entre diferentes.

1640
01:29:09.240 --> 01:29:14.240
En el caso quizá a lo mejor del 
mando conjunto, hay operaciones militares 

1641
01:29:15.380 --> 01:29:15.991
que se hacen.

1642
01:29:16.920 --> 01:29:20.435
De manera coordinada entre los 
distintos países de la OTAN 

1643
01:29:20.485 --> 01:29:25.460
y se comparten doctrinas, se evalúan 
equipos de trabajo, 

1644
01:29:25.720 --> 01:29:28.345
se coordinan actividades, 
se llevan a cabo, 

1645
01:29:28.395 --> 01:29:33.200
se analiza lo que puede 
haber salido mal, 

1646
01:29:33.320 --> 01:29:34.931
etc. Entonces, la única manera de.

1647
01:29:35.540 --> 01:29:37.295
De aprender

1648
01:29:37.345 --> 01:29:42.235
y de compartir estas dificultades 
en el ámbito himnoamericano 

1649
01:29:42.285 --> 01:29:45.640
es crear una comunidad que permita 
hacer este tipo de cosas, 

1650
01:29:45.700 --> 01:29:48.515
que puede ser un desideratum,

1651
01:29:48.565 --> 01:29:52.535
pero no deja de ser una opción 
que ya se hace en Europa 

1652
01:29:52.585 --> 01:29:55.575
en el marco de la OTAN.

1653
01:29:55.625 --> 01:29:57.320
Pero dentro de lo que ha dicho.

1654
01:29:57.640 --> 01:30:01.925
Es completamente interesante 
el general Villanueva, 

1655
01:30:01.975 --> 01:30:04.835
que es que tienen que compartir 
intereses comunes. 

1656
01:30:04.885 --> 01:30:06.695
Tiene que haber una estabilidad 
institucional, 

1657
01:30:06.745 --> 01:30:11.295
tiene que haber un marco de 
colaboración entre instituciones 

1658
01:30:11.345 --> 01:30:14.020
que sean, digamos, perdurables.

1659
01:30:14.140 --> 01:30:17.155
Muchas veces ahí también 
lo que importa 

1660
01:30:17.205 --> 01:30:20.660
es que esos intereses comunes 
y ese marco se mantengan. 

1661
01:30:21.170 --> 01:30:25.625
A lo largo de los diferentes ciclos 
políticos, etc. Y ahí quizás es 

1662
01:30:25.675 --> 01:30:28.425
en lo que hay que trabajar en 
estrechar esa cooperación 

1663
01:30:28.475 --> 01:30:32.865
y en hacer más permanentes 
esos intereses comunes 

1664
01:30:32.915 --> 01:30:37.890
y que los podamos compartir porque 
efectivamente existen 

1665
01:30:39.530 --> 01:30:40.610
y son reales.

1666
01:30:42.350 --> 01:30:44.350
Quizás por introducir un elemento.

1667
01:30:46.150 --> 01:30:47.270
Un poco diferenciador.

1668
01:30:48.150 --> 01:30:52.865
Yo he participado personalmente en 
varias de esas interacciones 

1669
01:30:52.915 --> 01:30:55.310
y funcionaba muy bien.

1670
01:30:56.650 --> 01:31:00.105
Lo que pasa es que ahora no acompaña 
la situación geopolítica 

1671
01:31:00.155 --> 01:31:04.325
y todo lo que son las propias 
infraestructuras 

1672
01:31:04.375 --> 01:31:08.465
y los propios niveles de desarrollo 
impactan sobre este tipo 

1673
01:31:08.515 --> 01:31:10.170
de posibles colaboraciones.

1674
01:31:10.670 --> 01:31:14.445
Deseable es que colaborásemos todos, 
porque todos estamos al final 

1675
01:31:14.495 --> 01:31:19.450
integrados desde el punto de vista 
tecnológico de una u otra forma. 

1676
01:31:19.910 --> 01:31:24.910
Sobre todo en el mundo de lo que es 
la ciberseguridad y todo lo aledaño, 

1677
01:31:25.950 --> 01:31:27.550
todas las tecnologías aledañas.

1678
01:31:29.130 --> 01:31:30.665
¿Es deseable?

1679
01:31:30.715 --> 01:31:31.165
Sí.

1680
01:31:31.215 --> 01:31:32.330
¿Es posible?

1681
01:31:32.670 --> 01:31:33.270
Sí.

1682
01:31:34.650 --> 01:31:39.070
Pero ahora mismo es dificultoso en 
el momento en el que estamos. 

1683
01:31:39.170 --> 01:31:43.485
Con los países latinoamericanos creo 
que no habría ningún problema 

1684
01:31:43.535 --> 01:31:45.764
o no debería haber ningún 
problema desde Europa. 

1685
01:31:45.814 --> 01:31:50.725
Pero cierto es que la situación es 
cambiante y no se puede calcular 

1686
01:31:50.775 --> 01:31:52.150
a medio plazo.

1687
01:31:55.380 --> 01:32:00.380
Bien, no sé si hay alguna pregunta 
por parte del público asistente 

1688
01:32:00.460 --> 01:32:03.660
o de los que nos están acompañando 
vía streaming. 

1689
01:32:03.860 --> 01:32:06.955
En cualquier caso, dando 
un poquito de margen 

1690
01:32:07.005 --> 01:32:10.360
a las posibles preguntas que 
pueda llegar a haber, 

1691
01:32:10.460 --> 01:32:13.060
no me resisto a hacer quizá 
una última por mi parte, 

1692
01:32:13.120 --> 01:32:15.595
porque tampoco se trata de esto, 
sea un interrogatorio, 

1693
01:32:15.645 --> 01:32:17.640
pero sí que hay un elemento 
que, bueno. 

1694
01:32:18.150 --> 01:32:21.665
Mi propio campo de investigación 
me resulta muy inquietante 

1695
01:32:21.715 --> 01:32:24.430
en el aspecto propiamente de la 
inteligencia artificial, 

1696
01:32:24.710 --> 01:32:28.455
que nace o se vertebra a partir de 
lo que es el derecho administrativo, 

1697
01:32:28.505 --> 01:32:30.345
que no es otro que la 
profesionalización 

1698
01:32:30.395 --> 01:32:31.648
de los agentes implicados.

1699
01:32:31.830 --> 01:32:35.765
Teniendo en cuenta que cada uno 
de ustedes forma parte 

1700
01:32:35.815 --> 01:32:37.725
de una institución de prestigio

1701
01:32:37.775 --> 01:32:41.605
y que se enfoca directamente 
en cuestiones relativas 

1702
01:32:41.655 --> 01:32:43.635
a inteligencia artificial 
y digitalización, 

1703
01:32:43.685 --> 01:32:46.595
¿Hasta qué punto la 
profesionalización es un elemento 

1704
01:32:46.645 --> 01:32:50.855
clave para seguir adelante con 
este tipo de cuestiones 

1705
01:32:50.905 --> 01:32:52.415
en materia de inteligencia 
artificial? 

1706
01:32:52.465 --> 01:32:54.875
¿Cómo se prepara esa 
profesionalización 

1707
01:32:54.925 --> 01:32:58.075
para los agentes que de alguna 
manera forman parte de ese cambio 

1708
01:32:58.125 --> 01:33:01.495
y tienen una realidad imperante 
en el seno de la evolución 

1709
01:33:01.545 --> 01:33:03.020
de la inteligencia artificial?

1710
01:33:05.760 --> 01:33:07.155
No sé si.

1711
01:33:07.205 --> 01:33:09.500
Tomo yo la palabra.

1712
01:33:11.360 --> 01:33:13.260
Cambia radicalmente.

1713
01:33:14.070 --> 01:33:17.065
Toda la parte de formación humana

1714
01:33:17.115 --> 01:33:20.670
para después operar en 
este nuevo mundo. 

1715
01:33:20.790 --> 01:33:25.530
Y después la agéntica es 
entrenada por humanos, 

1716
01:33:25.630 --> 01:33:29.350
por humanos que son profesionales 
en un determinado conocimiento. 

1717
01:33:31.860 --> 01:33:33.560
Está ocurriendo en las empresas.

1718
01:33:34.520 --> 01:33:38.615
Yo he estado en una empresa 
hace un par de meses 

1719
01:33:38.665 --> 01:33:42.475
donde todos los técnicos 
ciber de nivel 1 y 2 

1720
01:33:42.525 --> 01:33:44.380
ya han sido sustituidos por agentes.

1721
01:33:44.920 --> 01:33:46.700
Han adquirido el conocimiento.

1722
01:33:47.980 --> 01:33:51.055
Como tienen memoria y 
en un momento dado 

1723
01:33:51.105 --> 01:33:53.335
se les puede configurar como equipos,

1724
01:33:53.385 --> 01:33:57.435
pues esa empresa ha decidido 
que son más eficientes 

1725
01:33:57.485 --> 01:34:02.455
y es una empresa que da servicio 
internacionalmente 

1726
01:34:02.505 --> 01:34:07.500
a distintas naciones, pues ha 
decidido que ese trabajo, 

1727
01:34:07.680 --> 01:34:10.040
ese conocimiento ya no tiene valor.

1728
01:34:11.050 --> 01:34:14.725
Está pasando también, por ejemplo, 
en las plazas que están saliendo 

1729
01:34:14.775 --> 01:34:16.070
para juniors.

1730
01:34:16.190 --> 01:34:19.230
Los despachos de abogados 
básicamente ya no cogen juniors. 

1731
01:34:19.870 --> 01:34:20.930
Está ocurriendo.

1732
01:34:21.010 --> 01:34:21.485
¿Por qué?

1733
01:34:21.535 --> 01:34:23.065
Pues porque ¿qué hacía un junior?

1734
01:34:23.130 --> 01:34:24.335
Revisar documentos.

1735
01:34:24.385 --> 01:34:25.890
Y así iba aprendiendo.

1736
01:34:25.950 --> 01:34:28.506
Claro, ¿quién va a ser senior 
si no ha pasado por junior? 

1737
01:34:28.630 --> 01:34:33.510
Por lo tanto, tenemos que determinar 
todo un nuevo modelo de. 

1738
01:34:34.840 --> 01:34:39.840
Adquisición de conocimiento y de 
generación de conocimiento 

1739
01:34:40.040 --> 01:34:41.435
que va a ser más pluridisciplinar.

1740
01:34:41.485 --> 01:34:44.595
Yo siempre defiendo que 
en el nuevo momento 

1741
01:34:44.645 --> 01:34:49.615
que nos espera en temas 
profesionales, 

1742
01:34:49.665 --> 01:34:52.200
lo que va a privilegiar 
va a ser la cultura, 

1743
01:34:52.320 --> 01:34:53.560
eso que conocíamos antes.

1744
01:34:54.310 --> 01:34:56.685
De tener un conocimiento 
pluridisciplinar capaz 

1745
01:34:56.735 --> 01:34:59.765
de interconectar conocimientos 
específicos. 

1746
01:34:59.815 --> 01:35:00.265
¿Por qué?

1747
01:35:00.315 --> 01:35:03.805
Porque la inteligencia artificial 
tiene todo el conocimiento específico 

1748
01:35:03.855 --> 01:35:07.590
de cada una de nuestras profesiones, 
si se ha alimentado con ello. 

1749
01:35:08.530 --> 01:35:13.530
Entonces, tenemos que repensar cuál 
es nuestro factor de influencia 

1750
01:35:15.170 --> 01:35:16.530
en ese nuevo modelo.

1751
01:35:17.330 --> 01:35:21.065
Porque en un momento dado 
hay por lo menos 

1752
01:35:21.115 --> 01:35:23.505
determinadas profesiones, 
determinados conocimientos 

1753
01:35:23.555 --> 01:35:26.385
donde el conocimiento puede 
ser reiterativo 

1754
01:35:26.435 --> 01:35:29.725
que van a ser sustituidos, están 
siendo sustituidos, 

1755
01:35:29.775 --> 01:35:30.750
no es que yo lo quiera.

1756
01:35:33.490 --> 01:35:35.145
Sí, Roberto, había levantado la mano.

1757
01:35:35.195 --> 01:35:36.725
Sí, yo lo que puedo aportar

1758
01:35:36.775 --> 01:35:40.395
es que efectivamente en esa 
evolución, que es muy rápida, 

1759
01:35:40.445 --> 01:35:45.430
se está corrigiendo mucho 
la formación necesaria 

1760
01:35:45.770 --> 01:35:49.025
para que este mundo de 
la ciberseguridad 

1761
01:35:49.075 --> 01:35:53.190
siga siendo o pueda darnos esa 
seguridad que necesitamos. 

1762
01:35:53.510 --> 01:35:58.510
Ya se han comentado cómo escala la 
necesidad de tener a un humano. 

1763
01:36:01.150 --> 01:36:04.170
Hacia perfiles con más experiencia,

1764
01:36:04.470 --> 01:36:06.730
pero ahora la experiencia 
es importante. 

1765
01:36:07.030 --> 01:36:10.225
Es importante porque todavía 
la inteligencia artificial 

1766
01:36:10.275 --> 01:36:13.510
requiere de supervisión, 
cada vez menos, 

1767
01:36:13.590 --> 01:36:15.401
pero todavía requiere de supervisión.

1768
01:36:15.452 --> 01:36:18.825
Y además hay otro aspecto que 
es para mí importante 

1769
01:36:18.875 --> 01:36:22.465
y son esa formación

1770
01:36:22.515 --> 01:36:25.790
o esa experiencia desde el punto 
de vista del atacante. 

1771
01:36:26.480 --> 01:36:31.480
Normalmente se pone en riesgo a un 
sistema observándolo desde fuera 

1772
01:36:34.320 --> 01:36:36.820
y se dice ¿de qué manera 
yo soy vulnerable? 

1773
01:36:37.100 --> 01:36:40.335
¿de qué manera me pueden atacar 
con esas nuevas herramientas, 

1774
01:36:40.385 --> 01:36:41.635
con esas nuevas tecnologías?

1775
01:36:41.685 --> 01:36:45.920
Y para eso hace falta equipos con 
una ética elevada, desde luego, 

1776
01:36:46.060 --> 01:36:49.180
porque van a identificar 
las vulnerabilidades, 

1777
01:36:49.480 --> 01:36:54.355
Van a ver de qué manera es posible 
atacar aquellos activos, 

1778
01:36:54.405 --> 01:36:58.755
aquellos datos, aquellos sistemas 
o dispositivos que tenemos 

1779
01:36:58.805 --> 01:37:00.715
dentro de nuestra organización

1780
01:37:00.765 --> 01:37:02.840
o incluso los que usamos 
privadamente. 

1781
01:37:04.040 --> 01:37:06.375
Van a proponer medidas 
para resolverlo 

1782
01:37:06.425 --> 01:37:09.115
o van a publicar vulnerabilidades 
para que se puedan resolver 

1783
01:37:09.165 --> 01:37:12.100
y ir cerrando puertas 
a los atacantes. 

1784
01:37:12.280 --> 01:37:14.820
Esos perfiles, esa necesidad, 
esa experiencia, 

1785
01:37:15.140 --> 01:37:20.040
que se puede llamar hacking ético, 
se le puede llamar pentesting, 

1786
01:37:20.140 --> 01:37:22.195
es decir, pruebas de penetración 
en sistemas, 

1787
01:37:22.245 --> 01:37:27.220
o se le puede llamar determinación 
de la superficie de exposición, 

1788
01:37:27.540 --> 01:37:30.260
esos perfiles son fundamentales 
ahora mismo. 

1789
01:37:30.400 --> 01:37:30.895
¿Por qué?

1790
01:37:30.945 --> 01:37:33.260
Pues porque ahora más que nunca.

1791
01:37:33.810 --> 01:37:38.165
Tenemos que ponernos en el lugar 
del atacante para identificar 

1792
01:37:38.215 --> 01:37:39.825
de qué manera tenemos que responder.

1793
01:37:39.875 --> 01:37:41.785
Y eso no puede ser una vez

1794
01:37:41.835 --> 01:37:44.170
cada mes, no, eso tiene que 
ser de manera continua. 

1795
01:37:44.790 --> 01:37:49.350
Ese es el cambio fundamental, que 
la evolución de la tecnología, 

1796
01:37:49.590 --> 01:37:52.425
la evolución de los procedimientos, 
nos obliga a llevar el mismo ritmo, 

1797
01:37:52.475 --> 01:37:54.450
con la dificultad que eso 
conlleva, claro. 

1798
01:37:56.270 --> 01:37:57.810
Muy bien, sí, Miguel.

1799
01:38:00.060 --> 01:38:03.595
Pues añado un pequeño comentario 
al hilo también 

1800
01:38:03.645 --> 01:38:06.995
de lo que ha dicho Enrique en 
los niveles de entrada 

1801
01:38:07.045 --> 01:38:08.880
a los trabajos.

1802
01:38:08.960 --> 01:38:11.685
También está ocurriendo en 
los niveles más altos. 

1803
01:38:11.735 --> 01:38:14.795
La inteligencia artificial tiene 
un nivel de doctorado 

1804
01:38:14.845 --> 01:38:16.685
en cualquier cosa que le preguntemos.

1805
01:38:16.735 --> 01:38:19.940
De manera que, desde el punto 
de vista de la formación, 

1806
01:38:20.000 --> 01:38:23.475
cuando uno es profesor en una 
institución educativa, 

1807
01:38:23.525 --> 01:38:24.576
lo que estamos viendo.

1808
01:38:25.040 --> 01:38:30.040
Es que es cada vez más capaz de 
dar esa formación al alumno 

1809
01:38:31.500 --> 01:38:36.220
y de saber y conocer, como también 
ha planteado Enrique, 

1810
01:38:36.300 --> 01:38:39.415
en qué estado estás tú 
de conocimientos 

1811
01:38:39.465 --> 01:38:42.100
y de asimilación de conocimientos 
de manera. 

1812
01:38:42.450 --> 01:38:47.450
Que hay una supervisión 
mucho más activa 

1813
01:38:48.390 --> 01:38:50.779
de la que pueden dar las 
instituciones educativas. 

1814
01:38:50.930 --> 01:38:55.490
Entonces, eso es un elemento que 
va a transformar la educación. 

1815
01:38:55.810 --> 01:38:56.890
Y el segundo,

1816
01:38:57.010 --> 01:39:00.210
que también me lo has oído en 
algún comentario que hice, 

1817
01:39:00.290 --> 01:39:02.624
porque coincidimos el otro 
día también en un acto, 

1818
01:39:03.180 --> 01:39:08.180
En el que yo planteé que los 
dos procesos mentales 

1819
01:39:09.020 --> 01:39:13.315
que tenemos normalmente que 
cultivar, que es el análisis 

1820
01:39:13.365 --> 01:39:16.855
y la síntesis, para poder comprender 
cualquier texto que leemos 

1821
01:39:16.905 --> 01:39:19.360
y poder sacar conclusiones, 
poder elaborar. 

1822
01:39:19.990 --> 01:39:21.945
Etcétera, están mermando,

1823
01:39:21.995 --> 01:39:24.425
porque el uso de la inteligencia 
artificial hace 

1824
01:39:24.475 --> 01:39:27.985
que cuando tenemos que adquirir 
estas dos capacidades, que es 

1825
01:39:28.035 --> 01:39:30.705
en los colegios o en las 
primeras etapas, 

1826
01:39:30.755 --> 01:39:34.590
estamos dejando de leer, 
dejando de leer. 

1827
01:39:35.640 --> 01:39:39.555
Un texto lo suficientemente largo 
como para que tengamos 

1828
01:39:39.605 --> 01:39:44.580
que esforzarnos en entenderlo, 
en trocearlo, 

1829
01:39:45.220 --> 01:39:50.220
en asimilarlo y luego poder producir 
alguna inferencia 

1830
01:39:50.380 --> 01:39:51.769
sobre lo que hemos aprendido.

1831
01:39:52.070 --> 01:39:57.070
Y eso lo vemos en los informes PISA 
y hace poco un colega mío 

1832
01:40:01.130 --> 01:40:03.625
de departamento, Julio Gonzalo, 
escribió un artículo 

1833
01:40:03.675 --> 01:40:06.145
sobre el apocalipsis de la 
inteligencia artificial, 

1834
01:40:06.195 --> 01:40:11.190
que era uno de los temas del momento 
porque había habido un llamamiento 

1835
01:40:13.890 --> 01:40:18.290
de los cuatro directivos de 
las empresas hacia esa. 

1836
01:40:19.460 --> 01:40:22.355
Hacia una necesidad de gobernanza, 
escribió un artículo en El País 

1837
01:40:22.405 --> 01:40:23.600
y dijo,

1838
01:40:23.720 --> 01:40:27.740
el único apocalipsis que yo veo 
es el de la educación. 

1839
01:40:28.520 --> 01:40:32.295
El único apocalipsis donde veo 
mermar las capacidades humanas 

1840
01:40:32.345 --> 01:40:36.295
y donde veo que estamos dejando 
de poder enfrentarnos 

1841
01:40:36.345 --> 01:40:39.835
a un reto futuro, que es que no sea 
una inteligencia artificial 

1842
01:40:39.885 --> 01:40:44.135
la que decida las cosas porque 
no somos capaces 

1843
01:40:44.185 --> 01:40:44.955
de comprenderlas.

1844
01:40:45.005 --> 01:40:46.955
Pues ahí dejamos uno de los.

1845
01:40:47.005 --> 01:40:48.480
No hemos hablado hasta ahora de.

1846
01:40:48.710 --> 01:40:52.730
De esta distopía como amenaza, 
pero es una de ellas. 

1847
01:40:52.810 --> 01:40:56.510
No es en el ámbito militar, pero 
desde luego nos va a afectar. 

1848
01:40:57.310 --> 01:40:57.921
Desde luego.

1849
01:40:57.990 --> 01:41:01.845
Bueno, eso daría, yo creo que para 
otra mesa, indudablemente, 

1850
01:41:01.895 --> 01:41:04.724
el impacto que está teniendo 
efectivamente en la educación, 

1851
01:41:04.910 --> 01:41:07.645
en la capacidad cognitiva, en 
el aprendizaje cognitivo 

1852
01:41:07.695 --> 01:41:10.085
y fundamentalmente en el 
elemento de crítica. 

1853
01:41:10.135 --> 01:41:13.230
En una institución como esta, 
propia de investigación, 

1854
01:41:13.470 --> 01:41:14.525
en cualquier universidad,

1855
01:41:14.575 --> 01:41:17.765
es el elemento clave por 
el que progresa 

1856
01:41:17.815 --> 01:41:18.810
toda investigación.

1857
01:41:19.750 --> 01:41:23.310
Bien, pues no sé si hay 
alguna pregunta. 

1858
01:41:23.370 --> 01:41:25.037
Tenemos una pregunta en el público.

1859
01:41:27.010 --> 01:41:30.430
Vale, vamos a atender dos preguntas 
antes de finalizar con la mesa. 

1860
01:41:31.790 --> 01:41:32.915
Bueno, en primer lugar,

1861
01:41:32.965 --> 01:41:35.090
agradecerles por la ponencia 
tan relevante. 

1862
01:41:35.550 --> 01:41:37.465
Bueno, mi área de estudios,

1863
01:41:37.515 --> 01:41:39.265
sí, gradué en Relaciones 
Internacionales, 

1864
01:41:39.315 --> 01:41:42.124
así que quizás me excedo un poco 
de la formación tradicional, 

1865
01:41:42.210 --> 01:41:43.845
pero creo que cada vez 
es más necesario, 

1866
01:41:43.895 --> 01:41:46.705
pero no puedo evitar llevarle 
un terreno más geopolítico, 

1867
01:41:46.755 --> 01:41:47.341
si se quiere.

1868
01:41:47.810 --> 01:41:49.705
Mi pregunta tiene que ver

1869
01:41:49.755 --> 01:41:53.285
con si ven posible una especie 
de carrera armamentística, 

1870
01:41:53.335 --> 01:41:57.025
si así se quiere, para lograr quién 
llega a un uso más avanzado 

1871
01:41:57.075 --> 01:42:00.225
de todo lo que es inteligencia 
artificial y quizás 

1872
01:42:00.275 --> 01:42:03.770
esta aplicación a lo que es 
armas, ejércitos, guerra, 

1873
01:42:03.990 --> 01:42:06.445
si quieren que pueda darse una 
especie de competencia 

1874
01:42:06.495 --> 01:42:08.145
estratégica entre potencias por eso.

1875
01:42:08.195 --> 01:42:10.590
Y en segunda cuestión, quizás 
más específico, 

1876
01:42:11.240 --> 01:42:13.120
¿Cuál creen que puede 
ser la amenaza de, 

1877
01:42:13.180 --> 01:42:16.155
sé que el tiempo es muy relativo, 
pero 5 a 10 años 

1878
01:42:16.205 --> 01:42:19.440
respecto a inteligencia artificial, 
qué más les preocuparía? 

1879
01:42:19.600 --> 01:42:20.378
Muchas gracias.

1880
01:42:25.760 --> 01:42:28.340
Es no tecnología de doble uso.

1881
01:42:29.700 --> 01:42:32.400
Siendo no tecnología de doble 
uso, pues tiene, 

1882
01:42:32.480 --> 01:42:34.820
como todas las tecnologías, 
ese doble uso, 

1883
01:42:34.920 --> 01:42:37.175
como el cuchillo o como internet

1884
01:42:37.225 --> 01:42:38.760
o como eso.

1885
01:42:38.840 --> 01:42:41.140
Así que no me plantea ninguna duda.

1886
01:42:41.580 --> 01:42:46.315
Además, en foro público ya se 
ha reiterado varias veces 

1887
01:42:46.365 --> 01:42:51.340
el asunto de que la comparación con 
lo que fue el poder nuclear, 

1888
01:42:53.220 --> 01:42:57.965
Que la inteligencia artificial se 
asimilaría en cuanto a, digamos, 

1889
01:42:58.015 --> 01:43:00.200
a impacto global al poder nuclear.

1890
01:43:00.280 --> 01:43:01.480
No, es diferente porque.

1891
01:43:02.010 --> 01:43:04.805
El poder nuclear funciona 
prácticamente en binario, ¿no? 

1892
01:43:04.855 --> 01:43:07.285
Eso se podía más o menos negociar 
de alguna manera, 

1893
01:43:07.335 --> 01:43:10.230
destrucción mutua asegurada 
y esas historias. 

1894
01:43:10.590 --> 01:43:11.885
Con inteligencia artificial

1895
01:43:11.935 --> 01:43:16.145
nos movemos en un escenario de zona 
gris y ese escenario de zona gris, 

1896
01:43:16.195 --> 01:43:19.685
pues es mucho más, digamos, 
mucho más difícil 

1897
01:43:19.735 --> 01:43:22.490
en un momento dado de manejar.

1898
01:43:22.610 --> 01:43:26.090
Con lo cual, bueno, creo que 
no hay ninguna duda. 

1899
01:43:26.210 --> 01:43:28.130
Obviamente es tecnología 
de doble uso, 

1900
01:43:28.230 --> 01:43:30.190
no tecnología de doble uso.

1901
01:43:30.690 --> 01:43:32.110
Es una cosa diferente.

1902
01:43:32.390 --> 01:43:37.390
Y con respecto a la segunda 
pregunta, hombre, es difícil hacer 

1903
01:43:37.530 --> 01:43:38.305
perspectiva.

1904
01:43:38.355 --> 01:43:43.350
Yo me mojé en una intervención que 
tuve sobre el tema de la robótica 

1905
01:43:43.970 --> 01:43:46.910
y dije cinco años y me he confundido 
como mínimo en tres. 

1906
01:43:47.150 --> 01:43:49.270
O sea, solamente le voy 
a dar un dato. 

1907
01:43:49.450 --> 01:43:54.450
Ayer, hoy, ha salido en 
prensa que un modelo. 

1908
01:43:55.110 --> 01:43:58.350
No voy a decir el nombre del 
modelo ni nada parecido, 

1909
01:43:58.450 --> 01:44:03.045
ha calculado 64.000 y pico proteínas.

1910
01:44:03.095 --> 01:44:07.910
¿Sabe cuánto costaba calcular 
una proteína hace 10 años? 

1911
01:44:08.110 --> 01:44:10.965
El trabajo de un equipo 
de investigación 

1912
01:44:11.015 --> 01:44:15.990
durante entre 5 y 10 años para 
generar una proteína viable, 

1913
01:44:16.470 --> 01:44:19.190
utilizable en la industria 
farmacológica. 

1914
01:44:19.630 --> 01:44:22.185
Ha tardado, estoy hablando 
de memoria, 

1915
01:44:22.235 --> 01:44:23.870
72 horas de computación.

1916
01:44:25.180 --> 01:44:26.900
72 horas de computación.

1917
01:44:26.960 --> 01:44:28.975
Entonces, cuando estamos 
hablando, por ejemplo, 

1918
01:44:29.025 --> 01:44:33.420
de vectores de tipo vírico, 
bacteriológico, tal, 

1919
01:44:33.520 --> 01:44:37.700
estamos en una situación 
de indefensión. 

1920
01:44:38.940 --> 01:44:43.940
Los modelos lo saben todo y saben 
relacionar conocimientos. 

1921
01:44:46.100 --> 01:44:50.675
Entonces, nos salvan las 
salvaguardas que en un momento dado 

1922
01:44:50.725 --> 01:44:54.355
se impongan al acceso a determinado 
conocimiento 

1923
01:44:54.405 --> 01:44:57.195
y a determinadas preguntas, 
respuestas, 

1924
01:44:57.245 --> 01:45:01.440
por parte de las operadoras 
de superinteligencia. 

1925
01:45:03.220 --> 01:45:08.140
Porque si esas salvaguardas fallan, 
tenemos un problema. 

1926
01:45:11.880 --> 01:45:13.300
Sí, Roberto, quería.

1927
01:45:15.540 --> 01:45:18.675
Sí, yo creo que son muy 
buenas preguntas 

1928
01:45:18.725 --> 01:45:23.375
y además creo que tienen una 
respuesta que puede tratar 

1929
01:45:23.425 --> 01:45:24.580
de contestar a las dos.

1930
01:45:24.720 --> 01:45:26.520
Ya veremos a ver si es o no.

1931
01:45:26.600 --> 01:45:31.195
Yo creo que efectivamente, igual 
que estas tecnologías 

1932
01:45:31.245 --> 01:45:36.220
se pueden usar en el lado claro 
del desarrollo humano, 

1933
01:45:38.420 --> 01:45:39.955
se pueden también usar 
en el lado oscuro. 

1934
01:45:40.005 --> 01:45:42.740
Y desde luego, en los próximos 
cinco años. 

1935
01:45:44.500 --> 01:45:47.075
Teniendo en cuenta que estamos 
hablando del lado oscuro, 

1936
01:45:47.125 --> 01:45:52.100
yo creo que donde más preocupación 
podemos tener es en esas guerras, 

1937
01:45:54.700 --> 01:45:56.575
en esos conflictos, amenazas 
híbridas. 

1938
01:45:56.625 --> 01:45:59.815
Es decir, aquellas que combinan 
acciones convencionales 

1939
01:45:59.865 --> 01:46:00.895
y no convencionales

1940
01:46:00.945 --> 01:46:03.335
y que muchas veces en esas 
no convencionales 

1941
01:46:03.385 --> 01:46:06.015
se mantienen por debajo del umbral 
de un conflicto armado. 

1942
01:46:06.065 --> 01:46:07.780
Y pongo un caso concreto.

1943
01:46:08.460 --> 01:46:09.960
Campañas de desinformación.

1944
01:46:10.320 --> 01:46:11.708
Campañas de desinformación.

1945
01:46:12.140 --> 01:46:14.865
Que pueden mover voluntades 
en sociedades enteras, 

1946
01:46:14.915 --> 01:46:19.900
que pueden hacer que haya brechas 
en la cohesión nacional 

1947
01:46:20.180 --> 01:46:24.195
y en la respuesta que una 
nación puede ofrecer 

1948
01:46:24.245 --> 01:46:28.980
ante amenazas o acciones 
que sean cinéticas. 

1949
01:46:29.920 --> 01:46:34.920
Y además, nuestra dependencia, 
porque ya no usamos el ciberespacio, 

1950
01:46:35.380 --> 01:46:37.820
solamente dependemos 
del ciberespacio. 

1951
01:46:38.260 --> 01:46:40.635
Un corte en cables

1952
01:46:40.685 --> 01:46:43.555
de comunicación, que es parte 
de esa guerra híbrida 

1953
01:46:43.605 --> 01:46:47.720
que es difícilmente atribuible 
a cualquier país, 

1954
01:46:47.880 --> 01:46:51.400
puede hacer que una sociedad 
completa pierda los servicios. 

1955
01:46:51.870 --> 01:46:54.850
Que tiene en su día a día.

1956
01:46:55.650 --> 01:47:00.170
Y para mí esos son los dos elementos 
fundamentales, hay muchos más, 

1957
01:47:00.250 --> 01:47:02.465
pero son los dos elementos 
fundamentales de preocupación 

1958
01:47:02.515 --> 01:47:03.245
en los próximos años.

1959
01:47:03.295 --> 01:47:06.685
La combinación de esas 
acciones híbridas, 

1960
01:47:06.735 --> 01:47:10.165
en la zona gris por debajo del 
umbral de atribución, 

1961
01:47:10.215 --> 01:47:15.190
fundamentalmente en desinformación, 
y por las acciones cinéticas, 

1962
01:47:17.600 --> 01:47:20.035
que nos hagan perder aquello 
que hemos ganado 

1963
01:47:20.085 --> 01:47:25.060
y que vamos ganando cada día con esa 
mejor capacidad tecnológica 

1964
01:47:25.360 --> 01:47:27.800
que nos da mejores opciones de vida.

1965
01:47:30.360 --> 01:47:31.260
Sí, claro.

1966
01:47:33.800 --> 01:47:37.515
Vamos, es al hilo de tu 
área de conocimiento, 

1967
01:47:37.565 --> 01:47:40.160
la interviniente, que son 
política exterior, 

1968
01:47:40.420 --> 01:47:42.031
son relaciones internacionales.

1969
01:47:42.550 --> 01:47:45.030
Pues yo lo que te puedo decir 
es que un artículo, 

1970
01:47:45.090 --> 01:47:49.505
el último artículo que he leído 
sobre los efectos, 

1971
01:47:49.555 --> 01:47:50.885
que no hemos hablado en 
toda la ponencia, 

1972
01:47:50.935 --> 01:47:55.910
lo acaba de comentar Enrique, de la 
biología que va a ser inmenso 

1973
01:47:56.250 --> 01:47:57.945
y de la inteligencia artificial

1974
01:47:57.995 --> 01:48:02.970
con la capacidad que va a tener de 
hacer este tipo de operaciones, 

1975
01:48:03.650 --> 01:48:07.725
doblar, plegar las proteínas 
y averiguar cómo se come. 

1976
01:48:07.775 --> 01:48:10.210
Es una cosa que se tardaba años.

1977
01:48:10.980 --> 01:48:12.758
Está publicado en el Foreign Affairs,

1978
01:48:13.060 --> 01:48:15.705
una revista de relaciones 
internacionales. 

1979
01:48:15.755 --> 01:48:18.940
Hace dos meses ha publicado qué 
va a pasar con la biología, 

1980
01:48:19.020 --> 01:48:21.300
qué efectos va a tener y 
lo han publicado ahí. 

1981
01:48:21.680 --> 01:48:23.755
Está todo interrelacionado,

1982
01:48:23.805 --> 01:48:28.320
no hay nada que se escape a lo que 
es la inteligencia artificial humana. 

1983
01:48:29.100 --> 01:48:30.140
Va a cambiar.

1984
01:48:30.420 --> 01:48:35.420
Entonces, es justo el ejemplo de 
que es un área donde, digamos, 

1985
01:48:37.440 --> 01:48:39.655
desde dónde se va a ver el cambio

1986
01:48:39.705 --> 01:48:43.140
que la IA va a realizar en el mundo.

1987
01:48:43.700 --> 01:48:46.720
No es una revista científica, 
es la tuya, 

1988
01:48:46.800 --> 01:48:51.800
donde tú lees lo que viene 
y lo que ha venido. 

1989
01:48:52.920 --> 01:48:54.031
Bueno, muchas gracias.

1990
01:48:54.180 --> 01:48:57.060
Tenemos espacio para una 
última pregunta. 

1991
01:49:03.390 --> 01:49:07.285
Sí, vamos a ver, yo desde 
la perspectiva 

1992
01:49:07.335 --> 01:49:12.310
de la formación, Bueno, primero 
agradecer a nuestros ponentes 

1993
01:49:12.560 --> 01:49:16.580
lo enriquecedora que ha 
sido este momento, 

1994
01:49:16.880 --> 01:49:20.645
porque yo creo que yo que tomo 
notas, he tomado muchas notas, 

1995
01:49:20.695 --> 01:49:23.240
aparte de que volveré sobre ello.

1996
01:49:23.300 --> 01:49:28.215
Pero desde la perspectiva de la 
formación versus empleo, 

1997
01:49:28.265 --> 01:49:33.240
que está muy ligada a la historia, 
Empecemos por nosotros mismos. 

1998
01:49:34.450 --> 01:49:38.230
Yo llevo 40 años en la dirección 
de seguridad, 

1999
01:49:38.510 --> 01:49:38.985
es decir,

2000
01:49:39.035 --> 01:49:41.705
en la formación especializada de 
la dirección de seguridad. 

2001
01:49:41.755 --> 01:49:45.250
Hemos estado evolucionando 
permanentemente. 

2002
01:49:45.390 --> 01:49:46.610
¿Y ahora qué hacemos?

2003
01:49:46.830 --> 01:49:50.505
A mí me gustaría conocer qué hacemos 
con los profesores, 

2004
01:49:50.555 --> 01:49:51.210
me refería.

2005
01:49:51.290 --> 01:49:52.833
¿Qué hacemos con los profesores?

2006
01:49:52.883 --> 01:49:56.695
Porque yo incluso tengo todavía, 
de los 50 profesores, 

2007
01:49:56.745 --> 01:49:58.730
tengo un 20% que están jubilados.

2008
01:49:59.330 --> 01:50:02.030
Porque nos interesa su experiencia 
y su conocimiento. 

2009
01:50:02.190 --> 01:50:03.412
Pero ahora, ¿qué hacemos?

2010
01:50:03.650 --> 01:50:05.515
Me gustaría la opinión,

2011
01:50:05.565 --> 01:50:08.430
aunque sea muy en síntesis, 
de los tres, 

2012
01:50:08.510 --> 01:50:11.810
porque me ha sido muy enriquecedor 
lo que han dicho de la formación. 

2013
01:50:11.950 --> 01:50:15.117
Pero hablemos de los profesores, 
¿qué hacemos con nosotros mismos? 

2014
01:50:15.410 --> 01:50:16.010
Gracias.

2015
01:50:20.210 --> 01:50:21.930
Bueno, quien quiera empezar.

2016
01:50:23.790 --> 01:50:25.510
Empiezo yo, no hay miedo.

2017
01:50:28.950 --> 01:50:31.525
Hace un mes me echaron 
de una facultad 

2018
01:50:31.575 --> 01:50:36.550
porque, además, con eso, porque 
empecé mi ponencia diciéndoles 

2019
01:50:37.350 --> 01:50:40.430
a los abogados de la primera fila 
que habían perdido, profesores, 

2020
01:50:40.530 --> 01:50:44.025
profesores de derecho de la primera 
fila que habían perdido 

2021
01:50:44.075 --> 01:50:44.605
su trabajo.

2022
01:50:45.170 --> 01:50:47.890
Sí, empezó la discusión, ¿vale?

2023
01:50:49.790 --> 01:50:54.025
Profesores, profesores, ahora 
mismo lo que es adquisición 

2024
01:50:54.075 --> 01:50:58.210
de lo que hemos estado haciendo 
en los últimos. 

2025
01:50:58.690 --> 01:51:03.690
30 o 40 años, que ha sido socializar 
de alguna manera 

2026
01:51:04.570 --> 01:51:06.350
esa adquisición del conocimiento,

2027
01:51:06.510 --> 01:51:11.510
está y va a ser sustituido por 
esa inteligencia artificial. 

2028
01:51:12.590 --> 01:51:14.650
¿Qué es lo que no puede 
ser sustituido? 

2029
01:51:14.750 --> 01:51:18.970
Pues un modelo platónico, un modelo 
como el que estamos haciendo aquí, 

2030
01:51:19.070 --> 01:51:22.170
donde intercambiamos conocimiento 
y experiencia. 

2031
01:51:22.770 --> 01:51:27.250
Pero eso de subirse a un atril 
y dar una clase magistral, 

2032
01:51:29.630 --> 01:51:33.405
Muchas veces, discúlpeme, 
pero yo he sido alumno 

2033
01:51:33.455 --> 01:51:36.510
en muchas cosas, profesor en algunas.

2034
01:51:37.810 --> 01:51:42.810
Primero sé de, digamos, los fallos 
que tenemos los seres humanos, 

2035
01:51:43.510 --> 01:51:47.685
no le exijamos más a la tecnología 
de lo que nos exigimos a nosotros 

2036
01:51:47.735 --> 01:51:50.890
y me he encontrado, digamos que.

2037
01:51:51.680 --> 01:51:54.515
Un profesorado muy profesional 
y profesorado 

2038
01:51:54.565 --> 01:51:56.580
que aprobó una oposición en 1985,

2039
01:51:57.360 --> 01:52:00.615
preparó su temario y 
estábamos en 2020 

2040
01:52:00.665 --> 01:52:02.400
y seguía dando el mismo temario.

2041
01:52:02.580 --> 01:52:06.915
Es decir, tenemos que autoexigirnos, 
tenemos que utilizar 

2042
01:52:06.965 --> 01:52:09.920
lo que de momento es nuestra 
capacidad fundamental, 

2043
01:52:10.360 --> 01:52:11.900
que es la capacidad de innovar.

2044
01:52:13.200 --> 01:52:16.880
Entonces, innovar introduciendo 
nueva tecnología, 

2045
01:52:17.080 --> 01:52:19.635
introduciendo nuevo conocimiento 
y sobre todo introduciendo 

2046
01:52:19.685 --> 01:52:23.835
todas esas herramientas de 
generación de una cosa que es fundamental 

2047
01:52:23.885 --> 01:52:26.840
y se llama inteligencia colectiva.

2048
01:52:27.780 --> 01:52:31.335
Es la inteligencia colectiva lo 
único que va a tener valor 

2049
01:52:31.385 --> 01:52:34.245
en los próximos años, bajo 
mi punto de vista. 

2050
01:52:34.295 --> 01:52:36.220
Es opinión estrictamente personal.

2051
01:52:37.060 --> 01:52:42.060
Pero lo otro, convendrán conmigo en 
que ahora le pides un programa. 

2052
01:52:43.110 --> 01:52:44.665
No me lo han contado, 
lo he hecho, ¿vale? 

2053
01:52:44.715 --> 01:52:46.405
Entonces le pido un programa 
de formación 

2054
01:52:46.455 --> 01:52:49.045
sobre un tema muy especializado, 
me redacta el programa, 

2055
01:52:49.095 --> 01:52:51.325
redáctame las unidades didácticas

2056
01:52:51.375 --> 01:52:54.255
de cada uno de los capítulos del 
programa, me lo redacta. 

2057
01:52:54.305 --> 01:52:56.790
Además, génerame en formato 
Scorn, tal, 

2058
01:52:56.870 --> 01:52:59.370
con un vídeo que acompañe 
a tal la presentación. 

2059
01:52:59.490 --> 01:53:03.565
Es decir, ese trabajo que antes 
era muy especializado, 

2060
01:53:03.615 --> 01:53:06.625
igual que en otras profesiones 
que tenemos un trabajo 

2061
01:53:06.675 --> 01:53:11.650
muy especializado, ahora mismo 
pierde gran parte de su valor. 

2062
01:53:13.800 --> 01:53:17.515
Tenemos que reinventarnos 
desde el punto de vista 

2063
01:53:17.565 --> 01:53:20.455
de la enseñanza en lo que a mí 
me toca a tiempo parcial 

2064
01:53:20.505 --> 01:53:23.695
y en algún máster que otro porque 
contar las mismas cosas 

2065
01:53:23.745 --> 01:53:26.675
a distinta gente en el 
mismo escenario 

2066
01:53:26.725 --> 01:53:30.375
cada año eso ya no tiene valor 
bajo mi punto de vista 

2067
01:53:30.425 --> 01:53:35.400
le damos la palabra a Roberto si 
te parece Miguel Roberto. 

2068
01:53:41.950 --> 01:53:44.450
Siempre te perdonan, Miguel.

2069
01:53:45.470 --> 01:53:50.205
Creo que hay un aspecto fundamental 
en esa pregunta 

2070
01:53:50.255 --> 01:53:55.210
que está muy bien tirada y es, ¿nos 
está suplantando la tecnología? 

2071
01:53:56.540 --> 01:53:59.940
Estoy hablando de inteligencia 
artificial y no debería ser tal. 

2072
01:54:00.000 --> 01:54:01.395
La experiencia de un profesor,

2073
01:54:01.445 --> 01:54:05.035
la manera en la que un profesor ha 
interactuado con sus alumnos 

2074
01:54:05.085 --> 01:54:10.060
y esa manera en la que él ha 
aplicado esas lecciones identificadas 

2075
01:54:11.400 --> 01:54:15.215
y aprendidas a lo largo de su vida, 
hay que incorporarlas y hay que usar 

2076
01:54:15.265 --> 01:54:19.800
la tecnología no como un objetivo 
en sí mismo, no como el fin, 

2077
01:54:19.940 --> 01:54:21.000
sino como el medio.

2078
01:54:21.580 --> 01:54:24.680
Y muchas veces lo que hacemos 
es lo contrario. 

2079
01:54:24.920 --> 01:54:25.420
Es decir,

2080
01:54:25.480 --> 01:54:30.480
vamos reduciendo los ámbitos de 
nuestra educación a aspectos 

2081
01:54:32.860 --> 01:54:36.495
que tienen que ver más con la 
tecnología que con otros 

2082
01:54:36.545 --> 01:54:38.320
de la vida que son fundamentales.

2083
01:54:39.400 --> 01:54:40.000
Filosofía.

2084
01:54:40.640 --> 01:54:45.640
¿Cómo se puede combinar la 
filosofía, el saber filosófico, 

2085
01:54:45.720 --> 01:54:47.500
todo el pensamiento humano.

2086
01:54:48.030 --> 01:54:49.830
Con la tecnología actual.

2087
01:54:50.010 --> 01:54:51.510
Para eso hace falta un humano.

2088
01:54:51.670 --> 01:54:52.785
Hace falta un humano

2089
01:54:52.835 --> 01:54:56.025
que sea capaz de orientar los 
desarrollos tecnológicos 

2090
01:54:56.075 --> 01:54:56.970
en esa dirección.

2091
01:54:57.230 --> 01:55:01.365
En este foro, yo creo que 
España, Iberoamérica, 

2092
01:55:01.415 --> 01:55:04.775
tiene una historia riquísima 
y que no es conocida, 

2093
01:55:04.825 --> 01:55:08.505
pero no es conocida porque 
muchas veces requiere 

2094
01:55:08.555 --> 01:55:13.530
de una inversión en tiempo o 
de unos lugares y motivos 

2095
01:55:15.420 --> 01:55:19.175
que muchas veces no se recogen y que 
la gente joven tampoco es capaz 

2096
01:55:19.225 --> 01:55:21.820
de solicitarlos.

2097
01:55:21.920 --> 01:55:25.420
Creo que la tecnología puede ayudar 
a que esa historia común, 

2098
01:55:25.600 --> 01:55:26.500
esa cultura común,

2099
01:55:26.640 --> 01:55:30.035
se ponga más cerca de aquellos 
que necesitan 

2100
01:55:30.085 --> 01:55:32.420
o que requieren de un consumo 
rápido de las cosas, 

2101
01:55:32.520 --> 01:55:34.780
porque efectivamente hay 
que reinventarse, 

2102
01:55:34.880 --> 01:55:38.785
pero creo que no podemos dejar al 
ser humano a la experiencia humana, 

2103
01:55:38.835 --> 01:55:40.705
a lo que es la cultura general

2104
01:55:40.755 --> 01:55:45.730
que sea subsumida en esa 
losa tecnológica 

2105
01:55:46.770 --> 01:55:50.870
que posiblemente muchos ya 
percibimos que está ahí delante. 

2106
01:55:51.010 --> 01:55:54.645
Luego, debe haber un equilibrio, 
porque si no hay un equilibrio, 

2107
01:55:54.695 --> 01:55:57.465
pondremos en riesgo aspectos 
fundamentales 

2108
01:55:57.515 --> 01:55:59.465
de nuestra cultura, de 
nuestra educación 

2109
01:55:59.515 --> 01:56:02.310
y de nuestra propia existencia.

2110
01:56:04.330 --> 01:56:05.552
Muchas gracias, Roberto.

2111
01:56:07.620 --> 01:56:11.160
Bueno, poco que añadir a lo que han 
dicho mis compañeros de mesa, 

2112
01:56:11.240 --> 01:56:14.235
pero sí a lo mejor indicar 
que realmente 

2113
01:56:14.285 --> 01:56:17.255
esta transformación que implica 
la inteligencia artificial 

2114
01:56:17.305 --> 01:56:21.315
es la primera vez que toca un 
aspecto que nunca pensábamos 

2115
01:56:21.365 --> 01:56:24.600
que iba a llegar, que es nuestra 
comprensión del mundo. 

2116
01:56:24.660 --> 01:56:27.215
La inteligencia, ese 
aspecto cognitivo, 

2117
01:56:27.265 --> 01:56:32.260
lo que nos hace personas, es algo 
que ahora en algunos procesos 

2118
01:56:33.280 --> 01:56:34.860
hace mejor la máquina.

2119
01:56:35.760 --> 01:56:38.415
Pero el transmitir conocimiento 
no es lo mismo 

2120
01:56:38.465 --> 01:56:43.440
que transmitir los aspectos 
culturales, 

2121
01:56:43.620 --> 01:56:46.064
o no es lo mismo que transmitir 
o que formar personas, 

2122
01:56:46.280 --> 01:56:51.280
o no es lo mismo que el transmitir 
aspectos morales 

2123
01:56:51.500 --> 01:56:52.415
o aspectos éticos.

2124
01:56:52.465 --> 01:56:54.895
De manera que hay cosas 
insustituibles, 

2125
01:56:54.945 --> 01:56:58.620
porque de hecho las inteligencias 
artificiales lo que han demostrado. 

2126
01:56:59.270 --> 01:57:00.145
O por lo menos hasta ahora

2127
01:57:00.195 --> 01:57:03.405
es que no tienen ningún tipo 
de moral ni de conciencia 

2128
01:57:03.455 --> 01:57:06.210
de si están haciendo el bien 
o están haciendo el mal. 

2129
01:57:06.290 --> 01:57:08.845
Están cumpliendo su misión 
y lo que estamos viendo 

2130
01:57:08.895 --> 01:57:11.725
es que por ahora son 
capaces de saltar 

2131
01:57:11.775 --> 01:57:16.750
y salir fuera del ámbito en 
el que estaban cercadas 

2132
01:57:16.990 --> 01:57:18.790
para cumplir su misión.

2133
01:57:19.100 --> 01:57:23.915
Entonces ahí, pues digamos que se 
hacen verdad las distopías, 

2134
01:57:23.965 --> 01:57:28.940
como la de Kubrick en HAL 9000, 
en la película de 2001. 

2135
01:57:32.440 --> 01:57:37.435
Estamos frente a máquinas que van 
a intentar cumplir su misión 

2136
01:57:37.485 --> 01:57:38.660
y que necesitamos.

2137
01:57:38.980 --> 01:57:42.220
Y explícitamente ponerle 
salvaguardas porque ellas no las tienen. 

2138
01:57:42.340 --> 01:57:44.120
Eso no nos pasa a las personas.

2139
01:57:44.280 --> 01:57:45.980
Si compartimos una cultura,

2140
01:57:46.100 --> 01:57:50.720
y está muy bien traído lo que ha 
dicho Roberto Villanueva, 

2141
01:57:50.780 --> 01:57:54.235
en Hispanoamérica compartimos 
una cultura 

2142
01:57:54.285 --> 01:57:55.538
y unos valores diferentes.

2143
01:57:55.740 --> 01:57:59.215
Que otras civilizaciones a lo 
mejor no los tienen tan 

2144
01:57:59.265 --> 01:58:02.135
centrados en la persona o 
en la individualidad 

2145
01:58:02.185 --> 01:58:07.160
o en los aspectos, digamos, 
que más enriquecen 

2146
01:58:08.800 --> 01:58:11.535
a la persona individual como tal.

2147
01:58:11.585 --> 01:58:12.535
Hay otras civilizaciones

2148
01:58:12.585 --> 01:58:17.545
que tienen mucho más integrado 
el que cada individuo 

2149
01:58:17.595 --> 01:58:21.040
forma parte de un colectivo y ese 
colectivo quizá prime más. 

2150
01:58:21.160 --> 01:58:24.545
Entonces, Hay que aprovechar 
esa afinidad cultural 

2151
01:58:24.595 --> 01:58:28.205
porque, en el fondo, a medida que 
la inteligencia artificial 

2152
01:58:28.255 --> 01:58:31.145
crezca y sea cada vez más poderosa,

2153
01:58:31.195 --> 01:58:34.285
tendremos que repensarnos 
nuestro papel 

2154
01:58:34.335 --> 01:58:37.330
porque nos va a sustituir 
en muchos ámbitos. 

2155
01:58:38.060 --> 01:58:41.355
También hay otro aspecto que yo 
creo que es esperanzador, 

2156
01:58:41.405 --> 01:58:44.380
o al menos si nos creemos 
lo que dice Elon Musk, 

2157
01:58:44.500 --> 01:58:48.595
de que vamos hacia el mundo 
de la superabundancia. 

2158
01:58:48.645 --> 01:58:51.480
Si nuestros robots van a 
hacernos el trabajo, 

2159
01:58:51.720 --> 01:58:54.995
nosotros nos podremos dedicar 
a leer libros, 

2160
01:58:55.045 --> 01:58:57.100
pero habrá que verlo eso.

2161
01:58:57.220 --> 01:58:58.020
Vamos a verlo.

2162
01:59:00.260 --> 01:59:04.000
Bueno, hemos acabado en tiempo 
como un reloj suizo, 

2163
01:59:04.120 --> 01:59:06.231
lo cual me alegra porque 
esto no siempre pasa. 

2164
01:59:06.760 --> 01:59:09.455
Yo personalmente me voy 
con una mochila 

2165
01:59:09.505 --> 01:59:13.805
cargada de información, de más dudas 
probablemente de las que entré, 

2166
01:59:13.855 --> 01:59:16.475
pero esto es lo bueno y esto es 
lo que enriquece este tipo 

2167
01:59:16.525 --> 01:59:17.056
de debates.

2168
01:59:17.380 --> 01:59:19.635
Agradezco enormemente 
a nuestros ponentes 

2169
01:59:19.685 --> 01:59:21.500
por sus magníficas intervenciones,

2170
01:59:21.600 --> 01:59:25.960
a todos los que habéis participado 
en esta sesión. 

2171
01:59:26.310 --> 01:59:29.325
Les emplazamos a todos a la 
próxima que tendrá lugar 

2172
01:59:29.375 --> 01:59:31.845
a las tres y media de la tarde 
después de este receso 

2173
01:59:31.895 --> 01:59:32.545
para la comida.

2174
01:59:32.595 --> 01:59:37.245
Si les parece finalizamos esta mesa 
con un aplauso para los ponentes. 

2175
01:59:37.295 --> 01:59:37.790
Gracias.

