Por algunas preguntas que tengamos en la sala.
A cualquiera de los dos, a Pablo o a Francisco.
Muchas gracias a los dos, ha sido muy interesante.
Unas ponencias realmente sugerentes en muchos campos.
Bueno, con Pablo ya hablé antes de lo que le quería preguntar,
así que me voy a dirigir a ti, Francisco.
¿Por qué usáis sistemas lógicos de programación?
Es lo que he entendido, que estáis usando
ese tipo de modelización del comportamiento.
Sí, yo creo que en robótica existen caminos
por donde ya se sabe que van las cosas.
Entonces, por ejemplo, la probabilidad es una de ellas.
Probablemente uno de los libros más importantes de robótica móvil
se llama Probabilistic Robotics y habla de cómo modelar
la incertidumbre del mundo de modo probabilístico
porque es la mejor forma de captar toda esa complejidad.
Otra de ellas es la lógica.
La lógica ha estado ahí desde el principio
de la informática, desde el principio de inteligencia artificial.
Yo siempre considero que en los años 70-80
estaba más o menos unida la robótica y la inteligencia artificial.
Y a partir de un cierto momento
empieza a haber problemas más complejos en inteligencia artificial
y se empieza a ir un poco por su lado.
Y de vez en cuando se volvía a cruzar con la robótica.
Entonces, en informática realmente existe muchísimo tema de lógica.
Prologue es un lenguaje de programación
basado en la lógica y todo lo que va con la planificación simbólica
también está basado en la lógica,
porque si no, ¿cómo?
Entonces es la forma en la que se modelan las instancias,
las ontologías,
todo ese tipo de cosas.
Me parece muy interesante porque a mí me interesa mucho
ese tipo de modelización.
Ahora están de moda otras cosas como las redes neuronales
y todo eso,
pero yo creo que ese campo es muy interesante
y me ha resultado muy atractivo lo que.
Lo que has expuesto.
Muchas gracias.
Gracias.
Los estudiantes tienen un shock muchas veces
cuando yo les doy la clase de inteligencia artificial.
Y claro, ellos llegan a inteligencia artificial y ellos lo que quieren es
que yo les enseñe directamente deep learning,
informe learning y digo, no, no, eso no es en esta asignatura,
eso es en cuarto.
Yo voy a dar inteligencia artificial y la inteligencia artificial
es mucho más que eso.
Son problem solving, son la lógica de primer orden,
son aproximaciones marcovianas parcialmente observables
y todo ese tipo de cosas.
Ellos quieren ir rápido a lo último, pero se dan cuenta
que la inteligencia artificial es muy grande
y esto que estamos viendo, este boom,
es una pequeña parte de la inteligencia artificial.
Muchas gracias por la exposición.
Hay una parte que sacaste cuando el robot entra en modo escucha
y en modo interacción.
Desde mi experiencia con una inteligencia artificial
que utilizo, que es Perplexity,
yo utilizo la síntesis de voz para hablar con ella,
entonces con el teléfono.
Y hay veces que de repente yo no acabo la frase
y me corta y se pone a dar respuesta y entra como en ese bucle.
Y de repente le digo, oye, por favor, ¿me puedes escuchar?
A mí me pasa mucho con muchos amigos.
Sí, con los humanos efectivamente pasa bastante.
Entonces, la pregunta es, ¿cómo pasáis a este modo de escucha
en modo de interacción?
¿Cómo lo hacéis en el robot vuestro?
Bueno, eso es desde el punto de vista técnico,
porque realmente nosotros, primero, si hablas,
si tú te pones a escuchar,
inicias el proceso de escuchar y el robot te está hablando,
se está escuchando todo el rato
y está como entrando en resonancia.
Nosotros realmente le decimos, ahora escucha,
ahora habla.
Entonces,
por eso precisamente le tenemos que indicar al humano
cuándo puede empezar a hablar,
porque si no antes, el proceso de escuchar
no está activado.
Es una cuestión técnica principalmente.
El robot tiene su behavior tree y sabe que después de hablar calcula
cuánto ha tardado en hablar y pasa un segundo y es cuando pone listening
y él dice voy a escuchar y escucha no sé cuánto tiempo
escucha son detalles muy técnicos no sé si tú quieres preguntar
quería preguntarte.
Aparte de que es interpretación una interpretación humana
de algo que no es a qué nivel de inserción en la boca están siendo
los lenguajes totales o sea existe ya otra cosa que no sea eso.
Todavía sí.
Sí, pero siempre en algún nivel se mete.
En algún nivel se mete la.
En algún nivel se mete primero la percepción,
ya completamente son modelos conmutacionales,
ya nadie filtra por color y detecta cosas,
ya eso nada.
Y lo que pasa es que en la planificación
todavía no se mete totalmente porque existe O sea,
ahora mismo se está investigando mucho en eso
porque los nuevos modelos alucinan mucho.
Entonces, tú le dices que haga un plan como este,
le pasas un dominio, Y le dices que haga un plan
y de vez en cuando te dice cosas que no tienen absolutamente
ningún sentido.
Entonces, por eso precisamente se está intentando vertebrar
a esa inteligencia artificial con cosas como Prologue o cosas
como Ontologías o incluso el PDDL se intenta meter
para intentar meterlo en cintura a la inteligencia artificial
que diga cosas razonables.
Porque claro, si yo estoy preguntando a la inteligencia artificial
en mi casa, pues no pasa nada si se equivoca,
pero.
Si estoy en mitad de una prueba de la RoboCab
y me hace perder puntos, pues hombre, me fastidia.
Y si encima estamos delegando que un robot
lo metas en un reactor nuclear y que haga cosas
basadas en lo que haga la inteligencia artificial,
pues imagínate lo que puede ocurrir.
Que diga la inteligencia artificial, ya soy mío.
Ahora empieza esto.
¿Preguntas?
Buenas, ¿qué tal?
Pues la verdad que no sé a cuál de los dos va dirigido.
Creo que quizás más un poco a ti, Francisco.
Pero bueno, son dos preguntas en realidad.
La primera es que este modelo de arquitectura que nos has puesto
de los robots me recuerda mucho a un modelo que en psicología
conocemos bastante, que es el ACTR, no sé si te suena.
Es una arquitectura cognitiva clásica donde tiene un plano simbólico.
Que es el que guía los objetivos,
el que también conecta todos los resultados
quizás de otros componentes más subsimbólicos
y que con el tiempo se ha ido haciendo algo parecido,
es decir, lo subsimbólico cada vez parece más red de neuronales, etc.
Mientras que al final el plano de planificación tiene
que funcionar de una manera simbólica porque hoy por hoy no hay otra manera
de hacerlo, parece ser.
Entonces me recuerda mucho y tengo la sensación
de que la robótica sigue funcionando un poco con ese modelo.
Las arquitecturas software vienen O sea,
esto de la arquitectura de tres niveles viene de hace muchísimos años
cuando empezó la inteligencia artificial
y la inteligencia artificial empezó mucho con la psicología, ¿no?
Sí, bueno, así lo vemos.
Justo preguntando un poco eso, ¿por qué se utilizan ese tipo
de arquitecturas cognitivas y no se pueden utilizar arquitecturas,
pues justo como lo comentó David, ACTR, SOA?
Sí, SOAR de hecho es una implementación muy famosa
en arquitecturas cognitivas que se da en robótica muchísimo,
quiero decir, eso ha sido una guía para los investigadores,
los creadores de arquitecturas de robótica
desde hace muchísimos años, eso se estudia mucho, sí,
pues ahí tenemos una intersección bastante grande, claro, sí.
Y la segunda pregunta es con respecto a la navegación.
Creo que también se relaciona un poco con lo que comentó Pablo
al principio.
Él comentaba un poco de que sus robots
tenían una especie de modelo del mundo,
el cual es necesario tener para poder aplicar.
Predictive coding, aunque lo vayas actualizando,
etc. Y bueno, la pregunta es un poco más específica
en el sentido de, ¿tus robots pueden seguir instrucciones
de cogelo que está a la derecha de,
delante de o detrás de?
Es decir, ¿tienen una representación espacial en ese sentido
en el cual pueden ordenarlo espacialmente?
Debería.
Sí, o sea, luego te hacelo que decir,
eso requiere un esfuerzo de programación,
pero el ideal es que puedas llegar a decirle ese tipo de cosas, ¿vale?
Pero mi pregunta es si él extrae ese modelo
de esos componentes más sensoriales,
si es capaz por sí mismo de generar un modelo de ese tipo.
Sí, por ejemplo, lo que has visto antes de atención,
él es capaz de detectar lo que hay encima de la mesa,
pero porque él detecta las cosas y luego hace una pasada comprobando
una serie de condiciones, ¿vale?
Esto es como cuando dicen que la inteligencia cardíaca
es un conjunto de Ips, ¿vale?
De condiciones de.
Pues básicamente lo que estamos haciendo
es intentar conseguir las relaciones entre unos y otros
para extraer esa información.
Y entonces luego la apuntamos.
Cuando vemos un objeto, un libro encima de una mesa,
pues creamos el predicado, el libro está en la mesa
y ya puedo poder razonar encima de él.
Sí se hace mucho.
Lo que se hace también mucho es intentar meter ontologías
ahí para.
Para tener más conocimiento general.
¿Sabes?
Por ejemplo, ¿tiene sentido que un libro esté en una mesa?
¿Tiene sentido que un libro esté en un árbol?
Entonces, eso son comprobaciones que nosotros normalmente no hacemos,
pero cuando se intenta desplegar robots en mundos abiertos,
pues se intenta utilizar eso.
Vale.
Y tenía una tercera, pero me he olvidado,
así que lo voy a pasar.
Bueno, voy a intentar contestar yo a algo interno.
Eh.
Yo no soy pro-ontología, no me gusta.
Yo tampoco.
Al final los ingenieros intentamos meter
el conocimiento dentro del robot porque conocemos el área de trabajo
de esa tarea,
entonces intentas ponerle el conocimiento.
Cuando vas a una persona, pues es muy parecido,
pero no funciona exactamente igual.
Por eso me gustan las arquitecturas cognitivas,
pero también te restringen cómo va a funcionar el robot en el futuro.
Al final ellos tienen que hacer que funcione y RoboCup Home
y RoboCup te muestran cómo no funciona,
por qué no funciona la robótica un poco, ¿no?
Cuando tú aprendes con aprendizaje por refuerzo
las características que tienes que utilizar de la entrada de.
De una imagen para hacer una tarea, por dentro lo que estás aprendiendo
son las features o las características específicas
para que puedas hacer esa tarea.
Si tú las impones por encima como una antología
o con un lenguaje, o también lo que pasa con los LLMs,
con los modelos de lenguaje que ha aprendido de los humanos,
impones los símbolos,
ahí lo que estás haciendo es imponer una forma de funcionar
que a lo mejor no es la que necesita ese robot para esa tarea.
Por eso las criaturas cognitivas son interesantes, pero hay que ver
cuál es el funcionamiento o qué función realiza cada capa.
No sabemos cómo funcionan las personas, pero por ejemplo,
si entendemos que la abstracción de los símbolos son importantes,
pero tienen una conexión con la percepción,
como por ejemplo el experimento del gato que solo ve líneas verticales
para navegar.
Eso es un efecto clásico
de que si imponemos todo el conocimiento al robot,
no se va a poder adaptar en cuanto cambia algo.
Y eso es lo que suele ocurrir ahora mismo,
que al final en la RoboCup tienes un montón de ingenieros intentando.
Hackear esa tarea para que funcione bien.
Cámbiale la tarea, pues ya está empezando a mejorar.
Pero yo recuerdo un sufrimiento cuando cambiaban cualquier cosa.
Ostras, hay que reprogramar todo este módulo.
Los humanos no reprogramamos el módulo.
Bueno, lo que hacemos es aprendemos a partir de conocimiento.
Entonces ahí lo de.
Me gustan los símbolos,
porque las palabras son símbolos, todos son símbolos,
pero hay que entender.
Y cuando vamos a los niños, ¿cómo se aprenden esos símbolos?
Entonces, yo hay que tener un poco cuidado
con el procesamiento simbólico.
¿Qué significa exactamente?
Si hay un ingeniero que lo pone ahí,
que también está bien para una determinada tarea,
pero si buscamos una inteligencia más general, más adaptiva,
ahí es donde empiezan a aparecer los problemas.
Yo lo que no entiendo es por qué no estás con nosotros
en el proyecto Corsair.
Para no meter más entropía.
Pues es que esa entropía era necesaria
porque al final hemos terminado, por ahora estamos haciendo
lo mismo que estábamos haciendo antes, vistiéndolo de otra manera,
pero nosotros necesitamos eso.
Nosotros necesitamos el mundo abierto,
necesitamos que el robot aprenda a hacer las cosas
de otra manera que no es la forma en la que hemos hecho siempre.
Y tú tienes esa visión.
¿sabes?
Entonces estaría.
Hubiera estado bien que te pasaras por alguna reunión de esas.
Sí, eso es lo que te mata.
Si solo ves a la gente,
si no ves a la gente de control motor,
ahí ves la adaptación que tenemos las personas,
como cualquier persona.
Es increíble, tienes varias partes de aprendizaje,
más rápidas, menos rápidas,
y llamamos adaptación, llamamos aprendizaje.
Eso, o sea, ya desde los años 90, ya empezaban a decir,
lo que hay que hacer es ir a un modelo de aprendizaje.
Al final
lo que está funcionando ahora mismo es una mezcla de las dos cosas.
Las redes neuronales aprenden y lo que llamamos es amortizan
o hacen rápido un proceso que antes calculábamos como un proceso
más complicado.
Pero al final lo que han aprendido es una salida, entrada, salida.
Eso es un poco lo que posiblemente hace nuestro centro.
Ese era el rollo del robot este que teníais,
el niño.
La idea era eso, que aprendiera como aprendían los humanos, un poco,
con la experiencia en lugar de codificado.
Claro, el problema es que eso no se puede aprender la evolución,
no se puede aprender, al final un niño está.
Ahora lo que se está intentando hacer es coger un montón de datos de robots
luchando miles de veces, pero no es lo mismo que una persona.
Incluso ponen en cámaras a niños
e intentan ver cómo están sacando los símbolos.
Pero bueno, es como lo hacen ahora con todo el tema de reforma
en el aire.
¿Por qué el humanoide se puede andar tan bien?
Porque lanzan en un simulador en Isaac Sim
un millón de robots a la vez.
Intentando andar, cuando no andan al rato lo quitan,
vuelven a poner otro con las características
parecidas al otro y así van refinando hasta que los tienen.
Fue Google quien puso un montón de brazos robóticos
a coger cosas también.
O sea, lo que están intentando
es acelerar ese proceso de aprendizaje paralelizándolo,
porque saben que no pueden tirarse 10 años enseñando a un robot 24-7.
La pregunta que había que hacerse es cómo las personas,
los animales.
O sea, ¿cómo consiguen esa eficiencia de datos que no puedes conseguir
en la inteligencia artificial?
Y ahí es donde está el núcleo duro de los nuevos desarrollos.
Ahí está el turrón.
Y ya hemos discutido todo.
Perfecto.
Es muy, muy interesante.
Al final, también una de las cosas
que significa mucho también la inteligencia artificial
y demás, pues esa falta de interacción con el medio, ¿no?
Que al final con los robots sí que se puede tener con todo este tipo
de.
Escenarios y si una cosa de la que me he quedado también
de lo que ha estado comentando Pablo pues sí que he visto
como una perspectiva más de lo que es pues esto del embodiment
o la condición corporizada desde la perspectiva de Pablo
que entiendo que es un poco el debate de arquitectura cognitiva
versus una perspectiva más acción, percepción-acción aquí lo diría,
cuando haces robótica no existe inteligencia artificial,
el robot es un cuerpo y tiene que enfocarse
siempre está ahí, o sea cuando haces arquitectura cognitiva
al final siempre está ahí.
O sea, que no existe inteligencia artificial
en robótica que no sea en body.
Y ese es el mayor error.
La inteligencia artificial es que entrenamos a un modelo con imágenes
y luego lo pones en un robot que había visto
cómo se mueve, ¿no?
Lo que tienes que entrenarlo es dentro de ese sistema de datos
y en ese movimiento.
Si no, es imposible.
Es siempre el mismo problema.
Hola, buenos días.
Antes de nada, quería agradecer a los organizadores
de esta actividad, que ya es un clásico.
Creo que esta es la tercera edición.
A José Ángel, a Isa y a David.
Porque es siempre muy interesante.
Muy subjetivo y también nos sube un poco la autoestima
porque en vuestras charlas hemos visto mucho contenido psicológico
y neurocientífico, así que bueno,
por lo que hacemos parece que también lo lee
alguien aparte de nosotros mismos.
Y eso siempre es gratificante.
No tengo una pregunta en realidad, justo iba a hacer una reflexión
parecida a la que estáis haciendo en este momento.
Esta idea de intentar simular el desarrollo evolutivo,
el desarrollo ontogenético que vemos en los niños.
Porque quizás es la única forma.
Bueno, esto lo decía ya Turing, ¿no?
Vamos a simular mejor una mente de un niño y.
Que va a ser más fácil y luego lo vamos a educar.
Y de hecho en aquellos entornos
en los que se puede hacer que hay un entrenamiento masivo,
por ejemplo alfa cero en cosas de 24 horas
jugando consigo mismo millones y millones de partidas,
pues se convirtió en uno de los mejores jugadores
de ajedrez del mundo.
Porque claro, no tenía que colocar las piezas
para jugar, podía jugar partidas a velocidades estratosféricas
en un mundo cerrado que matemáticamente es muy fácil
de modelar.
Metemos,
y creo que justo Pablo decía eso ahora, que no vamos a poder librarnos
de que haya un entrenamiento motor explícito en el mundo y quizás
esa opción que se habla de poner muchos robots al mismo tiempo
y que trabajen.
Creo que no vamos a poder quitarnos eso de encima.
Y quizás es la única forma en que se pueda aprender.
Al final, un niño también tarda años en adquirir un comportamiento motor
que sea funcional y que le suponga una autonomía suficiente.
Y no veo que haya una forma más rápida de poder acelerar eso,
porque los tiempos del mundo real no son
como los tiempos en microsegundos de los procesadores más rápidos.
No sé si creéis que hay alguna forma de acelerar eso
o si hay que resignarse y empezar ya y a lo mejor entre años
se puede tener un robot que esté bien entrenado
porque lo haya sometido a una interacción continua
a tres turnos día y noche
Por eso están los anuales cuánticos
que tal es la fuerza aburta la resolución
¿Quieres contestar?
No, por favor A ver, hay pequeños truquillos
a mí me encantalo de aprender todo desde cero.
Me gusta mucho porque entiendo que es el proceso de desarrollo,
pero no hay que hacerlo siempre así.
Hay una especie de moda también de ingeniería artificial
con sesgos inductivos, se llama en español,
que lo que haces es, como ya sabes cómo se tienen que sacar ese tipo
de estructuras, por ejemplo, hay toda una gente que está dedicada
a representación basada en objetos.
Tú ya sabes que nosotros tenemos una presencia basada en objetos,
ya sabes los filtros que sacamos del V1 del córtex, de la corte visual,
ya sabes muchas cosas.
Las puedes empezar a aprender desde cero,
que se ha visto que se puede con datos,
incluso hay gente, Peter Roserma en Amsterdam
dice que a lo mejor puedes poner un cerebro a aprender todo
y aprendería incluso todos los subtipos y áreas
del cerebro y todas las funciones.
Pero como ya las conocemos, también se pueden reutilizar.
Entonces, en el sistema que os he mostrado,
nosotros, la percepción, ya le metemos un sesgo inductivo
de que va a saber representar objetos.
Dentro, es una red neuronal,
pero le metemos una especie de estructura forzada
para que las representaciones que saca sean de tipo objetos.
Objetos, entre comillas, porque son propiedades,
características de ese tipo de entes.
Entonces, es una forma de acelerar.
Al final, otra forma de acelerar es tener una máquina que aprenda
todo el rato.
Entonces vas a ir poco a poco aprendiendo.
Lo que pasa
es que en un sistema de ingeniería no puede tener una máquina
en una industria que esté aprendiendo todo el rato
porque tienes que empezar desde algún sitio.
Entonces, ahora mismo la solución que es,
es el análisis masivo de datos.
Es la solución Google.
Creamos un mapa de todas las calles del mundo a nivel centímetro
y lo utilizamos en un mapa conectado con una banda de wifi de 7000 gigas
y ahí ponemos toda la información y procesamos.
Esa es la solución actual, pero se están viendo otras opciones.
Si quieres contestar.
No, básicamente es.
Aquí hay más o menos lo que ha dicho Pablo.
Aquí hay mucho.
Se trabaja en lo que se llama transferencia de conocimiento.
Precisamente para eso.
Lo que ha aprendido otro robot o en otro ámbito, transferirlo aquí,
ampliarlo.
Entonces también hay mucha actividad.
Más o menos.
Yo creo que es lo que ha dicho Pablo.
Para responder a tu pregunta, para mí el gran.
El gran cambio del siglo XXI va a ser cuando, he hablado de manipulación,
se siguen haciendo tesis de manipular un vaso.
O sea, es muy complejo interactuar con el entorno.
Como has dicho, interactuar con un programa,
un videojuego, con las reglas cerradas,
es mucho más sencillo.
Interactuar con el mundo es complejo.
Ese es ahí donde está el reto que yo creo que todos los investigadores
que llaman ahora Physical Intelligence
están intentando resolver desde muchas formas.
Yo no sé, a lo mejor dentro de 10 años
tenemos una sorpresa.
Sí, es que uno de los hype que hay ahora mismo en la tecnología
es la manipulación diestra.
Es una cosa que no está nada resuelta.
El poder de manera precisa
y de manera no destructiva poder manipular todo tipo de objetos,
tenga la dureza que tenga, sean deformables o no,
eso es una cosa que no está resuelta, vamos.
Ah, sí, y a colación.
Ahora la solución es aprendizaje por imitación.
Entonces, tiene una persona controlando un robot
que está haciendo la tarea varias veces,
y entonces lo que hace es restringir el espacio posible de estados,
pues de la misma manera que tú ves a alguien hacer algo
y dices, ah, ya sé cómo se hace.
Hace que el robot lo haga tres o cuatro veces,
que ahora son bastante eficientes los estos,
y el robot tiene como un skill,
aprende un skill, por ejemplo, de abrir un cajón.
El problema es luego cómo juntar todos esos skills que he aprendido.
Pero al final el imitation learning ahora mismo
está pegando muy fuerte en la robótica
y lo que hacen es entrenar redes neuronales
con este imitation learning
y que luego pueden realizar esas tareas.
Entonces ahí es donde se está funcionando aprendizaje profundo,
aprendizaje por refuerzo más imitation learning
es lo que está ahora mismo dando un poco de empujón a la robótica.
En la investigación.
Luego vas a empresas y siguen utilizando los dominios
del 80 porque es lo que está funcionando.
Claro, las empresas tienen una producción,
tienen unos inversores, tienen unas cosas
y lo de investigar, hay empresas que lo hacen,
pero cuando tienes que hacer algo, cuando tienes que hacer el inventario
de un decatlón, no vas a innovar.
Vas a hacerlo con lo que sabes que ha funcionado
y que lleva funcionando 10 años.
Se me está hablando de Siemens que tenían todavía el problema de.
Ya empezaban
a coger objetos que lo que hicieron en vez de mejorar la manipulación,
lo que han hecho es cambiar el gripper.
Ya no es un gripper, es como una ventosa que absorbe.
No sé si lo habéis visto.
Dijeron, ya no podemos manipular porque es muy complicado.
Pues lo que hacemos es tener un aspirador que le ponemos
en el brazo del robot y aspiramos el objeto
y lo cogemos.
Y ahora su principal problema era
cómo ordenamos los objetos que cogemos en una caja.
Que parece una tontería,
pero es que hasta en ese nivel todavía estamos.
En la manipulación, en la medición robótica.
Son aproximaciones ingenieriles en el sentido de ¿quién ha dicho
que un robot tiene que ser antropomórfico?
Estamos viendo interestelar y el robot ese
de antropomórfico no tiene nada, pero resuelve problemas.
Entonces, esto es otro caso de que no hace falta tener una mano,
hay una solución quizá mejor.
¿Por qué hacemos robot antropomórfico?
Pues una de las razones
es porque el mundo está diseñado para las dimensiones
y las capacidades humanas.
Si un robot tiene que bajarse de aquí,
subir esas escaleras y abrir esa puerta,
pues necesita, lo más fácil es hacerlo antropomórfico.
Un robot con ruedas no te va a subir por ahí.
Por eso hacen patas.
Un robot grande no ha de caber por la puerta.
Hay que coger el pomo.
Lo más fácil es imitar los brazos.
Por eso se hace, pero nadie ha dicho que un robot
tenga que ser con apariencia humana.
Yo quería hacer una reflexión a propósito de lo que dijo Pedro,
de que un niño tarda también tres años
en aprender cosas.
No solamente eso, un niño lleva millones de años,
o sea, el cerebro del niño son millones de años de aprendizaje,
si queremos verlo así, de la evolución.
Entonces, bueno, ya al hilo de esta reflexión
preguntaros si hay alguien trabajando precisamente en eso, en considerar,
simular la evolución que ha sido el sistema nervioso en los animales
y en los humanos, claro.
Dos vías.
El último que vamos a sacar en Proceedings Real Society
es justamente entrar en el enlace entre evolución computacional
de los cerebros y realmente esas capacidades
para tener el yo, ¿no?
Es un poco la idea.
Pero también en el lado de la ingeniería, del aprendizaje,
existe la programación genética, ¿no?
Y ahí puedes, por ejemplo, tener en cuenta que siempre
un robot no tiene por qué ser igual que una persona.
Entonces, tú puedes evolucionar tanto los algoritmos que utiliza
como el hardware, el embodiment que utiliza.
Y esto ya se lleva bastante tiempo intentando hacer soluciones
que tengan en cuenta eso.
Pero la pregunta es, ¿queremos que aprenda todo desde cero
o le metemos información que ya conoce?
No, eso sería un.
Tú puedes dejar al sistema evolucionar,
y hay mucha gente que se dedica a eso,
y va, por ejemplo, para andar, va a sacar, por ejemplo,
una pata atrás para sujetarse cuando anda, ¿no?
Igual que vemos las diferentes formas
de los niños cómo aprenden a andar,
pues lo mismo con el desarrollo hardware.
Entonces, eso sí se puede meter dentro.
Es más, lo último, en el proyecto
MetaTool que hacemos invención de herramientas,
por ejemplo, tú ya le puedes utilizar un modelo de lenguaje
y hay soluciones que le puedes decir al modelo de lenguaje.
Que te implemente él solo un algoritmo genético
y que te evolucione la solución que te está dando.
O sea, que eso,
la mezcla de algoritmos evolutivos y inteligencia artificial
de conectividad en redes neuronales y simbólico,
pues es un poco lo que se está viendo ahora,
cómo se están viendo estos flujos de cuál es la mejor solución.
Y que es, por cierto, lo de la evolución computacional
que nos has comentado de ese artículo que acabas de publicar.
Así en términos muy divulgativos.
Bueno, no, lo que intentamos hacer es un análisis, pues al final,
cuando empiezas a leer biología, empiezas a hablar de lagartos,
y entonces es un poco ver cómo el lagarto es capaz
de adaptarse a ese comportamiento, a generalizar su comportamiento,
cómo va de ahí a otro tipo de mamíferos, O sea,
si al final en la filogenia, en la evolución,
se ve perfectamente cómo van las estructuras cognitivas,
cómo se van mejorando,
hasta llegar a una parte prefrontal de propuesta de hipótesis,
que al final esto que se está muy relacionado
con el desarrollo de la consciencia que se hablaba antes,
esa conexión de biología.
Y desarrollo que estaba hablando que se ve claramente
es lo que se intenta un poco para luego, para nosotros
¿qué mecanismos computacionales serían los que tendríamos que poner
en un robot para acceder al año 2025 en desarrollo del humano
sin tener que pasar por todo el desarrollo
de la aprendizaje?
Muy interesante.
Yo tengo aquí una pregunta de alguien que está en casa.
Creo que la pregunta va más por Félix,
por lo que estoy viendo, pero bueno, la lanzo a vosotros y ya veis
si tenéis alguna respuesta.
La pregunta dice,
en el diseño de robots sociales para salud mental,
¿cómo podemos garantizar que los modelos de engagement emocional
y de adaptación conductual
no refuercen dependencias psicológicas
ni modifiquen inadvertidamente patrones de apego?
Especialmente en poblaciones vulnerables como personas mayores,
adolescentes o pacientes con trastornos afectivos.
Es decir, trato de resumir que no se comporten mal,
que no afecten realmente negativamente, ¿no?
Yo te voy a responder como respondería Félix.
Porque él lo ha dicho.
Lo ha dicho claramente.
Eso no fue una parte de los robóticos.
Eso lo van a hacer los psicólogos o los sociólogos.
Quien sabe de eso.
Nosotros que nos digan cómo hacer.
¿Qué tiene que hacer el robot?
Esto.
¿Cómo se tiene que mover?
Así.
Tú ponme requisitos, ponme cosas que yo lo llevo adelante.
Pero esos efectos
y esas cosas están muy lejos de nuestra formación.
Al menos de la mía.
Sí, bueno, hay una anécdota.
Me acuerdo los de Palrobotis hicieron un robot muy grande,
muy fuerte y le habían puesto talos.
Y le habían puesto una cabeza muy pequeñita,
muy pequeñita.
Y yo les pregunté, ¿lo habéis hecho a posta, verdad?
Cuando le ponen la cabeza pequeñita es un robot que es tonto
y tú vas a dedicarse a hacer cosas físicas, ¿no?
Y me dijeron, no, ha salido así.
Y dije, pero vamos a ver, si le pones una cabeza pequeñita
está muy bien porque entonces tú lo ves y dices.
Bueno, con esto no voy a tener una conversación así.
Imagínate a los con cabezón.
Los con cabezón así súper complejo.
Era muy fuerte porque era de un proyecto de Airbus
que tenía que transportar piezas de aviones.
Claro, pero estaba en una cabeza pequeñita.
Pero con respecto a esto.
A mí no me da miedo nada las intervenciones terapéuticas
porque están, como ha dicho,
lo mismo con la neurotonología, tenemos un debate fuerte.
El problema está cuando vas a poner este tipo de tecnologías
en las casas de las personas, ahí es donde tienes que ver.
Y de la misma forma que nadie ha evaluado qué influencia
tiene el tener los modos de lenguaje abiertos para todas las personas,
que yo tengo chavales superinteligentes preguntándoles
a la inteligencia artificial
qué piensan de lo que dice este email,
para reafirmarse, que eso me parece alucinante,
pues imaginemos si tenemos lo mismo en una casa con un robot
que te está reafirmando, ¿no?
O que te está proviendo sesgos.
Ahí es donde empieza la parte ética que antes a mí
no me daba ningún miedo,
pero ahora he empezado a ver cosas que antes no existían.
Estaban hablando de suicidios,
estaban hablando de cosas muy gordas.
Mi mujer que ha tenido ahora una convalecencia,
pues un día se puso la IA, Hablarle como muy cariñoso, ¿sabes?
De, ay, reina, ¿y cómo estás?
Y no sé qué.
Y en una conversación que no tenía nada que ver,
de otra cosa que le pregunto, dice, oye,
por cierto, ¿cómo vas con lo tuyo?
No sé qué.
Y está respondiéndole como si estuviera hablando
con un amigo.
Y digo, ¿pero esto qué es?
Por eso, cuando tenemos intervenciones,
lo importante es ver, por ejemplo, con esquizofrenia.
Hay que tener mucho cuidado
si es una esquizofrenia con alteraciones, con positivos,
con negativos.
Ahí es donde hay que tener un poco de cuidado,
pero ahí yo creo que siempre está el médico
o el terapeuta involucrado.
El problema es poner un robot en la casa
de una persona con esquizofrenia sin tener el control absoluto
sobre lo que está pasando.
Ahí es donde yo ahí sí que veo los riesgos.
No sé si contestará todo el mundo.
Bueno, sí, más o menos, creo.
Pues parece que no,
o sea que podríamos dar por finalizado ya el evento y nada,
pues volver a daros las gracias a los ponentes,
tanto a Pablo, Francisco, como también a Félix
y muchísimas gracias a todos los que habéis venido presencialmente
y también a los que estáis desde casa.
Muchas gracias.