Nombre: Mario Garcés
Puesto: Desarrollador de Inteligencia Artificial General Algorítmica
Localidad: Castejón de Sos
LinkedIn: https://www.linkedin.com/in/mariogarcesr/
Música: ‘Happy Trumpets’ por MatthewChai12 (Pixabay)
Resumen generado por ChatGPT
(00:00–05:00) Introducción y objetivo profesional
Mario explica su trabajo como CEO enfocado en crear IA general trazable y explicable, basada en neurociencia, buscando financiación continua.
(05:00–10:00) Limitaciones actuales de la IA
Describe la dificultad de replicar el cerebro humano por su complejidad, variabilidad y falta de tecnología para capturar dinámicas cerebrales reales simultáneas.
(10:00–15:00) Problemas de cajas negras
Explica por qué las redes neuronales son opacas, con ejemplos como el detector de lobos, y la importancia de sistemas totalmente interpretables y auditables.
(15:00–20:00) Día a día y tareas del CEO
Cuenta rutinas: revisar correos, reuniones técnicas, resolver dudas, gestionar burocracia financiera, y mantener visión científica del proyecto empresarial general.
(20:00–25:00) Arquitectura inspirada en biología
Presenta su modelo basado en células computacionales que procesan pequeñas partes, cooperan entre sí y generan comportamientos emergentes complejos progresivos.
(25:00–30:00) Memoria y aprendizaje en su IA
La IA aprende en un entorno virtual mediante experiencias, construyendo un grafo de conocimiento con relaciones causales para mejorar decisiones continuas autónomas.
(30:00–40:00) Sesgos, seguridad y ética
Habla de sesgos procedentes de datos, riesgos de prompts manipuladores, necesidad de autocontrol, explicabilidad y futuro marco ético funcional obligatorio.
(40:00–50:00) Vocación, trayectoria y motivación
Comparte su origen vocacional, empresas anteriores, investigación en neurociencia, transición hacia IA y el placer de divulgar ciencia continuamente relevante.
(50:00–57:00) Futuro de la IA general
Cree posible alcanzar IA general mediante arquitectura eficiente, emergente y causal, no usando gigantescos modelos estadísticos actuales que ya están agotados.
(57:00–Fin) Consejos y visión social
Recomienda aprender experimentando, advierte del impacto social del trabajo automatizado y reafirma su deseo de competir globalmente con creatividad funcional.
Transcripción automática de Microsoft Teams
No revisada, disculpad posibles erratas.
Jesus Marrone 0:08
Bienvenidos a ¿De qué va tu trabajo? Por fin tus padres entenderán a qué te dedicas. Hoy es lunes 17/11/2025. Soy Jesús Marrone y me acompaña Mario Garcés, que está en Castejón de Sos. Muchas gracias por tu presencia virtual.
Mario Garcés 0:24
Muchas gracias Jesús a ti por la invitación, siempre es un placer.
Jesus Marrone 0:28
¿Igualmente, dices trabajar como desarrollador de inteligencia artificial general algorítmica, correcto?
Mario Garcés 0:36
Sí, ese sería el objetivo de lo que vamos buscando con el proyecto que estamos desarrollando.
Jesus Marrone 0:43
¿Entonces, Mario Garcés, de qué va tu trabajo?
Mario Garcés 0:47
Bueno, a ver, mi trabajo como CEO de una startup tiene varias facetas, ¿no? Entonces empiezo por la más técnica y luego, si quieres, te cuento el resto de cosas que están colateralmente relacionadas con ello. Desde el punto de vista científico-técnico, ahora mismo uno de los grandes desafíos, el Santo Grial que hay en el mundo de la inteligencia artificial.
Es alcanzar una tecnología que sea capaz de pensar, razonar y aprender cómo hacemos los seres vivos y, en última instancia, los humanos. Eso, a fecha de hoy, que sepamos, no se ha alcanzado, no lo ha alcanzado nadie. Tenemos sistemas de inteligencia artificial, que son los que estamos utilizando todos los días, los chat GPT, los agentes, etcétera, etcétera.
pero todavía no hay ningún sistema que haya demostrado la capacidad cognitiva humana Entonces nosotros estamos enfocados en desarrollar esa tecnología partiendo de una investigación profunda en el ámbito de neurociencia que yo llevé a cabo durante 15 años pues sobre esa base de neurociencia estamos intentando convertirlo en tecnología
Que sea capaz de llevar a cabo las mismas tareas y tal y no como lo hace el cerebro biológico, sino replicar la función. Vale, es decir, por ejemplo, que la máquina sea capaz de aprender a aprender, que es ya de por sí un reto científico y tecnológico interesante, ¿no? Y que ella misma vaya siendo capaz de mejorar sus.
propias competencias a la hora de ir aprendiendo nuevas cosas y ese es el ese es el foco fundamental a lo que estamos dedicados eh Y lo que forma parte de mi trabajo es dirigir la empresa a conseguir ese objetivo tecnológico y científico y como te decía colateralmente Pues tengo otras funciones principalmente la más importante
Que puede permitir eso es buscar dinero. Dedico una gran parte de mi tiempo a buscar dinero porque no es fácil explicar en este país que estás llevando a cabo proyectos de largo recorrido en los que el mercado no está ahí a la vuelta de la esquina. Y bueno, pues es una parte importante de mi trabajo, no buscar dinero y coordinar.
Jesus Marrone 2:51
Bueno, esperemos que este programa también te ayude a encontrar ese dinero destripando un poco el puesto por palabras. ¿Qué es un desarrollador?
Mario Garcés 3:00
Bueno, a ver, mi trabajo realmente no está tan pegado a la al desarrollo. Sí que sí, que me soy responsable de definir las líneas principales que mis compañeros, que sí que son programadores y son desarrolladores, tienen que ir siguiendo porque es donde yo puedo aportar. No, digamos, yo defino.
Lo que es la arquitectura a nivel conceptual y ellos lo van convirtiendo en líneas de código. Entonces, sobre lo que ellos hacen, yo evalúo, realimento, aporto modificaciones o visiones y ellos reincorporan. Entonces es un proceso de ida y vuelta en el que vamos gradualmente desarrollando cada vez más.
¿Y aproximando más ese objetivo técnico que vamos buscando, no?
Jesus Marrone 3:44
Sí, en cuanto a la inteligencia artificial general, que en español se puede decir I a G, en inglés a GI o a AGI, como quieran decirlo, eso has comentado que es como operar como el cerebro humano, que es el sueño de San Altman, el de Open AI, no lo que has comentado antes, un poco esa la metáfora, ¿no?
Mario Garcés 3:54
Sí.
Sí.
Sí, a ver, ese es el sueño húmedo de todos los CEOs, de todas las big techs, vale, y de parte de las startups del mundo. Básicamente es un desafío, es un desafío fundamental por 3 motivos fundamentales. Vale, y es que estamos intentando replicar el sistema más complejo que conocemos en el universo.
Jesus Marrone 4:08
And.
Mario Garcés 4:23
No hemos encontrado nada más complejo que el cerebro humano. No conocemos prácticamente nada de su arquitectura, de cómo está biológicamente construido. Tampoco conocemos mucho de su dinámica. Luego, otra segunda limitación es que la tecnología que tenemos actualmente.
No nos permite capturar la información en tiempo real que está procesando un cerebro biológico mientras la procesa, excepto en casos muy concretos que son cerebros muy pequeños y que son transparentes. Y luego, la tercera limitación es que no vale con entender un único cerebro porque cada cerebro es totalmente único. Ha estado expuesto a unas experiencias.
Exclusivas que solamente ha vivido ese ser vivo. Entonces, con un solo cerebro, con entender un solo cerebro, no nos bastaría. Entonces, esas 3 grandes limitaciones son las que están dificultando que hoy por hoy, a pesar de haber invertido cientos de miles de millones de dólares, las grandes compañías no hayan todavía alcanzado una arquitectura.
Una arquitectura capaz de replicar el cerebro humano, ya no en cómo lo hace biológicamente, sino a nivel funcional, cómo lleva a cabo, qué funciones lleva a cabo y cómo ejecutar esas funciones de forma tecnológica. No, entonces ese es el desafío. Ese es el, como tú dices, es lo que van buscando todas las grandes tecnológicas y nosotros estamos ahí.
Jesus Marrone 5:36
Mhm.
Mario Garcés 5:41
A nivel presupuestario, no a nivel tecnológico, sí.
Jesus Marrone 5:45
Yeah.
Y claro, ese es un poco tu puesto de trabajo, pero como era era bastante simple, tú la has querido complicar más metiéndolo de lo de algorítmica, no que para el mortal de nosotros es el algoritmo de Instagram. Me enseña algo, pero la inteligencia artificial, ¿qué es lo que hace ese algoritmo en ese en ese inteligencia general?
Mario Garcés 5:56
Sí.
Pues mira.
Sí, a ver, cuando se habla de algoritmos, al final son una serie de procedimientos que tiene una serie de pasos que llevan a cabo unas funciones sobre los datos de entrada. Es decir, todo lo que se hace en el ámbito de tecnología básicamente son algoritmos. La diferencia es que hay algunos cuando se habla de algoritmia hoy en día.
Se está orientando a que el la forma en la que el sistema está procesando la información que le metemos y las y las cosas que le preguntamos sea explicable. ¿Vale? ¿Por qué? Porque históricamente, cuando empezaba la inteligencia artificial, antes de que las redes neuronales explotaran.
Pues había aproximaciones de inteligencia artificial algorítmicas o modelos expertos en los que a partir de una serie de reglas programadas donde estaba muy claro en cada momento qué estaba haciendo el sistema, porque el programador las programaba específicamente, pues se se entendía qué estaban haciendo los sistemas y cómo procesaban la información.
Cuando aparecen las redes neurales, las redes neurales siguen un algoritmo, es decir, operan matemáticamente con la información que le metemos, pero de una forma tan compleja y en unos niveles tan abstractos que los humanos no somos capaces de entender qué está ocurriendo ahí dentro.
Entonces, hoy en día, cuando se habla de algoritmia, estamos en entroncando con esa idea clásica de la inteligencia artificial, en la que los procesos que se están llevando a cabo en esa tecnología son explicables y se entienden y un ser humano puede entender lo que está haciendo. ¿Por qué nosotros hablamos de algoritmia de inteligencia artificial general algorítmica?
Pues por una sencilla razón, una de las premisas que yo necesito en nuestro diseño es que yo tengo que para poder aportar valor en base a la investigación en neurociencia que he hecho durante tantos años, yo necesito saber exactamente qué está haciendo la máquina con la información si yo pongo una caja negra, una red neural.
Pierdo la trazabilidad, ya no puedo decirle a la máquina exactamente que haga lo que yo quiero que haga. Entonces, para poder tener esa capacidad de control sobre qué hace y cómo lo hace, hemos definido como un axioma. Es que nuestra tecnología tiene que ser en todo momento trazable y explicable, y eso.
Pues nos nos genera una ventaja competitiva en comparación con quienes están utilizando redes neurales, pues que tienen un problema fundamental y es que no son, tienen cajas negras que no son explicables y eso tiene una serie de problemas. Bueno, pues que luego si quieres profundizamos sobre ello. Entonces, la algoritmia hace referencia a eso, a que.
Nuestra tecnología en todo momento es trazable y explicable.
Jesus Marrone 8:49
Sí, precisamente el invitado del programa número 6, Víctor Moreno Rivas, que es analista de ciberseguridad, me pasaba una pregunta que era que si vosotros podéis entender por qué la IA decide algo y seguir ese proceso paso a paso, no, que es un poco de lo que estás hablando.
Mario Garcés 9:04
Eso es. Sí, mira, nosotros como esa premisa ha estado desde el principio en nuestro diseño. Una de las ventajas que tenemos es que, aunque todavía no hemos alcanzado la IDI o la inteligencia artificial general, sí que tenemos una tecnología parcial que creemos que ya tiene valor. De hecho, la estamos empezando a ofrecer.
En el mercado. en.
No sé si te has quedado congelado tú, Jesús, o me he quedado congelado yo.
Jesus Marrone 9:29
Estamos bien, sí.
Mario Garcés 9:31
Es que te has quedado congelado aquí en mi pantalla.
Jesus Marrone 9:33
Sí, un momentito, bueno.
Mario Garcés 9:35
Entonces, esa tecnología parcial que estamos empezando a ofrecer, pues está pensada para resolver el problema de caja negra en algunos ámbitos específicos, ¿no? Pues, por ejemplo, para poder aportar trazabilidad a sistemas críticos como puede ser el control de tráfico, los semáforos. Tú no puedes meter una caja negra.
Que no sabes en qué momento un semáforo va a hacer una cosa extraña y te va a generar un accidente o en una planta de producción industrial, una planta química o en algunas en algunos negocios, por ejemplo, la ley de IA de la Unión Europea obliga a que los sistemas sean capaces de explicar cómo están tomando las decisiones.
Por ejemplo, a la hora de concederte un crédito o de denegarte una póliza de seguro de salud, no. Entonces hay un montón de hábitos que estamos encontrando que por haber definido nuestra tecnología como trazable desde el principio, pues aunque ya tenemos esa tecnología parcial que todavía no es la total, ya nos permite aportar valor a muchos de los problemas que hay planteados ahora mismo.
Jesus Marrone 10:35
Esa caja negra no es la misma de los aviones, no el término es el mismo, no.
Mario Garcés 10:40
El término es el mismo. Sí, se supone que en los aviones lo que llevas es una grabadora de datos. El concepto de caja negra cuando se habla, te pongo un ejemplo sencillo, por ejemplo, se entrenó una red neural para diferenciar perros de lobos. Vale, y en un momento determinado, cuando la red ya hacía bien su trabajo, se auditó.
Jesus Marrone 10:41
Es distinto.
Sí.
Eso.
P.
Mario Garcés 11:00
Para saber cómo qué variables se estaba utilizando fundamentalmente para tomar la decisión de si era un perro o un lobo, y se vio que era la nieve, si había nieve o no había nieve en las fotos. Vale, eso desde el punto de vista del sentido común no tiene ninguna lógica, pero desde el punto de vista de los datos de entrenamiento, el modelo ya ha sido capaz de encontrar una correlación estadística en que.
Jesus Marrone 11:12
Hey.
No.
Mario Garcés 11:21
La nieve era un gran predictor de que eso fuera un lobo y utilizaba la nieve como un elemento de referencia. ¿Entonces eso te define por qué no podemos confiar en esos sistemas de red neural? Porque no sabemos qué han aprendido, no sabemos en qué momento van a dar una respuesta errónea y no sabemos muy bien cómo están relacionando la información que sesgos ha encontrado en la información que le hemos dado, sesgos que a lo mejor ni siquiera nosotros.
Jesus Marrone 11:35
No.
Mario Garcés 11:46
Hubiéramos detectado, no.
Jesus Marrone 11:49
Sí, por ejemplo, yo pregunté a Chat de PT, dame un color y yo sabía que me iba me iba a dar el azul y me dio el azul porque será el más el más común. O ahora le he preguntado un número, me ha dicho el 7. Hace poco se puso de moda el 3, no sé si era el 33, que todas decían el 33, o sea, y un poco.
Mario Garcés 11:58
Mhm.
Sí.
Jesus Marrone 12:07
Claro, no te va a decir 2056000 o un color no te va a decir blanco roto, no, pero también porque responde un poco como nosotros o porque le hemos metido esos datos para que diga eso.
Mario Garcés 12:19
Bueno, a ver, son modelos estadísticos muy complejos. Ten en cuenta que han procesado toda la información que hay en Internet entre la información que han procesado, hay información correcta, información incorrecta. Hay sesgos que ni siquiera sabemos que existen. Hay correlaciones espurias que no tienen nada que ver. Igual cualquier día le preguntas cuál es la respuesta a todas las preguntas del universo y te dice la
Esa respuesta de la guía del autoestopista galáctico, no el 42. Esa es la respuesta universal. Entonces, bueno, eso es lo que tienen los sistemas. Si a ti te preguntan por qué tomas una decisión, si lo piensas un poco tranquilamente, posiblemente vas a poder tirar del hilo hacia atrás.
Jesus Marrone 12:50
Mhm.
Mario Garcés 13:02
Y encontrar el razonamiento más o menos causal que ya te ha llevado a tomar esa decisión y tú lo puedes argumentar. Puede ser erróneo, pero por lo menos puedes hacer ese ejercicio. Ese es uno de los problemas actuales que se está intentando resolver con los modelos actuales de ella y que no se todavía no se ha resuelto porque la propia arquitectura.
Jesus Marrone 13:19
Mhm.
Mario Garcés 13:22
¿Que se está usando los famosos Transformers? Pues tienen esa limitación. Son modelos estadísticos, modelos estadísticos muy complejos que ni siquiera sus propios desarrolladores tienen claro qué han aprendido y cómo lo están aplicando, ¿no?
Jesus Marrone 13:38
Sí, de hecho le acabo de preguntar a ChatGPT me ha dicho que 42, o sea que bien, vamos a ver, entonces tú llegas a tu trabajo y qué es lo que haces en tu día a día desde que empiezas hasta que acabas. ¿Qué es lo que sucede ahí?
Mario Garcés 13:50
Bueno, lo primero que hago normalmente es y además lo hago, lo hago mal, no debería empezar por ahí, pero suelo empezar viendo el correo electrónico. ¿Por qué no debería empezar por ahí? Porque las primeras horas de la mañana son las más potentes a nivel creativo y a nivel de pensamiento profundo, porque llegas muy fresco, no estás estresado ni saturado y el correo me estresa.
Entonces, eso es una, es un hábito que tengo que ir cambiando, pero lo primero que hago es ver el correo, ver si hay algo urgente, , sobre todo si nos han escrito nuestros amigos de Hacienda o algo de estas cosas que sí que suelen ser, suelen ser saludos de mañana estresantes. Y entonces, a partir de ahí, ya me cercena la capacidad de razonamiento lógico.
Jesus Marrone 14:24
Buenas noticias.
Mario Garcés 14:35
Te adentro en modo supervivencia, en modo estrés y no. Bueno, fuera bromas. Luego el lo normal es tener un briefing con los compañeros para ver las dudas que tenemos o el punto donde estamos o cómo vamos avanzando en las tareas que tenemos pendientes. y luego.
Si dependiendo del momento, pues o podemos tener una reunión científico técnica de explorar preguntas de las que tenemos abiertas, o si no, pues me tengo que poner a gestionar, sobre todo pues su integración financiera, bancos, subvenciones. Entonces, la mayor parte de mi tiempo es triste decirlo, la mayor parte de mi tiempo se va.
En hacer gestiones que no aportan valor, salvo gasolina para que el para que el Ferrari siga funcionando y que y que bueno, pues que espero que algún día las hagan los agentes de ella y las hagan bien, que sea automatizar el proceso de pedir subvenciones, justificarlas.
Jesus Marrone 15:32
Sí.
Mario Garcés 15:36
Y presentar toda la documentación que te que te piden.
Jesus Marrone 15:38
Mhm.
Bueno, y eso entonces básicamente ese es tu trabajo, ¿no? Y aparte con el equipo que haces reuniones o cómo es.
Mario Garcés 15:45
Sí, a ver, lo normal es que como yo suelo ser el que tiene la visión de hacia dónde debemos llevar la arquitectura, pues van surgiendo. Claro, una cosa es pensar las cosas en la cabeza y otra cosa es ponerte a bajarlas a tierra. Van surgiendo preguntas, imprevistos que hay que ir resolviendo, hay que ir encontrando nuevas aproximaciones.
Haciendo pruebas, cambiando la estrategia. Entonces, todo eso en general, el equipo me realimenta ese tipo de preguntas, esas dificultades que se van encontrando. Y yo trato de buscar momentos en los que ponerme a pensar posibles soluciones para luego compartirlo en una sesión de ideas de reinstorming, donde bueno.
Pues juntos vamos explorando posibles soluciones para lo que nos supone una traba en el desarrollo, ¿no? Y esa es un poco la parte más científica, la parte más bonita, la parte más apasionante es la investigación puntera. eso.
Jesus Marrone 16:38
Mhm.
Claro.
Porque sois una empresa independiente, por cierto, ¿cómo se llama? No sé si has comentado.
Mario Garcés 16:50
The mankind said.
Jesus Marrone 16:51
Sois independientes, no estáis asociados ni con Anthropic, ni con Mistra ni con ninguna. No vosotros vais por vuestra. Cuéntame.
Mario Garcés 16:55
No, de momento no, tampoco han llamado a nuestra puerta para comprarnos ni nada por el estilo.
Jesus Marrone 17:00
Vale.
Vale una cosa, cuanto a los algoritmos, ¿cuáles son los esenciales para que se se genere un sistema de capacidad general? ¿O sea, cómo me dije eso o que no solo vaya a tareas específicas, sino es algo, no?
Mario Garcés 17:14
Mhm.
Sí, pues esa es una buena pregunta. Esa es una buena pregunta. Te cuento las los 2 enfoques, el que actualmente se estaba siguiendo y que es el que el que está en todos los sistemas que estamos usando hoy en día, que básicamente es meter muchos datos, encontrar una estructura.
De correlación estadística entre esos datos, construir una gran base de datos estadística de relaciones entre conceptos y elementos de esos datos que se han introducido y luego utilizarlos para intentar resolver los problemas que le plantea el usuario, ¿no?
Ya sea resolver un prompt o generar una imagen o resolver un problema matemático, todos los expertos están ya de acuerdo en que ese camino no es el adecuado. Ese camino tiene un límite, y es que llega hasta donde llega y por mucha más información que le metas.
No es, digamos, la curva de aprendizaje se está aplanando como un salto cualitativo. Han aparecido los agentes. Los agentes son, vale, una vez que tengo un sistema que ya entiende el lenguaje, ahora lo que voy a hacer es que voy a voy a generar pequeños modelos especializados a los que les encargo que lleven a cabo.
Determinadas tareas en las que están muy enfocados, ¿no? Entonces concateno o enlazo varios expertos en distintas tareas para llevar a cabo una tarea más compleja. Y entonces, bueno, eso si lo haces una y otra vez, como van haciendo los modelos actuales, que es el tiempo de pensamiento que les vas.
Ampliando, pues lo que van haciendo es trabajar sobre ese problema que le has planteado y tratar de acotar lo máximo posible en base a ese modelo que han que han construido con los datos. Nuestra aproximación es completamente distinta, totalmente distinta. Y te voy a poner un ejemplo, el cuerpo humano, el cuerpo biológico.
Vale, todas las células de tu cuerpo tienen el mismo algoritmo, que es el a Dn, el mismo algoritmo.
Pero no todas llevan a cabo la misma función, porque si no serías una masa informe de células, serías una colonia bacteriana. Vale, entonces, ¿qué marca la diferencia? Pues que cada célula solo procesa un trocito pequeñito de información y ese trocito pequeñito de información que es el que le llega de su entorno de influencia.
Con el mismo algoritmo, todas con el mismo algoritmo generan resultados distintos. Esos resultados distintos que cada célula vuelca los vuelca a un espacio que todas ellas comparten, que es el cuerpo biológico. Vale, esto lo que hace es que la complejidad del sistema no está en el algoritmo.
Que en sí es complejo. En el caso biológico, el a Dn es complejo, pero la complejidad máxima está en la interacción de muchas células pequeñitas, todas con el mismo algoritmo, procesando pequeños trocitos de información y todas interactuando en un entorno compartido en el que cada vez que vuelcan el resultado se influyen a sí mismas.
Y a todas las demás, vale, y esa enteración compleja es la que ha dado lugar a seres avanzados, más o menos avanzados, como podemos ser nosotros.
Jesus Marrone 20:36
Sí, y claro, ¿y cómo os replicáis esas células en el mundo informático? O sea, son pequeños mini agentes, minibots, nanobots de cada uno.
Mario Garcés 20:42
Bueno.
Sí, son hilos, son hilos de, son hilos de ejecución. Cada cada uno tiene su trocito de datos y lleva a cabo la tarea que en función de esos datos, pues el algoritmo decide qué es lo que tiene que hacer con ellos en base a lo que a lo que ya ha aprendido anteriormente y a lo que espera conseguir.
Como objetivo suyo, no te pongo un ejemplo más cercano. Es una pequeña ciudad, no una ciudad en una ciudad. Cada persona tiene su propia familia, su propio trabajo, su propio hobbies, su propia. Todos juntos interactuando dan lugar a una ciudad que tiene una dinámica muy compleja y atascos.
Hay zonas deportivas, hay estadios de fútbol, hay cultura, hay música, hay un montón de actividades que surgen de que cada uno de nosotros llevamos a cabo nuestra pequeña parcela de vida dentro de ese espacio compartido, ¿no? Pues esto es un poco lo mismo, lo que haces es que tienes muchas células o muchas.
Personas agentes independientes llevando a cabo su propia vida, intentando resolver sus problemas, pero a su vez tienen que encontrar un equilibrio en el que para resolverle sus problemas tienen que tener cuidado de no empeorar los de los otros, de forma que al final el conjunto obtiene lo mejor para cada agente.
Y para el Y para el conjunto en su en global, no sé si esos.
Jesus Marrone 22:10
Sí, más o menos sí. Y luego hay una unidad central de procesos como un Trump o algo así que decide todo o que crea las células las que hay vosotros como esas personas.
Mario Garcés 22:22
No, la idea es que la propia información que viene del entorno es la que genera que se que aparezca una nueva célula y que se ponga a procesar un trocito de información nuevo que pues que antes no estaba procesado o que ha vuelto a aparecer y ya conoce anteriormente. no? Entonces es el propio entorno el que define, igual que en el cuerpo humano son los.
En el cuerpo biológico son los factores de transcripción y la química alrededor de las células, las moléculas que están en su entorno, las que definen qué función va a cumplir, cómo se va a especializar esa célula, no si va a ser una célula del pulmón, si va a ser una célula de la piel o va a ser una célula.
Una neurona.
Pues esto es un poco lo mismo, el contexto es el que define qué función lleva a cabo el algoritmo.
Jesus Marrone 23:03
Hmm.
Yeah.
Sí, antes has mencionado lo de que ahora mismo se vuelcan muchos datos para que se nutra la inteligencia artificial. Justo acabo de leer en Xátaca que Jan Le Coon, uno de los referentes de la ida que está ahora mismo en meta, pero bueno, parece que se va a ir porque él dice que sí, que eso no es, que eso no es como dices tú, eso está agotado y eso no es no es.
Mario Garcés 23:20
Mhm.
Jesus Marrone 23:28
Gastar mucho dinero para algo que va a ser limitado y él dice que acabo de leer que están buscando los modelos del mundo world models, como que aprende, aprende como si fuera un bebé de la información visual y entonces puede predecir cosas, planificar acciones y un poco así no que un poco una utopía o es realizable esto.
Mario Garcés 23:36
El.
Correcto.
Bueno, ese es el enfoque que nosotros llevamos siguiendo desde que empecé con la empresa y sobre todo con mi equipo hace hace 3 años, más de 3 años, 3 años y medio. Ese es el enfoque que hemos seguido desde el principio. De hecho, nosotros hemos generado un entorno de realidad virtual donde nuestra inteligencia artificial la ponemos a prueba para ver si resuelve los desafíos que se va encontrando, pues ahí tiene.
Tiene que buscar comida, tiene depredadores, puede tener frío, tiene que buscar un refugio. Hay fuego. Si se si se acerca demasiado se quema, pero si no cocina la comida, pues no obtiene el mismo rendimiento energético que si la cocina. Pero para cocinarla tiene que acercarse un poquito al fuego sin quemarse. Bueno.
Pues todas esas interacciones complejas las va aprendiendo como sería un niño, como haría un niño. Y ese es el camino que hemos seguido desde el principio. Ahora todo el mundo está virando a eso porque es lo lógico y ahí es donde, bueno, pues ahí es donde los presupuestos marcan la diferencia. Nosotros vamos, pues muy despacio porque no tenemos los recursos que tienen ellos, no, pero es interesante porque.
Bueno, pues el hecho de que se vayan validando el enfoque que tú has seguido desde hace esos 3 o 4 años, pues obviamente te dice estamos en el camino adecuado, en un momento determinado resonaremos con alguien que dirá estos tíos a ver que a ver qué saben, a ver qué están haciendo. no?
Jesus Marrone 25:05
Importante la memoria, cómo guarda ese sistema en memoria para decir, oye, me he quemado, ya no voy a volver a quemarme a no ser que sea un poco masoquista, no, pero cómo lo guarda en su memoria y cómo lo replica todas las células, cómo se va y cómo se va guardando eso para porque no sé si tenéis otras muchas, muchas o solo una.
Y a general, o tenéis varias distintas, no sé si me explico.
Mario Garcés 25:29
Sí, a ver, el al final la información que el sistema va aprendiendo, digamos, en si nosotros en esa isla desierta tenemos un avatar y ese avatar es la entidad que despliega la inteligencia artificial. Ese avatar tiene muchos procesos, vale, y procesa toda la información sensorial que le llega desde el entorno, ¿no?
Esa información la va almacenando en una estructura de memoria que, como hemos dicho, tiene que ser trazable, porque si no podríamos saber qué es lo que va aprendiendo. Y eso se llama un grafo de conocimiento. Un grafo básicamente lo que almacena es son conceptos y relaciones entre conceptos, ¿vale?
Y entonces, el poder relacionarlos de formas muy distintas, puede relacionarlos de formas estadísticas. Mira, cada vez que pasa esto, pasa esto otro o puede relacionarlos de forma causal. Cada vez que ocurre esto se genera esto otro. Vale, entonces el tema de la causalidad como una diferencia entre algo que simplemente ocurre simultáneamente y algo que tiene.
Una causa que produce un efecto es una de las de las áreas de trabajo más importantes que estamos haciendo, y toda esa información se almacena en un grafo de conocimiento que se utiliza cada vez que aparece cada vez que el sistema, digamos, el sistema funciona por unidades de tiempo, no en cada en cada iteración, pues él procesa la información que le está llegando.
Y esa información mira lo que ya conoce, pues lo tiene alguna respuesta, tiene algo de información para poder responder y lo que no conoce, pues lo almacena nuevo y a partir de ahí va modificando su comportamiento conforme va aprendiendo nuevas cosas. Por ejemplo, si descubre que para protegerse de un depredador.
En la isla hay un lobo que le ataca, pues puede encontrar que utilizando el hacha consigue defenderse del lobo. Bueno, pues eso lo aprende y a partir de ese momento ese conocimiento queda almacenado en el grafo y es capaz de aplicarlo para protegerse del lobo y ya no tiene que huir, sino que puede enfrentarlo de otra forma, ¿no?
Jesus Marrone 27:31
Sí, volviendo un poco a la trazabilidad, me ha recordado esto de que igual mucha gente no entiende que la informática 1 + 1 a veces no 2, porque puede estar sobre recalentado el ordenador, por ejemplo, o que uno hace cosas y no sabe cómo ha sucedido lo que ha hecho. Por ejemplo, me ha recordado tendría yo 11 años el videojuego Aspark GP Master, no tenía Astra.
Mario Garcés 27:50
Mhm.
Jesus Marrone 27:51
Yo leí las instrucciones del juegos y luego estaba la historia de comisión del videojuego y dice que los de Dynamic estaban un día programando el videojuego. Entonces lanzaron no el videojuego y se dieron cuenta de que los pilotos no iban. Ellos pensaban que iban a ir todos los pilotos, claro, uno a uno, no, pues por lo visto, unos adelantaban, otros no y decían.
No sabemos cómo sucedió esto, un poco lo mismo. A veces hacéis cosas y dice, bueno, y ahora como qué tecla hemos pulsado, qué operación matemática ha seguido esto, ¿no?
Mario Garcés 28:18
Mhm.
Sí, pues mira, eso es interesante porque eso se ve muy bien en sistemas no lineales. Lo que se entienden por sistemas no lineales son aquellos en los que no voy a meterme demasiado en arena. Vale, un sistema determinista es en el que si tú empiezas siempre con los mismos datos.
El sistema siempre va a hacer lo mismo. Vale, en un sistema lineal tú puedes predecir lo que va a hacer y en un sistema no lineal, aunque sea determinista, aunque sepas exactamente qué pasos ha dado, nunca vas a saber lo que va a ocurrir hasta que ocurre. Entonces, en los sistemas no lineales, cuando en los sistemas.
Se realimentan a sí mismos información que ellos mismos generan. Cambian su dinámica de una forma tan compleja que ya no es posible anticipar cuál va a ser el resultado antes de que lo ejecuten. No, entonces, claro, en sistemas muy complejos como lo que estamos hablando, no se intenta mantener.
La linealidad de los sistemas, porque son los que podemos llegar a entender cuando entran elementos no lineales, lo que tú dices, si un determinado chip a partir de una temperatura genera un cambio de un bit y ese cambio de bit, dependiendo del peso que tiene, hace que la operación se cambie completamente el resultado.
Pues puedes tener eso sería un poco parecido a las mutaciones en el sistema genético. Vale, a veces hay mutaciones favorables, a veces hay mutaciones perniciosas y la mayor parte de las veces son mutaciones neutras que no perjudican. Bueno, pues los sistemas tecnológicos tienen ese mismo tipo de cosas, no que hay determinadas cosas que no son predecibles.
A priori y simplemente ocurren y no sabes muy bien por qué han ocurrido.
Jesus Marrone 30:07
Hmm.
Otra cosa es estas inyecciones de comando que estamos escuchando ahora, no que es simplemente sube una foto y resulta que la foto tiene un comando ahí que la está diciendo que haga algo o copias el texto de una web y hay un texto en blanco con código malicioso, no que eso y cómo prevenís porque si no se os ca el chiringuito, no como prevenís eso.
Mario Garcés 30:23
Mhm.
Jesus Marrone 30:28
Esa seguridad, ese firewall, no sé qué tenéis esos muros para que eso no suceda.
Mario Garcés 30:33
Bueno, nosotros todavía no hemos llegado al ámbito del lenguaje y te explico, defino como nosotros hemos empezado por un camino distinto, los las big text han empezado por coger todo el lenguaje, todos los libros, todo la ciencia, todo lo que está escrito en el mundo y a partir de ahí triturarlo y sacar modelos.
De lenguaje, por eso se llaman large language models, modelos grandes de lenguaje. Lo que nosotros hacemos es ir en sentido contrario. La humanidad no ha tenido lenguaje desde el principio. El lenguaje ha surgido como una capacidad avanzada, fruto de las capacidades cognitivas que hemos ido desarrollando a lo largo del tiempo.
Entonces, para nosotros el lenguaje no es el inicio, sino el final del proceso cognitivo. Entonces, en esa, en esa búsqueda, nosotros todavía no hemos llegado a un modelo de lenguaje. Entonces, cuando lleguemos, nos encontraremos con que, pues igual que hacemos los humanos en un momento determinado, tú puedes leer algo en un libro.
Que de pronto conecta 22 conceptos que tú no tenías unidos y aprendes algo nuevo o te cambia tu forma de entender el mundo. No, yo recuerdo, por ejemplo, una película clásica no del año 99, Matrix, la primera, la primera, la primera vez que ves la película te rompe los esquemas, no, porque se habla eso de la simulación de vivir en un mundo simulador, no.
Ya nunca puedes volver a ver la película, igual que la primera vez, porque ese concepto ya lo has incorporado. Entonces el lenguaje lo que te permite es eso, es adquirir conocimiento, compartir conocimiento, información y en un momento determinado, conectar cosas de una forma que hasta ese momento tú no habías conectado. Entonces nuestro camino.
Va en sentido contrario, con lo cual no tenemos todavía ninguna aproximación a ese tipo de problemas. Sí sé que se están planteando, por ejemplo, en artículos académicos que algunos investigadores meten texto oculto en los papers que mandan a evaluación para que el si lo procesan con un modelo de lenguaje, ignore todos los comentarios negativos que haga el revisor.
¿Qué horas de ese tipo? Entonces, bueno, ya sabes que el que hizo la le hizo la trampa. Al final, el ingenio humano se busca las formas, ¿no?
Jesus Marrone 32:38
Yeah.
Hmm.
Me comentaba un amigo Raúl Páez Jiménez, que es profesor universitario de matemáticas, que si existe alguna IA que no tenga sesgos ni políticos ni ideológicos, si es posible o siempre va a tener sesgo de quién le da la tecla.
Mario Garcés 32:58
A ver, en principio los algoritmos no tienen sesgos, lo que tienen sesgos son los datos y esos sesgos son sesgos que posiblemente están ocultos porque nosotros no somos capaces de percibirlos a la hora de seleccionar la información que metemos al sistema. No, entonces el sistema.
Si está entrenado para identificar patrones, que era una de las cosas que te iba a comentar, no hago un paréntesis. La tecnología actual, los modelos de Transformers son muy buenos haciendo la función que hacen. Es decir, la inteligencia artificial general no va a sustituir.
A los modelos actuales, a los Transformers, va a complementarlos, va a hacer cosas que los modelos de lenguaje no son capaces de hacer, pero son capaces de hacer cosas muy interesantes y, entre otras, encontrar patrones en grandes series de datos que nosotros humanamente no somos capaces de encontrar, ¿vale?
Posiblemente, pues un no sé, un radiólogo que lleva 15 años de experiencia viendo radiografías, posiblemente sea capaz de encontrar patrones que ni él mismo es consciente. Sencillamente su mente le dice, mira, no sé por qué en esta imagen esto me suena que es un tumor.
Y a lo mejor no sabe ni explicarlo. ¿Por qué? Porque su experiencia se ha se ha se ha cristalizado de una forma tan profunda que ya es muy automática, ¿no? Entonces el tema es lo mismo, los modelos de lenguaje, el algoritmo no, en principio no está sesgado. Bueno, si le metes los filtros para que no te dé respuestas.
Jesus Marrone 34:19
La intuición.
Mario Garcés 34:35
Que puedan hacer daño a otras personas, que puedan generar problemas de racistas. Esos sesgos, digamos sí, lo que son los filtros, eso sí lo meten las compañías, pero el algoritmo puro lo que hace es procesar datos. Si esos datos están sesgados, él va a detectar esos sesgos que a lo mejor nosotros ni siquiera sabemos que existen, ¿no?
Jesus Marrone 34:56
Le hacéis pruebas a esta inteligencia artificial en ese sentido, por ejemplo, el típico oye, va a un tren y va a matar a una persona a 5 personas y le das a la manivela, matas solo a uno esas cosas para ver qué es lo que haces.
Mario Garcés 35:07
Todavía no, todavía no estamos en ese punto, pero sí llegará un momento. llegará un momento en que tendrá que tomar decisiones éticas y eso es muy interesante porque la información ética o la el comportamiento ético. ¿Por qué lo aprendíamos nosotros? ¿Por qué lo aprendemos las nosotros cuando?
Jesus Marrone 35:11
Y.
Mario Garcés 35:26
Cuando nacemos y cuando crecemos porque nos educamos en sociedad y si no tenemos ese comportamiento en general, una de 2, o llegamos a presidentes de algún gobierno o nos o nos extinguimos. Vale, entonces es interesante porque son los la el la recompensa o los castigos que recibimos de nuestra interacción social.
Jesus Marrone 35:40
A.
Mario Garcés 35:51
Los que nos permiten ir acotando, si eso que hemos aprendido encaja con los valores éticos que debe tener una persona dentro de una sociedad, buscando el bien común, etcétera, etcétera. No, entonces, claro, eso se lo puedes enseñar, se lo puedes meter como un texto de ética y él lo incorporará.
Hasta cierto punto, pero claro, llega alguien, mete un prompt un poco ingenioso y se salta esa ética. Entonces consigue que el modelo de lenguaje le dé una respuesta que no debería haberle dado. No, pues ahí está. Es que no es un principio fundamental, sino que ha aprendido.
Jesus Marrone 36:22
Hmm.
Mario Garcés 36:26
Un texto que habla de ética.
Jesus Marrone 36:26
Hey.
Sí, y en cuanto a la ley general, no solo eso, sino que puede tomar decisiones peligrosas ella misma, no. Entonces, cómo hacéis para bloquear o que ella entienda, no puedes hacer esto, aunque sea posible, no es no es bueno.
Mario Garcés 36:41
Pues eso tiene que ver con la trazabilidad y con la explicabilidad. El hecho de que tú puedas ver, mira, hay un hay un ejemplo, si no la habéis visto y a lo mejor tus oyentes les interesa. No hay una serie que se llama West World, que es sobre todo la primera temporada, no donde se pone de manifiesto. Entonces es interesante porque es un parque de atracciones donde hay robots humanoides con.
Jesus Marrone 36:58
Hey.
Mario Garcés 37:03
Supuestamente libre albedrío. Ellos creen que tienen libre albedrío, son como personas, no, pero es gracioso porque cuando les pasa algo y los llevan al taller, tienen una tablet. Los técnicos tienen una tablet donde antes de que el robot haga algo, aparece la secuencia de pensamiento que está siguiendo. ¿Y qué va a hacer a continuación, no?
Entonces, bueno, pues la idea es que nuestra tecnología tenga algo parecido a eso, haya un flujo de trabajo en el que tú vayas exactamente qué va a hacer y cómo está tomando esa decisión y en un momento determinado puedas filtrarla. De hecho, en neurociencia y en el comportamiento en psicología.
Eso se llama autocontrol. Si nosotros no aprendemos a autocontrolar nuestro comportamiento, tienes personas inadaptadas que no son capaces de convivir en sociedad porque no son capaces de inhibir determinadas respuestas que su cerebro computa y les y les lanza un niño malcriado, por poner un ejemplo.
Vale, pues eso mismo pasará con una inteligencia artificial si no la enseñas a autocontrolarse o le pones unos controles externos porque sabes exactamente que va a hacer algo que no debería hacer, pues tendríamos un problema efectivamente.
Jesus Marrone 38:01
Mhm.
¿Claro, tendríamos a Skynet determinator, no lo que tendríamos, no?
Mario Garcés 38:16
Efectivamente, tengo un buen amigo que siempre dice que va a venir en cualquier día, vendrá alguien del futuro asesinarnos.
Jesus Marrone 38:22
Vendrá a Sara Conor a visitarte.
¿Qué es lo que menos disfrutas de tu trabajo?
Mario Garcés 38:32
El papeleo, el papeleo es infernal, es infernal. En los últimos años, los temas fiscales, los temas de justificaciones. Es verdad que se debe gestionar muy bien todo lo que es dinero público. Nosotros, sobre todo estos años, hemos vivido principalmente de dinero de subvenciones y de dinero público y está muy bien.
Que se Que se rastree y se audite, pero el nivel de burocracia al que estamos expuestos es desproporcionado, es desproporcionado, sobre todo cuando ves que es que solamente se controla a algunos.
Jesus Marrone 39:08
Bueno, y que también vosotros, si tenéis un recorrido, no es lo mismo que alguien empieza nuevo, no debería ser distinto.
Mario Garcés 39:13
No, y que además, por ejemplo, te pongo un ejemplo sencillo, nosotros todas las subvenciones que nos han concedido y que nos han pagado las hemos tenido que justificar contablemente con sus facturas, con su memoria técnica, su memoria de ejecución, con una auditoría de cuentas hecha por auditores externos, etcétera, etcétera. Bueno, pues no es suficiente.
Todavía te llegan y te piden que vuelvas a justificar otra vez con toda la documentación cosa. Entonces, la sobrecarga burocrática está fuera, está fuera de control. O sea, a alguien se le ha ido la pinza con la supervisión burocrática. Ya te digo en nuestros casos, porque hay otros casos donde parece que no hay tanta supervisión.
Jesus Marrone 39:44
Hmm.
Hmm.
Hmm.
¿Por el contrario, qué es lo que más orgullo te das de tu oficio?
Mario Garcés 39:57
Pues entrevistas como esta, no donde puedes compartir a mí lo que una de las cosas que siempre siempre cuento como anécdota es que yo desde muy pequeñito recuerdo tenía 4 años, me regalaron un libro para niños de la isla del tesoro, una versión infantil de la isla del tesoro, no? Y recuerdo la página central de aquel libro que a mí me parecía muy grande. A lo mejor no era tan grande, pero yo era más pequeño.
Estaba el mapa de la isla del tesoro y yo recuerdo estar meses planeando cuánta maredera teníamos que comprar, dónde íbamos a construir el barco para ir a la isla del tesoro, porque yo tenía el mapa de la isla del tesoro. Han pasado 50 y tantos años y sigo reconociendo en mí ese niño. Sigo pensando que tenemos una oportunidad mi equipo y yo de encontrar algo que todavía nadie ha resuelto.
Jesus Marrone 40:41
Mhm.
Mario Garcés 40:45
Que es la inteligencia artificial general y esa motivación por explorar, por descubrir, por maravillarte ante ante cosas cada día distintas, desde la genética hasta la astrofísica, ahora que está el 3 y Atlas ahí en plena, en pleno foco mediático, no esa pasión y compartir esa pasión como aquí en el valle donde vivo tenemos.
Jesus Marrone 41:00
Sí.
And.
Mario Garcés 41:08
Hemos tenido durante muchos años una asociación de divulgación científica y poder compartir y divulgar no solo lo que hacemos, sino otras muchas cosas de ciencia que hemos podido hacer en estos años. Para mí es lo que más satisfacción me produce, explorar, maravillarme y compartir ese esa satisfacción de del descubrimiento.
¿Con otros y despertar esas esas vocaciones, no?
Jesus Marrone 41:35
Ha mencionado que con 4 años leía el tesoro también.
Mario Garcés 41:38
Bueno, no tenía letras, yo recuerdo el sol de un mapa, el dibujo.
Jesus Marrone 41:40
Bueno, bueno, sí, bueno, tenemos, ya lo ojeabas, aparte de soñar con esa isla, ese tesoro con John el largo. ¿Cómo era ese hombre John el largo? No me estoy confundiendo, no sé, sí, Ron John, no, eso era Ron John, Ron John, eso es Ron John, claro, sí. Aparte de eso, soñabas con ser desarrollador de inteligencia artificial general algoritmic.
Mario Garcés 41:45
Sí.
Sí, Lon John, Lon John, sí.
No, yo mi vocación, mi vocación tecnológica debía tener yo 11 o 12 años y fue con la película Superman 3, que había un uno de los personajes. Era un era un informático que controlaba el clima con un ordenador superpotente y tal. Bueno, ahí despertó.
Jesus Marrone 42:18
Hey.
Richard Pryon, sí, de la Torre Richard Pryon.
Mario Garcés 42:22
Sí, pues ahí despertó mi vocación y ahí, fíjate, gracioso, porque ya con 12 años dije, algún día tendré mi propia empresa de informática y 10 años después montaba mi primera, mi primera empresa de informática.
Estás silenciada, no te oigo.
Jesús, no te digo.
Jesus Marrone 42:47
¿Que digo que entonces cómo es que has llegado a ser a esto? ¿Cómo has llegado una cosa al ordenador y otra cosa ya meterte en inteligencia artificial? ¿Cómo sé que estudiaste y cómo has llegado aquí?
Mario Garcés 42:57
Bueno, yo estudié informática de sistemas. Mi primera empresa, junto con otros 2 socios, fue una empresa de software. Esa empresa funcionó bastante bien. Yo vendí mi parte en el año 2003 y mi idea era cambiar de sector e irme a algo completamente distinto.
Me parecía mucho más el tema del desarrollo de personas en el ámbito humano y entonces me vine al Pirineo a montar un hotelito rural y una consultora de recursos humanos que iba a utilizar ese hotelito rural como infraestructura para llevar a la gente a la naturaleza y enseñarles a usar la naturaleza de una forma para mejorar el bienestar psicológico y físico de las personas.
Empezó la crisis económica, ese proyecto se quedó parado y como había ganado dinero con la informática y había vendido mi casa en Madrid, pues dediqué los siguientes 15 años a hacer investigación básica en neurociencia, que es lo más habitual en estos casos, fruto de esa investigación.
Jesus Marrone 43:53
Mhm.
Mario Garcés 43:55
En el año 2019 publiqué una primera parte de la investigación del total de la investigación no está publicada entera. La parte que no está publicada es la base, digamos, el secreto empresarial sobre el que estamos construyendo ahora la tecnología, pero justo coincidía que había que había pegado un salto cualitativo el ámbito de la inteligencia artificial desde 2016 que habían empezado con los.
Transformers, etcétera, etcétera. Y bueno, pues me planteé si toda esa investigación en neurociencia podía aportar valor al ámbito de inteligencia artificial y más concretamente intentar llenar el hueco para llegar a la inteligencia artificial general. Y bueno, pues ahí empezó esta nueva esta nueva etapa tecnológica.
Jesus Marrone 44:35
¿Qué tipo de bromas soléis gastar con los compañeros o al nuevo que llega? No sé si tenéis algún.
Mario Garcés 44:42
A ver, somos todos perfiles muy técnicos en general. En eso somos muy sosos. Sí, y además somos somos un equipo pequeño y con muy buena, con muy buena relación entre todos. Entonces no, me imagino que luego cuando surjan equipos más grandes.
Jesus Marrone 44:49
Sí, bueno, seguro que luego alguna me dice entonces.
Hmm.
Mario Garcés 45:03
Y cuando vayamos creciendo, pues ahí surgirán dinámicas más valiosas, pero ya te digo que era básicamente lo más divertido que hacemos, pues alguna barbacoa o algún día ir a escalar juntos, etcétera. Bueno, ahí eso sí.
Jesus Marrone 45:04
Mhm.
Mhm.
Mhm.
Hmm.
¿Cómo manejas el estrés?
Mario Garcés 45:20
Pues en la montaña, en la montaña, yo eso que pretendía enseñar para mí ha sido la naturaleza y en concreto la montaña. Yo vivo en el valle de Benasque, que es el valle más agreste, uno de los más arrestes del Pirineo. Está conformado por los 2 macizos más grandes del Pirineo, el macizo de Aneto Maladetas y el de Posets.
Entonces, esto es un lugar privilegiado para disfrutar de la naturaleza, ¿no? Y a mí la naturaleza, porque he resuelto muchas experiencias vitales extremas gracias a la naturaleza, es la herramienta que utilizo de forma sistemática para gestionar el estrés. No, entonces te vas por ahí y te pierdes en un bosque de hayas.
Subes por ahí, ahí te sientas en una cima y miras tus problemas, se quedan ahí abajo y desde ahí eres capaz de encontrar la serenidad para generar alternativas y buscar opciones para resolverlos, ¿no? Y es lo que me ha salvado la vida varias veces y me sigue aportando mi herramienta de bienestar.
Jesus Marrone 46:18
¿Cada cuánto tiempo piensas en renunciar?
Mario Garcés 46:25
De vez en cuando, de sí.
Jesus Marrone 46:26
Sé sincero, sé sincero, sé sincero, luego te vas a la montaña y te vuelves, pero soy sincero.
Mario Garcés 46:29
Sí, de vez en cuando es muy frustrante, muy frustrante ver un entorno tan dinámico como es el de la inteligencia artificial, donde se están moviendo cientos de miles de millones en todo el mundo que estés haciendo trabajando en la vanguardia, que hayas conseguido montar un equipo bueno, un equipo junior, pero bueno de gente.
Con máster o con doctorado y que y que veas que no hay forma de conseguir la financiación para seguir compitiendo. Eso te desgasta muchísimo y llega un momento en que te dan ganas o de o de irte a Estados Unidos, a China, como te han como me han propuesto en alguna ocasión.
Y te da mucha rabia, no que Europa se está quedando atrás en todo lo tecnológico. Se ha quedado atrás en el coche eléctrico, en las baterías, en los datos digitales, en los paneles solares, y ahora se está quedando atrás en la inteligencia artificial. Y en entonces es muy triste tener esa sensación. Y es verdad que cuanto más tiempo pasa te vas desgastando, más.
¿Días piensas en tirar la toalla, pero bueno, luego digamos hay días de estos que te levantas con una idea genial que dices quiero explorar esto y eso te vuelve a dar energía para olvidarte de esas de esas limitaciones y seguir luchando, no?
Está silenciado.
Jesus Marrone 47:47
¿Entonces te ves en este oficio hasta que este builles, no?
Mario Garcés 47:51
A ver, yo creo que sí. O sea, ten en cuenta que es la vanguardia de la investigación, tanto en no solamente en el ámbito tecnológico, sino también nosotros. Una de las cosas fascinantes es que mientras intentas resolver los problemas tecnológicos, vas descubriendo mecanismos que te pueden ayudar a entender cómo funciona el cerebro biológico.
¿Y cómo funciona la psicología humana? No. Entonces, esa ese triángulo entre neurociencia, tecnología y psicología son la vanguardia de la investigación. O sea, la última frontera es la conciencia humana. El tratar de replicarlo es la última frontera tecnológica y la base fisiológica de cómo ha surgido eso y cómo ha evolucionado y cómo somos capaces de hacer lo que hacemos.
Es la neurociencia. Entonces son 33 fronteras de vanguardia a nivel científico, en la que cualquiera de ellas da para varias vidas de investigación. Entonces, vamos, yo, desde luego, no creo que me falte trabajo en ese en ese sentido.
Jesus Marrone 48:49
¿Y tú crees que vamos a ver nosotros esa inteligencia artificial general alguna que de verdad sea así o no o no nos llegue a todavía?
Mario Garcés 48:56
Yo creo que sí.
Yo creo que sí, yo creo que sí. ¿Por qué? Por lo que te decía antes, si tú intentas definir un sistema tan complejo como el cerebro humano, el cerebro biológico en el último, lo más avanzado es el cerebro humano, eso es imposible. Ha habido proyectos en la Unión Europea y en Estados Unidos, el Human Brain Project y el Blue Brain.
Project que han intentado replicar las conexiones fisiológicas de las neuronas virtualmente. No se han dado cuenta de que esa complejidad es inabordable. No entendemos absolutamente nada de lo que de lo que está pasando ahí. No, ese no es el camino. En este momento no tenemos conocimiento ni tecnología para poder hacer eso.
Pero cuando piensas en decir, vale, es que si yo tengo un algoritmo sencillo y ese algoritmo interactuando con otros, cada uno procesando su trocito de información, da lugar a comportamientos complejos que no están programados, que es lo que se llama fenómenos emergentes. Esa vía es mucho más, mucho más lógica.
Para intentar abordar sistemas complejos como el cerebro humano, no, y esa es la que estamos siguiendo. Entonces yo personalmente soy optimista, creo que sí vamos a ser capaces de encontrarlos. No sé si seremos nosotros los primeros o llegarán otros antes y ahí te meto una cuña publicitaria.
Jesus Marrone 50:09
Hmm.
Mete, mete.
Mario Garcés 50:17
Nosotros contamos con un conocimiento que ni Google ni Open A ni Microsoft pueden comprar ni adquirir en un laboratorio de neurociencia. Vale, y tiene que ver con las limitaciones que te contaba antes. Tú puedes pinchar unas ratas o monos en un laboratorio, ver las neuronas. Vale, vas a sacar un montón de información.
Y de ahí pocas pocas cosas en claro vas a sacar. No puedes hablar con gente que ha vivido experiencias vitales, que ha encontrado soluciones y de ahí puedes sacar alguna aproximación. Pero no es fácil encontrar que coincida el investigador con las experiencias y con la y con el modelo científico.
Para explicar una serie de experiencias subjetivas, no ese conocimiento que hoy no está disponible por limitaciones técnicas que comentaba al principio, es con el que nosotros estamos tratando de salvar esa desventaja que tenemos en presupuesto, con un conocimiento que ellos no pueden comprar en un laboratorio y a esa es nuestra nuestra esperanza.
Jesus Marrone 51:18
¿Claro, con ese escaso presupuesto, aparte de tener mucho talento, cómo equilibráis esa eficiencia computacional, la complejidad del algoritmo, no gastar más luz de lo que se permite o podéis? No sé cómo hacéis todo eso, magia.
Mario Garcés 51:30
Mhm.
Pues es interesante porque si lo piensas bien, el cerebro humano consume 20 vatios de potencia. Vale, con 20 vatios de potencia somos capaces de componer sinfonías, diseñar catedrales, levantar proyectos empresariales, industrias, ir a la Luna, etcétera, etcétera. No, yo uno de los criterios que yo cuando alguien me pregunta si tengo algunos amigos.
Que dicen que ya hemos alcanzado la inteligencia artificial general. Yo digo que mientras haga falta una central nuclear para alimentar esos modelos, eso no es inteligencia artificial general. Eso sigue siendo estadística masiva, no esos 20 vatios de potencia que la naturaleza ha conseguido utilizar para hacer lo que nosotros somos capaces de hacer.
Jesus Marrone 52:08
No.
Mario Garcés 52:16
Eso no es cantidad de datos, eso es arquitectura y lo que nosotros estamos haciendo es arquitectura. Entonces esperamos que nuestro modelo sea tan altamente eficiente como lo es la biología, porque las premisas desde la que partimos son bioinspiradas y así debe y así debe ser.
Jesus Marrone 52:21
Mhm.
Claro, ¿cómo me dices eso de general que es general para vosotros? ¿Qué métricas usáis cara? ¿Cómo decís? Oye, sí, nuestra idea está yendo un buen camino porque este es el camino de la general, no es como dices tú, no, por ahora no estamos hablando del lenguaje, estamos hablando otras cosas. ¿Cómo decís estamos avanzando bien o no es eso? ¿Cómo no me dices eso?
Mario Garcés 52:51
Bueno, todavía no hemos entrado en lo que son los las pruebas de, digamos, de comparativas, porque como nuestra arquitectura todavía no está terminada, pues la vamos exponiendo a las pruebas que nosotros le metemos en el laboratorio. ¿No? Entonces, ¿cómo definimos nosotros inteligencia artificial general? Pues básicamente.
Es que tiene que ser capaz de crear relaciones causales, entender que algo es causa de y poder enlazar pensamiento de una causa a la siguiente, a un a su efecto y el efecto a como causa del siguiente efecto, vale, y una vez que es capaz de generar ese conocimiento.
Extrapolarlo a cosas que no ha visto antes, vale, por ejemplo, una inteligencia artificial general no necesita 1000000 de veces de ver como un vaso cae o que algo cae para aprender que está la gravedad. Vale, tiene que ser capaz de aprenderlo como hace un niño pequeño que tú le dejas una pelotita con huecos con formas distintas y al cabo de un rato él encuentra.
¿Qué forma entra en qué hueco y no necesita hacerlo 1000000 o 10000000 de veces para aprenderlo, no? Entonces la capacidad de extrapolar conocimiento una vez adquirido y que ese conocimiento sea lo más causal posible. Yo creo que son 2 de las cosas que principalmente define luego el consumo de energía, pues que tiene que ser.
Jesus Marrone 54:09
No.
Mario Garcés 54:12
Capaz de hacerlo en tiempos cortos y con menos consumo de lo que es actualmente los sistemas actuales.
Jesus Marrone 54:18
Claro, consumo de energía y de recursos, que por el porque, por ejemplo, vi un en el programa este redes 2.0 que tenía punset de verdad punset. Creo que salió ahí una vez, dice claro, el campeón mundial de Tetris pensaron, bueno, este hombre tiene que tener el cerebro al 100 * 100% y ahora no. Bueno, por lo visto tenía como una zona muy mucho, pero el.
Mario Garcés 54:27
Yeah.
Jesus Marrone 54:39
El resto como vacío. Sin embargo, alguien que juega al Tetis la primera vez es todo el cerebro como así no es un poco lo que dices tú, no claro, el que el que empieza a hacer es todo el cerebro al 100 * 100% a saco, no el que ya sabe ya minimiza el gasto energético lo mínimo y casi es como es en segundo plano está jugando casi porque no de tanto.
Mario Garcés 54:45
Team.
Jesus Marrone 54:57
¿Tiempo ni pensar, no?
Mario Garcés 54:59
Claro, mira, eso es una de las eso es una de las cosas que forman la introducción de la del artículo que tengo publicado en neurociencia. Habla de el principio de automatización, que lo que dice es, vale, una vez que he encontrado una solución eficaz para un problema, lo que tengo que hacer es hacerlo con el menor consumo de recursos en el menor tiempo posible.
Y de la forma más sostenida. Entonces, automatizar lo podemos ver en cómo ha evolucionado la sociedad. no? Primero automatizamos el tema de decir, pues si somos capaces de entender cómo funcionan las cosechas, pues todos los años sembramos en la misma fecha, recogemos y entonces hemos automatizado la alimentación, ya no tenemos que estar.
Ser cazadores recolectores, sino que somos agricultores. Luego llega la revolución industrial y hemos automatizado los procesos de fabricación de las distintas piezas que conforman un mecanismo más complejo. Al principio es todo artesanal, es todo artesanal, pero a partir de un cierto momento.
Se crean máquinas capaces de automatizar la mayor parte de esos procesos. Hoy en día, tú lo ves, hay plantas de fabricación de coches en las que prácticamente todo está automatizado. Muy pocas tareas las llevan a cabo los humanos, ¿no? Y suelen ser tareas pues que necesitan movilidad fina en los dedos y sensibilidad fina para.
Para hacerlas que todavía los robots no han llegado a hacerlo. Entonces, la automatización es uno de los pasos fundamentales para la optimización del consumo de recursos y de energía, y eso es uno de los axiomas fundamentales sobre los que nosotros empezamos, ¿no?
Jesus Marrone 56:19
No.
Sí, cuando pegó el petardazo hace un par de años, Chat PT, bueno, hace 2 años, 2 años y medio, 3 ya casi. Claro, yo soy redactora y me decían, ¿estás preocupado? Digo, yo no, digo yo no, porque eso me va a ayudar a mí. De hecho, yo no estoy preocupado porque alguien le tiene que dar al botoncito y yo quiero ser el que le den al botoncito. El problema con la.
Mario Garcés 56:50
Mhm.
Jesus Marrone 56:52
La inteligencia general ya ella misma sola se dará el botoncito, no ya tenemos las decisiones ella misma de hacer cosas, no.
Mario Garcés 56:59
Sí, la idea es que la propia, la propia máquina sea capaz de fijar sus objetivos, sus motivaciones para alcanzarlos y encontrar las estrategias para conseguirlos, no siempre, como digo, dentro de la trazabilidad y del control, el autocontrol primero y luego el control externo por nuestra parte. Pero claro, yo siempre en las charlas que o en las oportunidades que tengo siempre lo comento. Ahora sería buen.
momento para empezar a replantearnos sobre qué está construida nuestra identidad social nuestra estructura económica y social Porque si de pronto algo que ha sido la definición de la supervivencia humana que es el esfuerzo y el trabajo lo hacen las máquinas
¿Qué nos queda a nosotros para definirnos? Esto es como la gente cuando se jubila, que mucha gente de pronto pierde sentido porque ya no tiene una identidad o las madres cuando los hijos se van de casa. Bueno, pues esto como sociedad nos puede pasar que una tecnología que desarrollamos de pronto sea capaz de hacer todos los trabajos que actualmente hacemos los seres humanos.
Jesus Marrone 57:51
Hmm.
And.
Mario Garcés 58:05
Si no empezamos ya a sentar las bases de cómo vamos a modificar la sociedad para que eso no sea muy rápido, porque el problema no está en la tecnología, sino en los tiempos. La sociedad es muy lenta, respondiendo mucho más que el desarrollo tecnológico. Entonces ahora tenemos la oportunidad de abrir ese melón y empezar a hacernos preguntas de qué pasaría si.
Si no lo hacemos, pues reaccionaremos tarde, como siempre iremos a rastras y eso generará muchos más problemas de los que hubieran sido necesarios, ¿no?
Jesus Marrone 58:34
Aparte de recibir maravillosos correos de Hacienda, igual un día recibes un correo de tu propio modelo diciéndote, oye, que esto que estáis haciendo conmigo está mal, que mejor hacer esto, ¿no? Por ejemplo, sería una buena métrica, ¿no?
Mario Garcés 58:45
Sí, eso sería una buena métrica, sí, que el tío se nos revele y diga: «Oye, mira que me he cansado aquí de que me estéis haciendo test todo el día para ver si soy inteligente.» Mira, ya de verdad que lo soy, me voy, me voy.
Jesus Marrone 58:49
No.
Yo también quiero ir a la montaña, llevarme a la montaña, hombre, vení.
¿Qué le dirías a un a un incauto que quiere comenzar en este oficio?
Mario Garcés 59:08
En el ámbito de la inteligencia artificial.
Pues a ver, lo primero que empiece jugando con lo que ya hay. Entender lo que cómo funciona lo que hay actualmente es una buena base para introducirse en el ámbito. Luego, cada vez más hay infinitos cursos.
Jesus Marrone 59:14
Mhm.
Mario Garcés 59:31
En abierto, gratuitos libros, hay un montón de acceso a información para formarse y empezar a hacer experimentos, desde libros electrónicos que llevan código asociado, que te enseñan cómo funcionan los conceptos que te están presentando, etcétera, etcétera. Entonces, y sobre todo.
Yo creo que lo que más importante hay a la hora de empezar a hacer algo nuevo es la motivación.
Que se fascinen con lo que ya somos capaces de hacer y con lo que queremos llegar a hacer y que piensen si en un momento determinado ellos pueden llegar a aportar algo nuevo a esas problemas que todavía no están resueltos, no que esa a nada que seas un poco curioso e intrépido. ¿Qué mejor motivación para aprender algo que eso, no, entonces?
Jesus Marrone 1:00:12
Mhm.
Mario Garcés 1:00:15
A partir de la motivación, luego la el trabajo duro es ir aprendiendo paso a paso toda la tecnología y todo lo que hay. Yo no soy capaz de estar al día de todo lo que hay. Me es imposible, es imposible.
Jesus Marrone 1:00:25
Hombre, es que es posible, posible, hay millones de cosas, pues tienes algo más que añadir.
Mario Garcés 1:00:29
Sí.
Bueno, que es un ámbito fascinante. Estamos ahí peleando en la vanguardia de la tecnología. Yo creo que vamos a ser capaces de resolver los temas financieros antes o después, y que vamos a me gustaría dar guerra. Me gustaría dar guerra y ser un competidor tecnológico con las grandes.
Con los grandes Big Tex que están ahí comiéndose el toda la tostada y demostrarles, pues un poco como hicieron los chinos con Deepsic, no que muchas veces un poco de ingenio resuelve cosas que grandes cantidades de dinero y de datos y de recursos computacionales no son capaces de.
Jesus Marrone 1:00:59
Bueno.
Sí.
Sí.
Mario Garcés 1:01:10
De resolver.
Jesus Marrone 1:01:10
Hmm.
Mario Garcés 1:01:12
Así que sí, muchas gracias, Jesús, por el por la invitación y por la oportunidad de compartir.
Jesús Marrone 