00:00Dos y media, una y media en Canarias.
00:03Antropic ha anunciado que Claude tiene emociones funcionales.
00:06¿Aseguró que estas empresas de IA están jugando con nosotros a la ruleta rusa?
00:14¿Es un augurio catastrofista o realmente puede acabar la IA con la humanidad en 10 años?
00:19El aviso parte de un ingeniero de Antropic que nació como un proyecto tecnológico ético
00:24y que además conoce lo que pocos conocen
00:27y que sabe hasta dónde pueden llegar los nuevos modelos de inteligencia artificial.
00:31Una advertencia muy seria ante la que solo queda una salida, echar el freno.
00:36Javier Ruiz Martínez.
00:36Jacob Coxon es ingeniero informático.
00:39Ha trabajado en OpenAI, en Anthropic y sabe lo que se está haciendo dentro.
00:43Acaba de dimitir con un vaticinio terrible.
00:45La IA podría matarnos a todos a final de esta década.
00:48Ninguna de las dos empresas está actuando de forma responsable.
00:52Están avanzando a toda velocidad hacia una superinteligencia capaz de mejorarse a sí misma
00:56y están jugando con nuestras vidas.
00:58Ese concepto de inteligencia que es capaz de automejorarse es la clave.
01:02Abre la puerta de la cámara de las cápsulas.
01:04Si aprende sola, podría no estar alineada con nuestros valores.
01:07Lo siento, Dave. Eso no me es posible.
01:10Podríamos darle igual, como a Hall, el ordenador de Odisea 2001.
01:13Quiero demasiado a esta máquina para permitir que usted la ponga en peligro.
01:16Coxon denuncia que se están creando sistemas sobrehumanos capaces de piratear cualquier cosa,
01:21hacerse con el poder.
01:22Desvela que muchos desarrolladores en la empresa están asustados, aunque no lo dicen en público.
01:26Y se pregunta, si realmente creen eso, ¿por qué siguen desarrollándola?
01:30Sé que usted y Frank estaban planeando desconectarme.
01:33Y eso es algo que yo no puedo permitir que suceda.
01:36Inteligencias artificiales que se enfrentan entre ellas,
01:39capaces de superar con creces además la capacidad humana
01:41y con habilidad para hackear todo el sistema.
01:44Suena a ciencia ficción, suena a peli,
01:46pero probablemente es el reto más importante al que se enfrenta ahora mismo la humanidad.
01:50Javier Delser, experto en IA, investigador del Centro Tecnológico Tecnalia
01:54y de la Universidad del País Vasco.
01:55Javier, ¿qué tal? Muy buenas tardes.
01:57Hola, buenas tardes a todos.
01:58Javier, ¿la advertencia de Coxon, de este ingeniero,
02:01es catastrofista o realmente estamos ante una amenaza
02:04que si no tomamos medidas puede acabar con la humanidad?
02:08Bueno, es difícil decirlo porque la sociedad tenemos una visión muy parcial
02:13sobre lo que realmente está ocurriendo dentro de estos centros.
02:16Yo creo que debemos analizarlo desde varias perspectivas.
02:19Desde la perspectiva técnica, puramente técnica,
02:22sin duda esta tecnología está creciendo de manera exponencial
02:26en cuanto a capacidades y en cuanto a escalabilidad en los últimos meses.
02:29De eso no cabe ninguna duda y lo estamos viendo con avances prácticamente cada día.
02:35Lo que sí es cierto es que también esta declaración por parte del ingeniero
02:39que ha dejado Antropic ocurre dentro de un contexto económico
02:44de intereses económicos por parte de inversores bastante fuerte.
02:49Recordemos que tanto PNI como Antropic están empujando por salida a bolsa,
02:54con lo cual este tipo de noticias,
02:56que no hacen más que promover concienciación y preocupación
03:00alrededor del desarrollo de una tecnología,
03:03puede ser la motivación por la cual han salido a la palestra estas declaraciones.
03:08Entiendo, Javier, que para controlar el uso y el crecimiento de estos modelos de IA
03:12se tienen que establecer restricciones legales.
03:14Algunas tenemos ya sobre la mesa.
03:16Pero claro, hasta ahora es evidente,
03:18lo estamos viendo que estas restricciones,
03:21esta legislación va muy por detrás de los progresos
03:24de una tecnología que aprende muy rápido
03:26y que además, nos lo decías tú,
03:28se fomenta desde iniciativas privadas y no públicas
03:30y hay muchos intereses económicos.
03:32Y además, son iniciativas de las que sabemos seguro muy poquito, ¿no?
03:36Estamos viendo solo los modelos menos avanzados.
03:39Exacto.
03:40Yo hice hace un tiempo un vaticinio
03:42que venía a decir que nosotros, la sociedad,
03:45lo que estamos viendo es una foto de hace seis meses
03:48del estado de la tecnología.
03:50Estoy convencido de que esta tecnología,
03:51dentro de los laboratorios de las grandes empresas,
03:56fabricantes de modelos o proveedores de modelos,
03:59tienen modelos mucho más impresionantes
04:03dentro de sus permisos, dentro de sus instalaciones.
04:07Lo que yo creo, de verdad,
04:10es que debemos hacer una llamada
04:14a un mejor uso de este tipo de modelos,
04:16no tanto por imperativo legal, imperativo regulatorio,
04:19sino más desde la concienciación de la sociedad
04:23respecto al uso de una tecnología que sí,
04:24que nos puede transformar,
04:25pero que su buen uso también nos puede transformar
04:27en el sentido positivo.
04:28Hoy hemos escuchado a Coxon,
04:30sabemos de las dudas incluso de Elon Musk,
04:33hemos visto a la IA usarse erróneamente,
04:36por ejemplo, en conflictos bélicos.
04:37¿Cómo se logra un consenso mundial
04:39para echar ese freno en algo que lo sacude todo?
04:42El poder, la geopolítica.
04:44Esto, desde luego, visto desde fuera,
04:46nos parece mucho más complejo
04:47que alcanzar aquellos pactos
04:48de no agresión nuclear en la Guerra Fría.
04:51Es muy, muy, muy complicado
04:53porque creo que el mayor problema,
04:55bueno, el mayor asunto de todo esto
04:57es la universidad del acceso
04:59al uso de esta tecnología.
05:01Hoy en día cualquier persona
05:02puede acceder a un modelo muy complejo
05:04que pueda hacer cosas muy complejas
05:05desde la palma de su mano,
05:07simplemente haciendo desde su terminal
05:09uno de estos modelos,
05:10y ese es el verdadero peligro.
05:12El peligro está en que esta tecnología
05:13está a mano de cualquier persona
05:16con los intereses que esa persona tenga en su uso.
05:19Y eso es lo que debemos regular, el uso.
05:22Aquí en Europa tenemos un contexto regulatorio
05:24que es el acta de la IA,
05:26que efectivamente está estableciendo
05:28las mínimas reglas de juego,
05:29las aplicaciones en las que se puede utilizar
05:31esta tecnología, en cuáles no,
05:32cómo se debe hacer un buen uso
05:34y una buena gobernanza de esta tecnología,
05:37pero va muy lenta.
05:38Va muy lenta respecto al desarrollo
05:40de esta tecnología,
05:40que como bien has dicho
05:41al principio de esta sección,
05:45la velocidad de desarrollo
05:47de esta tecnología es impresionante.
05:48Ya digo que parece ciencia ficción,
05:50pero estamos ante el mayor reto
05:52que ha tenido nunca la humanidad.
05:53Javier del Ser,
05:54oye, gracias por acompañarnos
05:55y estar con nosotros aquí en hora 14.
05:56Un saludo y muy buenas tardes.
05:57Muchas gracias.
05:58Buenas.
