00:00Ha habido mucha polémica, y no sé si es una polémica sustentada o es una exageración,
00:07sobre o por la renuncia de un investigador de Antropic, una de las principales empresas de inteligencia artificial.
00:15Este joven, joven de 27 años, Jacob Coxon, renunció y comenzó a informar a través de sus redes sociales el
00:24motivo de su renuncia.
00:25A ver, Fernando Santillanes, editor de Milenio Tecnología, experto en estos temas.
00:31¿Qué onda, Fer? ¿Sí nos preocupamos?
00:34No lo sé, tal vez sí un poco. ¿Cómo estás, Jaime?
00:37Buenas noches.
00:37El tema de ser alarmista, porque creo que soy muy alarmista él, pero hay una base importante, no solamente de
00:43verdad, sino de preocupación.
00:45No es la primera vez que un miembro de una organización o de una compañía que desarrolla inteligencia artificial,
00:50o de organizaciones que desarrollan inteligencia artificial, dan una alerta sobre la velocidad a la cual se está desarrollando la
00:57inteligencia artificial.
00:58Como bien decías, Jacob Coxon trabajó primero en OpenAI, los que desarrollan CharGPT, después en Antropic, los que han desarrollado
01:05Cloud,
01:05y otros modelos muy avanzados.
01:07Tiene 27 años, para que te des una idea de edad.
01:09Lo me encanta muchísimo.
01:10Y la capacidad que tienen ya todos estos ingenieros.
01:13Y renunció, puso este post en X, que en menos de 24 horas ya tenía más de 60 millones de
01:19visualizaciones, de reposte, de todo, ahí estamos viendo.
01:22¿Y qué es lo que decía?
01:24Pues que renunció a Antropic, ¿por qué?
01:26Da una explicación muy larga, estamos viendo un pedacito, pero básicamente dice,
01:29en estas dos compañías, las más importantes o las más importantes de desarrollo de inteligencia artificial,
01:33los que están ahí, los encargados, los directores,
01:36saben que la inteligencia artificial en cualquier momento puede rebasarnos a los humanos.
01:40Saben que hay un peligro de que puedan actuar de manera autónoma,
01:44no que tomen conciencia, esto es muy importante, Jaime.
01:46Sí, no van a ser robots en la calle ahí, disparándonos.
01:48No estamos hablando de Terminator, no estamos hablando de Skynet,
01:52pero sí que puedan tomar decisiones cada vez más autónomas,
01:55y que eso ya no lo pueda controlar el ser humano.
01:58Fue muy alarmista en el decir también, junto con otros investigadores,
02:01que calculaban que podrían acabar con la humanidad en lo que en los restos de décadas.
02:06Sí, en el 2030.
02:08¿Qué significa esto y por qué no hay que alarmarnos?
02:11Significa que hay, de verdad, una preocupación real, honesta, sincera,
02:15de los que están haciendo esta inteligencia artificial,
02:18porque nos puede rebasar.
02:19¿En qué nos puede rebasar?
02:20En que un programa, una de estas inteligencias artificiales,
02:24alguien malintencionado le pueda decir,
02:26quiero que hagas un ataque en contra de una infraestructura,
02:28de un país, de un gobierno.
02:30Antes le tenías que decir cómo, le tenías que decir qué,
02:32le tenías que decir de qué manera.
02:33Ahora, tan solo con decirle algo casi así de simple,
02:37digo casi porque es más complejo,
02:38podría hacerlo de manera autónoma y decidir,
02:40ah, voy a apagar la luz de los hospitales,
02:42y voy a apagar la luz de las cuestiones más básicas,
02:46que a lo mejor, hasta cierto punto, un humano diría,
02:48no, no voy a atacar a civiles, voy a atacar solo instalaciones militares.
02:51Una inteligencia artificial tal vez podría decidir atacar civiles, militares, de todo.
02:55O sea, pero cosas tan sensibles como dejarte sin agua,
02:58o dejarte sin luz en una ciudad.
02:59Exactamente, pero ¿cuál es la preocupación que una inteligencia oficial le dice?
03:02Quiero este objetivo,
03:03y no se va a poner a pensar en cuestiones morales para lograr ese objetivo.
03:07Ahí es donde está el peligro.
03:08Ahora, se diría, y es lo que se ha cuestionado,
03:10bueno, y si ya saben que están siendo peligrosos estos modelos de inteligencia,
03:13¿por qué no los paran?
03:14Pues claro.
03:15Porque lo que dice Antropia, lo que dice Google, lo que dice Microsoft es,
03:18si nosotros paramos, va a haber países o instituciones,
03:22o tal vez organizaciones, hasta terroristas, malintencionadas,
03:25que no van a parar.
03:26O gobiernos.
03:26O gobiernos.
03:27Y cuando ellos no paren y avancen, ¿quién va a defender a los otros?
03:32Por eso, es como el huevo y la gallina.
03:34Yo paro, pero si los otros no paran, ¿qué hago?
03:37Entonces no paro, pero sigo avanzando.
03:38Y entonces mis modelos pueden ser peligrosos,
03:39pero los de los demás pueden ser más peligrosos.
03:41Y esa es la preocupación.
03:42¿Cuál es el punto final?
03:44Que sí, la inteligencia oficial puede rebasarnos muy rápido,
03:46si no la controlamos.
03:47¿Qué tiene que haber?
03:48Regulación de países, regulación de las mismas empresas,
03:52regulación internacional,
03:53de en qué se puede desarrollar y en qué no.
03:55Y como ya lo han hecho, porque lo anunciaron hace un par de semanas,
03:57una coalición de estas organizaciones
03:59que estén constantemente creando defensas cibernéticas y digitales
04:03en contra prácticamente de ellos mismos.
04:06Pues entonces no echarlo en saco roto.
04:08No, no hay que echarlo en saco roto, no hay que alarmarse,
04:10no nos vamos a morir, yo creo que no,
04:11pero sí es importante hablar que se tiene que regular la inteligencia artificial.
04:15Fer, qué gusto.
04:16Muchas gracias.
04:16Gracias.
04:17Oye, y luego hablamos del iPhone.
04:18Luego hablamos del iPhone, del iPhone 2, de todo lo que presentó,
04:20porque todo el mundo habló hoy del iPhone.
04:21Todo el mundo habló del iPhone TV en varios espacios.
04:24Gracias, mi Fer.
04:24Nos vemos pronto.
04:25Vamos a la pausa.
04:26Regresamos.
04:26Regresamos.
