00:00Lo que empezó a partir de esta declaración de un ex empleado importante de Anthropic y de OpenAI
00:06ya tomó un color más institucional este fin de semana, porque ya son los CEOs de las empresas
00:12que están desarrollando inteligencia artificial de frontera los que han planteado
00:17tenemos que tratar de encontrar la forma de desacelerar, esa fue la expresión, de regular y desacelerar.
00:25Fue Darío Amodei, justamente de Anthropic, que en definitiva era la empresa al que pertenecía,
00:30este empleado que había dicho, hay una amenaza de que la inteligencia artificial pueda extinguir la humanidad
00:35en los próximos 10 años, esto que había sido además convalidado por alguien que sigue trabajando
00:39justamente en el alineamiento de los modelos de inteligencia artificial.
00:43Y lo que dice Amodei, primero publica una carta, a esa carta se suman,
00:47Alman dice, sí, Darío tiene razón, hay que avanzar en esa dirección,
00:51y después aparece Elon Musk diciendo, sí, Darío tiene razón, no soy yo, es Amodei al que se están refiriendo.
00:56Y el planteo de Amodei es tres cosas, por un lado, desacelerar la forma en la cual se está estimulando
01:08que los nuevos modelos se sigan superando, digamos, llegando siempre al límite,
01:13sino que ir un poquito más de a poco para tratar de justamente poder controlar las distintas etapas del proceso
01:19y que no se salga del control humano.
01:21Lo segundo que plantea es un acuerdo internacional entre los países democráticos
01:25y lo tercero, un acuerdo que incluya a China.
01:27Y este me parece que es el tema central, digamos, que no hay posibilidad hoy de un acuerdo que incluya
01:34a China.
01:34No es creíble. Por eso Trump habló de este tema y dijo, me parece que son fuerzas que van en
01:41contra
01:41de los intereses de Estados Unidos y en todo caso de Occidente los que están planteando esto,
01:45porque efectivamente todas estas amenazas me parece que hay que tomarlas muy en serio.
01:49Ahora, al mismo tiempo, si se frena y China no frena, la amenaza es que esa potencia descontrolada
01:59termine haciendo que sea China que te coma.
02:02Entonces, en algún punto, decís, bueno, ante esa perspectiva, sigamos.
02:07Y evidentemente esto nos expone a varios riesgos.
02:10Amodey dio además el fin de semana una entrevista donde habló de uno de los riesgos potenciales.
02:18Uno de ellos es la posibilidad de que haya una inteligencia artificial tan poderosa
02:24que no pueda ser desconectada por el ser humano.
02:26Ay, Dios.
02:27Escuchémoslo.
02:28Lo que yo diría es que la idea de que necesitamos una manera de hacer, no es una panacea,
02:35no es la única cosa, pero la idea de que necesitamos una manera de hacer que podemos
02:42deactivar o limit o shut down AI models, no es la única cosa.
02:47Si un model de AI es poderoso, lo que puede circunverte intentos a shutarlo.
02:51Y hemos visto eso en simulaciones as well.
02:53Así que no puede funcionar a todo.
02:58Hemos visto eso en simulaciones, que ya hay modelos que demuestran que podrían no ser
03:04desconectados.
03:05Otra cosa que dijo es que ve un riesgo real de que entre 6 y 12 meses pueda haber enjambres
03:11de agentes de inteligencia artificial, que son básicamente las creaciones de la inteligencia
03:17artificial que actúan en el mundo real.
03:19En el mundo real me refiero básicamente a la web y con autonomía para hacer y deshacer
03:23cosas de que ese enjambre pueda tomar internet.
03:28Es que te acordás cuando habían creado una página que era una especie de Twitter.
03:33¡Gracias!
03:33¡Gracias!
Comentarios