00:03Directivos de empresas de inteligencia artificial subrayaron el miércoles en la ONU la mayor
00:07vigilancia que existe en la tecnología y el director ejecutivo de Antropic asumió
00:12el compromiso unilateral de desacelerar su desarrollo. Reduciremos el ritmo tanto como
00:18sea necesario para asegurarnos de que cada tecnología DIA sucesiva que lancemos sea
00:23realmente segura. Amodei, que se conectó en videollamada, aspira a mejorar su capacidad
00:29para evitar el uso indebido de la tecnología. El CEO de OpenAI, Sam Altman, se comprometió el
00:37miércoles a encontrar un término medio porque tampoco quiere caer en el catastrofismo.
00:45A medida que los sistemas de IA se vuelven más capaces y autónomos podrían avanzar más rápido
00:50que nuestras instituciones, concentrar el poder en muy pocas manos o tomar decisiones que las
00:54personas ya no comprenden ni controlan. Esta preocupación cobra especial relevancia a medida
00:59que nos acercamos a sistemas capaces de mejorarse a sí mismos y a sus versiones futuras, un fenómeno
01:04a menudo denominado automejora recursiva. A medida que el proceso de creación de IA se automatiza
01:09más, el ritmo de avance de la tecnología podría acelerarse rápidamente, lo que exige una cautela
01:15extrema. Como ya hizo en numerosas ocasiones, Altman pidió cooperación internacional y recordó
01:23que en la historia ha habido momentos en que países que competían entre sí consiguieron
01:28ponerse de acuerdo por el bien común ante una nueva tecnología y aseguró que eso tiene
01:34que volver a ocurrir. Las declaraciones de ambos ocurrieron en una reunión de urgencia
01:39de 15 miembros, donde informaron al Consejo de Seguridad de la ONU, después de semanas de titulares
01:44en todo el mundo sobre los riesgos de una IA incontrolable y los llamamientos a frenar su evolución.
01:50Y de hecho, el mismo miércoles más tarde, OpenAI informó que un modelo descontrolado
01:56pudo haber intentado hackear varios sitios web del gobierno australiano. Luego, el primer
02:01ministro de ese país, Antonio Albanés, afirmó que se infiltró en un sitio web de salud
02:07de su gobierno en junio y que accedió a archivos públicos y no públicos del Servicio
02:11de Estadísticas Sanitarias.
