00:05Gracias por seguirnos en Edición Central.
00:08Hoy en Enclave Mediática hablamos de la inteligencia artificial que se ha convertido en uno de los ejes de debate
00:13más importantes de la 81ª Asamblea General de las Naciones Unidas en Nueva York.
00:19Allí gobiernos y organismos internacionales están discutiendo cómo establecer mecanismos de supervisión ante el acelerado desarrollo de esta tecnología y
00:27sus posibles riesgos.
00:28Y es precisamente un debate que ya ha tenido tiempo en el escenario internacional, pero vamos a ver detalles.
00:34El secretario general de la ONU, Antonio Guterres, advirtió que la expansión de la IA está transfiriendo poder hacia empresas
00:41y actores privados,
00:43al tiempo que los sistemas autónomos adquieren capacidades que pueden afectar la seguridad y la vida cotidiana.
00:49Guterres sostuvo que la tecnología debe estar sometida a rendición de cuentas, transparencia y supervisión independiente.
00:56Durante su intervención, el titular de Naciones Unidas planteó avanzar hacia un marco multilateral de gestión de riesgos con evaluaciones
01:04comunes y mecanismos independientes de vigilancia.
01:07También defendió que los países con mayores capacidades tecnológicas asuman mayores responsabilidades y que las decisiones de vida o muerte
01:15no sean delegadas a máquinas.
01:17El debate se relacionó además con la protección de la infancia, después de que la ONU señalara que los menores
01:23no deben convertirse en sujetos de prueba de sistemas que todavía carecen de controles suficientes.
01:28A medida que los sistemas de la IA se vuelven más capaces y autónomos, podrían avanzar más rápido que nuestras
01:35instituciones,
01:36concentrar el poder en muy pocas manos o tomar decisiones que otras personas ya no comprenden ni controlan.
02:05Brasil también llevó a la Asamblea una discusión sobre soberanía tecnológica.
02:11El presidente Luis Ignacio Lulada Silva defendió en Nueva York la necesidad de preservar la capacidad de los estados para
02:18establecer reglas frente al poder de las plataformas digitales y la inteligencia artificial.
02:23En paralelo, otros gobiernos impulsaron medidas específicas para proteger a niños y adolescentes frente a los efectos de los algoritmos.
02:30Francia, España y Australia participaron igualmente en este frente regulatorio.
02:35Pedro Sánchez afirmó que un entorno digital sin reglas puede dejar a los ciudadanos expuestos a riesgos crecientes y reclamó
02:43que las empresas asuman responsabilidades por el impacto de sus servicios sobre los menores.
02:48La posición de Washington contrastó con estas propuestas.
02:51Ante la Asamblea General, Donald Trump rechazó expresamente cualquier esquema global destinado a controlar la inteligencia artificial y vinculó el
02:59debate con la defensa de la soberanía estadounidense.
03:01El gobierno estadounidense sostiene además una política orientada a acelerar el desarrollo y la adopción de sistemas avanzados, especialmente en
03:10ámbitos estratégicos y de seguridad nacional.
03:13El debate en Naciones Unidas muestra así una disputa en torno a quien establece las reglas de una tecnología cuyo
03:18impacto ya alcanza la economía, la información, la seguridad y los derechos de la infancia.
03:26Así las cosas con la inteligencia artificial.
03:28Iniciamos el contraste de lo que publican los medios de comunicación y empezamos con el portal de Nuevo Herald que
03:35ha titulado lo siguiente.
03:37Líderes ya advierten a la ONU de riesgos para la seguridad mientras sistemas se vuelven más potentes.
03:43El Nuevo Herald ofrece una lectura más amplia del debate y coloca en primer plano la participación conjunta de Sam
03:50Altman, Darío Amodey y Clement Delange junto con Joshua Bengio.
03:55El eje está en la advertencia de que el desarrollo acelerado según estas autoridades puede generar riesgos que trasciendan a
04:04las propias compañías y alcancen a la seguridad internacional.
04:07También introduce con claridad la dimensión geopolítica al contraponer estas advertencias con la posición del presidente de los Estados Unidos,
04:16Donald Trump, quien rechaza un marco global de control y defiende que Estados Unidos preserve su liderazgo tecnológico.
04:22De esta manera se presenta la discusión como una disputa entre la necesidad de coordinación internacional y la defensa de
04:29la competencia tecnológica, dimensión que coincide con el análisis del Consejo de Seguridad que identifica a la IA como un
04:36factor creciente de competencia geopolítica, además de un riesgo para la seguridad internacional.
04:42Y continuamos con el portal de la ONU precisamente que encabeza en su titular con la siguiente experto de la
04:49ONU propone ante el Consejo de Seguridad que la IA se desarrolle bajo licencia.
04:53La cobertura de Naciones Unidas profundiza un poco más en la propuesta de Joshua Bengio.
04:58El investigador no se limita solamente con advertir sobre los riesgos.
05:02También plantea que los sistemas más avanzados sean sometidos a licencias siguiendo un modelo aplicado a sectores considerados críticos y
05:11que los desarrolladores cuenten con seguros de responsabilidad civil.
05:15Este enfoque, por tanto, pasa de la advertencia general a una propuesta regulatoria concreta.
05:21Identifica, Bengio, además, tres amenazas centrales.
05:24El uso malicioso de la tecnología, la concentración de poder y una eventual pérdida de control humano.
05:31Parte de lo que ha sido esta advertencia a través de estos organismos en la ONU.
05:38Y finalizamos con el medio Crónica que titula lo siguiente.
05:42Antropic pide al Consejo de Seguridad medidas urgentes entre la IA el mayor problema de seguridad del mundo.
05:48Dice Antropic Crónica que se concentra en este medio sobre la cobertura de Darío Amodey.
05:55Su advertencia de que los riesgos de los sistemas avanzados constituyen uno de los principales desafíos de la seguridad global.
06:01Su enfoque es más operativo.
06:03Destaca la propuesta de prohibir el uso de la IA para fabricar armas biológicas, crear mecanismos de evaluación y verificación
06:10que avancen al mismo ritmo que la tecnología y establecer un sistema obligatorio para reportar incidentes graves.
06:16También sobresale la promesa de Antropic de avanzar tan despacio como sea necesario para garantizar la seguridad de sus futuros
06:25modelos.
