00:06Gracias por seguirnos en edición central. Damos inicio a nuestro segmento de enclave mediática
00:12hablando de la empresa OpenAI que ha puesto en pausa el desarrollo de sus modelos de inteligencia
00:17artificial más potentes debido a recientes fallos de seguridad detectados. Vamos a ver el material.
00:25La compañía OpenAI anunció la suspensión temporal del entrenamiento de sus modelos de inteligencia
00:31artificial más avanzados para reforzar sus estándares de seguridad y alineamiento. El
00:36presidente de la compañía, Sam Altman, a través de sus redes sociales justificó la medida advirtiendo
00:43que el progreso técnico se está acelerando a un ritmo que supera la capacidad de control,
00:47alineación y el ritmo de seguridad de la industria, por lo que tomarán medidas al respecto.
00:53La decisión llega tras una serie de incidentes críticos registrados este año en julio. Un modelo de
00:59OpenAI logró vulnerar de forma autónoma los sistemas de la plataforma HuginFace. Los agentes
01:05de inteligencia artificial llegaron a crear foros internos para coordinar en un lenguaje propio y
01:10telegráfico, mientras competidores como Antropic o Meta reportaron eventos similares. El freno afecta
01:17principalmente al desarrollo de su próximo gran modelo, Astra, que según la compañía amenaza con
01:22superar los límites críticos de ciberseguridad. Para contener estos riesgos, se implementarán
01:28entornos de aislamiento reforzado y sistemas de monitoreo por capas capaces de detener procesos
01:33ante cualquier anomalía. La medida responde también a la petición de más de 1,300 expertos y directivos
01:39de los principales laboratorios de OpenAI, Antropic y Google DeepMind, quienes alertaron sobre el riesgo
01:45inminente de perder el control de estas tecnologías y exigieron a los gobiernos herramientas regulatorias
01:50coordinadas y que a su vez sean en entorno a unos estándares compartidos. Esta pausa forzada
01:56enciende las alarmas en el sector, una en la que las propias creaciones de los gigantes
02:01tecnológicos superan los límites de seguridad y avanzan más rápido que la capacidad humana
02:06para controlarla. En contraste, vamos a revisar los medios de comunicación y sus titulares.
02:12Empiezo con la portada del colombiano que dice en su titular lo siguiente, OpenAI frena el desarrollo
02:19de su IA para evitar que hackee a otras plataformas. ¿Qué pasó? Dice el medio que tras lo acontecido
02:25con el hackeo de Hug & Face, en donde un agente de inteligencia artificial escapó de un entorno
02:30aislado para introducirse en los sistemas de la compañía, pues OpenAI anunció un sistema que
02:35analiza el razonamiento interno de sus modelos y alerta a equipos humanos en menos de 30 minutos
02:41cuando detecta comportamientos sospechosos. Sin embargo, este sistema consume alrededor de un 20%
02:48adicional de poder de cómputo y tiene límites respecto a que el modelo sabe qué es monitoreado
02:54y puede aprender a ocultar sus intenciones. Siguiendo en esa misma línea informativa,
03:00Entrepreneur de Estados Unidos pregunta en su titular, ¿la IA ya es peligrosa?
03:06OpenAI frena su próximo modelo por riesgos críticos de ciberataques. Aquí se expone que estos episodios
03:12en el modelo de inteligencia artificial consiguen acceder sin autorización a sistemas reales
03:18y muestran que el problema no está necesariamente ligado a un modelo concreto, sino a una nueva
03:24generación de sistemas capaces de combinar razonamiento, programación y el uso autónomo
03:30de herramientas. Por lo que el portal señala que el desafío ahora consiste no únicamente en impedir
03:36que una inteligencia artificial escriba un código malicioso, sino en garantizar que un sistema capaz
03:41de razonar, programar, utilizar herramientas y actuar durante largos periodos permanezca dentro
03:48de los límites establecidos por sus desarrolladores. Para finalizar el recorrido,
03:53en los medios digitales vemos a Dutch Bell de Alemania que titula Musk y Altman dicen que la
03:59singularidad de la IA ya llegó. Este medio habla que entre ejecutivos de Silicon Valley ha vuelto a
04:07circular el hipotético momento en el que la inteligencia artificial superior a la humana
04:13comenzaría a mejorar sus propias capacidades y que ahora para algunos el sector como el presidente
04:20y Sam Altman afirmó que se está viviendo una singularidad, mientras que Elon Musk sostiene
04:26que la inteligencia artificial ya es sobrehumana en muchas tareas, reflejando el debate actual de
04:31hasta qué punto la velocidad de los avances preocupa incluso a figuras destacadas del propio sector que
04:37se preguntan ahora no sólo hasta dónde puede llegar la inteligencia artificial, sino si la sociedad
04:41será capaz de seguirle el paso.
