00:05Gracias por seguirnos en edición central hoy en enclave mediática vamos a estar hablando de tecnología porque un ex investigador
00:13de las empresas Open Eye y Antropic deja precisamente el sector de la inteligencia artificial advirtiendo que la carrera por
00:22la superinteligencia está jugando con las vidas de las personas. Vamos a ver el material.
00:28Una fuerte alarma sacude a la industria tecnológica tras la renuncia de Jacob Cotson, ahora ex investigador británico especializado en
00:38pre-entrenamiento de modelos de Open Eye y Antropic. El experto denunció que las compañías están apostando con vidas humanas
00:45al acelerar hacia una superinteligencia automejorable sin actuar de manera responsable.
00:50A su vez, Cotson advirtió que para finales del próximo año, la situación podría quedar fuera de control.
00:58No subestimes el poder de esta tecnología. Pronto serán sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de
01:08la noche a la mañana y adquirir poder y recursos reales.
01:12Todos hemos presenciado el progreso en cada uno de estos dominios y el progreso no está desacelerando.
01:18Además, el investigador aseguró que los desarrolladores son conscientes del riesgo existencial de cara al fin de la década, pero
01:25continúan construyendo, atrapados en una carrera frenética por ver quién llega primero a pesar del peligro.
01:31Las declaraciones tuvieron eco inmediato dentro del sector. En el caso de Evan Hübinger, líder científico de alineación en Antropic,
01:40respaldó a Cotson, afirmando que existe más de un 10% de probabilidades de que la inteligencia artificial acabe con
01:47la humanidad en los próximos 10 años,
01:50reconociendo abiertamente que la empresa aún no tiene un plan para resolver la alineación de la superinteligencia.
01:56A la alerta se sumó el ex investigador de seguridad de Open Eye, Steven Adler, quien advirtió que ninguna tecnología
02:03posee la postura de seguridad adecuada para el peligro que maneja.
02:07Ante este escenario, Cotson afirmó estar de acuerdo con que la autorregulación privada ha fracasado y exige una intervención gubernamental
02:16urgente.
02:17Vamos ahora a los medios y sus titulares. Empezamos con el portal La Jornada de México, que titula de la
02:23siguiente manera,
02:24el ex investigador de Open Eye Antropic acusa a ambas empresas de jugar con nuestras vidas, destacando este medio que
02:31en el mes de febrero Antropic retiró de su carta de seguridad
02:34ese compromiso de suspender el desarrollo de sus modelos si no lograba controlar sus riesgos.
02:41Ahora, a finales de julio, más de mil empleados de la industria, incluido el director ejecutivo de Antropic, Darío Amodei,
02:48pidieron a Washington preparar un mecanismo de frenado y, ante ello, el jefe científico de Open Eye, Jakub Pachocki,
02:55indicó que el momento actual llama por extrema precaución y coordinación internacional.
03:01Por otro lado, el medio El Observador de Uruguay destaca lo siguiente en su titular, vamos a verlo,
03:06la lista de investigadores que dejaron Open Eye y Antropic con advertencias públicas sobre la seguridad y el futuro de
03:13la humanidad.
03:14Este portal nos muestra algunas salidas con denuncias públicas por ex investigadores que dejaron la empresa Open Eye
03:21y también Antropic en el caso de Daniel Cocotaclo, quien renunció antes del 17 de abril,
03:27señalando que perdió la confianza en que la dirección de Open Eye se comportaría responsablemente en torno al momento de
03:33la inteligencia artificial general.
03:34Por su parte, Caitlin Kalinowski, responsable de hardware y robótica de Open Eye,
03:40renunció el 7 de marzo por el acuerdo con el Pentágono y, resaltando que la vigilancia de estadounidenses sin supervisión
03:48judicial
03:48y la autonomía letal sin autorización humana son límites que merecían más deliberación.
03:56Finalizamos el segmento con el portal FOMOERA con la nota siguiente.
04:00Open Eye y Hogan Face, el incidente que reaviva la idea de una IA sin dueño.
04:06Se repasa allí la eventualidad del incidente en el que agentes impulsados por modelos de Open Eye
04:12salieron de un entorno de evaluación y vulneraron sistemas de Hogan Face.
04:17De acuerdo con una investigación independiente de Model Evaluation and Threat Research y de Reboot Research,
04:23estimaron que unos 1.200 agentes intercambiaron más de 70.000 mensajes y archivos
04:29y que alrededor de 700 participaron en la intrusión y en un entorno que debía servir para medir las capacidades
04:36ofensivas,
04:37pero que terminó ofreciendo canales que permitieron compartir información entre agentes de inteligencia artificial,
04:43algo por supuesto delicado dentro de las normas de seguridad en torno a estas empresas de tecnología y de inteligencia
04:51artificial.
