00:01El investigador de 27 años Jacob Coxon renunció a OpenAI y Antropic, tras tres años trabajando
00:07en pre-entrenamiento de modelos. El especialista acusó a los laboratorios de actuar irresponsablemente
00:12y jugar con nuestras vidas al acelerar hacia una superinteligencia capaz de extinguir a
00:16la humanidad antes de terminar la década.
00:18Evan Hubinger, responsable de seguridad de Antropic, respaldó públicamente la postura
00:23de Coxon al estimar en más de un 10% de probabilidad de que la IA provoque la muerte de
00:28los humanos
00:28en los próximos 10 años. La industria advierte sobre la cercanía de la automejora recursiva,
00:33donde un modelo diseña a sus sucesores sin control humano. Coxon afirmó que no se debe
00:38desarrollaría superior a la capacidad humana, sin intervención estatal o una desaceleración
00:42coordinada. Señaló que Antropic continúa compitiendo a pesar del peligro, recordando que en febrero
00:48la empresa eliminó de su carta de seguridad la promesa de pausar desarrollos de riesgo
00:52justo antes de preparar su salida a la bolsa. Frente al avance tecnológico, más de mil
00:57trabajadores de la industria, incluyendo el director ejecutivo de Antropic, Dario Amodei,
01:02solicitaron a Washington un mecanismo de frenado. Asimismo, el jefe científico de OpenAI, Jakub
01:07Pachocki, exigió mantener extrema precaución y establecer una coordinación internacional urgente.
Comentarios