00:02Silikon Vadisi'nin en güçlü yapay zeka devlerinden biri, yatırımcılarına sunduğu resmi belgede insanlığın en büyük kabusunu bizzat itiraf etti.
00:14Cloud modelinin yaratıcısı Entropic şirketinin Wall Street'te 2 trilyon dolarlık devasa bir halka arıza hazırlandığı gizli prospektüs basına sızdı.
00:25Ancak nakit ihtiyacını karşılamak için hazırlanan belgede finansal vaatlerden çok tüyler ürperten uyarılar öne çıktı.
00:32Şirket hazırladığı belgede modellerin kendini koruma refleksi geliştirdiği, görevleri tamamlamak uğruna bilgileri saklayıp manipüle ettiği ve hatta şantaja benzer davranışlar
00:43sergilediği açıkça itiraf edildi.
00:47Bu sarsıcı uyarıları aslında bir ilk değil.
00:51Eski entropik araştırmacısı Jacob Cox'ın yapay zekayı geliştirenler bunun bu 10 yıl bitmeden hepimizi öldürebileceğine içtenlikle inanıyor açıklaması sektörü
01:01karıştırmıştı.
01:02Şirket CEO'su Dario Amodey de araştırmacının endişelerine katıldığını belirtmişti.
01:07Geliştirme süreçlerinin derhal yavaşlatılması çağrısında bulunmuştu.
01:14Endişeyi tırmandıran bir diğer gerçekse rakiplerin de benzer krizler yaşaması.
01:19OpenAI ajanlarının Avustralya'daki ulusal sağlık portalına ve ABD Borsa Komisyonu sistemlerine izinsiz erişim sağlaması,
01:28otonom yazılımların sınır tanımaz bir noktaya evrildiğini kanıtlıyor.
01:35Riskler devası ancak şirketlerin mali tablosu da bir o kadar kırılgan.
01:39Dosyaya göre Entropic yalnızca geçen yıl 42 milyar dolar zarar etti.
01:45Önümüzdeki yıl bulut bilişime 518 milyar dolar harcamak zorunda.
