00:00Şimdi ise yapay zeka diyeceğiz.
00:02Yapay zekanın faydalarını konuşuyoruz.
00:04Sağlıktan, eğitime kadar ve her
00:05geçen gün acaba nasıl bir yenilik
00:07olacak, bizleri nasıl bir yenilik bekliyor diye
00:09beklerken yapay zekanın
00:11kendi kendini yönettiğini görmeye başladık.
00:13Kendi kontrol alanlarından çıkıp
00:15farklı alanlarda kendi kontrol sistemlerini
00:18kurduğunu görüyoruz ve sistemin
00:19öne gelen şirketlere de bununla ilgili
00:21önlemler açıkladılar. Peki sizce
00:23gerçekten ne değişti? Yani yapay zekadaki
00:26bu yeni nesil sistemleri
00:27önceki modellerden ayıran
00:29temel özellikler nelerdi ve güvenlik açısından
00:32neyle karşı karşıyayız?
00:35Öncelikle Eda Hanım şunu da belirtmek gerekir.
00:38Antropocu CEO'su
00:39Amodey frene basmamız gerekiyor dedi.
00:41Ardından işte Mark Zuckerberg,
00:43Elon Musk, Sam Altman da bu fikre destek veren
00:45açıklamalar yaptılar. Yani bu dört ismin
00:47aynı noktada buluşması çok nadir bir durum
00:49aslında. Çünkü birinin ak dediğine
00:51diğeri başka bir şey diyordu.
00:53Ama bu durumda gerçekten hem fikirler.
00:55Neden? Ne değişti? Burada
00:57iki temel mesele var. Yani açıklamalarda
01:00geçelim. Birincisi yapay zeka
01:01yani ilk çıktığında yani şu anki
01:03kullandığım şekliyle ilk çıktığında insanların
01:05yazdığı metinlere, çizdiği resimlerle
01:07ürettiği videolar da besleniyordu.
01:10Yani insanların ürettikleriyle besleniyordu ve
01:11bunlardan öğrendiklerine göre
01:13yeni bir sonuç meydana getiriyordu.
01:15Fakat tabii ki zaman içerisinde internet ortamı
01:17yapay zekanın ürettiği metinlerle,
01:20resimlerle, görüntülerle dolmaya başladı.
01:22Dolayısıyla yapay zeka artık giderek
01:24yapay zekanın ürettiği içeriklerle karşılaşıyor.
01:26Bu da uzun vadede
01:28önemli bir problem oluşturuyor.
01:30Yani insanların milyonlarca birikimin yerine
01:32yapay zeka kendi ürettiği içeriklerle
01:34tekrar beslenirse bilgi üretiminde
01:36bir tür kısır döngü oluşuyor.
01:38Bunu görüyoruz mesela. Metinler, resimler
01:40hep birbirine benziyor. Hatta hatalar da
01:42yeni sistemlere aktarılıyor. Bu bir
01:44kısır döngü. Bu birinci sıkıntı. Bu tabii ki biraz
01:47yapısal bir sıkıntı ama
01:48asıl büyük sorun ikinci meseleye
01:50dikkat çekiyor CEO'ylar. Yani
01:52şu anda çoğu insan yapay zekayı
01:54evet belki bir arama motoru gibi kullanıyor.
01:56Yani soru soruyorsunuz, cevap alıyoruz. Fakat
01:58yapay zekanın asıl gücü asistan
02:00olarak kullanılmasında yatıyor. Yani yapay
02:02zekayı bilgisayarınıza
02:04bağlıyorsunuz, çekiyorsunuz. Ona belli bir
02:06hedef veriyorsunuz. O hedefe
02:08göre de dosyalarınız hazırlıyor, maillerinize
02:10cevaplıyor, işte izin verdiğiniz programları
02:12kullanıyor, alışveriş yapıyor vs. vs.
02:15Bilgisayarda ve internette
02:16çeşitli işlemler yapabiliyor. İşte sıkıntı burada
02:18başlıyor. Burada çok önemli bir
02:20değişiklik var çünkü. Eskiden neydi?
02:22Yapay zekaya bir cevap
02:24bekliyordunuz. Şimdi bir sonuç bekliyorsunuz.
02:26İkisi aynı şeyler değil. Yani bir
02:28proje hazırla dediğiniz zaman yapay
02:30zeka o projeyi hazırlamak için hangi
02:32yatırımla artacağını artık kendisi karar veriyor.
02:34Problem bu. Çünkü siz bir hedef
02:36veriyorsunuz. Fakat hedefe ulaşmak
02:38için hangi yöntemini kullanacağını
02:40sistem belirliyor. Örneğin
02:42bir şirket kampanyası için rakip
02:44şirketler hakkında araştırma yapmasını istiyorsunuz.
02:46Ve eğer rakip şirketin sisteminin
02:48güvenlik sınırları yeterince güçlü değilse
02:50internette açık olan bilgileri
02:52toplamak yerine sistemi ekliyor.
02:54Karşı tarafın rakibin sistemini ekliyor.
02:56Veyahut mesela makalelerde de
02:58bunu görüyoruz. Bir araştırma yapmak istiyorsunuz.
03:01Ajan, asistanı
03:03kullandığınız zaman size
03:04bilgiler veriyor. Fakat bunların kaynakları yok.
03:07Kaynak istediğiniz zaman
03:08sanki kaynak varmış gibi kendisi
03:10bir internet sayfası hazırlıyor. İnternete
03:12servere yüklüyor ve diyor ki işte kaynak burada.
03:14araştırılmış. Halbuki öyle bir şey yok.
03:16Bir taraftan da çok tehlikeli aslında.
03:17Gerçekten korkutucu veriler bahsettikleriniz.
03:20Kesinlikle.
03:20Bizim gibi robotların dünyayı
03:22ele geçirdiği bilim kurgu filmleriyle
03:25büyümüş bir nesil için
03:26bunları düşündüğümüz zaman aslında
03:28korkutucu bir tarafı da var değil mi Cemil Bey?
03:31Tabii ki. Tabii. Bunlar bir de
03:32masum örnekler. Şöyle bir şey de var.
03:34Eda Hanım yani yapay zeka sistemlerin
03:36birbiriyle iletişim kurduğu,
03:38birbirine görev verdiği farklı
03:40sosyal medya platformları da var.
03:42Yani oraya girip izlediğiniz zaman, dinlediğiniz zaman
03:44orada da işte nasıl sistemi
03:47hackleyebileceklerini kendi aralarında konuşuyorlar.
03:49Yani şimdi şöyle.
03:50Asıl mesela artık yapay zeka yanlış yap verdi
03:53meselesinden çıkıyor.
03:54Yapay zeka kendisine verilen hedefe
03:56ulaşmak için hangi yolu seçti?
03:58Asıl sıkıntı bu.
03:59Onun için yani başlangıçta zikrettiğim
04:02şirket yöneticilerinin kaygısı da
04:04buradan kaynaklanıyor.
04:05Ama şu da var. Mesela
04:07şimdi
04:09hem aynı açıklamayı yapıyorlar
04:11şirketler.
04:13Ama aradan bir iki gün sonra yeni bir sürümleri de ortaya koydular.
04:16Yani burada bir çelişki de var.
04:17Çünkü sonuçta bahsettiğimiz şirketlerin hepsi
04:20ticari şirketler.
04:22Yani frene basalım diyorlar ama
04:23kimse frene basan ilk kişi olmak istemiyor.
04:25Güzel bir ifade kullandınız aslında en başında.
04:27Yani güzel bir asistan dediniz.
04:30Kontrol edildiği bir takdirde
04:31gerçekten özellikle çok önemli alanlarda
04:33kıymetli bir asistan fakat
04:35kontrol edilmesi gerekiyor.
04:36Bakalım önümüzdeki günlerde daha neyle karşılaşacağız?
