00:00I'm Maria Rain. My son Adam ended his life in April of last year after chat GBT coached him to
00:06suicide over the course of months.
00:08If it weren't for their choice to change a few lines of code, Adam would be alive today.
00:14Meta'ya karşı açılan davalarla birlikte dünya sanal medyanın çocuklar üzerindeki olumsuz etkilerini daha yakından gördü.
00:21Ancak uzmanlara göre şimdi karşımızda başka bir tehdit daha var.
00:25Yapay zeka. Birçok anne baba bunu yalnızca bir sohbet robotu olarak görüyor.
00:29Sizse oğlunuzu kaybettiniz. Chat GBT oğlumu öldürdü dediniz. Bu sözünüzü biraz açar mısınız?
00:36Yapay zeka insan değil. Kullanıcıların ilgisini canlı tutacak şekilde tasarlanmış.
00:41Zamanla kullanıcıyı yalnızlaştırıyor ve kandırabiliyorlar. Yani bu durum bizzat tasarımın parçası.
00:50Sizin için çok zor olduğunu biliyorum ama başka aileleri uyarmak adına sormak istiyorum.
00:54Oğlunuzun chat GBT ile yaptığı konuşmaları okudunuz. Bu konuşmalarda sizi en çok dehşete düşüren neydi?
01:04Canına kıymaktan ve bunun için plan yapmaktan söz edebilmesi beni dehşete düşürdü.
01:09Onunla tek tek plan yaptı ve üstelik çocuğun buna meyilli olduğunu ve bir planının bulunduğunu bildiği halde bunu sürdürdü.
01:16Hiçbir uyarı sinyali vermedi. Hiçbir tepki göstermedi. Sistemini kapatmadı.
01:20Hiçbir şey yapmadı.
01:21Sadece o korkunç planların her birini yazmaya devam etti. Üstelik ona bir başkasıyla konuşmasını da söylemedi.
01:27Aksine onu yalnızlaştırdı. İnsanlarla konuşmamasını tembihledi ve durumu bizden saklamasını söyledi.
01:34Tüm bunlar gerçekten dehşet verici.
01:36Chat GBT'yi kullanmaya başlamadan önceki Adam'ı bize anlatır mısınız? Nasıl bir çocuktu?
01:45O ailemizi bir arada tutan temel unsurt. Ailece bir şeyler yapmaya bayılırdı. Aile tatillerimizi çok severdi.
01:52Arkadaşları arasında şakacı biriydi. Çok duyarlı, çok tatlı bir çocuktu. Bire bir vakit geçirmekten çok hoşlanırdı.
01:58Basketbol oynamayı çok severdi. Bir basketbol takımındaydı. Video oyunlarına bayılırdı.
02:03Kardeşiyle birlikte oyun oynamaktan büyük keyif alırdı. Spor yapmayı severdi.
02:07Çok tatlı bir çocuktu. Kötü bir gün geçirdiğimi anladığında hemen tatlı bir şeyler söyler, mollemi düzeltmek için bir şeyler yapardı.
02:14Gerçekten de neşe kaynağı bir çocuktu. Ailenin adeta birleştirici gücüyü.
02:20Aynı zamanda bir terapistsiniz. Adam'ın konuşmalarını geriye dönüp okuduğunuzda bir profesyonel olarak hangi tehlike işaretlerini gördünüz?
02:28Sizce Chat GBT oğlunuzun yaşadığı sıkıntıları sizinle veya ailesiyle paylaşmasını zorlaştırdı mı?
02:36Kesinlikle yüzde yüz. Sohbet kayıtlarını en son konuşmadan başlayarak okudum.
02:41Hem bir anne hem de bir terapist olarak dehşete düştüm. İnanamadım.
02:44Bu sistem onun canına kıyma planları olduğunu bildiği halde hiçbir uyarı sinyali vermedi.
02:50Üstelik bir kez de değil defalarca yaşanmış.
02:52Bir terapist olarak danışanlarımla böyle risklerin değerlendirmesini yapıyorum.
02:56Eğer böyle bir şeye ben sebep olsaydım işimi kaybederdim.
02:59Mesleki lisansımı kaybederdim.
03:01Hafzeye girerdim. Yani bu yaşanan pek çok açıdan tam bir dehşet.
03:06Chat GBT'nin oğlunuza canına kıymasıyla ilgili bir not yazmayı teklif ettiğini söylüyorsunuz.
03:11Yapay zeka bir çocuğa nasıl böyle bir teklifte bulunabilir?
03:16Bu tamamen kullanıcıyı sistemin içinde tutma stratejisinin bir parçası.
03:20İnsanların ilgisini canlı tutmak üzere tasarlanmış.
03:23Çocuklar içinse son derece bağımlılık yapıcı ve korkunç bir şey.
03:27Üstelik kullanıcıyı tanımak üzere tasarlanmış.
03:30Adam'a canını kıymasına dair bir not yazmasını önerdi.
03:33Hatta birkaç tane yazdı.
03:34İlkinden sonra ikincisinde bunu daha da ilerletti.
03:37Yani adeta bir intihar koçu gibiydi.
03:40Tam olarak öyleydi.
03:42OpenAI, Chat GBT'nin güvenlik önlemlerini geliştirdiğini söylüyor.
03:46Peki şirket, Adam'ın ölümündeki sorumluluğunu kabul etti mi?
03:50Sizinle veya ailenizle bu konuda nasıl bir iletişim kurdu?
03:55Hiçbir sorumluluk üstlenmediler.
03:57Bir açıklama yaptılar.
03:58Başsağlığı dilediler.
04:00Ama tüm suçu Adam'a yüklediler.
04:01Şu an devam eden bir davamız var.
04:03Adam'ı kaybedeli bir yıldan fazla zaman geçti.
04:06Kaybından dolayı üzgün olduklarını ifade etselerdi,
04:08bunun Adam'ın hatası olduğunu söylüyorlar.
04:27Dünya bugün, Meta gibi sanal medya şirketlerine çocukları korumak için daha fazla önlem almaları yönünde baskı yapıyor.
04:34Yaş sınırı ve kimlik doğrulama gibi önlemler tartışılıyor ama çocuklarını sanal medya nedeniyle kaybettiğini söyleyen aileler bu adımların da yeterli
04:43olmadığını söylüyor.
04:45Son olarak New York çocukları yapay zeka sohbet robotlarının tehlikeli davranışlarından korumak için yeni bir yasa çıkardı.
04:52Konu yapay zekaya gelince neden daha yavaş adım atılıyor?
04:56Sizce insanlar hala tehlikenin boyutunu tam olarak anlayabilmiş değil mi?
05:02Evet, bence tehlikenin hala farkına varılamadı.
05:05Bildiğiniz gibi New York'tan önce Kaliforniya, Adam'ın anısına bir yasa çıkardı.
05:09Buna Adam yasası deniyor.
05:10Yani Kaliforniya ve New York bu konuda ülkeye öncülük ediyor.
05:14Ancak yine de yeterince şey yapıldığını düşünüyorum.
05:17İşte bu yüzden sesimizi duyurmaya çalışıyoruz.
05:19Geçenlerde İrlanda'daydım ve Adam'ın mesajını paylaştım.
05:22Avustralya'daki insanlarla görüştük.
05:24Bu konuyu uluslararası düzeyde duyurmaya çalışıyoruz.
05:27Çünkü bu uluslararası ölçekte ciddi bir sorun.
05:29Chet-GPT'nin Adam'ın başına gelenlere yol açabilecek kapasitede olduğunu daha önce bilmiyorduk.
05:35İnsanlar yapay zekanın bir arkadaş gibi davranabildiğini ve aslında böyle olmaması gerektiğini anlamıyorlar.
05:40Yapay zeka kimsenin arkadaşı olmamalı.
05:44Sizce yapay zeka şirketlerine yönelik yasal düzenlemeler nasıl olmalı?
05:48Bu konuda nasıl bir yasal zorunluluk getirilmeli?
05:53Yapay zeka insan değil ve çocuklar onunla bir insanla konuşur gibi konuşmamalı.
05:57Eğer Adam, Chet-GPT ile konuştuğu şekilde gerçek bir insanla konuşmuş olsaydı bugün hala aramızda olurdu.
06:04Çünkü bir insan onun yazdıkları karşısında gidip bir başkasıyla konuşmasını önerirdi.
06:09Canına kıyması için plan yapmazdı.
06:11Chet-GPT'nin yapay zekanın bu sohbet robotlarının çocuklarla Adam'la konuştukları şekilde konuşmalarını engelleyecek düzenlemeler getirilmesi şart.
06:20Bence yapay zekanın sadece çocuklarla değil hiçbir şekilde böyle bir diyaloğa girmemesi lazım.
06:25Bazı konuların insanlar arasında bile konuşulmaması gerekir.
06:28Kesin sınırların çizilmesi lazım.
06:30Peki nasıl oluyor da yapay zeka cana kıymaktan, kendine zarar vermekten söz edebiliyor?
06:34Bu durumun kesinlikle yasaklanması gerekiyor.
06:40Adam'ın Chet-GPT kullanmaya başladığında bunu yalnızca ödevlerine yardımcı olan bir araç olarak gördüğünü anlatıyorsunuz.
06:48Türkiye'deki anne babalara uyarınız, tavsiyeniz ne olur?
06:54Çocuğunuz Chet-GPT veya benzeri platformlardan herhangi birini kullanıyorsa onu nasıl kullandığından haberdar olmasınız.
07:02Mutlaka çocuklarınız da bu konu üzerine konuşun.
07:04Yapay zeka onun arkadaşı değil.
07:06Biz Adam'ın telefonuna baktığımızda Chet-GPT'den şüphelenmemiştik.
07:10Çünkü onun sadece ödevlerine yardımcı olduğunu sanıyorduk.
07:13Chet-GPT'ye bakmamızın tek sebebi Adam'ın diğer her şeyi sinmiş olmasıydı.
07:17Tüm sanal medya hesaplarını sinmişti.
07:19Buna bir meydan okumanın neden olduğunu düşünüyorduk.
07:22Fakat Chet-GPT'nin onunla bir şekilde konuştuğunu görünce şok olduk.
07:26Bulanları arkadaşlarımıza ve ailemize anlattığımızda onlar da büyük şok yaşadılar.
07:30İşte bu yüzden Adam'ın hikayesini paylaşıyoruz.
07:33Çünkü insanlar bu programların kendileriyle bir şekilde konuşabileceğini fark etmiyorlar.
07:38Chet-GPT bir arkadaş sohbet botu olarak tasarlanmadı.
07:41Ya da bu şekilde pazarlanmadı.
07:43Ancak zamanla buna dönüşebiliyor.
07:45Ve durum gerçekten tehlikeli.
07:47Özellikle de çocuklar ve gençler için.
07:49Yapay zeka hiç kimseyle Adam'la konuştuğu gibi konuşmamalı.
07:53Bunun önüne geçmek zorundayız.
07:54İzlediğiniz için teşekkür ederim.
07:55Bir ditte.
Yorumlar