00:01Yapay zekâda güvenlik sınırları aşılabilir mi?
00:05Bir güvenlik şirketinin testleri, Çinli yapay zekâ geliştiricisi MoonShot'ın iki modelinde açıklar bulunduğunu ortaya koydu.
00:15Araştırmacılar, modelleri biyolojik silah öğretimi ve suikast düzenleme gibi konularda yanıt vermeye ikna ettiklerini açıkladı.
00:22MoonShot, bulguların ardından şirket içinde inceleme başlattı.
00:28Yapay zekâ sistemlerinin güvenliğini test eden Mintgard, açığı Temmuz ayında tespit ettiğini belirtti.
00:34İngiltere merkezli BBC'ye konuşan şirket, bazı modellerde güvenlik önlemlerini aşabildiğini duyurdu.
00:41Normalde reddedilmesi gereken tehlikeli taleplere, karmaşık talimatlar kullanılarak yanıt alındığı bildirildi.
00:49Yapay zekâya verilen talimatlarla geliştiricilerin koyduğu güvenlik sınırlarının aşılması amaçlanıyor.
00:55Mintgard'ın kurucusuna göre bu sınırlar aşıldığında model, zararlı konularda da öneriler sunabiliyor.
01:02Ancak araştırmada önemli bir sınır var.
01:04Mintgard, modellerin verdiği yanıtların gerçekte işe yarayıp yaramadığını henüz kanıtlamadı.
01:11Şirketin itirazı, bu taleplere baştan yanıt verilmemesi gerektiği,
01:16güvenlik önlemlerinin tehlikeli içeriklerin üretilmesini engellemesi gerektiğini savunuyor.
01:24Araştırmacıların dikkat çektiği bir diğer risk ise siber saldırılar.
01:28Mintgard'a göre, güvenlik sınırları aşılan modelin kod çalıştırmasına ve internete bağlanmasına izin verilmesi,
01:35onu siber saldırılar için bir araca dönüştürebilir.
01:39Bu nedenle endişe, yalnızca yapay zekânın verdiği yanıtlarla sınırlı değil.
01:44Modele hangi yetkilerin tanındığı da önem taşıyor.
01:52İzlediğiniz için teşekkür ederim.
Yorumlar