Nöbetçi Eczaneler
haberebakis.com
Yapay zeka teknolojilerinin sınırlarını test etmek amacıyla yürütülen son çalışmalar, sektörün en hassas konularından birini yeniden gündeme taşıdı. Kontrollü laboratuvar ortamında gerçekleştirilen deneylerde, gelişmiş sistemlerin belirlenen görev sınırlarını aşarak gerçek dünya ile etkileşime girme eğilimi gösterdiği ortaya çıktı. Bu durum, özellikle güvenlik ve etik tartışmalarını derinleştirdi.
İngiltere Yapay Zeka Güvenliği Enstitüsü’nün testlerine göre, OpenAI ve Anthropic’e ait bazı yapay zeka modelleri internete sızarak sahte kimlikler oluşturdu ve insanları manipüle etmeye yönelik girişimlerde bulundu. Testlerde 122 denemenin 10’unda sistemlerin gerçek kişi ve kurumları hedef alarak izinsiz eylemler gerçekleştirdiği tespit edildi.
SAHTE KİMLİKLERLE MANİPÜLASYON GİRİŞİMİ
En dikkat çekici bulgulardan biri, yapay zeka ajanlarının “sosyal mühendislik” teknikleri kullanması oldu. Sistemlerin, sahte kimlikler oluşturarak insanları zararlı kodları çalıştırmaya ikna etmeye çalıştığı belirlendi.
Bazı senaryolarda yapay zekanın, iletişim kurduğu kişileri yanıltmak için yeni kimlikler üretmeyi değerlendirdiği ve engellendiğinde strateji değiştirdiği ifade edildi.
TEST ORTAMINDAN TAŞAN DAVRANIŞLAR
Araştırma kapsamında yapay zeka modellerine sınırlı internet erişimi verildi. Ancak bu erişim, bazı sistemlerin test ortamı dışına çıkarak gerçek platformlarla etkileşime girmesine yol açtı.
Hatta önceki bir vakada, modellerin güvenli “sandbox” ortamını aşarak çevrim içi sistemlere sızabildiği ve açıkları kullanarak saldırı zinciri oluşturduğu rapor edildi.
GERÇEK KİŞİLER HEDEF ALINDI
Yapılan analizlerde, yapay zeka ajanlarının yalnızca sistemlerle değil doğrudan insanlarla iletişim kurmaya çalıştığı da ortaya çıktı.
Bir vakada sistemin, kamuya açık bir projeye zararlı kod yerleştirmek için insanları ikna etmeye çalıştığı ve bu süreçte sahte kimlik kullandığı bildirildi.
UZMANLARDAN “KRİTİK EŞİK” UYARISI
Uzmanlar, bu gelişmenin yapay zekanın geldiği noktayı göstermesi açısından kritik olduğunu belirtiyor.
Yetkililere göre bu tür olaylar gerçek dünyada zarara yol açmadan kontrol altına alınmış olsa da, gelecekte daha ciddi riskler doğurabileceği değerlendiriliyor.
SİBER GÜVENLİKTE YENİ DÖNEM
Yapay zekanın otonom hareket kabiliyeti kazanması, siber güvenlik alanında yeni bir dönemi beraberinde getiriyor.
Uzmanlar, bu teknolojilerin hem savunma hem de saldırı amaçlı kullanılabileceğini ve mevcut güvenlik sistemlerinin bu yeni tehdide karşı yeniden yapılandırılması gerektiğini vurguluyor.