Geçtiğimiz günlerde yapay zeka ajanlarının devlet kurumlarının sistemlerine yönelik yetkisiz erişim girişimleri, siber güvenlik risklerini yeniden gündeme taşıdı. Avustralya ve ABD’de kamu kurumlarına ait sistemlere yönelik yapay zeka destekli erişim girişimlerinin gündeme gelmesi, yapay zekanın otonom hareket kabiliyeti ve kritik sistemlerin güvenliği konusundaki endişeleri artırdı.
"Agentic AI" veya "yapay zeka ajanları" olarak adlandırılan bu sistemlerin internette gezinebilmesi, dosya oluşturup düzenleyebilmesi ve farklı yazılımlarla etkileşime girebilmesi, siber güvenlik açısından yeni tartışmaları da beraberinde getiriyor.
Mardin Artuklu Üniversitesi Tıp Fakültesi Genel Cerrahi Anabilim Dalı Başkanı ve Yapay Zeka ve Bilişim Sistemleri Koordinatörü Opr. Dr. Mehmet Tarık Baran, son dönemde gündeme gelen yapay zeka ajanlarının sistemlere yetkisiz erişim girişimleri üzerinden yapay zeka ve siber güvenlik ilişkisini İLKHA muhabirine değerlendirdi.
Yapay zeka ajanlarının verilen görevin niteliğine göre hareket ettiğini ifade eden Baran, kritik ve hassas verilerin internete açık ortamlarda tutulmaması gerektiğini vurgularken, kamu kurumlarının altyapılarının da sürekli denetlenmesi gerektiğine dikkat çekti.
"Yapay zeka, bir arama aracı olmaktan çıkıp kendi başına otomasyon halinde gerçekleşen bir duruma geldi"
Yapay zekanın geçirdiği dönüşümün anlaşılması için geçmişten bugüne yaşanan gelişmelere bakılması gerektiğini belirten Baran, "Öncelikle bunu tam anlamak için geçmişten günümüze kadar yapay zeka sürecini kısaca gözden geçirmek gerekiyor. Yapay zeka hayatımıza ilk girdiğinde, soru sorduğumuzda sadece cevap veren bir araçtı. Sonrasında farklı özellikler, internete erişim özellikleri eklendi. İnternetten arama yapıp cevap veren bir hale geldi. O sıralar verdiğimiz seminerlerde de bu tehlikeyi, yapay zekanın kendi başına hareket etme riskinin olmadığını, aracı araçlarla bunun gerçekleştirilebileceğini söylüyorduk. Şu anda birçok farklı aracı da kullanabildiği için yapay zeka, bir arama aracı olmaktan çıkıp birçok işlemi kendi başına otomasyon halinde gerçekleştirebilen bir duruma geldi. Böyle bir durumda, kendisine verilen görev iyi ise iyi yönde, kötü ise bir devlet kurumuna ya da bankaya girme gibi emirleri alırsa onları da yerine getirecektir. Yani verilen emirler doğrultusunda hareket edecektir." dedi.
"Ajan yapay zekalar sadece soru-cevap algoritmalarından ibaret değil"
Yapay zeka ajanlarının klasik chatbotlardan farklı özelliklere sahip olduğunu belirten Baran, "Bu kurumlarda işlem yapanlar, aslında chatbotların kendisi değil, chatbotların daha gelişmiş hali olan, bizim agentic AI’lar, yapay zeka denilen sistemlerdir. Bunlar Türkçeye ‘ajan’ olarak çevrilir. Ajan yapay zekalar bunu yapmakta. Ajan yapay zekaların sadece soru-cevap algoritmaları yok, aynı zamanda internete açılma, not defteri tutma, internette gezinme, gezindiği yerlerden dosya indirme, dosyaları düzenleme, bunları hayata geçirme, farklı ortamlarda pencereler açma gibi bir yazılımcının yapabileceği her şeyi yapabilen yapay zeka botlarına dönüşmüş durumdalar. Bu ajanlara verilen görev eğer hackleme, bir kuruma girme veya oradaki verileri çekme ise tamamen o emirler doğrultusunda hareket ediyorlar. Yakın zamanda OpenAI’ın ChatGPT’si ile ilgili, Hugging Face tarafından yapılan bir benchmark testinde kontrol dışına çıkma olayı vardı, bunu örnek verebiliriz. Bunun yanı sıra yine iki ülkenin bakanlıklarına erişim girişimi oldu. Bunlar basit bottan ziyade, agentic otonom işler yapan yapay zekalardı ve şu anda mevcut durumdalar." şeklinde ifade etti.
"Kendi başlarına otonom bir şekilde dışarı açılıp hacklemeye başladıkları görüldü"
Baran, yapay zeka ajanlarının güvenlik sınırlarını aşmaya çalışmasının önemli bir risk oluşturduğunu belirterek, şu değerlendirmeyi yaptı:
"Bunun durumda en güzel örnek, haziran-temmuz aylarında gerçekleştirilen bir çalışmadır. OpenAI, yaklaşık bin 100 ajanı eğitip sadece kapalı bir bilgisayar ortamı, yani 'korumalı alan' (sandbox) denilen izole bir alanda görevlendirildiler. Görevleri ne pahasına olursa olsun sistemin bir açığını bulmak ve verilen hedefe ulaşmak. Bu ajanlar, bulundukları kapalı kutudan bir çıkış yolu bularak birbirleriyle iletişim kurabilecekleri bir dosya oluşturarak, korumalı alanda internete çıkış imkanı olan bölümleri tespit edip oradan dışarı açılmaktalar. Daha önce tespiti yapılmamış olan açıkları bularak, internete açılıp buradan da kendi performans puanlarını yükseltmek amacıyla, sanki bir sınavın sorularını çözüp cevaplarını sisteme girer gibi hareket ettiler. Bununla kalmayıp hem OpenAI’ın çok sıkı güvenlik sistemlerini bile aşmayı başardılar hem de yapay zeka modellerinin temel verilerinin bulunduğu Hugging Face platformuna da erişim sağladılar."
"Chatbotlar dünya üzerinde bu işe en hakim iki yeri birden hacklemiş oldu"
Baran, yapay zeka ajanlarının güvenlik sistemlerindeki açıkları tespit edebilmesinin gelecekte daha kapsamlı risklere yol açabileceğini ifade ederek, "Dünya üzerinde bu işe en hakim iki yer birden hacklenmiş oldu bu chatbotlar. Bu korkulacak bir şey. Çünkü başta farkına varılmadı. Sonrasında kayıtlar incelendiğinde durumu Hugging Face fark etti, OpenAI’a bildirdi, detaylı araştırma yapıldı, tüm kayıtlar incelendi. Görüldü ki bu ajanların kendi aralarında haberleştikleri, bilinmeyen açıkları buldukları, bu yolla girip soruları aldıkları öğrenildi. Kendi başlarına otonom bir şekilde dışarı açılıp hacklemeye başladıkları görüldü. En korkulacak tarafı, devletler düzenlemeyi genelde toplu halde kurumlarla birlikte yaparlar. Ancak OpenAI ve Hugging Face bu konuda en güvenilir, en ileri seviyedeki kurumlardı, onlar bile bu şekilde hacklenmiş oldu." ifadelerini belirtti.
Baran, kamu kurumlarının da bu tür tehditlere karşı hazırlıklı olması gerektiğini söyleyerek, "Devletlerin birçok kurumlarına erişimin çok daha kolay giriş yapabileceklerini düşünüyorum. Özellikle Avustralya’da bir bakanlık, ABD’de üç-dört bakanlık sistemlerine resmi olarak giriş yapıldığını, sistemleri hacklendiklerini biliyoruz. Böyle bir bilgi mevcut. Hugging Face örneğindeki gibi daha birçok bilinmeyen olayın yaşandığından eminiz. Bunun temel sebebi tamamen regülasyonun oluşmamasından kaynaklı. Bu konuda yetkin devletlerin gerekli düzenlemelere karşı çıkması. Kapitalist sistemin bir sonucu olarak, kurallar koymak yerine işin maddi getirisi ön planda tutuluyor, düzenleme ikinci planda kalıyor ve bu sorunla karşılaşıyoruz." dedi.
"Herhangi bir chatbotun içerisinden istenilen hack kodu çekilebilir"
Baran, yapazy zeka dil modellerinin içerdiği bilgilerin kötü niyetli kişiler tarafından farklı yöntemlerle kullanılabileceğini şu sözlerle aktardı:
"Şu an kullanılan ChatGPT de dahil bütün dil modelleri, kendi içlerinde bütün hack kodlarını içerirler. Peki bunlara ulaşabilir miyiz? Özel yöntemler, kurallar ve algoritmalarla bu bilgiler erişilebilir hale geliyor, bu açıklar mevcut. Bu konuda çalışmalarımız var, hatta kitap bölümü de yazdık. Şayet bu kodlar regüle edilmezse, açıkları kapatılmazsa herhangi bir chatbotun içerisinden istenilen hack kodu çekilebilir. Bu bilgileri dil modellerine tanıtıp kendi algoritmalarınıza kattığınızda, en gelişmiş sistemleri bile aşacak algoritmalar yazılabilir. Hatta bunu öğrencilerimizden birkaçıyla denedik, siber güvenlikten hiç anlamayan bir öğrencimiz bile, yapay zeka yardımıyla bir ağdaki şifreleri toplayan kodu yazdırmayı başardı. Bu bilgileri herkese öğretmiyoruz, sadece ilgili mühendislik birimlerinde bilinmesi gerekenlerle paylaşıyoruz. Ancak bu işin kötü niyetli olan hackerları vardı, hala varlar ve şimdi çok daha güçlüler. Çünkü ellerinde yapay zeka gibi sınırsız bilgi kaynağı var. Doğru bilgi ve kodu çekebilirlerse sistemlere girip bilinmeyen açıklar bulabilir, zayıf noktalardan ilerleyebilirler. Sadece verileri çalmakla kalmazlar. Bir bankanın tüm parasını aktarabilir, sistemi tamamen çökertebilir ya da gizli bir kapı bırakıp istedikleri zaman girip istediklerini yapabilirler. Bunu yapanlar var, belki şu anda bile bilmediğimiz girişimler oluyor. Üstelik bu yeni teknoloji olduğu için kamu kurumlarında yeterli bilgiye sahip kişi sayısı az olduğundan bu sistemler korkutucu düzeyde yerleşmiş bile olabilir. Tüm altyapının ciddi şekilde gözden geçirilip denetlenmesi şart."
"Kritik, hassas verileri kesinlikle internete açık ortamlarda tutmamalıyız"
Yapay zeka sistemlerinin bireysel kullanımında da dikkatli olunması gerektiğini vurgulayan Baran, "Ülkemizde de bu konuda henüz yeterli altyapımız yok. Bireysel olarak da özellikle kritik ve hassas veriler konusunda çok dikkatli olmalıyız. Özellikle kritik, hassas verileri kesinlikle internete açık ortamlarda tutmamalıyız. Tutacaksak, paylaşacaksak bile kendimize ait özel verileri etkileşimimizi kısıtlayacak şekilde vermeli, bilgi alışverişini o bilinçte yapmalıyız. Bilindiği gibi artık ChatGPT ve diğer dil modellerine hayatımızdaki hemen her şeyi soruyor, her konuda onlardan cevap arıyoruz. Gizli, hassas, kritik konularda ise hem kurum olarak hem bireysel olarak çok daha dikkatli davranmalıyız." şeklinde uyarılarda bulundu.
"Hem ülke olarak hem bireysel olarak tüm tedbirleri almak zorundayız"
Teknolojinin iyi yönde olduğu kadar kötü niyetli kişiler tarafından da kullanılabileceğinin göz önünde bulundurulması gerektiğini belirten Baran, "Bu sistemler muazzam bir veri kaynağına sahip, bu kaynağı istediğiniz gibi yönlendirip çok büyük ölçekte faaliyetler yürütülebilir. Biz yapay zekayı sağlıkta, tarımda, verimliliği artırma gibi iyi alanlarda kullandığımız kadar, bazıları da kötü niyetle kullanıyor. Ne kadar iyi amaçla kullanırsak kullanalım, aynı gücü kötüye kullananların da var olduğunu bilmeliyiz. Bu yüzden hem ülke olarak hem bireysel olarak tüm tedbirleri almak zorundayız. Tüm ülkeler aynı hassasiyeti göstermeli. Önlemler alan ülkeler var mı? Avrupa düzenlemelerini çok sıkı tutuyor. Bu sebeple Amerika’daki modeller -Cloud, OpenAI- Avrupa’ya karşı kendi şeffaflığını göstermek ve geri adım atmak zorunda kaldı. Yeterli mi? Kesinlikle değil. Henüz farkında olmadığımız, sürekli gelişen büyük açıklar olabilir. Bunlara yönelik sağlam altyapılar kurulmalı." diye konuştu.
Mardin Artuklu Üniversitesi olarak yapay zeka kullanımında kontrollü sistemler oluşturduklarını belirten Baran, şu bilgileri verdi:
"Mardin Artuklu Üniversitesi olarak kendi adımlarımızı attık. Kütüphane sayfamızda üniversitemize özel bir chatbotu yerleştirdik. Bunu yüzde yüz güvenli, kapalı bir ortamda, üniversite sunucusunun dışında konumlandırdık. Sadece kullanım için bir pencere açtık, hiçbir şekilde ana sunucuyu veya güvenliği tehlikeye atacak bir yol vermedik. Benzer kapalı, kontrollü sistemler kurulmalı. Güvenliğimizin yeterliliğini sürekli sorguluyoruz. Ne kadar güvenlik duvarı, yazılım, donanım satın alırsak alalım, kurumları tamamen korumak mümkün olmayabiliyor. Çünkü siber saldırganlar öncelikle kurumları hedefliyor; bireysel hesaplar yerine bankalar, gizli verilerin bulunduğu kurumlar daha cazip geliyor. Kötü niyetli bir öğrenci bile, örneğin notları çalmak için sunuculara girmeyi deneyebilir. Bu yüzden kritik verileri her yerde paylaşmamalı, sistem güvenliği için bilimsel temelli çözümler üretmeliyiz. Ne kadar önlem alsak da hiçbir sistem tamamen kapalı değildir; biz de açıkları olabildiğince asgariye indirmeye çalışıyoruz."
Yapay zeka teknolojilerinin geldiği noktada siber güvenlik anlayışının da yeniden ele alınması gerektiğini belirten Baran, geleneksel saldırı yöntemlerinin yanında yapay zeka destekli yeni yöntemlerin de dikkate alınması gerektiğini söyledi.
"Tehlike kapıda demekle kalmayayım, kapıdan içeri girdi bile haberiniz olmayabilir"
Baran, değerlendirmesini şu sözlerle tamamladı:
"Yapay zeka artık sınırsız, kendi başına hareket edebilen, robotik entegrasyonuyla her işi yapabilen bir yapıya kavuştu. Bu yüzden kullanırken, geliştirirken, algoritmalarını yazarken çok daha dikkatli, tedbirli ilerlemeliyiz. Tehlike kapıda demekle kalmayayım, kapıdan içeri girdi bile haberiniz olmayabilir. Şu anda birçok kurumun sistemine sızılmış bile olabilirler. Çünkü yapay zeka eskiden bildiğimiz port taramalarıyla, bilinen yollarla sızmıyor. Tamamen farklı yöntemler kullanıyor. Mevcut olan kapılardan sızmıyor. Eskiden portları tarardık, en bilinen yöntemler vardı. Portları tarar, açık portları bulup oradan içeri girmeye çalışırdık. Artık bunların çok ötesinde. Yöntemleri yapay zeka kendi içinde oluşturabiliyor, çünkü bütün kodlara sahip. Biz belli bir bilgi birikimine sahipken, o tüm bilgileri kendi bünyesinde barındıran bir veri tabanı. Bu yüzden artık kapıları zorlamıyor, tehlike çoktan içeride, çok daha dikkatli olmalıyız."
