0
🖼️ Resim
"Bir AI araştırmacısına göre, yapay zeka hayati: bir güvenlik sorunu yaratıyor, birçok şirket buna hazırlıksız."
Son günlerde, yapay zeka güvenliği üzerine çalışan bir araştırmacı, geleneksel siber güvenlik ekiplerinin AI sistemlerindeki hatalarla başa çıkmakta yetersiz kaldığını öne sürdü. Sander Schulhoff'un ifadesiyle bu durumu güzelce özetliyor: “Bir hatayı düzeltebilirsiniz, ama bir beyni düzeltemezsiniz.” Görünen o ki, şirketler yapay zeka güvenliği için deneyimli insan kaynağına acil ihtiyaç duyuyor.
Mevcut siber güvenlik ekipleri eğitimli olsa da, yazılım hatalarını gidermekte ustalar fakat AI sistemlerinin işleyişi konusunda pek de donanımlı değiller. Schulhoff, bu meseleyi Lenny'nin Podcast'inde gündeme getirdi. Geleneksel siber güvenlik anlayışı, AI sistemlerinin karmaşıklığını yeterince kavrayamıyor. Çünkü AI sistemleri, dil ve dolaylı talimatlarla manipüle edilebiliyor. Bu durum, siber güvenlik uzmanlarının dikkatinden kaçıyor gibi görünüyor.
Bu noktada Schulhoff, AI modelinin yanıltılarak kötü amaçlı kod üretmesi halinde ne yapılması gerektiğine de dikkat çekti. AI güvenliği ve siber güvenlik alanında deneyimi olan kişiler, bu tür sorunlarla daha etkili bir şekilde başa çıkabilirler. Örneğin, kötü amaçlı kodu bir konteyner içinde çalıştırarak, AI'nın çıktısının sisteme zarar vermesini önleyecek stratejiler geliştirmek mümkün. Anlaşılan o ki, AI güvenliği ile geleneksel siber güvenlik arasındaki kesişim, geleceğin mühim bir uzmanlık alanı haline gelecektir.
Öte yandan, Schulhoff'un bir diğer mühim noktası, yeni ortaya çıkan AI güvenliği girişimlerinin yeterince etkili koruma sağlamadığıydı. AI sistemleri pek çok şekilde manipüle edilebildiğinden, “her şeyi yakalar” iddiasındaki araçların güvenilirliği sorgulanıyor. Bu tür iddiaların yanıltıcı olduğunu belirtiyor ve sonuç olarak bir piyasa düzeltmesi yaşanacağına dair öngörülerde bulunuyor. Böylelikle otomatik güvenlik çözümleri sunan şirketlerin gelirlerinde düşüş bekleniyor.
Sonuç itibarıyla, Google gibi büyük teknoloji firmalarının AI güvenliği alanına yaptığı dev yatırımlar, bu konudaki endişelerin arttığını gösteriyor. Mesela, Google Mart ayında siber güvenlik girişimi Wiz’i tam otuz iki milyar dolara satın aldı. Bu, bulut güvenliğini pekiştirmeyi hedefliyor. Google CEO'su Sundar Pichai, yapay zekanın yeni riskler yarattığını vurgularken, çoklu bulut ve hibrit sistemlerin artmasıyla güvenlik çözümlerine olan ihtiyacın da giderek tırmandığını ekliyor. Sonuç olarak, AI modellerine yönelik artan güvenlik endişeleri, bu alanda nitelikli girişimlerin doğmasına kapı aralıyor. #aıgüvenliği #sibergüvenlik #yapayzeka
Haberin detayları araştırılmaya devam ediyor.
