Yapay zekâ odaklı teknolojiler, pek çok alanda hayatımıza giriş yaptı. Artık yapay zekâ ile görüntüler ve hatta videolar oluşturabiliyor, makale yazdırabiliyor, uygulama geliştirebiliyoruz. Hâl böyle olunca pek çok kesim, yapay zekâ teknolojilerinin risk oluşturabileceğine inanıyor. Bu çok da hatalı bir yaklaşım değil çünkü makale yazabilen bir yapay zekâ, pekâlâ bir senaryo oluşturabilir.
İşte bunun gibi tartışmalar, ülkelerin yapay zekâya yönelik kanunlar geliştirmesi için adım atmalarına yol açtı. Hatta ABD, bununla ilgili ilk adımları attı. Avrupa Birliği de bir süredir bir yapay zekâ yasası üzerinde çalışıyor. Şimdiyse aralarında ABD ile Birleşik Krallık gibi gelişmiş ülkelerin de bulunduğu 18 ülke, bağlayıcı olmayan bir mutabakat imzaladı. Bu mutabakat, güvenli yapay zekâ teknolojilerinin nasıl olması gerektiğini açıklıyor.
Mutabakatta neler var?
Birleşik Krallık ile ABD’ye ek olarak Almanya, İtalya, Estonya, Polonya, Güney Kore, Çekya, Singapur, Nijerya, İsrail ve Avustralya gibi ülkelerin de imzaladığı mutabakat, en genel anlatımı ile tüketicinin, yapay zekâ teknolojilerinin olası risklerinden korunmasını amaçlıyor. Uluslararası çapta karşımıza çıkan ilk anlaşma olan mutabakat, kullanıcı verilerin korunmasını ve geliştirilen sistemlerin bilgisayar korsanlarına karşı dayanıklı hâle getirilmesini sağlayacak tavsiyelerde bulunuyor.
Mutabakata göre güvenli bir yapay zekâ teknolojisi, şu dört maddeye önem vermeli:
- Güvenli tasarım.
- Güvenli geliştirme.
- Güvenli dağıtım.
- Güvenli işletme.
Gelin şimdi de bu maddelerin nasıl gerçekleştirileceğine ilişkin bilgilere bakalım.
“Güvenli tasarım”
- Tehdit ve riskler konusunda personel farkındalığının artırılması.
- Geliştirilecek yapay zekâ sistemine yönelik tehditlerin tespit edilip, modellenmesi.
- Sistemin işlevsellik, performans ve güvenlik özelliklerinin kombinasyonunun oluşturulması.
- Geliştirilecek sisteme uygun yapay zekâ modelinin, güvenliği ön plana çıkarabilmesi.
“Güvenli geliştirme”
- Sistem paydaşlarının güvence altına alınması.
- Geliştirilecek yapay zekâ sisteminin sahip olduğu tüm varlıkların tanımlanması ve korunması.
- Verilerin, modellerin ve istemlerin arşivlenmesi.
- Risk değerlendirmesinin yapılması.
“Güvenli dağıtım”
- Alt yapının güvence altına alınması.
- Yapay zekâ modelinin korunması, düzenli olarak güncellenmesi.
- Olası aksaklıklar için prosedürler oluşturulması.
- Geliştirilecek yapay zekâ teknolojisinin sorumluluğunun üstlenilmesi.
- Kullanıcı dostu arayüzler hazırlanması.
“Güvenli işletme”
- Sistem davranışlarının takip edilmesi.
- Sistem girişlerinin izlenmesi.
- Güvenli güncellemeler sunulması.
- Devreye alınan yapay zekâ sisteminin sonuçlarının toplanması. Gerekli durumlarda paylaşılması.
İşte tüm bunlar, söz konusu 18 ülke için güvenli yapay zekâ teknolojileri sağlanmasını sağlayacak genel hususlar. Ancak haberimizin başında da belirttiğimiz gibi tüm bunların hiçbir bağlayıcılığı yok. Eğer mutabakatın tamamına ulaşmak isterseniz buradaki bağlantıyı kullanabilirsiniz.
