8 Aralık 2023 tarihinde Avrupa Birliği (“AB”) Komisyonu, Parlamentosu ve üye ülkeleri arasında yapılan yoğun müzakereler sonucunda üzerinde anlaşmaya varılan "Yapay Zeka Yasası" (“YZ Yasası”) Avrupa Parlamentosu tarafından da kabul edilmiştir. Dünyada bu alanda bir ilk olan yasal düzenleme ile temel olarak güvenli yapay zeka sistemlerinin önceliklendirilmesi, AB değerlerinin ve kişilerin temel hak ve özgürlüklerinin korunması, yapay zeka sistemlerinin denetimi, koordine edilmesi ve kullanımına ilişkin kuralların belirlenmesi amaçlanmaktadır.
YZ Yasası, risk temelli bir yaklaşım belirlemiş ve yapay zeka sistemlerinin kullanım durumlarına bağlı olarak dört farklı risk kategorisine ayırmıştır. Bu kategoriler (i) Minimum (Asgari) Risk, (ii) Sınırlı Risk, (iii) Yüksek Risk ve (iv) Kabul Edilemez Risk şeklindedir. Minimum Riskli yapay zeka sistemleri diğer üç ana risk kategorisine girmeyen, yapay zeka destekli öneri sistemleri gibi ücretsiz kullanımına izin verilen, YZ Yasası çerçevesinde düzenlenmeyen sistemlerdir. Ses ve video oluşturma, soru yanıtlama, çeviri yapma gibi eylemleri yerine getirmek için tasarlanan genel amaçlı yapay zeka sistemleri (GPIA) de minimum riskli yapay zeka olarak belirlenmekte olup bunların temel almış olduğu modellerin AB telif hakları yasasına uymak ve algoritma eğitimi için kullanılan içerikler hakkında ayrıntılı özetler yayımlamak gibi şeffaflık yükümlülüğüne tabi tutulacağı düzenlenmiştir. Bununla birlikte bu türden yapay zeka sistemlerinin de veri işleme faaliyeti gerçekleştirmeleri mümkün olduğundan her halükarda kişisel verilerin korunmasına ilişkin GDPR, KVKK ve benzeri diğer düzenlemelerde ele alınması zorunluluğu ortadan kalkmamaktadır. İkinci sınıf olan Sınırlı Riskli Sistemler ise sohbet robotları, sentetik ses ve görüntü gibi kullanıcıların biraz daha yapay zeka ile etkileşim halinde oldukları sistemlerdir. Bu sistemlerin kullanımında şeffaflık yükümlülüğü getirilmekte ve kullanıcıların yapay zeka ile etkileşimde oldukları konusunda bilgilendirilmesi yönünde yükümlülük öngörülmektedir.
Öte yandan, YZ Yasası’nın odak noktasını asıl olarak Yüksek Riskli ve Kabul Edilemez Riskli yapay zeka sistemleri oluşturmaktadır. Yasanın ele aldığı en riskli kategori olan “Kabul Edilemez Riskler”, insanların temel hak ve özgürlüklerine, hukukun üstünlüğüne, demokrasiye açıkça tehdit oluşturan yapay zeka sistemleridir. Örneğin, özel nitelikli kişisel veri olarak sayılan dini, siyasi ya da cinsel kimliklere dayalı biyometrik kategorilendirme biçimleri, salt yüz tanıma veri tabanı oluşturma amacıyla vatandaşların internetten veya CCTV üzerinden görüntülerinin alınması veya insan davranışlarını manipüle etmeye çalışan sistemler bu kapsama girmektedir. Kabul Edilemez Risk alanına giren yapay zeka sistemleri, kural olarak tamamen yasaklanmakla birlikte, kolluk kuvvetlerine terör saldırılarının önlenmesi gibi acil ve belirli durumlarda sınırlı bir kullanım hakkı tanınmaktadır. Son olarak YZ Yasası’nın tamamen yasaklamadığı fakat en katı yükümlülükler getirdiği Yüksek Riskli sistemler su, enerji, yargı, güvenlik, sağlık, biyometri gibi yaşamsal öneme sahip alanları içermektedir. Bu risk sınıfı, "sağlığa, güvenliğe, temel haklara, çevreye, demokrasiye ve hukukun üstünlüğüne ciddi zarar verme potansiyeli olan" şeklinde tanımlanmakta ve tıbbi cihazlar, sınır kontrolü, duygu tanıma sistemleri benzeri yapay zeka sistemlerini ele almaktadır. Yüksek Riskli sistemler ile ilgili olarak, sistemin doğrulunun sağlanması amacıyla insan gözetiminde ve sadece amaçla ilişkili temsili nitelikte veri kullanılması yönünde yükümlülükler öngörülmüştür.
YZ Yasası ile yüksek riskli sistemlere ilişkin düzenlemeler uyarınca, özellikle bankacılık ve sigorta sektöründe faaliyet gösterenler için temel haklara ilişkin etki değerlendirmeleri yükümlülüğü getirilmiştir. Öte yandan bireylere Yüksek Riskli Yapay Zeka sistemlerinden etkilenmeleri halinde şikayette bulunma ve açıklama isteme hakları tanınmıştır. YZ Yasası ile son olarak, yenilikçi bir yasal çerçeve oluşturmak amacıyla yapay zeka sistemlerinin geliştirilmesi, test edilmesi ve doğrulanması için daha kontrollü ve güvenli bir ortamın oluşturulmasına yönelik girişimler başlatılmış ve Avrupa Birliği nezdinde yeni bir Yapay Zeka Ofisi’nin kurulması öngörülmüştür. Bunun yanında üye devlet temsilcilerinin yer alacağı, danışma organı olarak işlev görecek bir Yapay Zeka Kurulu da oluşturulacaktır.
Son olarak küçük ve orta ölçekli işletmelerin (“KOBİ”) de gelişen yapay zeka modelleri piyasasında yeniliğe katkı sağlayabilmeleri adına ulusal düzeyde kullanabilecekleri “kum havuzu” olarak adlandırılan sanal test alanları ve gerçek dünya testleri kurulması planlanmaktadır. Bu sayede KOBİ’lerin de yapay zeka çözümleri geliştirmeleri için serbest bir alan sağlanmış olup diğer üreticilerin baskısı altında kalmadan yeni modeller geliştirebilmeleri teşvik edilmiştir.
YZ Yasası’nın ihlali halinde uygulanacak para cezalarında, ihlalin niteliği ile birlikte ihlali gerçekleştiren şirketin de göz önünde bulundurulacak olması, teşvik ve istisnalar kapsamında değerlendirilecek bir diğer husustur. Diğer yandan bu teşvik ve istisnalar Avrupa Uygunluk Belgesi (CE) edinilmesi zorunluluğunu yüksek riskli yapay zeka sistemi dağıtıcıları yönünden ortadan kaldırmıyor olup tedarikçilerin yapay zeka sisteminin gerekli nitelikleri haiz olduğunu ve yapay zeka mevzuatına uygun olduğunu göstermeleri gerekmektedir.
YZ Yasası, Avrupa Konseyi tarafından verilecek onay akabinde, resmi gazetede yayımlanmasını takiben 20 gün içerisinde yürürlüğe girecek olup, 24 ay sonrasında da tamamen uygulanabilir hale gelecektir. Bu süreçte, yapay zeka kullanımına ilişkin ilk detaylı düzenlemenin adını sıkça duyacağımızı, dünya çapında farklı yapay zeka düzenlemelerini tetikleyeceğini ve geleceğin yapay zeka teknolojilerini şekillendireceğini söylemek mümkündür.