Türk Dil Kurumu Sözlüğünde Zekâ, “insanın düşünme, akıl yürütme, objektif gerçekleri algılama, yargılama ve sonuç çıkarma yeteneklerinin tamamı” olarak tanımlamıştır. İnsan, duyuları vasıtasıyla çevreden topladığı verileri beyninde işler ve zekâsı vasıtasıyla bu verilerden faydalı bilgiler üretir. Bu bakımdan insan bir nevi veri toplama ve işleme sistemi gibi düşünülebilir.
Yapay zekâ ise; insana özgü bu özelliklerin analiz edilerek makinelere kazandırılması olup, insan gibi düşünebilen, yorumlayabilen ve kararlar verebilen algoritmaların ve bilgisayar yazılımlarının geliştirilmesi ile ilgilenmektedir
Yapay Zekâ Alanında Kişisel Verilerin Korunmasına Dair Tavsiyeler Yayımlanmıştır.
Yapay zekâ uygulamalarının geliştirilmesi ve uygulanması sürecinde ilgili kişilerin temel hak ve özgürlüklerine saygı gösterilmeli, hak ihlaline meydan verilmemelidir. Veri işleme faaliyetinin bireyler ve toplum üzerine etkileri değerlendirildiğinde ilgili kişi açısından kontrolü mümkün olmalıdır. Kişisel veri işleme temelli yapay zekâ çalışmalarında, kişisel verilerin korunması açısından yüksek risk öngörülüyorsa, mahremiyet etki değerlendirmesi uygulanmalı ve veri işleme faaliyetinin hukuka uygunluğuna bu çerçevede karar verilmelidir. Kişisel veri işleme esaslı yapay zekâ çalışmalarında ilk aşamadan itibaren kişisel verilerin korunması mevzuatına uyum sağlanmalı ve tüm sistemler tasarımdan itibaren veri koruma ilkesine göre geliştirilmeli ve yönetilmelidir. Bu kapsamda her projeye özel bir veri koruma uyum programı oluşturulmalı ve uygulanmalıdır. Yapay zekâ teknolojilerinin geliştirilmesi ve uygulanmasında aynı sonuca kişisel veri işlenmeksizin ulaşılabiliyorsa, verilerin anonim hale getirilerek işlenmesi yöntemleri tercih edilmelidir.
Kişisel Verileri Koruma Kurumu (KVKK), kişisel verilerin işlenmesinde aktif olarak yer alan yapay zeka teknolojisinin veri işleme faaliyetlerinde kullanımında dikkat edilmesi gerekenlerle ilgili önerilerini resmi internet sayfası üzerinden kamuoyu ile paylaşmıştır. Genel olarak temel hak ve özgürlüklerin önemini vurgulayan kurul tarafından yayımlanmış olan tavsiye metninde; her bir uygulamanın kişisel verilerin korunmasının temel ilkeleri olan hukuka uygunluk, dürüstlük, ölçülülük, hesap verebilirlik, şeffaflık, kişisel verilerin doğru ve güncel olması, kişisel veri kullanım amacının belirli ve sınırlı olması ilkelerine uygun olması gerektiği vurgulanmıştır.
Kişisel verilerin korunmasında kullanılacak olan yapay zeka programlarının tasarımında ve uygulamalarında başından itibaren özellikle nelere dikkat edilmesi gerektiğinin ele alındığı tavsiye metninde, kişisel verilerin işlenmesinde dikkat edilmesi gereken teknik hususlara da yer verilmiştir.
Ayrıca karar alma mekanizmalarına yönelik tavsiyelerde, yapay zekanın kişi ve toplum üzerindeki etkilerine yönelik ve kişilerin karar alma sürecinde bağımsız hareket edebilmelerini sağlayabilmek için gerekli her türlü araştırmanın, çalışmanın yapılması ve önlemin alınmış olmasının önemi ifade edilmiştir.
Genel Nitelikli Tavsiyeler
Kişisel temel hak ve özgürlükler temel alınmalı; kişinin onurunu kıracak durumlara mahal verilmemelidir.
Veri güvenliğine dikkat edilmelidir.
Kişisel verilerin işlenmesinde potansiyel riskler önlenmeli ve azaltılmalıdır.
Yüksek risk ihtimalinde, veri işleme faaliyetinin hukuka uygunluğuna mahremiyet etki değerlendirmesi sonucunda karar verilmelidir.
Tüm sistemler başından itibaren veri koruma hukukunun temel ilkelerine göre geliştirilmeli ve yönetilmelidir. Her proje özel bir veri koruma uyum programına sahip olmalıdır.
Özel nitelikli kişisel veri işlenmesi durumunda, özel veri koruma kurallarıyla beraber teknik ve idari tedbirler sıkı bir şekilde uygulanmalıdır.
Sonuca kişisel veri işlenmeksizin ulaşılabiliyorsa, veriler anonim hale getirilerek işlenmelidir.
Veri sorumlusu veya veri işleyen olma statüleri projenin başında belirlenerek sorumlular arasındaki hukuki ilişki veri koruma mevzuatı ile uyumlu hale getirilmelidir.
Geliştiriciler, Üreticiler ve Servis Sağlayıcılar İçin Tavsiyeler
Tasarımda, ulusal ve uluslararası düzenleme ve/veya belgelerle tutarlı olarak kişisel veri mahremiyetini esas alan bir yaklaşım gözetilmelidir.
Temel hak ve özgürlükler üzerindeki muhtemel olumsuz sonuçlar gözetilerek, uygun risk önleme ve azaltma tedbirlerine dayalı ihtiyatlı bir yaklaşım benimsenmelidir.
Veri toplama da dâhil olmak üzere veri işlemenin her aşamasında, temel hak ve özgürlükler gözetilerek, ilgili kişiler üzerinde meydana gelebilecek ayrımcılık riski veya diğer olumsuz etkiler ve önyargılar önlenmelidir.
Kullanılan kişisel verilerin kalitesi, niteliği, kaynağı, miktarı, kategori ve içeriği değerlendirilerek asgari veri kullanımına gidilmeli; geliştirilen modelin doğruluğu sürekli izlenmelidir.
Bağlamından koparılmış algoritma2 modelleri, bireyler ve toplum üzerinde olumsuz etkilere sebep olma riski açısından dikkatle değerlendirilmelidir.
İnsan hakları temelli, etik ve sosyal yönelimli yapay zekâ uygulamalarının tasarlanmasına ve potansiyel önyargıların tespit edilmesine katkıda bulunabilecek akademik kurumlarla irtibata geçilmeli; şeffaflık ve paydaş katılımının zor olabileceği alanlarda tarafsız uzman kişi ve kuruluşların görüşü alınmalıdır.
Bireylere, görüşlerini ve kişisel gelişimlerini etkileyen teknolojilere dayalı işlemelerle ilgili itiraz hakkı tanınmalıdır.
Yapay zekâ sistemlerinin kişisel verileri analiz etme ve kullanma gücü göz önüne alındığında, kişisel verilerin işlenmesinde, ilgili kişilerin ulusal ve uluslararası mevzuattan doğan hakları korunmalıdır.
Uygulamalardan özellikle etkilenmesi muhtemel olan bireylerin ve grupların aktif katılımına dayalı risk değerlendirmesi teşvik edilmelidir.
Bireylerin münhasıran kendi görüşleri dikkate alınmaksızın otomatik işlemeye dayalı olarak kendilerini etkileyecek bir karara maruz kalmamalarını sağlayacak ürün ve hizmetler tasarlanmalıdır.
Üretimde kişilik haklarına daha az müdahale eden alternatifler de sunulmalı, kullanıcıların seçim yapma özgürlüğü güvence altına alınmalıdır.
Ürün ve hizmetlerin tasarımından başlayarak yaşam döngüsü boyunca kişisel verilerin korunması hukukuna uygunluk açısından tüm paydaşlar için hesap verebilirliği sağlayacak algoritmalar benimsenmelidir.
Kullanıcının veri işleme faaliyetini durdurabilme hakkı tanınmalı ve kullanıcılara ait verilerin silinmesi, yok edilmesi veya anonim hale getirilmesi imkânı tasarlanmalıdır.
Uygulama ile etkileşime giren kişiler, kişisel veri işleme faaliyetinin gerekçeleri, kişisel verilerin işlenmesinde kullanılan yöntemlerin detayları ile muhtemel sonuçları hakkında aydınlatılmalı ve gerekli haller için etkili bir veri işleme onay mekanizması tasarlanmalıdır.
Karar Alıcılar İçin Tavsiyeler
Hesap verebilirlik ilkesi tüm aşamalarda gözetilmelidir.
Kişisel verilerin korunmasına yönelik risk değerlendirme prosedürleri benimsenmeli ve sektör/uygulama/donanım/yazılım temelinde bir uygulama matrisi oluşturulmalıdır.
Davranış kuralları ve sertifikasyon mekanizmaları gibi uygun önlemler alınmalıdır.
Yapay zekâ modellerinin farklı bir bağlam veya amaç için kullanılıp kullanılmadığını izlemek üzere karar alıcılar tarafından yeterli kaynak ayrılmalıdır.
Karar alma süreçlerinde insan müdahalesinin rolü tesis edilmelidir. Bireylerin, yapay zekâ uygulamaları ile sunulan önerilerin sonucuna güvenmeme özgürlüğü korunmalıdır.
İlgili kişilerin temel hak ve özgürlüklerini önemli ölçüde etkileme ihtimali ortaya çıktığında denetim otoritelerine3 mutlaka başvurulmalıdır.
Denetim otoriteleri ve yetkili diğer kuruluşlar arasında, veri mahremiyeti, tüketicinin korunması, rekabetin geliştirilmesi ve ayrımcılıkla mücadele konularında işbirliği teşvik edilmelidir.
Yapay zekâ uygulamalarının insan hakları, etik, sosyolojik ve psikolojik etkilerini ölçme temelli uygulama araştırmaları desteklenmelidir.
Bireyler, gruplar ve paydaşlar bilgilendirilerek yapay zekânın büyük veri sistemleri ile birlikte, sosyal dinamikleri şekillendirmede ve onları etkileyen karar verme süreçlerinde oynayacağı rolün tartışılması konusunda aktif olarak yer almaları sağlanmalıdır.
Verilerin güvenli, adil, yasal ve etik paylaşımını destekleyen dijital ekosistemin oluşturulabilmesi için açık yazılım tabanlı uygun mekanizmalar teşvik edilmelidir.
İlgili kişiler bakımından yapay zekâ uygulamalarını ve etkilerini anlama konusunda farkındalığı artırmak için dijital okuryazarlık ve eğitim kaynaklarına yatırım yapılmalıdır.
Uygulama geliştiriciler için kişisel verilerin korunması farkındalığı oluşturmak bağlamında veri mahremiyeti çerçevesinde eğitimler teşvik edilmelidir.
