T.C.
KAMU GÖREVLİLERİ ETİK KURULU
İLKE KARARI
Karar Tarihi: 10.09.2024
Karar Sayısı: 2024/108
YAPAY ZEKA SİSTEMLERİNİN KULLANIMINDA KAMU GÖREVLİLERİNİN UYMASI GEREKEN ETİK DAVRANIŞ İLKELERİ
Günümüzde yapay zeka sistemlerinin kullanımı; gündelik hayattan, sağlık, eğitim, bilim, sanat, mühendislik, teknoloji, ekonomi ve kamu yönetimine kadar yaşamımızın neredeyse her alanında karşılaşılan ve tercih edilen bir hale gelmiştir. İnsana özgü bilişsel kabiliyetleri taklit eden sistemleri ifade eden yapay zekanın kullanımı, insan yaşamını ve kamu hizmeti süreçlerini oldukça kolaylaştırmaktadır. Bununla birlikte yapay zeka; her ne kadar insanınki gibi zeka ve davranış sergilese de insanın iç kontrol mekanizması olan vicdana sahip olmadığından birtakım etik sorunlarının ortaya çıkmasına sebep olabilmektedir. Yapay zeka sistemleri; kişiler arasında kültürel, sosyal, etnik, dini, ekonomik, cinsiyet ve benzeri niteliklerden dolayı ayrımcılığa yol açabilmekte ve bilginin yanlış yayılması, olumsuz yönlendirme, gizlilik ihlali, algı yanılgıları, güvenlik tehditleri ve kontrol kaybı gibi birçok tehdidi de bünyesinde barındırmaktadır. Bu nedenle gerek uluslararası kuruluşlar tarafından gerekse Ulusal Yapay Zeka Stratejisinde (2021-2025), yapay zeka sistemlerinin insan merkezli, insan onurunu ve refahını gözetecek ve insan haklarını koruyacak şekilde oluşturulması amacıyla Yapay Zeka Etik İlkeleri belirlenmiştir.
Kamu görevlileri, yürüttükleri hizmet sürecinde yapay zeka sistemlerini kullanabilmektedir. Kamu görevlileri, kamu hizmetlerinin sunumunda etik standartların korunması ve etik davranış ilkelerine uyulması konusunda topluma karşı sorumluluk taşırlar. Bu sorumluluk, yapay zeka sistemlerinin kullanımı çerçevesinde mevcut ve muhtemel riskler konusunda farkındalık ve bilgi sahibi olmayı, bu riskleri azaltmaya ve engellemeye yönelik eylemlerde bulunmayı kapsamaktadır.
Bu bağlamda; Kurulumuzca, insan hakları, demokratik değerler ve hukukun üstünlüğü ile kamu kuramlarına ve kamu görevlilerine duyulan güvenin korunması amacıyla; kamu görevlilerinin, yapay zeka sistemlerini kullanırken uymaları gereken etik davranış ilkeleri aşağıda belirlenmiştir.
İLKELER
Yetkinlik
(1) Kamu görevlisi; yapay zeka sistemlerini; bilişsel gelişimi, kamu yararı bilincini, sosyal ve kültürel becerilerini artırmak ve güçlendirmek gibi amaçlarla kullanmalıdır.
(2) Kamu görevlisi; yapay zeka sistemlerini sürekli ve karar verici olarak kullanması durumunda, analiz etme, yorumlama ve değerlendirme gibi bilişsel becerilerinin körelebileceğinin farkında olmalıdır. Söz konusu sistemleri bilinçli olarak kullanmalıdır.
(3) Kamu görevlisi; yapay zeka sistemlerinin eksik ya da hatalı çıktı üretebileceğinin, insanı yanıltabileceğinin, olumsuz yönlendirebileceğinin, önyargıya yol açabileceğinin ve hukuken korunan menfaatleri zedeleyebileceğinin farkında olmalıdır.
(4) Kamu görevlisi; kullanacağı yapay zeka sisteminin hizmet kapsamını ve kullanım şartlarını bilmelidir.
(5) Kamu görevlisi; yapay zeka sistemlerinin etik davranış ilkelerine aykırı olarak kullanılmasının idari, hukuki ve cezai sorumluluğa yol açabileceğini bilmelidir.
(6) Yapay zeka sistemlerini geliştirmekle görevli kamu görevlisi; geliştirilen veya geliştirilmesi planlanan yapay zeka sistemlerini, insanlar tarafından denetlenebilecek veya müdahale edilebilecek şekilde ve etik ilkelerine uygun olarak tasarlamak ve geliştirmelidir.
(7) Yapay zeka, bir problemi çözüme kavuşturmak için en iyi araç ise seçilmeli ve önemli kamusal meselelerde yapay zeka ile karar vermekten kaçınılmalıdır.
Dürüstlük
(1) Kamu görevlisi; yapay zeka sistemlerini kamu yararına olacak şekilde ve Kamu Görevlileri Etik Davranış İlkeleri ile Başvuru Usul ve Esasları Hakkında Yönetmelikte düzenlenen etik davranış ilkelerine uygun olarak kullanmalıdır.
(2) Herhangi bir iş veya işlemin insan veya yapay zeka sistemi tarafından yapıldığı bilgisinin açık ve erişilebilir olması, söz konusu iş veya işlemin test edilebilirliği ve güvenirliği açısından önemlidir. Bu nedenle kamu görevlisi; hazırladığı çalışma veya doküman konusunda, yapay zeka sisteminden yararlandığı bilgisini yöneticisi ile paylaşmalıdır. Yapay zeka sistemi tarafından üretilen verilerden oluşan içeriği kendisi hazırlamış gibi davranmamalıdır.
(3) Kamu görevlisi; mevzuata aykırı olarak yapay zeka sistemleri vasıtasıyla kişisel veri toplamamak, depolamamak, işlememek, transfer etmemek, kendisi kullanmamak ve bir başkasına kullandırmamalıdır.
(4) Kamu görevlisi; çalışmalarında yapay zeka sistemlerinden yararlanırken, fikri ve sınai haklara saygı göstermeli ve intihale yol açabilecek kullanımlardan kaçınmalıdır.
(5) Kamu görevlisi; yapay zeka sisteminin ürettiği çıktıyı, doğruluğundan emin olmadan kullanmamalı ve böylece bilgi kirliliğine yol açmamalıdır.
(6) Kamu görevlisi; yapay zeka sistem geliştiricilerinin koymuş olduğu etik kurallarının aşılması amacıyla yapay zeka sistemlerini manipüle etmeye yönelik istem ve davranışlardan kaçınmalıdır.
Tarafsızlık
(1) Kamu görevlisi; yapay zeka sistemleri tarafından üretilen veriler ile önerilen kararları, insan haklarına aykırı olarak, kişiler hakkında önyargı oluşturmak, ayrımcılık, kayırmacılık veya karalama yapmak ve benzeri amaçlarla kullanmamalıdır.
(2) Kamu görevlisi; yapay zeka sistemlerinin oluşturulması ve kullanılması aşamasında kamu yararını gözetmelidir.
Şeffaflık
(1) Kamu görevlisi; yapay zeka sistemlerinden faydalanarak hazırlayacağı; bilgi, doküman ve her türlü çalışma konusunda yöneticisinden izin almalı ve süreç boyunca yöneticisini bilgilendirmelidir.
Gizlilik ve güvenlik
(1) Kamu görevlisi; yapay zeka sistemlerini kullanırken kurumsal gizliliğe ve kişisel verilerin korunmasına azami özen göstermeli, gerçek kişi ve kuramlarla ilgili bilgileri ve belgeleri mevzuata aykırı olarak yapay zeka sistemleri ile paylaşmamalıdır.
(2) Kamu görevlisi; kamu hizmetlerinin sunumu için gerekli olan verilerin toplanması, depolanması ve aktarımı esnasında yapay zeka sistemi kullanımını gerektirecek iş ve işlemlerdeki muhtemel ihlallere karşı önlem almalıdır. Yapay zeka sistemi kullanımına ilişkin tüm aşamaları yöneticisi ile paylaşmalıdır.
Hesap verebilirlik
(1) Kamu görevlisi, yapay zeka sisteminin geliştirdiği içeriği kullanmanın yasal ve etik sorumluluğunun farkında olmalıdır.
(2) Kamu görevlisi, yapay zeka sistemi tarafından oluşturulan verinin, içeriğin ya da kararın doğruluğunu ve güvenirliğini kontrol etmekle sorumlu olduğunu bilmelidir.
(3) İş ve işlemlerinde yapay zeka sistemlerini kullanan kamu görevlisi; ulusal ve uluslararası mevzuatı, politika belgelerini, etik ilkelerini ve diğer belgeleri takip ederek güncel gelişmeler hakkında bilgi sahibi olmalıdır.
Yönetici sorumluluğu
(1) Yönetici kamu görevlisi; kamu görevlilerinin iş ve işlemlerinde yapay zeka sistemlerini etik davranış ilkelerine uygun olarak kullanmaları konusunda gerekli tedbirleri almalıdır.
(2) Yönetici kamu görevlisi; kuramsal iş, işlem ve süreçlerde, yapay zeka sistemlerinin kullanımı ve satın alınmasına karar verirken, söz konusu yapay zeka sisteminin; insan merkezli, insan onurunu ve refahını gözeten ve insan haklarına saygılı bir işleyişinin olduğu hususunda taahhüt ve güvence almalıdır.
(3) Yapay zeka sistemlerinin kamu hizmetinde kullanımında görevlendirilecekler, yetkin kişiler arasından seçilerek yetki ve sorumluluk dağılımı belirlenmelidir. Bu kişilerin; yapay zeka sistemlerinin kullanımı, etkileri, riskleri ve gözetilmesi gereken etik davranış ilkeleri ile diğer eğitimleri almaları sağlanmalıdır.
(4) Yönetici kamu görevlisi; görev, yetki ve sorumluluğu dahilinde, yapay zeka sistemlerinin kamu hizmeti sürecinde kullanılması durumunda, sistemin etkinliği ve insan haklarına uygunluğu konusunda düzenli olarak insan denetimine ve müdahalesine tabi olmasını temin etmelidir.
(5) Yönetici kamu görevlisi; bir yapay zeka sistemi kullanılmaya başlanmadan önce, bu sistemin uygun bir çözüm olup olmadığı hususunda, kuramsal verileri ve konuya hakim uzmanların görüşlerini dikkate almalıdır.
(6) Yukarıda yer alan etik davranış ilkelerinin uygulanması ve kuramsal kültürün bir parçası haline getirilmesi hususunda kamu yöneticileri; görev, yetki ve sorumlulukları dahilinde azami özeni göstermek ve gerekli tedbirleri almakla yükümlüdür.
Bu çerçevede Kurulumuzca; kamu görevlilerince görevleri sırasında uyulması gereken ilkeler kapsamında, yukarıda yer alan "Yapay Zeka Sistemlerinin Kullanımında Kamu Görevlilerinin Uyması Gereken Etik Davranış İlkeleri"nin kabul edilmesine, 25.05.2004 tarih ve 5176 sayılı Kanunun 3. maddesi uyarınca, 10.09.2024 tarihinde oybirliği ile karar verildi.
Ahmet KANDEMİR