T.C.
KAMU GÖREVLİLERİ ETİK KURULU
İLKE KARARI
Karar Tarihi: 10.09.2024
Karar Sayısı: 2024/108
YAPAY ZEKÂ SİSTEMLERİNİN KULLANIMINDA KAMU GÖREVLİLERİNİN UYMASI GEREKEN ETİK DAVRANIŞ İLKELERİ
Günümüzde yapay zekâ sistemlerinin kullanımı; gündelik hayattan, sağlık, eğitim, bilim, sanat, mühendislik, teknoloji, ekonomi ve kamu yönetimine kadar yaşamımızın neredeyse her alanında karşılaşılan ve tercih edilen bir hale gelmiştir. İnsana özgü bilişsel kabiliyetleri taklit eden sistemleri ifade eden yapay zekânın kullanımı, insan yaşamını ve kamu hizmeti süreçlerini oldukça kolaylaştırmaktadır. Bununla birlikte yapay zekâ; her ne kadar insanınki gibi zekâ ve davranış sergilese de insanın iç kontrol mekanizması olan vicdana sahip olmadığından birtakım etik sorunlarının ortaya çıkmasına sebep olabilmektedir. Yapay zekâ sistemleri; kişiler arasında kültürel, sosyal, etnik, dinî, ekonomik, cinsiyet ve benzeri niteliklerden dolayı ayrımcılığa yol açabilmekte ve bilginin yanlış yayılması, olumsuz yönlendirme, gizlilik ihlali, algı yanılgıları, güvenlik tehditleri ve kontrol kaybı gibi birçok tehdidi de bünyesinde barındırmaktadır. Bu nedenle gerek uluslararası kuruluşlar tarafından gerekse Ulusal Yapay Zekâ Stratejisinde (2021-2025), yapay zekâ sistemlerinin insan merkezli, insan onurunu ve refahını gözetecek ve insan haklarını koruyacak şekilde oluşturulması amacıyla Yapay Zekâ Etik İlkeleri belirlenmiştir.
Kamu görevlileri, yürüttükleri hizmet sürecinde yapay zekâ sistemlerini kullanabilmektedir. Kamu görevlileri, kamu hizmetlerinin sunumunda etik standartların korunması ve etik davranış ilkelerine uyulması konusunda topluma karşı sorumluluk taşırlar. Bu sorumluluk, yapay zekâ sistemlerinin kullanımı çerçevesinde mevcut ve muhtemel riskler konusunda farkındalık ve bilgi sahibi olmayı, bu riskleri azaltmaya ve engellemeye yönelik eylemlerde bulunmayı kapsamaktadır.
Bu bağlamda; Kurulumuzca, insan hakları, demokratik değerler ve hukukun üstünlüğü ile kamu kuramlarına ve kamu görevlilerine duyulan güvenin korunması amacıyla; kamu görevlilerinin, yapay zekâ sistemlerini kullanırken uymaları gereken etik davranış ilkeleri aşağıda belirlenmiştir.
İLKELER
Yetkinlik
(1) Kamu görevlisi; yapay zekâ sistemlerini; bilişsel gelişimi, kamu yararı bilincini, sosyal ve kültürel becerilerini artırmak ve güçlendirmek gibi amaçlarla kullanmalıdır.
(2) Kamu görevlisi; yapay zekâ sistemlerini sürekli ve karar verici olarak kullanması durumunda, analiz etme, yorumlama ve değerlendirme gibi bilişsel becerilerinin körelebileceğinin farkında olmalıdır. Söz konusu sistemleri bilinçli olarak kullanmalıdır.
(3) Kamu görevlisi; yapay zekâ sistemlerinin eksik ya da hatalı çıktı üretebileceğinin, insanı yanıltabileceğinin, olumsuz yönlendirebileceğinin, önyargıya yol açabileceğinin ve hukuken korunan menfaatleri zedeleyebileceğinin farkında olmalıdır.
(4) Kamu görevlisi; kullanacağı yapay zekâ sisteminin hizmet kapsamını ve kullanım şartlarını bilmelidir.
(5) Kamu görevlisi; yapay zekâ sistemlerinin etik davranış ilkelerine aykırı olarak kullanılmasının idari, hukuki ve cezai sorumluluğa yol açabileceğini bilmelidir.
(6) Yapay zekâ sistemlerini geliştirmekle görevli kamu görevlisi; geliştirilen veya geliştirilmesi planlanan yapay zekâ sistemlerini, insanlar tarafından denetlenebilecek veya müdahale edilebilecek şekilde ve etik ilkelerine uygun olarak tasarlamak ve geliştirmelidir.
(7) Yapay zekâ, bir problemi çözüme kavuşturmak için en iyi araç ise seçilmeli ve önemli kamusal meselelerde yapay zekâ ile karar vermekten kaçınılmalıdır.
Dürüstlük
(1) Kamu görevlisi; yapay zekâ sistemlerini kamu yararına olacak şekilde ve Kamu Görevlileri Etik Davranış İlkeleri ile Başvuru Usul ve Esasları Hakkında Yönetmelikte düzenlenen etik
davranış ilkelerine uygun olarak kullanmalıdır.
(2) Herhangi bir iş veya işlemin insan veya yapay zekâ sistemi tarafından yapıldığı bilgisinin açık ve erişilebilir olması, söz konusu iş veya işlemin test edilebilirliği ve güvenirliği açısından önemlidir. Bu nedenle kamu görevlisi; hazırladığı çalışma veya doküman konusunda, yapay zekâ sisteminden yararlandığı bilgisini yöneticisi ile paylaşmalıdır. Yapay zekâ sistemi tarafından üretilen verilerden oluşan içeriği kendisi hazırlamış gibi davranmamalıdır.
(3) Kamu görevlisi; mevzuata aykırı olarak yapay zekâ sistemleri vasıtasıyla kişisel veri toplamamak, depolamamak, işlememek, transfer etmemek, kendisi kullanmamak ve bir başkasına kullandırmamalıdır.
(4) Kamu görevlisi; çalışmalarında yapay zekâ sistemlerinden yararlanırken, fikri ve sınai haklara saygı göstermeli ve intihale yol açabilecek kullanımlardan kaçınmalıdır.
(5) Kamu görevlisi; yapay zekâ sisteminin ürettiği çıktıyı, doğruluğundan emin olmadan kullanmamalı ve böylece bilgi kirliliğine yol açmamalıdır.
(6) Kamu görevlisi; yapay zekâ sistem geliştiricilerinin koymuş olduğu etik kurallarının aşılması amacıyla yapay zekâ sistemlerini manipüle etmeye yönelik istem ve davranışlardan kaçınmalıdır.
Tarafsızlık
(1) Kamu görevlisi; yapay zekâ sistemleri tarafından üretilen veriler ile önerilen kararları, insan haklarına aykırı olarak, kişiler hakkında önyargı oluşturmak, ayrımcılık, kayırmacılık veya karalama yapmak ve benzeri amaçlarla kullanmamalıdır.
(2) Kamu görevlisi; yapay zekâ sistemlerinin oluşturulması ve kullanılması aşamasında kamu yararını gözetmelidir.
Şeffaflık
(1) Kamu görevlisi; yapay zekâ sistemlerinden faydalanarak hazırlayacağı; bilgi, doküman ve her türlü çalışma konusunda yöneticisinden izin almalı ve süreç boyunca yöneticisini bilgilendirmelidir.
Gizlilik ve güvenlik
(1) Kamu görevlisi; yapay zekâ sistemlerini kullanırken kurumsal gizliliğe ve kişisel verilerin korunmasına azami özen göstermeli, gerçek kişi ve kuramlarla ilgili bilgileri ve belgeleri mevzuata aykırı olarak yapay zekâ sistemleri ile paylaşmamalıdır.
(2) Kamu görevlisi; kamu hizmetlerinin sunumu için gerekli olan verilerin toplanması, depolanması ve aktarımı esnasında yapay zekâ sistemi kullanımını gerektirecek iş ve işlemlerdeki muhtemel ihlallere karşı önlem almalıdır. Yapay zeka sistemi kullanımına ilişkin tüm aşamaları yöneticisi ile paylaşmalıdır.
Hesap verebilirlik
(1) Kamu görevlisi, yapay zekâ sisteminin geliştirdiği içeriği kullanmanın yasal ve etik sorumluluğunun farkında olmalıdır.
(2) Kamu görevlisi, yapay zekâ sistemi tarafından oluşturulan verinin, içeriğin ya da kararın doğruluğunu ve güvenirliğini kontrol etmekle sorumlu olduğunu bilmelidir.
(3) İş ve işlemlerinde yapay zekâ sistemlerini kullanan kamu görevlisi; ulusal ve uluslararası mevzuatı, politika belgelerini, etik ilkelerini ve diğer belgeleri takip ederek güncel gelişmeler hakkında bilgi sahibi olmalıdır.
Yönetici sorumluluğu
(1) Yönetici kamu görevlisi; kamu görevlilerinin iş ve işlemlerinde yapay zekâ sistemlerini etik davranış ilkelerine uygun olarak kullanmaları konusunda gerekli tedbirleri almalıdır.
(2) Yönetici kamu görevlisi; kuramsal iş, işlem ve süreçlerde, yapay zekâ sistemlerinin kullanımı ve satın alınmasına karar verirken, söz konusu yapay zekâ sisteminin; insan merkezli, insan onurunu ve refahını gözeten ve insan haklarına saygılı bir işleyişinin olduğu hususunda taahhüt ve güvence almalıdır.
(3) Yapay zekâ sistemlerinin kamu hizmetinde kullanımında görevlendirilecekler, yetkin kişiler arasından seçilerek yetki ve sorumluluk dağılımı belirlenmelidir. Bu kişilerin; yapay zekâ sistemlerinin kullanımı, etkileri, riskleri ve gözetilmesi gereken etik davranış ilkeleri ile diğer eğitimleri almaları sağlanmalıdır.
(4) Yönetici kamu görevlisi; görev, yetki ve sorumluluğu dâhilinde, yapay zekâ sistemlerinin kamu hizmeti sürecinde kullanılması durumunda, sistemin etkinliği ve insan haklarına uygunluğu konusunda düzenli olarak insan denetimine ve müdahalesine tabi olmasını temin etmelidir.
(5) Yönetici kamu görevlisi; bir yapay zekâ sistemi kullanılmaya başlanmadan önce, bu sistemin uygun bir çözüm olup olmadığı hususunda, kuramsal verileri ve konuya hâkim uzmanların görüşlerini dikkate almalıdır.
(6) Yukarıda yer alan etik davranış ilkelerinin uygulanması ve kuramsal kültürün bir parçası haline getirilmesi hususunda kamu yöneticileri; görev, yetki ve sorumlulukları dâhilinde azami özeni göstermek ve gerekli tedbirleri almakla yükümlüdür.
Bu çerçevede Kurulumuzca; kamu görevlilerince görevleri sırasında uyulması gereken ilkeler kapsamında, yukarıda yer alan “Yapay Zekâ Sistemlerinin Kullanımında Kamu Görevlilerinin Uyması Gereken Etik Davranış İlkeleri”nin kabul edilmesine, 25.05.2004 tarih ve 5176 sayılı Kanunun 3. maddesi uyarınca, 10.09.2024 tarihinde oybirliği ile karar verildi.
