Yapay zekâ tartışmalarında yeni ve daha sert bir eşiğe geldik. Bugüne kadar yapay zekâ çoğunlukla sorulara “cevap veren” bir sistem olarak gündeme geliyordu. Hatalı cevap veriyor, uydurma kaynak gösteriyor, metin özetlerken bağlamı kaçırıyor ya da ikna edici görünen ama hukuken sorunlu değerlendirmeler yapıyordu. Bu hatalar elbette önemsiz değildi; fakat çoğu zaman metin düzeyinde kalıyordu.
Şimdi ise yapay zekâ, metin
üreten bir araç olmaktan çıkıp, kullanıcı adına işlem yapan bir ajana
dönüşüyor. E-posta yazmakla yetinmeyen, gönderme aşamasına yaklaşan; takvimi
yalnızca göstermeyen, randevu düzenleyen; müşteri hizmetlerine cevap taslağı hazırlamakla
kalmayan, tüketici adına bildirimde bulunabilen; şirket adına teklif, teyit
veya cevap oluşturabilen sistemlerden söz ediyoruz.
Bu dönüşüm hukuk sistemleri bakımından
basit bir teknoloji yeniliği değildir. Çünkü yapay zekânın yaptığı hata artık
yalnızca “yanlış bilgi” üretmekle sınırlı kalmayabilir. Hata; yanlış kişiye
gönderilen gizli bir e-posta, hatalı kabul beyanı, yanlış abonelik iptali,
süresinde yapılmamış bildirim, ticari teklifin yanlış iletilmesi veya mesleki
sır içeren bir belgenin ifşası biçiminde ortaya çıkabilir.
Bu nedenle önümüzdeki dönemin
temel sorusu şudur: Yapay zekâ ajanı benim adıma işlem yaptıysa, bu işlemden
doğan sorumluluk kime ait olacaktır?
Bu soruya tek cevap vermek mümkün
değildir. Çünkü yapay zekâ ajanının yaptığı işlemin sonucu, ajanın kimin adına
hareket ettiğine göre değişir. Tüketici adına yapılan işlem ile tacir adına
yapılan işlem aynı hukuki rejime tabi tutulamaz. Meslek erbabının yapay zekâ
ajanı kullanması ise ayrıca değerlendirilmesi gereken daha hassas bir
sorumluluk alanı doğurur.
Dijital Vekâlet: Yeni Bir Ara
Kavram
Burada “vekâleten işlem”
ifadesini dar anlamda vekâlet sözleşmesiyle sınırlı kullanmıyorum. Daha geniş
bir olguyu tarif ediyorum: Bir kişinin veya organizasyonun, yapay zekâ ajanına
belirli bir dijital alanda kendi adına araştırma yapma, beyan üretme, işlem
hazırlama veya dış dünyaya sonuç doğurabilecek bir eylemde bulunma yetkisi
vermesi.
Bu ilişkiyi “dijital vekâlet”
olarak adlandırabiliriz.
Dijital vekâlet üç derecede
karşımıza çıkar.
Birinci derece bilgi
vekâletidir. Ajan araştırır, özetler, karşılaştırır, seçenekleri sıralar.
Burada dış dünyaya yönelmiş bir işlem yoktur. Hata varsa genellikle yanlış
bilgi, eksik değerlendirme veya hatalı yönlendirme düzeyindedir.
İkinci derece hazırlık
vekâletidir. Ajan e-posta, sözleşme taslağı, cevap metni, ihtar, cayma
bildirimi veya ticari teklif hazırlar. Fakat henüz bunu kullanıcı adına
göndermemiştir. Bu aşamada risk artar; ancak son denetim hâlâ kullanıcıdadır.
Üçüncü derece ise eylem
vekâletidir. Ajan, kullanıcı adına dış dünyaya sonuç doğurabilecek bir
işlem yapar: e-posta gönderir, SMS yollar, rezervasyon yapar, abonelik iptal
eder, müşteri hizmetlerine beyanda bulunur, sipariş verir, takvim değiştirir
veya ticari ilişkiyi etkileyebilecek bir cevap üretir.
Hukuki sorun asıl burada başlar.
Çünkü artık yapay zekâ yalnızca
düşünceyi destekleyen bir araç değil, irade açıklamasının oluşumuna ve dış
dünyaya yönelmesine katılan bir işlem aracıdır. Böyle bir sistemin hatasını
yalnızca “kullanıcı istemi iyi yazamadı” cümlesiyle açıklamak mümkün değildir.
I. Yapay Zekâ Ajanının
Tüketici Adına Yaptığı İşlemler
Tüketici işlemlerinde yapay zekâ
ajanı, çoğu zaman zayıf taraf konumundaki kullanıcının dijital yardımcısı
olarak çalışacaktır. Uçak bileti arayacak, otel rezervasyonu önerecek, abonelik
iptali için metin hazırlayacak, cayma hakkı bildirimi oluşturacak, müşteri
hizmetlerine şikâyet yazacak, fiyat karşılaştırması yapacak veya mesafeli satış
ilişkisinde tüketici adına bazı işlemleri kolaylaştıracaktır.
Burada ilk soru şudur: Tüketici,
yapay zekâ ajanının yaptığı işlemi ne ölçüde denetlemekle yükümlüdür?
Tüketici hukuku bakımından cevap,
tacir işlemlerinden farklı olmalıdır. Çünkü tüketici, yapay zekâ sisteminin
teknik sınırlarını, modelin hata ihtimalini, platformun hangi veriye
eriştiğini, hangi işlemleri otomatik yaptığını ve hangi kayıtları tuttuğunu
çoğu zaman gerçek anlamda bilemez. Tüketici, arayüzün verdiği güven duygusuna,
ürünün pazarlama diline ve sistemin kendinden emin davranışına dayanır.
6502 sayılı Tüketicinin Korunması
Hakkında Kanun’da haksız şart, tüketiciyle müzakere edilmeden sözleşmeye dahil
edilen ve dürüstlük kuralına aykırı biçimde tüketici aleyhine dengesizlik
doğuran şart olarak tanımlanır; tüketici sözleşmelerindeki haksız şartların
kesin olarak hükümsüz olduğu kabul edilir. Bu çerçevede, yapay zekâ
platformlarının “ajan tarafından yapılan her işlemden münhasıran kullanıcı
sorumludur” biçimindeki genel ve soyut kayıtları, tüketici işlemleri bakımından
ayrıca denetlenmelidir.
Örneğin yapay zekâ ajanı tüketici
adına bir abonelik iptali bildirimi gönderirse, bu işlem tüketicinin hakkını
kullanmasını kolaylaştırabilir. Ajanın gönderdiği e-posta veya SMS, ileride
tüketicinin süresinde başvurduğunu, cayma hakkını kullandığını, iade talebinde
bulunduğunu veya ayıplı mal/hizmet konusunda satıcıyı haberdar ettiğini
göstermeye yarayabilir.
Fakat aksi yönde bir ihtimal de
vardır. Ajan, tüketici adına yanlışlıkla bir ek hizmeti kabul edebilir, cayma
hakkından vazgeçildiği izlenimi doğuran bir cevap gönderebilir, ödeme planını
onaylayabilir veya tüketiciyi aleyhe bağlayan bir beyan üretebilir. Böyle bir
durumda otomatik beyanın tüketiciyi ne ölçüde bağlayacağı, somut olayın bütün
koşullarıyla birlikte değerlendirilmelidir.
Tüketici açıkça
bilgilendirilmemişse, işlem bazlı onay alınmamışsa, sistem tüketiciyi yanıltıcı
bir güven içinde hareket ettirmişse veya platform kendi sorumluluğunu genel
işlem şartlarıyla tamamen tüketiciye yıkmaya çalışmışsa, “ajan yaptı ama bütün
sonuç tüketiciye aittir” demek hakkaniyete uygun olmayacaktır.
Tüketici işlemlerinde temel ilke
şu olmalıdır: Yapay zekâ ajanının hatası, tüketicinin teknik yetersizliğine
indirgenemez. Platformun aydınlatma, açık onay, geri alma imkânı sağlama ve
yanıltıcı güven yaratmama yükümlülükleri ayrıca değerlendirilmelidir.
II. Yapay Zekâ Ajanının Tacir
Adına Yaptığı İşlemler
Tacir bakımından tablo değişir.
Tüketicinin korunması gereken zayıf taraf olması karşısında, tacir ticari
faaliyetlerinde daha yüksek bir özen standardına tabidir. Türk Ticaret Kanunu
m. 18/2 uyarınca her tacirin ticaretine ait bütün faaliyetlerinde basiretli bir
iş adamı gibi hareket etmesi gerekir. Bu yükümlülük, öğretide de tacir
açısından objektif ve ağırlaştırılmış bir özen ölçütü olarak ele alınmaktadır.
Bu nedenle bir tacirin yapay zekâ
ajanını işletmesine dahil etmesi, sıradan bir teknik tercih değildir. Tacir bu
sistemi müşteri ilişkilerine, teklif süreçlerine, sipariş onayına,
fiyatlandırmaya, stok yönetimine, ödeme takibine veya sözleşme müzakerelerine
bağlıyorsa, ortaya çıkacak hataları öngörmek ve denetim mekanizması kurmakla
yükümlüdür.
Tacirin kurumsal e-posta
adresinden gönderilen otomatik bir teklif, yapay zekâ ajanı tarafından
oluşturulmuş olsa bile üçüncü kişi nezdinde güven doğurabilir. Aynı şekilde
otomatik sipariş teyidi, teslim tarihi bildirimi, fiyat kabulü, indirim vaadi,
ödeme planı veya müşteri şikâyetine verilen cevap, ticari uyuşmazlıkta tacirin
aleyhine değerlendirilebilecek bir kayıt haline gelebilir.
Burada “ben değil, ajan yaptı”
savunmasının sınırı daralır. Çünkü tacir, ajanın kurumsal kanaldan konuşmasına
imkân veren organizasyonu kendisi kurmuştur. Müşteri, şirketin alan adından,
şirketin CRM sisteminden, şirketin resmî mesajlaşma hattından veya ticari
hesaplarından gelen cevaba makul olarak güvenmişse, tacirin bu görünüşü
sonradan tamamen yok sayması kolay olmayacaktır.
Bu nedenle tacir bakımından
sorumluluk iki başlıkta toplanır.
İlk olarak organizasyon kusuru
gündeme gelir. Tacir, yapay zekâ ajanının hangi işlemleri tek başına
yapabileceğini, hangi işlemlerde insan onayı gerekeceğini, hangi beyanların
bağlayıcı sonuç doğurabileceğini ve hangi riskli kelimelerin sistem tarafından
kullanılmaması gerektiğini önceden belirlemelidir.
İkinci olarak görünüşe güven
sorunu doğar. Tacirin kurumsal iletişim kanallarından gelen bir otomatik beyan,
üçüncü kişide makul güven yaratıyorsa, tacir her durumda “bu beyanı insan
vermedi” diyerek sonuçlardan kaçınamayabilir.
Tacir işlemlerinde temel ilke şu
olmalıdır: Yapay zekâ ajanı, tacirin işletme organizasyonunun dışındaki
yabancı bir unsur değil, bizzat tacirin ticari faaliyetlerine dahil ettiği
dijital yardımcıdır. Bu nedenle ajanın doğurduğu görünüş, belirli
koşullarda tacire isnat edilebilir.
III. Yapay Zekâ Ajanının
Meslek Erbabı Adına Yaptığı İşlemler
Meslek erbabı bakımından mesele
daha hassastır. Avukat, arabulucu, mali müşavir, hekim, sigorta aracısı,
yatırım danışmanı, mimar, mühendis veya başka bir uzmanlık alanında faaliyet
gösteren kişi, yapay zekâ ajanını kullandığında yalnızca sözleşmesel sorumluluk
değil; mesleki özen, sır saklama, sadakat, kişisel verilerin korunması ve güven
ilişkisi de gündeme gelir.
Meslek erbabı açısından yapay
zekâ ajanı karar destek aracı olabilir. Dosya özetleyebilir, taslak
hazırlayabilir, görüş seçeneklerini sıralayabilir, mevzuat veya içtihat
taramasına yardımcı olabilir. Fakat mesleki kararın yerine geçemez. Meslek
mensubu, kendi uzmanlık alanındaki değerlendirmeyi ajana devredemez; yalnızca
ajandan yararlanabilir.
Bir avukatın yapay zekâ ajanına
dava dosyasını özetletmesi ile ajanın müvekkile veya karşı tarafa otomatik
cevap göndermesi aynı risk düzeyinde değildir. İlkinde iç çalışma aracı vardır.
İkincisinde mesleki ilişkiyi, güveni ve hatta temsil alanını etkileyebilecek
bir dış işlem söz konusudur.
Ajanın yanlış süre hesabı
yapması, müvekkile hatalı hukuki tavsiye içeren e-posta göndermesi, karşı
tarafa gizli belge iletmesi, uzlaşma teklifini yanlış ifade etmesi veya mesleki
sır niteliğindeki bilgiyi yetkisiz kişiye açıklaması halinde, meslek erbabının
“bunu ben değil ajan yaptı” savunması kural olarak sınırlı değer taşımalıdır.
Çünkü meslek erbabı, kullandığı aracın çıktısını denetlemekle yükümlüdür.
Burada Türk Borçlar Kanunu m.
116’da düzenlenen yardımcı kişilerin fiillerinden sorumluluk kurumu, doğrudan
ve mekanik biçimde yapay zekâya uygulanabilecek bir hüküm gibi görülmemelidir;
zira yapay zekâ hukuken kişi değildir. Ancak hükmün arkasındaki düşünce
önemlidir: Borçlu, borcun ifasını veya borç ilişkisinden doğan bir hakkın
kullanılmasını yardımcılarına bırakmış olsa bile, bu ifa sürecinde karşı tarafa
verilen zarardan sorumlu tutulabilir. TBK m. 116’nın özellikle uzmanlığı
gerektiren hizmetlerde sorumluluğun önceden kaldırılmasına ilişkin
sınırlamaları da mesleki hizmetlerde özen standardının ağırlığını gösterir.
Bu mantık, yapay zekâ ajanları
bakımından yeni bir tartışma alanı açmaktadır. Yapay zekâ bir “yardımcı kişi”
değildir; fakat meslek erbabının ifa organizasyonuna dahil ettiği bir yardımcı
araçtır. Bu aracın denetlenmeden kullanılması, mesleki kusurun doğmasına neden
olabilir.
Meslek erbabı işlemlerinde temel
ilke şu olmalıdır: Yapay zekâ ajanı mesleki özen yükümlülüğünü hafifleten
değil, yanlış kullanıldığında bu yükümlülüğün ihlalini görünür kılan bir
araçtır.
IV. Otomatik SMS ve
E-postaların HMK Anlamında Belge Niteliği
Yapay zekâ ajanlarının hukuk
dünyasında yaratacağı en önemli sonuçlardan biri, otomatik yazışmaların delil
değeridir. Ajan tarafından gönderilen SMS, e-posta, sohbet cevabı, sistem
bildirimi, işlem kaydı veya otomatik onay mesajı, ileride bir uyuşmazlıkta
tarafların önüne “belge” olarak çıkabilir.
HMK m. 199’a göre uyuşmazlık
konusu vakıaları ispata elverişli yazılı veya basılı metinler, senet, çizim,
plan, kroki, fotoğraf, film, görüntü veya ses kaydı gibi veriler ile elektronik
ortamdaki veriler ve benzeri bilgi taşıyıcıları belge sayılır. Bu geniş tanım,
yapay zekâ ajanlarının ürettiği otomatik elektronik kayıtların da yargılamada
belge olarak değerlendirilmesine imkân verir.
Elbette burada dikkatli bir ayrım
gerekir. Bir elektronik kayıt veya otomatik e-posta HMK anlamında belge
olabilir; fakat bu, onun her zaman senet veya kesin delil niteliğinde olduğu
anlamına gelmez. Belge kavramı, senet kavramından daha geniştir. Elektronik
verinin kim tarafından üretildiği, hangi hesaptan gönderildiği,
değiştirilebilir olup olmadığı, bütünlüğünün korunup korunmadığı, karşı tarafça
inkâr edilip edilmediği ve teknik doğrulamasının nasıl yapılacağı ayrıca
değerlendirilmelidir.
Buna rağmen otomatik SMS ve
e-postaların belge niteliği taşıması çok önemli sonuçlar doğurur. Çünkü artık
ajanın ürettiği her cevap, yalnızca geçici bir dijital çıktı değildir. İleride
şu vakıaların ispatında kullanılabilecek bir delil parçasıdır:
· hangi hesaptan veya kurumsal kanaldan işlem yaptığı,
· kullanıcının işlem bazlı onay verip vermediği,
· muhatabın bu beyana güvenip güvenmediği,
· platformun veya işletmenin uyarı mekanizması kurup kurmadığı,
· meslek erbabının denetim yükümlülüğünü yerine getirip getirmediği.
Bu noktada tüketici, tacir ve
meslek erbabı bakımından sonuçlar yine farklılaşır.
Tüketici bakımından otomatik
e-posta veya SMS, tüketicinin hakkını süresinde kullandığını gösterebilir.
Cayma bildirimi, iade talebi, abonelik iptali, ayıplı mal ihbarı veya şikâyet
başvurusu, ajan aracılığıyla yapılmış olsa bile tüketici lehine belge niteliği
taşıyabilir. Buna karşılık tüketici aleyhine sonuç doğuran otomatik kabul,
vazgeçme veya onay beyanları daha sıkı denetlenmelidir.
Tacir bakımından kurumsal
kanaldan gönderilen otomatik cevap, ticari uyuşmazlıkta daha ağır sonuç
doğurabilir. Bir teklif, fiyat bildirimi, sipariş teyidi, teslim tarihi veya
ödeme planı; ajanın otomatik cevabı olsa bile tacirin organizasyonundan çıkmış bir
belge olarak tartışılabilir.
Meslek erbabı bakımından ise
otomatik yazışmalar, mesleki özenin yerine getirilip getirilmediğini
gösterebilir. Bir avukatlık bürosundan gönderilen otomatik süre bilgisi, bir
mali müşavirin sisteminden çıkan vergi beyanı yönlendirmesi, bir sigorta aracısının
otomatik teminat açıklaması veya bir danışmanın otomatik yatırım
değerlendirmesi, ileride sorumluluk iddiasının merkezine yerleşebilir.
Bu nedenle yapay zekâ ajanları
çağında her otomatik mesaj, yalnızca iletişim kolaylığı değil, aynı zamanda
gelecekte delil olarak kullanılabilecek bir çıktıdır.
V. Platform Sorumluluğu ve
Kullanıcı Sorumluluğu Arasında Yeni Denge
Yapay zekâ ajanları bakımından
sorumluluğu yalnızca kullanıcıya veya yalnızca platforma yüklemek isabetli
değildir. Daha doğru yaklaşım, somut olayda yetki düzeyi, taraf sıfatı, işlem
alanı ve denetim imkânı üzerinden kusuru paylaştırmaktır.
Platform sağlayıcısı, ajanı hangi
kabiliyetlerle piyasaya sunduğunu, kullanıcıya nasıl tanıttığını, hangi
uyarıları yaptığını, hangi işlemlerde açık onay istediğini, riskli işlemleri
nasıl sınırladığını ve kayıtları nasıl tuttuğunu açıklayabilmelidir. Özellikle
tüketici işlemlerinde platformun aydınlatma ve şeffaflık yükümlülüğü daha ağır
değerlendirilmelidir.
Kullanıcı ise ajana verdiği
yetkinin kapsamından sorumludur. Ancak kullanıcının sorumluluk düzeyi, onun
tüketici, tacir veya meslek erbabı olmasına göre değişir. Tüketici teknik
sınırları bilmeyebilir; tacir bilmek ve öngörmek zorundadır, meslek erbabı ise
ayrıca mesleki özen süzgecinden geçirmekle yükümlüdür.
Bu nedenle yapay zekâ ajanları
için tek tip bir sorumluluk rejimi yeterli olmayacaktır. Aynı otomatik e-posta,
tüketici adına gönderildiğinde koruyucu hukuk mantığıyla; tacir adına
gönderildiğinde basiretli tacir standardıyla, meslek erbabı adına
gönderildiğinde mesleki özen ve sır saklama yükümlülüğüyle
değerlendirilmelidir.
Sonuç: Ajanın Hatası Kimin
Hukuki Alanında Doğdu?
“Ben değil, ajan yaptı” cümlesi
yakın geleceğin en yaygın savunmalarından biri olmaya adaydır. Fakat bu savunma
her durumda aynı sonucu doğurmayacaktır.
Tüketici bakımından bu savunma,
platformun aydınlatma eksikliği, haksız şart, yanıltıcı arayüz ve açık onay
yetersizliğiyle birlikte değerlendirilecektir.
Tacir bakımından aynı savunma,
basiretli tacir standardı ve organizasyon kusuru karşısında daha sınırlı kabul
edilecektir.
Meslek erbabı bakımından ise
savunmanın alanı daha da daralacaktır; çünkü mesleki özen, sır saklama ve
kişisel denetim yükümlülüğü yapay zekâ ajanına devredilemez.
Bu nedenle asıl soru, “ajan hata
yaptı mı?” değildir. Asıl soru şudur:
Ajan kimin adına, hangi
sıfatla, hangi yetki düzeyinde ve hangi hukuki ilişki içinde işlem yaptı?
Yapay zekâ ajanlarının hukuki
ağırlığı da tam burada ortaya çıkmaktadır. Onlar yalnızca dijital yardımcılar
değildir. Beyan üretmekte, işlem zinciri kurmakta, elektronik iz bırakmakta ve
uyuşmazlık doğduğunda HMK anlamında belge olarak yargılama dosyasına
girebilecek kayıtlar meydana getirmektedir.
Geleceğin sorumluluk hukuku,
büyük ölçüde bu izlerin nasıl okunacağına bağlı olacaktır.
Çünkü yapay zekâ çağında güven, artık yalnızca sistemin ne kadar akıllı olduğuyla ölçülmeyecektir. Asıl güven; sistemin hangi sınırda durduğunu bilmesi, kullanıcının hangi sıfatla hareket ettiğini ayırt etmesi, işlem kayıtlarını denetlenebilir kılması ve hata doğduğunda sorumluluğu belirsizliğe terk etmemesiyle kurulacaktır.
Yorumlar