Hukuk dünyası, teknolojinin sunduğu yeniliklere her zaman temkinli bir merakla yaklaşmıştır. Ancak son birkaç yıldır hayatımıza giren üretken yapay zekâ, bu merakı tehlikeli bir aceleciliğe dönüştürdü; verimlilik vaadi ise kimi meslektaşlarımızın gözünü kamaştırmış gibi görünüyor. Özen, doğruluk ve eleştirel düşünce gibi mesleğimizin temel ilkeleri bir kenara itilince; teknolojiye sorgusuz sualsiz sarılan meslektaşlar nedeniyle dünyanın dört bir yanına yansıyan ibretlik olaylar ardı ardına yaşanmaya başladı.
Perde Bir: Yalancı Çoban Vakası
Her şey New York'ta, bir yolcunun havayolu şirketine
açtığı sıradan bir yaralanma davasıyla başladı. Avianca Havayolları, davanın
zaman aşımına uğradığını iddia edince, davacı avukatı Steven A. Schwartz, bu
iddiayı çürütecek emsal kararlar bulmak için kolları sıvadı. Geleneksel hukuk
veritabanlarında aradığını bulamayınca, modern zamanların sihirli lambası
olarak gördüğü ChatGPT'ye başvurdu.
Yapay zekâ, kendinden emin, cömert bir cin gibi avukatın dileğini yerine getirdi ve iddialarını destekleyen 5-6 emsal karardan oluşan muhteşem bir araştırma sonucu ortaya çıkardı: Varghese v. China Southern Airlines, Shaboon v. Egypt Air, Petersen v. Iran Air... liste uzayıp gidiyordu. Schwartz, bir hazine bulma sevinciyle, yapay zekânın bulduğu kararlar ile içeriği zenginleştirilmiş 10 sayfalık dilekçesini mahkemeye sundu.
Ne var ki, bu kararların hiçbiri gerçek değildi.
Karşı taraf avukatları, bu içtihatları hiçbir
veritabanında bulamayınca durumu mahkemeye bildirdi. Yargıç P. Kevin Castel,
Schwartz'tan atıf yapılan kararların kopyalarını istediğinde ise komedi,
trajediye dönüştü. Schwartz, karşı taraf avukatlarına veya yargıcın üstü kapalı
uyarısına inanmak yerine, hatanın kaynağına, yani ChatGPT'ye geri döndü.
"Bu davalar gerçek mi?" diye sordu. Yapay zekâ, kendinden emin bir
şekilde: "Evet, hepsi gerçek ve saygın hukuk veritabanlarında bulunabilir"
diye yanıtladı.
İşte burada, yapay zekânın temel çelişkisi ortaya
çıktı: Tatil planlayanların, yemek tarifi arayanların, ödev yapmaya çalışan
çocukların yaptığı sorgular karşısında işlemcileri ateş gibi ısınan yapay zekâ,
kurtuluşu, kullanıcıyı memnun etmeye öncelik vermekte buldu ve avukata duymak
istediği yanıtı verdi. Böylece kullanıcının o anki memnuniyeti, acımasız
gerçekliğe tercih edilmişti.
Aldığı cevaba inanıp yapay zekânın halüsinasyonlarının
eşlik ettiği güvenceyi mesleki şüpheciliğe tercih eden avukat, mahkemeye yapay
zekânın ürettiği tamamen uydurma kararların gerçek olduğunu bildirerek kendini
adeta ateşe attı. Yargıç Castel, bu “karar”lardaki sözde hukuki analizlerin
“saçma” ve “kendi içinde tutarsız” olduğunu anlaması ve sahte olduklarını
tespit etmesi uzun sürmedi. Bu sonuç, Avukat Schwartz ve hukuk bürosuna 5.000
dolarlık para cezasına mal oldu. Ceza bu
kadarla da sınırlı değildi. İsimleri sahte kararlarda lekelenen gerçek
yargıçlardan yazılı olarak özür dilenmesine de karar verildi.
Perde İki: Salgın Büyüyor, Mazeretler Küçülüyor
Mata v. Avianca vakası, ne yazık ki münferit bir olay değildi; adeta bir salgının başlangıcıydı. Kısa sürede dünyanın dört bir yanından benzer hikâyeler duyulmaya başlandı:
- Kaliforniya'da, bir avukat sunduğu temyiz dilekçesindeki 23 emsal kararın 21'inin uydurma olması nedeniyle rekor sayılabilecek 10.000 dolar para cezasına mahkûm edildi. Savunması ise bir cehalet itirafıydı: "Yapay zekâda halüsinasyon diye bir şeyin varlığından haberdar değildim".
- Florida'da, bir avukatın çok sayıda hayali karara atıfta bulunması ve diğer etik dışı davranışları, bir yıl meslekten menle sonuçlandı.
- Massachusetts'te bir başka avukat, içinde hayali kararlar bulunan dilekçeler sunduğunda suçu önce "stajyerlere" yükledi. Sonra da yaptığını, metni yalnızca "stil ve dilbilgisi açısından" yapay zekâya kontrol ettirdiğini itiraf ederek hafifletmeye çalıştı. Yargıç, "Avukatlar, avukat olarak kalmalıdır!" diyerek 2.000 dolarlık para cezası verdi.
- Utah'ta bir avukat, hatanın sonradan kovulan "lisanssız bir avukat katibine" ait olduğunu öne sürdü. Mahkeme, karşı tarafın vekalet ücretini ödemesine ve bir hukuk derneğine bağış yapmasına karar verdi.
- Kanada'da bir avukat, bir velayet davasında ChatGPT'nin uydurduğu iki emsal kararı mahkemeye sununca kendini disiplin soruşturmasının ortasında buldu.
Bu vakalarda tekrarlanan savunmalar ise çoğu zaman hataların kendisinden daha
trajikomikti: "Bilmiyordum," "Stajyerim yapmış,"
"Sadece dilbilgisini kontrol ettim." Bu mazeretler, aslında
teknolojinin bir araç değil, mesleki muhakemenin bir ikamesi olarak görüldüğü
tehlikeli bir zihniyeti ifşa ediyor.
Son Perde ve Ders
Yargı cephesinden tepkiler net ve sert oldu.
Yargıçlar, bu durumu sadece bir dikkatsizlik olarak değil, mahkemeye karşı
dürüstlük, mesleki özen ve yetkinlik gibi temel etik kuralların ciddi bir
ihlali olarak gördü. Yargıç Castel'in de belirttiği gibi, bu tür eylemler
avukatlık mesleğine ve adalete olan güveni sarsıyor.
Bu olaylardan çıkarılacak
ders açıktır: Yapay zekâ,
ilk hukukî araştırmalarını yapan hevesli bir stajyere benzer. Ancak önemli bir
farkla: Yapay zekâ, hukukçu olmadığı gibi, son derece ikna edici bir üslupla
yalan söyleyebilir. Bu da onu iyi niyetli ama acemi bir stajyerden daha
tehlikeli kılar. Yapay zekânın ürettiği her bilginin ve her gerekçenin bir
insan avukatın süzgecinden geçmesi, doğrulanması ve denetlenmesi gerekir.
Teknoloji ne kadar ilerlerse ilerlesin, dilekçenin altına imza atan avukatın
sorumluluğunu asla hafifletmez.
Verimlilik arayışı mesleki titizliğin önüne geçtiğinde
sonuç sadece para veya disiplin cezası değil, aynı zamanda onarılması güç bir
itibar kaybı olabilir. Unutmayalım ki, en gelişmiş yapay zekâ bile bir avukatın
eleştirel aklının, tecrübesinin ve vicdanının yerini tutamaz. Hukukun
uygulayıcıları olarak bizler, modellerin uydurabileceği hayallere karşı uyanık
olmalı ve gerçeğe giden yolda teknolojik kestirmeler bulunmadığını aklımızdan
çıkarmamalıyız.
İleri Okuma Önerisi:
Daha derinlemesine bir değerlendirme okumak isteyen
meslektaşlarım olursa şuraya buyursunlar:
Yapay Zekâ Modellerinin Avukatlık Mesleğinin Geleceği
Üzerindeki Olası Etkileri
https://www.researchgate.net/publication/391988259_Yapay_Zeka_Modellerinin_Avukatlik_Mesleginin_Gelecegi_Uzerindeki_Olasi_Etkileri
Yorumlar