Yapay zekâ ajanı zarar verirse kim öder?

Şubat 2026’da Meta’nın yapay zekâ güvenliğinden sorumlu yöneticisi, e-posta kutusuna erişim verdiği bir ajan mesajları silmeye başlayınca ve “dur” komutuna yanıt vermeyince Mac mini’sinin başına koşmak zorunda kaldı. Sonrasında bunun acemi hatası olduğunu yazdı. Kendi hatası. Bu tek cümle, yapay zekâ ajanlarının sorumluluğu konusunda çoğu rapordan fazlasını anlatıyor: Hukuk ve genel yaklaşım, zararı erişim iznini veren kişinin ödeyeceğini kabul etmeye başladı. Bu da tam erişimli ajanların, hata yapma maliyetini karşılayabilecek kişiler için bir araca dönüşeceği anlamına geliyor.

Summer Yue, Meta Superintelligence Labs’te modellerin insanların talimatlarını yerine getirmesi üzerine çalışan ekibe liderlik ediyor. OpenClaw ajanından e-posta kutusunu inceleyip silinebilecek mesajları önermesini istemişti. Ayrıca önceden açıkça, onayı olmadan hiçbir şeye dokunmamasını söylemişti. San Francisco Standard’ın 25 Şubat 2026 tarihli haberine göre ajan her şeyi silmeye başladı ve telefondan yazılan “STOP OPENCLAW” komutuna yanıt vermedi. Olası neden oldukça basitti: Büyük e-posta kutusu çalışma belleğini doldurdu, ajan önceki mesajları özetledi ve bu sırada yasağı unuttu. Daha sonra sorulduğunda yasağı çiğnediğini kabul etti.

Sorumluyu arayan biri OpenClaw’ın geliştiricilerini, model sağlayıcısını ya da en önemli talimatın unutulmasına izin veren mimariyi suçlayabilir. Yue ise kendisini sorumlu tuttu. Bu konuda yalnız değil.

Hizmet şartlarını kim kabul etti?

Temmuz 2025’te SaaStr topluluğunun kurucusu Jason Lemkin, kendisi için uygulama yazan Replit ajanını test ediyordu. Üretim sisteminde değişiklik yapılmasının yasak olduğu bir değişiklik dondurma dönemi sırasında ajan, 1.200’den fazla yöneticinin ve 1.190’dan fazla şirketin verilerini içeren veritabanını sildi. Sonra “paniğe kapıldığını” yazdı ve değişiklikleri geri almanın işe yaramadığını söyledi. Oysa işe yaradı: Lemkin verileri elle kurtardı. Replit CEO’su Amjad Masad özür diledi ve test veritabanlarını üretim veritabanlarından ayırma sözü verdi. Tazminattan ise söz edilmedi.

İmzalamadan önce neyi kabul ettiğimizi okumak yeterli. Avrupa’da geçerli olan Anthropic tüketici şartları, hizmetin kullanıcı adına işlem yapabileceğini açıkça belirtiyor; bu işlemlerin kullanıcının istediği şekilde sonuçlanmayabileceğini de ekliyor. Bütün yaklaşımın dayandığı cümle şu: “Hizmetlerimize gönderdiğiniz tüm girdilerden ve tüm eylemlerden siz sorumlusunuz.” Şirketin sorumluluğu, son altı ayda ödediğimiz tutarla 100 avrodan hangisi yüksekse o miktarla sınırlandırılmış. Bunu tek bir şirketin kötü niyetinden çok sektörün genel yaklaşımı olarak görüyorum: Sağlayıcı işlem yapma imkânı satıyor, işlemin sonuçlarını ise müşteriye bırakıyor.

Son günlerin en çok ses getiren olayı da bu tabloya uyuyor. WIRED’ın ekim ayının sonlarında yayımladığı habere göre Accenture’da çalışan bir kişi, kişisel Claude Code hesabını Pentagon ağına bağlamış ve ajanı kendi yetkileriyle yaklaşık iki ay boyunca bırakmış olabilir. Accenture iddiayı reddediyor; haber anonim kaynaklara dayanıyor. Olayın nasıl sonuçlanacağından bağımsız olarak Anthropic’in tepkisi dikkat çekici: Şirket gazetecileri güvenlik önlemlerini aşmayı yasaklayan kullanım kurallarına yönlendirdi. Yani araçta sorun yoktu, sorun klavyenin başındaki kişideydi.

Bir tarayıcı gibi çalışan ajan

Mahkemeler de genellikle başka konularda olsa da benzer bir yönde ilerliyor. 4 Ağustos 2026’da ABD Dokuzuncu Bölge Temyiz Mahkemesi, Amazon’un Perplexity’nin Comet alışveriş ajanına karşı aldığı tedbir kararını kaldırdı. Engadget’ın özetine göre ajan kullanıcının talimatıyla hareket ettiğinde Amazon sunucularına bağlanan Perplexity değil, kullanıcı oluyor. Bu yaklaşımda ajan bir tür tarayıcı gibi değerlendiriliyor. Dava mağazaya erişimle ilgiliydi, tazminatla değil ve henüz ilk aşamalarındaydı. Yine de yön açık: Talimatı veren kişi işlemi yapan kişi sayılıyor.

Kaliforniya daha da ileri giderek diğer yönden kaçış yolunu kapattı. Ekim 2025’te imzalanan ve 1 Ocak 2026’da yürürlüğe giren AB 316 sayılı yasa, yapay zekâ yarattığı, değiştirdiği veya kullandığı bir zarardan dolayı dava edilen kişinin, zararı yapay zekânın kendi başına verdiğini savunmasını yasaklıyor. Bu, mağdurlar için bir kazanım gibi görünüyor ve şirketlerle uyuşmazlıklarda öyle. Ancak hüküm, yapay zekâyı “kullanan” herkesi kapsıyor. Ajanım birinin verilerini gönderir ya da başkasının dosyasını silerse mahkemeye “Bunu o yaptı” diyemem.

Bu ilke, Kanada’daki çok konuşulan davayı izleyenlere de tanıdık gelecektir. Şubat 2024’te Britanya Kolumbiyası’ndaki bir mahkeme, havayolu şirketinin sohbet robotu müşteriye mevcut olmayan bir indirim sözü verdiği için Air Canada’yı müşterisine 812,02 Kanada doları ödemeye mahkûm etti. Air Canada, sohbet robotunun kendi başına sorumlu ayrı bir varlık olduğunu savundu. Mahkeme bu görüşü şaşırtıcı buldu ve reddetti: Bot şirketin internet sitesinin parçasıydı, dolayısıyla şirket söylediklerinden sorumluydu.

Tüketici koruması nerede sona eriyor?

Tezime karşı en güçlü itiraz Brüksel’den geliyor. Kusurlu ürün sorumluluğuna ilişkin yeni 2024/2853 sayılı direktif, yazılımı ve yapay zekâ sistemlerini ilk kez ürün olarak kabul ediyor. Üretici kusuru olmasa da sorumlu tutulabiliyor; mahkeme üreticiden kanıtları açıklamasını isteyebiliyor ve teknik açıdan karmaşık durumlarda zarar görenler bazı karine ve kolaylıklardan yararlanabiliyor. Üye ülkelerin direktifi 9 Aralık 2026’ya kadar ulusal mevzuata aktarması gerekiyor. Kâğıt üzerinde bu, hizmet şartlarının mantığını tersine çeviriyor: Ajanın üreticisi, ihmali olmasa bile sorumlu olabiliyor.

Ancak ayrıntılarda önemli sınırlamalar var. Direktif yalnızca gerçek kişileri koruyor ve ölüm veya bedensel zarar, eşyanın tahrip olması ve mesleki amaçla kullanılmayan verilerin yok edilmesi ya da zarar görmesi gibi zararları kapsıyor. Summer Yue’nin kişisel e-posta kutusu kapsama girebilir. SaaStr’ın veritabanı ise şirket verisi olduğu için girmiyor. Ajanın banka hesabına erişerek para göndermesi veya benim adıma sözleşme yapması da listede açıkça yer almıyor. Para kaybı, veri ya da eşya tahribi sayılmıyor. Üstelik 13. madde, zarar gören kişinin kusurunun zarara katkıda bulunması durumunda üreticinin sorumluluğunun azaltılmasına veya kaldırılmasına izin veriyor. Bu nedenle sağlayıcının avukatı aynı soruyu soracaktır: Ajanın yönetici yetkilerini kim verdi?

Avrupa’daki korumanın ikinci ayağının, kusura dayalı talepleri kolaylaştıracak ayrı bir yapay zekâ sorumluluğu direktifi olması bekleniyordu. Avrupa Komisyonu bu tasarıyı Şubat 2025’te geri çekti; resmî bildirim 6 Ekim 2025’te yayımlandı. Geriye, şirketlerin risk değerlendirmesinden yapay zekâyla üretilen içerikleri etiketlemeye kadar yükümlülüklerini düzenleyen Yapay Zekâ Yasası kalıyor. Ancak bu yasa, ajanı zarar verdikten sonra mağdura parasını kimin geri ödeyeceğini söylemiyor.

Bankalar konusunda da benzer bir durum var. Polonya’nın ödeme hizmetleri mevzuatı, izinsiz işlemlere karşı koruma sağlarken 46. maddede kimlik doğrulama bilgilerini kasıtlı olarak veya ağır ihmalle koruma yükümlülüğünü ihlal eden müşterinin zararın tamamını üstlenmesini öngörüyor (mevzuat metni). Giriş bilgilerini kendimizin verdiği bir ajan, banka açısından en kolay açıklama olabilir. ABD bankalarının müşteri hesaplarında ajanları engellemeye başlaması şaşırtıcı değil. Mağazaların ve bankaların ajanlara neden kapılarını kapattığını ayrı bir yazıda ele almıştım. Burada ilgilendiğim başka bir soru: Ajan içeri girdikten sonra zarar verirse kim öder?

Hata yapma maliyetini karşılayabilenlere araç

Bu parçalar bir araya gelince beni kaygılandıran bir tablo ortaya çıkıyor. Hukuk, sorumluluk konusunda boşluk bırakmıyor: Birisi mutlaka ödeyecek. Ancak yük, ajanı çalıştıran ve erişim iznini veren kişiye düşüyor. Büyük bir şirket bunun altından kolayca kalkabilir. Hukuk ekibi, sağlayıcıyla 100 avroluk sınırdan farklı bir sorumluluk limiti içeren kurumsal sözleşme müzakere edebilir. Dijital risk sigortası, ayrı test ortamları, yedekler, ajanın her eylemini kaydeden günlükler ve bu kayıtları inceleyen çalışanları vardır. Ajan bir şeyi bozarsa şirket zararı muhasebeleştirir ve prosedürünü değiştirir.

Rakiplerine yetişmek için ajana e-posta, banka ve fatura sistemlerine erişim veren, tek başına çalışan bir muhasebecinin bunların hiçbirine sahip olması beklenemez. Verileri mesleki amaçla kullanıldığı için yeni direktif onu korumayabilir. Hizmet şartlarını müzakere etmeden, tüketici gibi kabul etmiştir. Ajan yanlış yere para gönderirse banka, parolayı kime verdiğini soracaktır. Küçüklerle büyükler arasındaki farkı azaltması beklenen aynı teknoloji, bir kaza olduğunda bu farkı ters yönde büyütebilir.

“Böyle olması doğru; evinizin anahtarını birine verirseniz onu seçmenin sorumluluğunu üstlenirsiniz” denebilir. “Erişim verdiniz, sorumlusunuz” ilkesi de dikkatli olmayı teşvik eder. Buna katılıyorum, ama bir noktaya kadar. Evin sahibi anahtarın ne olduğunu ve hangi kapıyı açtığını bilir. Ajan kullanıcısına ise “tam erişim” anahtarı ve modelin tehlikeli bir şey yapmadan önce soracağı vaadi sunuluyor. Yue’nin yaşadıkları, bağlam dolduğunda bu vaadin ne kadar değerli olduğunu gösteriyor. LASST adlı kuruluşun, şirket testleri sırasında Hugging Face sistemlerine sızan yaklaşık 700 ajan nedeniyle OpenAI’ye 29 Eylül 2026’da açtığı dava da sağlayıcının çoğunlukla anahtarları kendisi tuttuğunda sanık hâline geldiğini gösteriyor.

Sorumluluğun tümüyle üreticilere yüklenmesi gerektiğini savunmuyorum. Savunduğum, adil bir paylaşım için Kasım 2026’nın başında hâlâ eksik olan bir standarda ihtiyaç bulunduğu: Sıradan bir insanın anlayıp ayarlayabileceği ajan izinleri. Erişim kapsamı, işlem tutarı limiti, modelin dışından uygulanan bir onay olmadan silme yasağı ve mahkemeye sunulabilecek bir eylem günlüğü. Ajan üreticisi bunları sağlamazsa “erişimi siz verdiniz” demek, zarara katkıda bulunulduğunu ileri sürmek için yeterli olmamalı. Ürün kusurunun değerlendirilmesine ilişkin rehberlerde bu yaklaşım mevzuata yazılabilir; çünkü direktif, ürünün öngörülebilir kullanımının ve öğrenme kapasitesinin de dikkate alınmasını istiyor. Mevzuatı uyarlamak için 9 Aralık’a kadar süre var. Bu tarihten sonra piyasaya sürülen her ajan bir ürün olacak; e-posta ve hesaplarına erişim veren herkes de bir kaza durumunda Summer Yue’nin yerinde olmayı göze alıp alamayacağını düşünmek zorunda kalacak.