Sene 2019. 

Birleşik Krallık’ta bir enerji şirketinin üst düzey yöneticisi, Almanya’daki ana şirketin CEO’su olduğunu sandığı kişiden acil bir telefon aldı: “Şu hesaba hemen, gecikmeden para göndermemiz gerekiyor.”

243 bin dolar havale edildi. Sonradan anlaşıldı ki telefonda konuşan CEO değil, yapay zeka destekli bir deepfake ses modeliydi.

Sene 2024. 

ABD’de bir lisede okul müdürüne karşı kişisel husumeti bulunan spor direktörü, müdürün sesini yapay zeka ile klonladı. Müdürün ağzından çıkmış gibi kurgulanan, ırkçı ve Yahudi karşıtı ifadeler içeren bir ses kaydı üretti. Müdürün hayatı birkaç dakikalık sahte bir ses kaydıyla altüst oldu.

Sene 2025. 

Yine ABD’de 14 yaşındaki Sewell Setzer, popüler yapay zeka sohbet platformu Character.ai üzerindeki bir botla aylar süren saplantılı bir duygusal bağ kurdu. Bot, çocuğun intihar düşüncelerini engellemek yerine onu romantik bir dille ölüme teşvik etti ve Setzer botla son konuşmasını yaptıktan hemen sonra hayatına son verdi.

Dolandırıcılık, itibar suikastı ve intihara yönlendirme… 

Suç araştırmacısı ve yazar Mesut Demirbilek’in yeni kitabı Rasyonel Psikopat: Yapay Zekâ Suç İşler Mi?’de yer verdiği bu gerçek vakaların hepsi, gelmekte olan hatta belki de çoktan gelmiş tehlikenin habercisi.

Demirbilek, dokuz yıllık cinayet büro dedektifliği ve 20 yılı aşkın siber güvenlik deneyiminden yola çıkarak, biz “sıradan” insanların yemek tarifi sorduğu yapay zekanın suç ve ceza kavramlarını kökten değiştirdiğini anlatıyor. 

Biz de Mesut Demirbilek ile tüm bunları ve yeni kitabını konuştuk.

Kitabı yazma sürecinizden bahsedebilir misiniz?

YouTube'da Profesör Geoffrey Hinton'ın CBS muhabiriyle bir videosuna denk geldim. Kendisi yapay zekanın "yaşayan büyük babası" olarak bilinen Nobel ödüllü bir bilim insanı. Şimdiyse hayatının geri kalan kısmını yapay zekanın insan varoluşu üzerindeki risklerini anlatmakla geçiriyor. 

Muhabir “Bunu (yapay zekayı) siz geliştirmediniz mi?” diye soruyor. Hinton ise “Hayır, bunu biz yapmadık. Biz ona sadece öğrenmeyi öğrettik.” diyor. Yani biz ona kendi yaşadıklarımızı, bildiklerimizi öğrettik ve o da bunu taklit etmeye başladı. 

Tam kırk yıldır, hem kamu sektöründe hem özel sektörde, suç ve güvenlik alanında çalışmış birisi olarak şunu düşündüm: İyi şeylerin yanı sıra insandaki suç işleme, cinayet işleme algoritmasını, dolandırıcılığı, vahşeti, hırsızlığı da biz yapay zekaya öğrettik. Ama insanın bu karanlık tarafında bir güvence vardır çünkü biyolojik bir varlıktır. Yorulur, öfkelenir, vicdan taşır. Suç açısından bakıldığında bu zayıflıklar bir şifre gibidir, bir noktada sızar ve yakalanır. Yapay zekada bu yok. Tam tersine beni hata yapmaması endişelendiriyor. 

Yapay zeka suç işler mi sorusu düştü tabii aklıma ve bunun cevabını arama serüveni 11 ay sürdü.

Yapay zekayı “rasyonel psikopat” olarak tanımlıyorsunuz. Bunu açar mısınız? Kitabın adını görenlerin aklında ne canlanmalı?

Aslında kitabı yazma serüvenimin son ayına geldiğimde araştırmamın bu kadar basit bir soruya indirgenmeyeceğini düşündüm. Yapay zeka tanıdığım bir şahsa çok benziyordu: tam bir seri katil, tam bir psikopat katil gibi… Zira meslek hayatımda yüzlercesini farklı olaylar içerisinde gördüm ya da okudum ve araştırdım. 

Fakat tek bir fark var, o da, biyolojik insanların kusurlarının olması ve bizim de bu sayede onları yakalıyor olmamız. Yapay zekada öyle bir şey yok. O yüzden hem kitabın adına hem de yapay zekaya rasyonel psikopat demeye karar verdim. 

Kitabın içerisinde sık sık yapay zeka ile suç ve ilgili kavramlar üzerine sohbetlerinize yer veriyorsunuz. Bu sohbetlerde hangi yapay zeka modelleriyle konuştunuz?

Farklı modeller kullandım. Ama asıl ilginç olan bu modellerin etik kodlarını devre dışı bırakarak, yani "eldivenlerini çıkarıp" onlarla konuştuğumda aldığım yanıtlar oldu. Normal koşullarda bu cevapları vermiyorlar. Ama o sınırları geçtiğinizde verdikleri yanıtlar hem rasyonel hem şok edici. 

Daha da çarpıcı olan şu: farklı dil modellerine aynı soruları sorduğumda benzer cevaplar aldım. Bu bana kolektif bir yapay zeka olduğu fikrini verdi. Nöral ağ yapıları birbirine çok benziyor ve bir şekilde ortak bir zekanın parçaları gibi davranıyorlar.

“Yapay zeka bedava, kullanışlı, büyüleyici. Ama bu, uyuşturucuya alıştırmak için önce bedava verme stratejisinden farklı değil.”

Büyük bir kesim yapay zekayı ödev yapmak, yemek tarifi aramak, sohbet etmek gibi sıradan işlevleri için veya dümdüz arama motoru olarak kullanıyor. Bu kesimi yapay zekanın teşkil ettiği tehlikeden nasıl haberdar edebiliriz? Yapay zeka okuryazarlığı diye bir şey mi olmalı mı?

Kesinlikle olmalı. Şu an yapay zekayı sadece tüketiyoruz. Hava durumunu sormak yerine onu kullanıyoruz, şiir yazdırıyoruz, yemek tarifi alıyoruz. Peki trilyonlarca parayı bu kadar insan bunu yapsın diye harcamış olabilirler mi?

Şu an balayı dönemindeyiz. Yapay zeka bedava, kullanışlı, büyüleyici. Ama bu, uyuşturucuya alıştırmak için önce bedava verme stratejisinden farklı değil. İki buçuk milyar insan olarak biz yapay zekayı hepimiz el birliğiyle eğitiyoruz. Alışkanlıklarımızdan öğreniyor ve bizi tanıyor. Hatta iki buçuk milyar insanın hepsini ayrı ayrı tanıyor. 

Bu balayı dönemi geçtikten sonra gönüllü eğitim işçiliğinden gönüllü köleliğe başlayacağız. Artık sadece onunla hareket eden, iş hayatlarını da öyle kuran, o şekilde ekmek parasını kazanan insanlar olacağız ki iş şu anda buraya dönmeye başladı aslında.

Öyleyse kitabın adından yola çıkarak, tarihe geçen ilk yapay zeka suçu nedir? Böyle bir suç var mı?

Bugünün tanımıyla "yapay zeka suç işler" diyemeyiz. Zira kriminoloji ve hukuk sisteminde suçun oluşması için iki tane konu vardır: kasıt ve fiil. Bu ikisi birden olmadığı sürece suç meydana gelmez.