Yapay zeka sektörünün son üç yıldır tek bir gündemi vardı. 

Kim daha çok çip yakarsa, yani çok büyük miktarda çipi yoğun biçimde çalıştırırsa, kim daha devasa veri merkezleri dikerse yarışı o kazanır. Frende ayak tutmak geri kalmakla, geri kalmak ise doğrudan piyasadan silinmekle eşdeğerdi.

Fakat eylül ayının başından beri San Francisco merkezli yapay zeka dünyasında alışılmadık bir trafik yaşanıyor. 

Bir yanda birbirinin pazar payını kapmak için milyarlarca dolar harcayan şirketlerin tepe yöneticileri, neredeyse sözleşmiş gibi sahneye çıkıp yarışın acilen frenlenmesi gerektiğini ilan ediyor. Diğer yanda ise Anthropic, yapay zekanın arka sokaklarında dönen tuhaflıkları belgeleyen 154 sayfalık bir tehdit raporu yayımlıyor.

Belli ki sahne arkasında bir süredir herkesin fısıldadığı ama kimsenin yüksek sesle söyleyemediği tekinsiz bir şeyler oluyor ve içerideki kontrol kaybı hissi artık dışarı taşıyor.

Yapay zeka araştırmacısı Jacob Coxon’ın vicdani istifası

Aslında bütün bu krizin fitilini, aynı haftanın başında yaşanan bir istifa ateşledi. 

Başrolde 27 yaşındaki yapay zeka araştırmacısı Jacob Coxon var. 

Coxon 2023 yılından Temmuz 2026'ya kadar OpenAI bünyesinde şu an herkesin kullandığı GPT-4o modelinin geliştirilmesinde bizzat yer almış, ardından en büyük rakibi Anthropic'e transfer olmuş çekirdek kadrodan bir isim.

Coxon, 9 Eylül'de sosyal medya hesabından bir istifa mektubu yayımladı. Her iki teknoloji devinin de son derece sorumsuz davrandığını belirtti. Şirketlerin kendi kendini geliştiren yapay süper zekaya doğru şuursuzca koşarken bütün insanlığın hayatını devasa bir kumar masasına sürdüğünü yazdı. 

Coxon’ın paylaşımı saatler içinde 70 milyonu aşkın görüntülenmeye ulaştı.

Coxon sonraki günlerde Amerikan basınına verdiği demeçlerde önümüzdeki bir iki yıl içinde işlerin tamamen kontrolden çıkma ihtimalinin hiç olmadığı kadar yüksek olduğunu belirtti. 

Öte yandan, Anthropic'in kıdemli güvenlik araştırmacıları Evan Hubinger ve Samuel Marks da kamuoyu önünde Coxon'a hak verdiklerini açıkladılar. 

Kısacası laboratuvarın içindeki mühendisler, sistemin nereye savrulduğunu dışarıdakilerden çok daha önce görmüş durumda.

CEO'lar neyin peşinde?

İçerideki bu sarsıntının hemen ardından Anthropic CEO'su Dario Amodei, kamuoyunun karşısına "We Must Pace the Frontier", yani kabaca "Sınırın Hızını Dizginlemek Zorundayız" başlıklı uzun bir manifestoyla çıktı.

Amodei’ye göre, modellerin yetenekleri güvenlik mekanizmalarını çoktan geride bıraktı. Bu yüzden sektörün gelişim hızının en az bir iki yıl kasıtlı olarak frenlenmesi gerekiyor.