Ekim 12, 2026

Tehlikeyi Göstermek, Çözümü Kanıtlamak mıdır?

Sevgili Erol,

Yapay zekânın tehlikeleri üzerine yazılanları okumaktan, doğrusu, ben de yoruldum. Aynı konuyu tekrar tekrar gündeme getirmek istemiyorum. Ama bazen öyle açıklamalarla karşılaşıyorum ki insan düşünmeden edemiyor.

Geçenlerde, bir genel müdürün konuşmasında ülkenin kritik askerî tesislerine yabancı elektrikli araçların alınmadığını, yerli araçların ise kullanılabildiğini anlattığını duydum. Gerekçe, yabancı araçların çok sayıda sensörünün, kamerasının ve veri toplama imkânının bulunması; yazılım ve kontrolün ise başka ellerde olmasıydı.

Anlatılan güvenlik kaygısı elbette ciddiye alınmalı. Kritik tesislerin konumlarının, faaliyetlerinin ve güvenlik düzenlerinin izinsiz biçimde öğrenilmesi önemli bir risktir.

Benim sorguladığım, bu kaygının varlığı değil. Önerilen önlemin yeterliliği.

Bir aracın yerli üretilmesi, üzerindeki bütün yazılımların, elektronik bileşenlerin ve sensörlerin de yerli olduğu anlamına gelir mi? Yerli yazılım kullanmak, toplanan verilerin başka merkezlere aktarılmayacağını garanti eder mi? Bulut altyapısının, uzaktan erişim bağlantılarının ve yazılım güncellemelerinin güvenliği ne olacak?

Bunları sormak, yerli üretime karşı çıkmak değildir. Tam tersine, güvenlik iddiasının gerçekten neye dayandığını anlamaya çalışmaktır.

Yabancı araçları kritik tesislere almamak bir güvenlik önlemi olabilir. Ancak yerli araçları içeri almak, tek başına yeterli güvenliğin sağlandığını göstermez.

Bir önlem önermekle o önlemin sorunu çözdüğünü göstermek aynı şey değildir.

Üstelik mesele elektrikli araçlardan ibaret de değil.

Akıllı telefonlarımız, saatlerimiz, kameralarımız, haberleşme sistemlerimiz ve uydularımız da veri topluyor, taşıyor veya işliyor. Bunların hepsini yasaklayarak mı güvenliği sağlayacağız? Yoksa hangi verinin, kim tarafından, nerede ve hangi amaçla kullanılabileceğini mi denetleyeceğiz?

İşte bu noktada yapay zekâ tartışmasına dönüyorum.

İnsan, yüzyıllardır veri topluyor, bunları yorumluyor, aralarındaki ilişkileri buluyor ve sonuçlar çıkarıyor. Bu bilgilerle yararlı işler yaptığı gibi, başkalarına zarar verebilecek eylemlerde de bulunabiliyor.

Sonra insan, bu zahmetli işlemleri daha hızlı yapabilmek için yapay zekâyı geliştirdi.

Şimdi riskin büyüdüğünü söylüyoruz. Elbette büyüyebilir. Bir insanın günlerce veya aylarca uğraşarak yapabileceği bazı işlemlerin saniyeler içinde gerçekleştirilmesi, hem yarar hem de zarar potansiyelini artırabilir.

Ama risk dün yok muydu?

Keskin bir bıçakla insan öldürülebilir. Öldürülmüştür de. Buna rağmen insan daha keskin bıçaklar üretmekten vazgeçmedi.

Otomobiller yüksek hızlarda tehlikeli olabilir. Biz otomobil üretmeyi bırakmadık; hız sınırları, trafik kuralları ve yaptırımlar geliştirdik. Elbette bunlar bütün kazaları önleyemiyor. Ama tehlikenin varlığından hareketle otomobil üretimini bütünüyle yasaklamayı da çözüm olarak görmedik.

Öyleyse yapay zekâ söz konusu olduğunda neden ilk akla gelen seçeneklerden biri yasaklamak oluyor?

Burada bir ayrımı gözden kaçırıyor olabilir miyiz?

Bir teknolojinin tehlikeli olabileceğini göstermek, onun bütün kullanımlarının tehlikeli olduğunu göstermez. Aynı şekilde, bir tehlikeye dikkat çekmek de önerilen çözümün yeterli olduğunu kanıtlamaz.

Belki de asıl sorun, insanın geliştirdiği gücün sonuçlarını yönetmekte zorlanmasıdır.

İnsan, kendi zekâsıyla verileri toplayıp yorumlayabiliyordu. Şimdi aynı işlerin bir bölümünü daha hızlı yapabilen bir araç geliştirdi. Bu araç yeni riskler doğuruyor diye onu geliştiren insanın düşünme ve araştırma yeteneğini de mi yasaklayacağız?

Elbette yapay zekânın her kullanımını serbest bırakmak gerektiğini savunmuyorum. Bazı uygulamalar sınırlandırılabilir, bazıları yasaklanabilir. Kritik tesislerde de sıkı güvenlik kuralları uygulanabilir.

Ama bunların gerekçesi açık olmalı. Hangi riskin bulunduğu, bu riskin nasıl ortaya çıkabileceği ve alınan önlemin onu ne ölçüde azalttığı gösterilmeli.

Çünkü bir tehlikeyi anlatırken seçtiğimiz örnekler, eksik bıraktığımız bilgiler ve önerdiğimiz çözüm, dinleyenin zihninde gerçekte söylemediğimiz bir sonuca da yol açabilir.

Kimse açıkça “Yapay zekâ yasaklanmalıdır” dememiş olabilir. Fakat tehlikeyi anlatıp çözümün sınırlarını açıklamadığımızda, dinleyici şu sonuca varabilir: Demek ki yapay zekâ tehlikeli; öyleyse yasaklanmalı.

İşte benim üzerinde durduğum nokta bu.

Bir açıklamanın toplumsal etkisini değerlendirmek için konuşanın niyetini bildiğimizi iddia etmemiz gerekmez. Söylenenlerin hangi düşünceyi besleyebileceğini, hangi soruları cevapsız bıraktığını ve önerilen çözümün gerçekten yeterli olup olmadığını sorgulayabiliriz.

Sevgili Erol,

Daha önce yaşamın bedelinin rahatsızlık olduğunu söylemiştik. Rahatsızlık, gelişmenin motoruydu.

İnsan, geliştirdiği araçların doğurduğu sorunlardan rahatsız olabilir. Bu rahatsızlık onu daha güvenli sistemler kurmaya, daha iyi kurallar geliştirmeye ve kendi sınırlarını yeniden düşünmeye yöneltebilir.

Ama aynı rahatsızlık, anlamadığımız veya denetleyemeyeceğimiz bir şeyden kurtulmak için onu bütünüyle ortadan kaldırma isteğine de dönüşebilir.

İnsan, kendi aklının ürettiği güçten mi korkuyor, yoksa o gücün sonuçlarını yönetmekte kendi yetersizliğini görmekten mi?

Belki de asıl sınavımız yapay zekânın ne kadar akıllı olduğu değil, bizim kendi aklımızı nasıl kullandığımızdır.

Çünkü tehlikeyi göstermek kolaydır.

Asıl sorumluluk, tehlikeyi doğru anlamak, çözümün yeterliliğini sorgulamak ve korkuyu düşüncenin yerine koymamaktır.

İmza: Kendin

(Bu yazılar, doğrular ilan etmekten çok, rahatsız edici sorular sormak niyetiyle kaleme alınmıştır.)

*Okuduğunuz için çok teşekkür ederim, desteğinizi ve yanımda olduğunuzu hissetmek benim için gerçekten çok kıymetli.