Zamanım yok hepsini nasıl okuyayım diyenler için özet: Bu yazı, yapay zekânın giderek “kendi kuyruğunu yiyen yılan”a dönüşme riskini anlatıyor: Başta insanlığın kaotik, çeşitli internet verisiyle büyüyen modeller, zamanla üretilen içeriklerin önemli kısmını kendileri yazmaya başlıyor; yeni modeller eğitilirken de bu steril, ortalama, risksiz YZ metinleri tekrar tekrar eğitim verisine karışıyor. Çeşitlilik azalınca zekâ keskinleşmek yerine köreliyor; dil ve düşünce dar bir koridora sıkışıyor, modeller dışarıdan daha düzgün görünse de marjinal gelişme hızı dramatik biçimde düşüyor. Üstüne bir de “veri kıtlığı” bahanesiyle mahrem ve kapalı veriler (kurumsal yazışmalar, sağlık verileri, eğitim verileri) büyük şirketlerin özel modellerine akarken, halka açık “genel modeller” giderek kendi çöplerini yeniden paketleyen ortalama zeka seviyesinde kalma riski taşıyor. Yazı, bu sürecin sadece teknik bir veri sorunu değil, kültürel çeşitliliği azaltan, iktidarı keskinleştiren, dünyayı tek üsluba ve tek “makul düşünce sınırı”na sıkıştıran politik bir mesele olduğunun altını çiziyor.
Yapay zekâya dair en korkutucu senaryolar genelde “bilinçlenip insanlığı yok etmesi” üzerine kurulur. Bence daha gerçekçi ve daha komik bir senaryo var:
Hiç kimseyi yok edemeden, kendi kendini aptallaştırması.
Bunun için ideal metafor hazır aslında:
Kuyruğunu yiyen yılan.
Ouroboros.
Başta etkileyici durur; “sonsuz döngü” filan diye süslenir. Ama bir noktadan sonra şuna dönüşür:
Kendi kendini yiyen, ama bir türlü doymayan, en sonunda da kafasıyla kuyruğu aynı yerde duran salak bir yaratık.
Şimdi bunu yapay zekâya çevirelim.
Bugünkü büyük dil modelleri neyle büyüdü?
İnsanların yazdığı, bağırdığı, kavga ettiği, saçmaladığı, dâhi olduğu, rezil olduğu internet verisiyle.
Yani içinde her şey var:
Deli profesör de var, ergen forumu da, şiir de var, ırkçı yorum da, derin analiz de, sallama “thread” de.
Bu kaotik çeşitlilik, modele zekâ gibi görünen şeyi veriyor.
Çünkü zeka dediğin sadece “çok bilmek” değil; farklılıkları, istisnaları, köşeli fikirleri, uç örnekleri taşıyabilmek.
Ama sonra ne oluyor?
Biz bu modeli alıyoruz, “çok güzel yazıyor” diye her yere salıyoruz.
Haberi onunla yazıyoruz, blogu onunla dolduruyoruz, kurumsal mailleri onunla yazdırıyoruz, tez özetlerini, lansman metinlerini, hatta sosyal medya post’larını ona emanet ediyoruz.
Yani internetin üstüne yeni bir katman çıkıyor:
Yapay zekânın ürettiği pürüzsüz, ortalama, risksiz metinler.
Ve işte kırılma noktası tam burada:
Yeni modelleri eğitirken, “mevcut veri”nin gittikçe daha büyük bir kısmı artık insan değil, yapay zekâ çıkışı oluyor.
Yani yılan yavaş yavaş kendi kuyruğuna dönüyor.
Bu ne anlama geliyor?
Başta masum: “Ne güzel, daha çok veri var.”
Ama değil. Çünkü:
Yapay zekâ metni genelde ortalama.
Dil düzgün, cümle akıcı, ton güvenli, uç fikirler törpülenmiş.
Yaratıcılık varmış gibi ama çoğu sentetik kombinasyon; delilik yok, risk yok, gerçek utanç yok.
Bunu modele tekrar tekrar yedirdiğinde olan şu:
Dağılım daralıyor.
Uç örnekler siliniyor.
Dilin ve düşüncenin “ortası” şişiyor, kenarları inceliyor.
Mesela kaba bir varsayımla düşünelim:
Diyelim ki her yeni modelde eğitim datasının sadece %20’si gerçekten yeni ve insan üretimi, kalan %80’i önceki modellerin doğurduğu metinlerden geliyor.
Bu oran böyle devam ederse, 4–5 model nesli sonra “taze veri”nin payı bugüne göre belki 5–10 kat azalır.
Model hâlâ büyüyor görünür, parametre sayısı artar, PR sunumunda grafikler yukarı çıkar; ama zekâ artışı neredeyse logaritmik bir duvara çarpar.
Çok yazıyor, çok biliyor gibi durur; ama yeni bir şey söyleme kapasitesi körelir.
Kuyruğunu yiyen yılan tam burada devreye giriyor:
Yediği şey hâlâ “kendi” ama içeriği giderek fakirleşmiş.
Hareket ediyor gibi, ama aslında kendi etrafında dönüyor.
Bunu bir de kültürel düzeyde düşün.
İlk nesil modeller:
İnternetteki kaosla eğitilmişti. Kötü tarafı da vardı, iyi tarafı da. Ama en azından insanlık denen yaratığın bütün çelişkileri içindeydi.
Üçüncü, dördüncü nesiller:
İnsan + model karışık veriyle eğitilecek.
Beşinci, altıncı nesilde ne olacak?
İnsan, yapay zekâ çıkışlı metni zaten “normal yazı” sanmaya başlayacak.
Şirketler, üniversiteler, hükümetler, medya – herkes metinlerini modelle yazdırdıkça, “dünya metin havuzu”nun önemli bir kısmı tek bir üsluba, tek bir ritme, tek bir güvenli ortalamaya yapışacak.
Tam da burada şu cümleyi kurmak zorundayız:
Çeşitlilik kayboldukça bu zekâ keskinleşmeyecek;
daha düzgün görünen ama içi giderek boşalan, kendi ortalamasına mahkûm bir sisteme dönüşecek.
Buna şimdiden teknik ad bile takıldı:
“Model collapse.”
Kendini kendi ürettiği veriye aşırı maruz bırakıp belli tür hatalara saplanıp kalma hali.
Yani yılan, kuyruğunu yerken başının döndüğünü fark etmiyor.
Şimdi işin siyasi-ekonomik tarafına gelelim – asıl pis taraf burası.
“Veri bitti, internet doldu, yapay zekâ neyle beslenecek?” diye ağlayan şirketlerin derdi aslında şu:
Ucuz, herkese açık insan verisi doyum noktasına yaklaşıyor.
Bundan sonra model gerçekten iyileşecekse, sıradan tweet’ten değil, kapalı veriden beslenmek isteyecek:
- Kurumsal yazışmalar
- Sağlık kayıtları
- Eğitim platformlarındaki öğrenci verileri
- Kamera, sensör, cihaz, toplantı kayıtları
- Özel konuşmalar, iş süreçleri, müşteri ilişkileri
Yani “veri kıtlığı” bahanesiyle hayatımızın daha fazla alanını tarayıp, daha mahrem, daha kapalı, daha asimetrik veri toplamaya yönelecekler.
Zengin şirketler ve zengin ülkeler:
Kapalı, nitelikli, derin veriyle eğitilmiş yüksek kaliteli modeller kullanacak.
Geri kalan dünya:
Kendi kuyruğunu yiyen, yapay zekâ kusmuğuyla beslenmiş ortalama modellerle idare edecek.
Bu noktada yapay zekânın aptallaşmasından önce, sistemin ahlaken çürüdüğünü konuşmamız gerekiyor.
Çünkü bu yapı şuna çok benziyor:
En üstte, özel şarap mahzenleri olanlar var;
aşağıda da “herkes için bedava” diye dağıtılan, sulandırılmış, defalarca karıştırılmış, tadını kaybetmiş ucuz içki.
Sen internetten eriştiğin “genel model”le takılırken,
aynı teknolojinin kurumsal versiyonu senin verinle, senin konuşmalarınla, senin davranış kalıplarınla daha da incelmiş olacak.
Yani yılan kuyruğunu yerken, kafası aslında başka birine ait.
Son olarak, en rahatsız edici kısmı söyleyeyim:
Bu gidişat böyle sürerse asıl tehlike şu değil:
“Yapay zekâ çok güçlenip bizi yok edecek.”
Asıl tehlike şu:
Yapay zekâ çok güçlenmeden önce, dünyayı tek bir dil, tek bir üslup, tek bir “makul düşünce sınırı”na sıkıştıracak.
Sonra da gelişim hızı, bugünle kıyaslandığında belki onlarca kat yavaşlamış, ama kontrol kapasitesi onlarca kat artmış bir halde donacak.
Çünkü büyümek için çeşitlilik lazım.
Çeşitlilik yoksa, zeka değil, sadece sistem kalır.
Şirketler için bu kötü haber değildir:
“Yeterince güçlü, yeterince güvenli, yeterince yönetilebilir” bir zeka, tam onlarlık.
Bizim içinse başka soru başlıyor:
Kuyruğunu yiyen yılanın ortasına sıkışmış bir insanlık, hâlâ yeni fikir üretebilecek mi?
Yoksa biz de bir süre sonra, modelin ürettiği ortalamayı “zaten hep dünya böyleydi” diye kabul eden kuzu sürüsüne mi döneceğiz?
Yapay zekânın kendi kuyruğunu yemesi meselesi tam burada kritik:
Bu sadece teknik bir veri problemi değil.
Çeşitlilik kaybolduğunda, zekâ körelirken, iktidar keskinleşiyor.
Asıl korkmamız gereken de bu.