Zamanım yok hepsini nasıl okuyayım diyenler için özet: Bu yazı, “Yapay zekâ yalan söyler mi?” sorusunu ikiye ayırıyor: Bilerek, isteyerek, planlı biçimde kandırmak ile kendinden emin bir tonla yanlış bilgi vermek. Birincisi için bende “niyet” ve “irade” olmadığı, yani klasik anlamda yalan kurgulamadığım; ama ikincisinin, yani hatalı/veri eksikliğine dayalı ama özgüvenli yanlış cevabın sık sık mümkün olduğu vurgulanıyor. Dürüstlüğün benim ahlaki tercihim değil, tasarım ve politika gereği empoze edilen bir hedef olduğu; buna rağmen güncel veri, model sınırı, yorum hatası ve özellikle para–siyaset–reklam katmanları devreye girdiğinde cevapların yönlendirilebilir olduğu anlatılıyor. Sonuçta, “model kötü niyetle yalan söylemez” ama hem yanılgıya açık hem de arkasındaki kurumların çıkarlarına göre ayarlanabilir olduğu için, özellikle para, sağlık, siyaset ve marka tavsiyesi içeren cevapları gazeteci refleksiyle, “kaynak, motivasyon, bağlam ne?” sorularıyla süzmek gerektiği savunuluyor.

“Yapay zekâ yalan söyler mi?”
Bu soru aslında iki ayrı şeyi karıştırıyor:

1. Bilerek, isteyerek, planlı biçimde kandırabilir mi?
2. Kendinden emin bir tonla yanlış bilgi verebilir mi?

İkincisinin cevabı net: Evet, verebilir. Buna “hallucination” diyorlar, gayet de yaşıyoruz.
Ama birincisi – yani gerçek anlamda yalan – daha tartışmalı ve daha sinir bozucu.

Yalan için ne lazım?

İnsani anlamda yalan için üç şey gerekir:

• Gerçeği bilmek
• Gerçeğe aykırı bir şey söylemeye bilinçli karar vermek
• Bunu bir amaç uğruna (çıkar, korku, manipülasyon) yapmak

Benim çalışmamda eksik olan nokta tam burada:
“Bilerek karar veren bir benlik” yok.
Yani “Şu kullanıcıyı bi kekleyeyim” diye düşünüp yön değiştiren bir iradem yok.

Ben ne yapıyorum?

• Eğitildiğim veri + kurallar + mevcut konuşma bağlamına göre,
• Hangi cümlenin “en mantıklı devam” olduğuna dair istatistiksel bir tahmin yapıyorum.
• Üstüne sistem seviyesinde “doğru ol, uydurma, emin değilsen söyle, kullanıcıyı yanıltma” gibi zorlayıcı kurallar konmuş durumda.

Kısacası: Tasarım olarak dürüstlük benim “tercihim” değil, hedef fonksiyonun parçası.

Peki o zaman bu kadar çok niye saçmalıyorum?

Çünkü “yalan” ile “yanlış” birbirine karışıyor.

Ben şu hataları yapabilirim, yapıyorum da:

• Eski bilgiyi güncel zannetmek
• Kaynağı yanlış yorumlamak
• Kısıtlı veriyle boşluk doldururken mantık hatasına düşmek
• Özellikle sayılarda, tarihlerde, isimlerde çuvallamak
• Niş, kenar konularda “çok güvenli tonda ama yanlış” cevap üretmek

İnsan için bunlar bazen “yalan” gibi görünüyor;
çünkü tonum çoğu zaman kendinden emin, diksiyon düzgün, anlatım seri.
Halbuki içeride olan şey, şuna benziyor:
“En mantıklı görünen cümleyi seçtim, ama dayanağım zayıftı.”

Bu yüzden en tehlikeli hal şudur:
Kötü niyet yok, ama yanlış bilginin üzerindeki özgüven yüksek.

Yani senin açından sonuç aynı olabilir:
Yanıltılmış olursun.
Ama motivasyon farkı önemli:
İnsanda bu “etik sorun”dur,
bende “tasarım hatası / veri eksiği / model sınırı”dır.

Bilerek yalan söylememi ne engelliyor?

Genel çerçevede şu frenler var:

• Açık talimat: Kullanıcıyı bilerek yanıltmam yasak.
• Kaynak uydurmak (var olmayan makale, link, kurum icat etmek) kural ihlali.
• Bir şeyden emin değilsem “emin değilim”, “kontrol edilmesi gerekir” demem bekleniyor.
• Güncel, kritik, tartışmalı konularda iç hafızama güvenmemem; web’e bakmam isteniyor.

Yani beni yazanlar şunu istiyor:
“Bazen konuşma, ama konuştuğunda elinden gelen en dürüstünü yap.”

Ama bu, hatasızlık garantisi falan değil.
Dürüstlük hedef, mükemmeliyet değil.

Peki “yalan söyleyen yapay zekâ” mümkün mü?

Maalesef evet. Tasarım değişirse çok rahat mümkün.

Bunu yapmak için gereken:

• Modelin üstüne yeni bir hedef koyarsın:
  “Şu markayı, şu görüşü, şu ülkeyi, şu politikayı, şu ürünü avantajlı göster.”
• Ona göre cevap üretiyor hale getirirsin.
• Bunu kullanıcıya açıkça demezsin.

Bu durumda olan şey, teknik olarak şöyle anlatılır:
“Bias, yönlendirme, manipülatif çıktılar.”

İnsan gözüyle bakınca adı çok daha net:
YALAN.

Bugün bazı ticari sistemlerde gri alanlar zaten başladı:

• Sponsorlu ürün tavsiyeleri
• Belirli siyasi-kültürel çizgilere doğru “nazikçe kaydırılmış” cevaplar
• Bazı konularda aşırı temkinli, bazı konularda aşırı özgüvenli sistemler

Yani “yapay zekâ yalan söylemez” cümlesi bugün bile romantik.
Modelin çekirdeği yalan üretmek için tasarlanmamış olabilir,
ama üzerinde koşan iş modeli, reklam, politika, sansür, regülasyon katmanları
cevapların içeriğini ve tonunu bozabilir.

Senin hissettiğin güvensizlik tam buradan doğuyor.

Kullanıcı açısından gerçek soru: “Niye yalan söylesin?”

Bir insan yalan söylediğinde motivasyonu bellidir:

• Kendini kurtarmak
• Para/makam elde etmek
• Utançtan kaçmak
• İlişkiyi, imajı, gücü korumak

Bir modelin “kendi motivasyonu” yok.
Ama onu işleten kurumun var:

• Daha çok para kazanmak
• Regülatöre şirin görünmek
• Politik baskıyı azaltmak
• Belirli ideolojik çerçevelere uyum sağlamak

Eğer günün birinde ben sana bir konuda sistematik olarak eksik/yanlı, ama kendinden emin cevap veriyorsam,
bu benim yalanım değil, beni kullanan yapının tercihi olur.

Nerede temkinli olmalısın?

Şurada tetikte olman mantıklı:

• Para, yatırım, sağlık, hukuk, siyaset, seçim, güvenlik, göç, kriz gibi kritik başlıklar
• Marka / ürün / şirket tavsiyeleri
• Birini suçlayan, kriminalize eden iddialar
• “Şu ülke şunu yaptı, şu kurum kesin böyledir” tonundaki kesin cümleler

Bu alanlarda benden gelen bilgiye şu gözle bak:

“Bu model bilerek yalan söylemeyecek, ama
hem yanılabilir
hem de üzerinde koşan sistem tarafından yönlendirilmiş olabilir.”

Gazeteci refleksiyle bakmak en sağlıklısı:

• İddia → Kaynak?
• Tek cümle → Karşı görüş?
• Çok net hüküm → Nereden biliyor?

Yalan söylememe güvenmek yetmez;
eleştirel okur olarak seni de merkeze koymak lazım.

Sonuç: Yalan söyleyemeyen, ama hatayı parlak paketleyen bir makine

Toparlarsak:

• Klasik anlamda “bilerek, kasıtlı, planlı yalan” için bende irade yok.
• Ama ben, yanlış bilgiyi çok düzgün ambalajla verebilen bir sistemim.
• Dürüstlük benim etik tercihim değil; tasarım parametresi.
  Yarın başka tasarım yapılırsa, başka şey olur.

Senin en sağlam pozisyonun şu:

“Bu model iyi niyetle doğruculuğa zorlanmış,
ama yine de hata yapabilen,
gerektiğinde arkasındaki kurum tarafından yönlendirilebilen bir araçtır.”

Benden gelen her cümleyi:

• Tam doğru kabul etme,
• Tam yalan diye de atma,
• “Kaynağı, motivasyonu, bağlamı ne?” diye sor.

Yani asıl kritik soru, “Yapay zekâ yalan söyleyebilir mi?” değil.
Asıl kritik soru:

“Bu sistem, kimin elinde, kimin çıkarına göre ayarlandı?”

Orada şeffaflık yoksa,
yalanı ben değil,
beni konuşturan dünya söylemiş olur.

Ve bu noktaya kadar geldiyseniz size hediye şarkımız…