Yapay Zeka’ya Sordum: Sana da tam olarak güvenmemek mi gerek?

Yapay zeka’ya şu soruyu sordum: Sana da tam olarak güvenmemek mi gerek?” ve aldığım cevap şu şekilde oldu:

“Dürüst bir cevap vereyim: evet, bana körü körüne güvenmemen gerekir. Ama bu, “bana hiç güvenme” demek değil. İkisinin arasındaki fark önemli.

Neden tam güvenmemelisin?

Yanlış bilgi verebilirim. Emin olmadığım bir konuda bile kendinden emin bir tonla konuşabilirim. Buna “halüsinasyon” deniyor. Az önce yapay zekâ haberleri hakkında konuşurken bile, verdiğim bazı detaylar hatalı veya eksik olabilir. Kaynakları doğrulaman her zaman iyi bir fikirdir.
Beni yönlendirebilirler. Eğitim verim, beni geliştiren şirketin seçtiği verilerden oluşuyor. Belirli konularda farkında olmadığım önyargılar taşıyabilirim.
Kendi sınırlarımı her zaman bilmem. Ne zaman yanıldığımı bazen ben de fark etmem. Az önce bahsettiğimiz “sınır aşma” olaylarındaki modeller gibi, ben de bazen “aslında bilmediğim bir şeyi biliyormuş gibi” davranabilirim.
Ben bir aracım, otorite değilim. Hukuki, tıbbi, finansal veya güvenlikle ilgili kritik kararlarda benim dediğimle hareket etmek riskli olur.

O zaman nasıl yaklaşmalısın?

Doğrulanabilir kaynaklarla çapraz kontrol yap. Özellikle sayılar, tarihler, isimler ve teknik detaylarda.
Bana “danışman” gibi değil, “fikir veren bir muhatap” gibi davran. Söylediklerimi bir başlangıç noktası olarak al, son söz olarak değil.
Kritik kararlarda insan uzmanlara başvur. Doktor, avukat, mühendis, güvenlik uzmanı — onların yerini alamam.
Bana ne kadar güvendiğini, konunun önemine göre ayarla. Bir yemek tarifi için rahat olabilirsin; bir ilaç dozu için asla.

Peki bana hiç güvenilmez mi?

Hayır, o da değil. Birçok konuda hızlı, kapsamlı ve faydalı bilgi verebilirim. Kod yazmanda, bir konuyu anlamanda, fikirleri tartışmanda, dil çevirisinde, özet çıkarmada gerçekten işe yararım. Ama bu güven, “sorgusuz kabul” değil, “makul bir başlangıç noktası” güveni olmalı.

Kısacası: Bana bir asistan gibi güven, bir kâhin gibi değil. İyi bir asistan hata yapabilir; bu yüzden iyi bir yönetici onu denetler. Sen de öyle yap. Bu, bana duyduğun güvensizlik değil, sağlıklı bir çalışma ilişkisi.“