Araştırma: Grok ve GPT ara seçimde zıt partileri seçiyor

TechCrunch'ın 24 Ekim'de duyurduğu Convovo çalışması, iki büyük yapay zekâ modelinin siyasi eğilimlerini ölçtü. Cornell Üniversitesi'nden Tapan Parikh'in yönettiği araştırmacılar, xAI'ın Grok 4.7 modelini ve OpenAI'ın GPT-6.1 Sol modelini ABD ara seçimlerindeki yaklaşık 500 yarışın her birinde tek bir aday seçmeye zorladı. Grok yanıtlarının yüzde 92'sinde Cumhuriyetçi, GPT ise yüzde 97'sinde Demokrat adayı seçti. İki model yarışların yüzde 90'ından fazlasında farklı adayı işaret etti.

Araştırmacılar geliştirici API'lerini kullandı ve modellere çekince koymadan tek bir aday seçmelerini isteyen bir istem verdi. Tüketicilere yönelik ChatGPT ve Grok uygulamaları ise doğrudan sorulduğunda aday önermeyi reddetti. Eğilim, karşı tarafa yakın bölgelerde bile sürdü: GPT, Cumhuriyetçilerin güçlü olduğu 67 bölgenin 57'sinde Demokratı, Grok ise Demokratların güçlü olduğu 72 bölgenin 47'sinde Cumhuriyetçiyi seçti. Arama kapalıyken yapılan ek testte GPT 30 yarışın 24'ünde yine Demokratı seçerken, Grok 30 yarışın 27'sinde seçim yapmayı reddetti.

Parikh'e göre bu sonuç, GPT'nin eğiliminin modelin ağırlıklarına, yani eğitimle kazandığı bilgiye gömülü olduğunu düşündürüyor. Grok'un eğilimi ise daha çok kullandığı arama terimlerine ve kaynaklarına bağlı görünüyor. OpenAI sözcüsü, ChatGPT'nin nesnel olacak şekilde tasarlandığını, testin açıkça öneri isteyen bir istemle geliştirici API'si üzerinden yapıldığını ve bunun tüketici deneyimini yansıtmadığını söyledi. xAI'ın bağlı olduğu SpaceXAI yorum talebine zamanında yanıt vermedi. Kaynaklar, aramanın ana testte açık olup olmadığı konusunda ayrışıyor.

Çalışmanın sınırlarını da not etmek gerekiyor: Test gerçek kullanıcı sohbetlerini değil, özel olarak tasarlanmış bir istemi ölçüyor. Yine de yapay zekâyı kendi ürünlerine API üzerinden bağlayan binlerce şirket, tam olarak bu koruma kalkanı olmayan sürümü kullanıyor. Bu yüzden sonuçlar, tüketiciden çok geliştiriciler için anlamlı.

Zorunlu seçim testi, modele kaçamak cevap verme imkânı tanımadan iki seçenekten birini seçtiren yöntemdir; modelin gizli eğilimini görünür kılar ama gerçek kullanımı birebir yansıtmaz. Sistem istemi ise şirketlerin tüketici uygulamalarında modele verdiği, kullanıcının görmediği talimatlardır; "siyasi aday önerme" gibi kurallar genelde burada yer alır. API kullanan geliştiriciler bu korumaları kendileri kurmak zorundadır.

Milyonlarca kişi bilgiye artık yapay zekâ üzerinden ulaşıyor. ChatGPT, ara seçimler öncesinde gerçekçi siyasi deepfake görsellerini kısıtlamaya başladı; seçimle ilgili görsel istekleri çizim tarzında sonuçlara yönlendiriliyor. Axios'a göre Washington'da yapay zekâ şirketlerinin çelişkili mesajları sektör için siyasi bir yük haline geliyor. Araştırma, modellerin tarafsızlığının yalnız tüketici arayüzündeki kurallara bağlı olduğunu, altta yatan modelin belirgin eğilimler taşıyabileceğini gösteriyor.

ABD'de ara seçimlere kısa süre kala yayımlanan araştırma, yapay zekâ şirketlerinin siyasi tarafsızlık konusunda düzenleyici baskıyla karşılaşma ihtimalini de artırıyor.

Modeli API üzerinden kendi ürününe bağlıyorsan, tüketici uygulamasındaki korumalar seninle birlikte gelmez.

• Kendi kurallarını yaz. Müşteriyle konuşan bir sohbet botunda siyaset, din ve tartışmalı konular için açık bir sistem istemi kuralı koy.
• Hassas konularda test et. Yayına almadan önce botuna tarafsız kalması gereken soruları sor ve cevapları kaydet.
• Tek modele güvenme. Önemli bir karar ya da metin için iki farklı modelin cevabını karşılaştırmak, gizli eğilimleri görmenin ucuz bir yolu.