İngiltere Hükümeti, Yapay Zeka Modellerinin İkna Gücünü Araştırdı

İngiltere hükümetinin Yapay Zeka Güvenlik Enstitüsü (AISI) tarafından gerçekleştirilen dev bir çalışmada, 19 farklı yapay zekâ modeli ve yaklaşık 80 bin İngiliz katılımcıyla araştırma yapıldı. Çalışmada, katılımcılar, gelişmiş modellerle siyasi konular hakkında sohbet ettiler. Yapılan araştırma, Science dergisinde yayımlanarak dikkat çekti.

Yapay Zeka Modellerinin İkna Gücü

Araştırma sonuçlarına göre, “bilgi yoğun” yanıtlar veren yapay zeka modelleri en ikna edici olanlar olarak belirlendi. Modelin, olay ve kanıtlara odaklanması durumunda ikna gücü en yüksek seviyeye çıktı. Ancak dikkat çeken bir nokta, en fazla olaya ve kanıta başvuran modellerin diğerlerinden daha az doğru olma eğiliminde olduğu ortaya çıktı.

Manipülasyon Potansiyeli ve İkna Teknikleri

Yapay zeka sisteminin anlık olarak büyük miktarda bilgi üretme yeteneğinin, insanlardan daha manipülatif olma potansiyeline sahip olduğu vurgulandı. Araştırmacılar, modellere daha fazla bilgi kullanmaları gerektiğini söylemenin, psikolojik olarak karmaşık ikna tekniklerinden daha etkili olduğunu belirtti. Ayrıca, açık kaynaklı modellerin ödül modelleri ile birleştirilerek daha inandırıcı hale getirilebileceği de açıklandı.

Gerçek Dünya Koşullarında Yapay Zeka

Raporda, kullanıcıların uzun süreli sohbetlere ne kadar istekli olacakları gibi dikkat dağıtıcı unsurların, yapay zekânın manipülasyon yeteneğini sınırlayabileceği belirtildi. Araştırmacılar, yapay zekânın ikna ediciliğinin optimize edilmesinin doğruluktan feragat etme riskini de beraberinde getirebileceği uyarısında bulundu.