Quora, yapay zeka tarafından yazılan cevapları yönetmek için Pangram'ı nasıl kullanıyor?

Nisan 2024'te Pangram Labs, Quora ile iş birliği yaparak, ChatGPT'yi kullanarak gönderilere gerçek dışı, yapay zeka tarafından üretilmiş yanıtlar veren spam göndericilerle mücadele etmelerine yardımcı oldu.

Quora, dünyanın en büyük web sitelerinden biridir; Ağustos 2024 itibarıyla dünyanın en çok ziyaret edilen 33. web sitesi konumundadır ve aylık 1 milyardan fazla sayfa görüntüleme sayısına ulaşmaktadır (Kaynak: Semrush). Quora, kullanıcıların soru paylaşmasına olanak tanır; bu sorular, siteyi gezen diğer kullanıcılar tarafından görülür ve yanıtlanır.

"Misyonumuz, dünyadaki bilgiyi paylaşmak ve artırmaktır. En büyük inancımız, pek çok bilginin insanların zihninde saklı kaldığı ve doğru soruları doğru insanlarla eşleştirebilirsek bu bilgiyi ortaya çıkarabileceğimizdir."

Quora'da içerik denetimini yöneten Grup Ürün Müdürü Lexie Wu

Yapay zeka tarafından verilen cevapların nesi sorun?

Yapay zeka tarafından yazılmış bir cevap örneği

Üretken yapay zeka, spam gönderenlerin çok az çabayla yüzlerce ya da binlerce gerçekçi görünen yanıt üretmesine olanak tanır. Yapay zeka tarafından üretilen bir yanıtın yine de genel olarak olumlu bir sonuç olduğu söylenebilir. Kullanıcılar, kalitesi düşük ya da orta düzeyde olsa da genellikle doğru yönde olan bir yanıtla karşılaşır. Bu, hiç yanıt almamaktan iyidir, değil mi?

Belki de tek başına ele alındığında öyle olabilir – ancak Quora'da yapay zeka tarafından verilen cevapların pek çok istenmeyen etkisi var.

1. Bir soruya zaten cevap verilmişse, bu durum başkalarının zaman ayırıp kendi cevaplarını yazma isteğini kırar. Dolayısıyla, bir soruya yapay zeka tarafından fena sayılmayacak bir cevap verilmiş olsa bile, bu yapay zeka cevabı, birisinin kendi gerçek hayattaki deneyimlerini paylaşma olasılığını azaltır.
2. Yapay zeka, gerçek içeriklerin yerini alıyor. Birçok platformda olduğu gibi, görüntüleme ve etkileşim de bir tür sıfır toplamlı oyun gibidir. Bir kullanıcı akışında veya özetinde yapay zeka tarafından üretilen bir içerik gördüğünde, diğer gerçek içerik üreticiler hak ettikleri etkileşimden mahrum kalıyor.
3. İtibar riski. İnsanlar okudukları bir cevabın yapay zeka tarafından yazıldığını anlayabiliyor. Bu da şu soruyu akla getiriyor: Madem sadece yapay zeka tarafından yazılmış cevapları okuyacaksınız, neden Quora’yı ziyaret edesiniz ki? Neden doğrudan ChatGPT’ye gitmiyorsunuz? Quora, ChatGPT’den farklı bir değer önerisi sunuyor – gerçek kişilerden gelen özgün cevaplar – ve bunun devamlılığını sağlamak için platformunu özenle düzenliyor.

Neden Pangram'ı kullanmalı?

Bazen bir metnin yapay zeka tarafından yazılmış olup olmadığını insan gözüyle ayırt etmek zor olabilir. Bazı durumlarda ise bu, moderatörün emin olabilmek için bir süre dikkatle okuması gereken, oldukça zaman alıcı bir iştir. Bu süreci otomatikleştirmek, aksi takdirde maliyetli bir moderasyon işini ortadan kaldırarak uzun vadede zaman ve para tasarrufu sağlar.

GPT-2 için yapay zeka algılama sorununu çözmeyi amaçlayan birkaç açık kaynaklı çözüm bulunsa da, en yaygın olarak kullanılan büyük dil modeli (LLM) olan GPT-4 üzerinde hiçbir çözüm iyi sonuç vermedi. Quora gibi platformlar, GPT-4 gibi gelişmiş modellerin çıktılarını bile sınıflandırabilen bir çözüm arıyor. İdeal olarak, her birkaç ayda bir yeni çığır açan dil modelleri piyasaya sürüldüğünden, bir çözümün yeni LLM’lerle de çalışmaya devam etmesi gerekir.

Pangram, sağlam değerlendirmeleri ve GPTZero gibi rakiplerine kıyasla 100 kattan fazla doğruluk oranıyla, Nisan 2024'te GPT-4 ile yazılmış içerikleri güvenilir bir şekilde tespit edebilen tek seçeneklerden biriydi ve bugün de büyük bir farkla en doğru AI tespit modeli olmaya devam ediyor.

Ayrıca, Pangram’ın veri işleme süreci, gelecekteki büyük dil modelleri (LLM) sürümlerine karşı yerleşik bir dayanıklılık özelliğine sahiptir. Büyük dil modeli kullanıma sunulduktan sonraki 24 saat içinde sentetik eğitim verileri oluşturabilir ve yeni bir modeli eğitebilir. Temmuz 2024’te Pangram, dil desteğini 20’den fazla dile genişletmiş olup, müşterilerine yüksek doğruluk sağlamak amacıyla modelleme iyileştirmelerine devam etmektedir.

Etki

Eylül 2024 itibarıyla Quora, 1 milyondan fazla yapay zeka tarafından üretilmiş gönderiyi tespit ederek site genelinde içerik kalitesini artırmış ve güvenilir bir bilgi kaynağı olarak itibarını korumayı başarmıştır.

Pangram, Güven ve Güvenlik ekiplerine bir güç çarpanı olarak hizmet vermeye devam ediyor ve bu ekiplere yapay zeka içerikleriyle ilgili politikaları güvenle belirlemeleri için gerekli araçları sunuyor.

Yapay zeka tespiti için bir kullanım senaryonuz mu var? info@pangram.com adresinden bize ulaşın!