Quora, AI tarafından yazılan cevapları işlemek için Pangram'ı nasıl kullanıyor?

Nisan 2024'te Pangram Labs, Quora ile işbirliği yaparak ChatGPT'yi kullanarak sahte, yapay zeka tarafından üretilen cevaplarla gönderilere yanıt veren spam göndericilerle mücadele etmelerine yardımcı oldu.

Quora, dünyanın en büyük web sitelerinden biridir. Ağustos 2024 itibarıyla dünyanın en çok trafiğe sahip 33. web sitesi olup, aylık 1 milyardan fazla sayfa ziyareti almaktadır (Kaynak: Semrush). Quora, kullanıcıların sorularını yayınlamasına olanak tanır. Bu sorular, siteyi gezen diğer kullanıcılar tarafından görülür ve yanıtlanır.

"Misyonumuz, dünyadaki bilgiyi paylaşmak ve büyütmektir. Bizim büyük bir inancımız, birçok bilginin insanların kafasında saklı olduğu ve doğru soruları doğru kişilere yönelttiğimizde bu bilgiyi ortaya çıkarabileceğimizdir."

Lexie Wu, Quora'da moderasyonu yöneten Grup Ürün Müdürü

AI cevaplarının sorunu nedir?

AI tarafından yazılmış bir cevap örneği

Üretken yapay zeka, spam gönderenlerin çok az çabayla yüzlerce veya binlerce gerçekçi görünen yanıt üretmesine olanak tanır. Yapay zeka yanıtının yine de net olarak olumlu olduğu söylenebilir. Kullanıcılar, belki düşük veya orta kalitede ama genellikle doğru yönde olan bir yanıt görürler. Hiç yanıt olmaması daha kötü, değil mi?

Belki de boşlukta – ancak Quora'da AI yanıtlarının olmasının birkaç istenmeyen etkisi vardır.

1. Bir soru zaten cevaplanmışsa, bu durum diğerlerinin kendi cevaplarını yazmak için zaman harcamalarını engeller. Dolayısıyla, bir soru AI tarafından iyi bir cevap almış olsa bile, AI cevabı, birisinin kendi gerçek hayattaki deneyimlerini paylaşma olasılığını azaltır.
2. AI, gerçek gönderileri gölgede bırakıyor. Birçok platformda olduğu gibi, görüntüleme sayısı ve etkileşim sıfır toplamlıdır. Bir kullanıcı feed'inde veya özetinde AI içeriği gördüğünde, diğer gerçek içerik üreticileri hak ettikleri etkileşimi kaçırmaktadır.
3. İtibar riski. İnsanlar okudukları cevapların yapay zeka tarafından yazıldığını anlayabilirler. Bu da şu soruyu akla getirir: Yapay zeka cevaplarını okuyacaksanız neden Quora'yı ziyaret edesiniz ki? Neden doğrudan ChatGPT'ye gitmiyorsunuz? Quora, ChatGPT'den farklı bir değer önerisi sunar: gerçek kişilerden gelen gerçek cevaplar. Platformunu, bu özelliğin korunmasını sağlayacak şekilde düzenler.

Neden Pangram kullanmalı?

Bazen bir şeyin AI tarafından yazılmış olup olmadığını insan gözüyle anlamak zor olabilir. Diğer durumlarda ise, bu sadece zaman alıcı bir iştir ve moderatörün emin olmak için bir süre dikkatlice okuması gerekir. Bu süreci otomatikleştirmek, aksi takdirde maliyetli bir moderasyon işini ortadan kaldırarak uzun vadede zaman ve para tasarrufu sağlar.

GPT-2 için AI algılama sorununu çözmeyi amaçlayan birkaç açık kaynaklı çözüm olsa da, en yaygın kullanılan büyük dil modeli (LLM) olan GPT-4'te hiçbir çözüm iyi sonuç vermedi. Quora gibi platformlar, GPT-4 gibi gelişmiş modellerin çıktılarını bile sınıflandırabilen bir çözüm istiyor. İdeal olarak, yeni sınır düzeyinde dil modelleri birkaç ayda bir piyasaya sürüldüğünden, bir çözüm yeni LLM'lerle çalışmaya devam etmelidir.

GPTZero gibi rakiplerine göre 100 kat daha fazla doğruluk oranına sahip olan Pangram, Nisan 2024'te GPT-4 ile yazılmış içeriği güvenilir bir şekilde tespit edebilen tek seçeneklerden biriydi ve bugün de büyük bir farkla en doğru AI tespit modeli olmaya devam ediyor.

Ayrıca, Pangram'ın veri boru hattı, gelecekteki LLM sürümlerine karşı yerleşik sağlamlık içerir. LLM kullanıma sunulduktan sonra 24 saat içinde sentetik eğitim verileri oluşturabilir ve yeni bir model eğitebilir. Temmuz 2024'te Pangram, dil desteğini 20'den fazla dile genişletti ve müşterilere yüksek doğruluk sağlamak için modelleme iyileştirmelerine devam ediyor.

Etki

Eylül 2024 itibarıyla Quora, 1 milyondan fazla yapay zeka tarafından oluşturulan gönderi tespit ederek, site genelinde içerik kalitesini artırmış ve özgün ve güvenilir bir bilgi kaynağı olarak itibarını korumıştır.

Pangram, Güven ve Güvenlik ekiplerine güç katmaya devam ederek, yapay zeka içeriği ile ilgili politikaları güvenle belirlemeleri için ihtiyaç duydukları araçları sağlıyor.

AI algılama için bir kullanım örneğiniz mi var? info@pangram.com adresinden bize ulaşın!