AI Algılama Araştırmalarındaki Son Gelişmeler

Pangram, yapay zeka tarafından üretilen içeriği tespit etme konusunda bir otorite olarak öne çıkmaya devam ediyor. Sektör lideri yaklaşımımız ve modelimiz, yapay zeka tespiti alanındaki en son çalışmalarda sürekli olarak yer almaktadır. Bu nedenle bugün, bazı yeni çalışmalar ve bunların bulgularını öne çıkarmak istedik!

Çalışma 1: Yazma görevleri için ChatGPT'yi sık sık kullanan kişiler, yapay zeka tarafından üretilen metinleri doğru ve sağlam bir şekilde tespit edebilmektedir.

Çalışma Genel Bakış

Bu makalede, Maryland Üniversitesi'nden araştırmacılar, AI tarafından üretilen metinlerin insanlar tarafından algılanmasını inceliyor. LLM'lere farklı düzeylerde aşina olan anotatörleri işe alarak, 300 adet kurgusal olmayan makaleyi okutuyor ve bunları insan tarafından yazılmış veya AI tarafından üretilmiş olarak sınıflandırmaya çalışıyorlar. LLM'leri yazma görevleri için sıklıkla kullanan kişilerin, eğitim almadan bile AI tarafından üretilen metinleri algılamada daha başarılı olduklarını tespit ediyorlar.

Pangram hakkında ne diyor?

Bu çalışma, insan yeteneğini "otomatik dedektörler" (diğer adıyla Pangram) ile karşılaştırmaktadır. Sonuçlara bir göz atın:

Pangram'ın Humanizer modeli (daha fazla bilgi aşağıda) ve Pangram, tüm AI tarafından üretilen metinlerin %100'ünü tespit ederek açık ara en iyi tespit araçları oldular. Her iki modelimiz de, %90'lık bir tespit oranını koruyarak, yeniden ifade etme ve insanlaştırma konusunda yüksek bir sağlamlık sergiledi.

Daha fazla bilgi için:

Yayınlanan çalışmayı buradan inceleyebilirsiniz.

Çalışma 2: Alanlar Arası Makine Tarafından Oluşturulan Metin Algılama Zorluğu

Çalışma Genel Bakış

Bu çalışmada, Pennsylvania Üniversitesi'nden araştırmacılar, dedektörlerin sabit bir AI modeli setine, belge türlerine ve "düşmanca saldırılara" (AI metinlerini tespit etmeyi zorlaştırma girişimleri) genelleştirilip genelleştirilemeyeceğini karşılaştırmak istediler. Araştırmacılar, "dedektörlerin birçok alandan ve modelden gelen metinleri aynı anda sağlam bir şekilde tespit edebildiğini" buldular. AI dedektörlerinin işe yaramadığını söyleyen olursa, onlara bu çalışmayı gösterin!

Pangram hakkında ne diyor?

En üstte Pangram var! Bu çalışma için özel olarak tasarlanmış ve eğitilmiş Leidos araştırma ekibinin dedektörüyle birlikte birinci olduk.

Daha fazla bilgi için:

Bu konuyla ilgili blog yazımızın tamamını burada bulabilir ve yayınlanan çalışmayı burada inceleyebilirsiniz !

Çalışma 3: ESPERANTO: Metin Orijinalliği için Yapay Zeka Algılamada Sağlamlığı Artırmak Amacıyla Sentezlenmiş İfadelerin Değerlendirilmesi

Çalışma Genel Bakış

Bu çalışma, kötü niyetli kişilerin AI algılamasından kaçınmak için metni birkaç dile çevirdikten sonra tekrar İngilizceye çevirdikleri "geri çeviri" adlı saldırıyı inceliyor. Araştırmacılar, AI metninin algılanabilirliğini önemli ölçüde azaltırken (çoğu algılayıcıda 😄) metnin anlamsal anlamını koruyabildiklerini bulmuşlardır.

Pangram hakkında ne diyor?

Gördüğünüz gibi, Pangram tüm kategorilerde en iyi sağlamlığı sergiliyor. Geri çeviri bazen rakiplerin algılama oranını yarıya veya neredeyse dörtte birine düşürebilirken, Pangram sağlamlığını koruyor.

Daha fazla bilgi için:

İlk blog yazımızı buradan ve yayınlanan çalışmayı buradan inceleyebilirsiniz !

Bonus: Pangram'ın kendi araştırması

Pangram'ın modelimizi iyileştirmek için şirket içinde yürüttüğü araştırmalar hakkında daha fazla bilgi edinmek isterseniz, bu çalışmalar hakkında daha fazla bilgiyi burada bulabilirsiniz:

DAMAGE: Karşıt Taraflarca Değiştirilmiş Yapay Zeka Tarafından Üretilen Metinleri Algılama

Pangram AI Tarafından Oluşturulan Metin Sınıflandırıcı Hakkında Teknik Rapor

Araştırmaya Bağlılık

Pangram olarak, bu alandaki araştırmaları desteklemeye kararlıyız ve bu nedenle, Pangram ile AI algılama konusunda araştırma yapmak isteyen akademisyenlere ücretsiz ve sınırsız erişim imkanı sunuyoruz. Daha fazla bilgi almak ister misiniz? info@pangram.com adresinden bizimle iletişime geçin.