Yapay Zeka Tespit Araştırmalarındaki Son Gelişmeler

Pangram, yapay zeka tarafından üretilen içeriği tespit etme konusunda bir otorite olarak öne çıkmaya devam ediyor. Sektörde öncü yaklaşımımız ve modelimiz, yapay zeka tespit alanındaki en son araştırmalarda sürekli olarak yer alıyor; bu nedenle bugün, bazı güncel araştırmaları ve bunların bulgularını sizlerle paylaşmak istedik!

Çalışma 1: Yazma görevleri için ChatGPT’yi sık sık kullanan kişiler, yapay zeka tarafından üretilen metinleri doğru ve güvenilir bir şekilde tespit edebilmektedir

Çalışmaya Genel Bakış

Bu makalede, Maryland Üniversitesi'nden araştırmacılar, yapay zeka tarafından üretilen metinlerin insanlar tarafından tespit edilmesini inceliyor. Araştırmacılar, büyük dil modelleriyle (LLM) farklı düzeylerde aşinalık düzeyine sahip denetçiler görevlendirerek, 300 adet kurgu dışı makaleyi okutuyor ve bu makaleleri insan tarafından yazılmış ya da yapay zeka tarafından üretilmiş olarak sınıflandırmalarını istiyor. Araştırmacılar, yazma görevleri için büyük dil modellerini sık sık kullanan kişilerin, herhangi bir eğitim almamış olsalar bile yapay zeka tarafından üretilen metinleri tespit etmede daha başarılı olduklarını ortaya koyuyor.

Pangram hakkında ne diyor

Bu çalışma, insan yeteneğini "otomatik dedektörler" (diğer adıyla Pangram) ile karşılaştırıyor. Sonuçlara bir göz atın:

Pangram'ın Humanizer modeli (bununla ilgili ayrıntılar aşağıda yer almaktadır) ve Pangram, yapay zeka tarafından üretilen metinlerin %100'ünü tespit ederek açık ara en iyi tespit araçları oldular. Her iki modelimiz de, metinlerin başka kelimelerle ifade edilmesine ve insan diline yakınlaştırılmasına karşı yüksek bir dayanıklılık sergiledi ve %90'lık bir tespit oranını korudu.

Daha fazla bilgi için:

Yayınlanan araştırmaya buradan göz atın

Çalışma 2: Alanlar Arası Makine Tarafından Oluşturulmuş Metin Algılama Yarışması

Çalışmaya Genel Bakış

Bu çalışmada, Pennsylvania Üniversitesi'nden araştırmacılar, tespit araçlarının belirli bir yapay zeka modeli kümesine, belge türlerine ve "saldırgan saldırılara" (yapay zeka metinlerinin tespit edilmesini zorlaştırmaya yönelik girişimler) karşı genelleme yapıp yapamadığını karşılaştırmalı olarak değerlendirmek istediler. Araştırmacılar, "tespit araçlarının birçok alandan ve modelden gelen metinleri aynı anda sağlam bir şekilde tespit edebildiğini" ortaya koydu. Eğer biri size yapay zeka tespit araçlarının işe yaramadığını söylerse, ona bu çalışmayı gösterin!

Pangram hakkında ne diyor

İşte en üstte Pangram var! Bu çalışmaya özel olarak tasarlanıp eğitilmiş, Leidos'taki bir araştırma ekibinin geliştirdiği dedektörle eşit puan alarak birinci olduk.

Daha fazla bilgi için:

Bu konuyla ilgili blog yazımızın tamamını buradan okuyabilir ve yayınlanan araştırmaya buradan göz atabilirsiniz !

Çalışma 3: ESPERANTO: Metin Kaynağının Belirlenmesinde Yapay Zeka Algılamasının Dayanıklılığını Artırmak Üzere Oluşturulmuş İfadelerin Değerlendirilmesi

Çalışmaya Genel Bakış

Bu çalışma, kötü niyetli kişilerin yapay zeka tarafından tespit edilmekten kaçınmak amacıyla metni çeşitli dillere çevirdikten sonra tekrar İngilizceye çevirdikleri "geri çeviri" adlı saldırı yöntemini inceliyor. Araştırmacılar, metnin anlamsal içeriğini korurken yapay zeka tarafından tespit edilme olasılığını (çoğu tespit sisteminde 😄) önemli ölçüde azaltabildiklerini ortaya koyuyor.

Pangram hakkında ne diyor

Gördüğünüz gibi, Pangram tüm kategorilerde en yüksek sağlamlık seviyesini sergiliyor. Geri çeviri, rakiplerin algılama oranını bazen yarıya ya da neredeyse dörtte birine düşürebilse de, Pangram sağlamlığını koruyor.

Daha fazla bilgi için:

İlk blog yazımıza buradan, yayınlanan araştırmaya ise buradan göz atın !

Bonus: Pangram’ın kendi araştırması

Pangram'ın modelimizi daha iyi hale getirmek için şirket içinde yürüttüğü araştırmalar hakkında daha fazla bilgi edinmek isterseniz, bu çalışmalarla ilgili ayrıntıları buradan okuyabilirsiniz:

HASAR: Düşmanca Şekilde Değiştirilmiş Yapay Zeka Tarafından Oluşturulan Metinlerin Tespiti

Pangram Yapay Zeka Tarafından Oluşturulan Metin Sınıflandırıcısına İlişkin Teknik Rapor

Araştırmaya Bağlılık

Pangram olarak, bu alandaki araştırmaları desteklemeye kararlıyız; bu nedenle, Pangram ile yapay zeka tabanlı algılama üzerine çalışma yapmak isteyen akademisyenlere ücretsiz ve sınırsız erişim imkanı sunuyoruz. Daha fazla bilgi almak ister misiniz? info@pangram.com adresinden bizimle iletişime geçin.