AI konferans bildirileri giderek daha fazla yapay zeka tarafından yazılıyor: 2023'ten bu yana %370 artış

ICLR'ye gönderilen yapay zeka tarafından üretilen özetlerin yıl bazında yüzdesini gösteren ve 2023'ten bu yana yükseliş eğilimi sergileyen bir grafik.

Şubat 2024’te, Frontiers in Cell and Developmental Biology dergisinde yayınlanan bir makalede, açıkça yapay zeka tarafından üretilmiş olduğu belli olan görseller yer aldı. Bu makale, görsellerden birinde absürt derecede büyük testislere sahip bir sıçan ve hiçbir anlam ifade etmeyen anlamsız bir metin bulunması nedeniyle manşetlere taşındı.

Akran değerlendirmesi (teorik olarak) bu tür bariz örnekleri tespit etmek için yeterli olmalı, peki ya makalenin asıl içeriği yapay zeka tarafından üretilmişse ne olacak? Uzmanlar bile yapay zeka tarafından üretilen araştırmaları insan tarafından yazılanlardan ayırt etmekte zorlanıyor.

Nature dergisinde yakın zamanda yayınlanan bir haber, akademik makalelerde yapay zeka tarafından üretilen içeriklere yönelik artan endişeleri gündeme getiriyor. Makale, bilgisayar bilimcilerin en yeni büyük dil modellerinden biri olan Claude 3.5’i kullanarak araştırma fikirleri üretip makaleler yazdıkları ve bu makalelerin daha sonra bilimsel hakemlere sunulduğu bir çalışmayı ele alıyor. Hakemler, makaleleri “yenilikçilik, ilgi çekicilik, uygulanabilirlik ve beklenen etkinlik” kriterlerine göre değerlendirdi. Ortalama olarak, hakemlerin yapay zeka tarafından yazılan makalelere, insan tarafından yazılan makalelerden daha yüksek puan verdikleri ortaya çıktı! Bu da şu soruyu akla getiriyor: Yapay zeka gerçekten insanlardan daha iyi araştırma fikirleri üretiyor mu? Bunun böyle olabileceğine inanmak cazip gelse de, araştırmacılar tarafından incelenen 4.000 yapay zeka tarafından üretilen makaleden sadece 200'ü (%5) gerçekten orijinal bir fikir içeriyordu: Makalelerin çoğu, LLM'nin eğitim setinden zaten mevcut olan fikirleri tekrarlamaktan ibaretti.

Sonuç olarak, yapay zeka tarafından üretilen araştırmalar, hakem değerlendirme sürecinde gereksiz bilgileri artırıp önemli bilgileri gölgede bırakarak topluma zarar vermektedir; araştırma standartlarını korumaya özen gösteren hakemlerin zaman ve emeğini boşa harcaması ise cabası. Dahası, daha da kötüsü, AI tarafından üretilen araştırmalar genellikle ikna edici görünse de, gerçekte bir dil modeli tarafından üretilen metin sadece akıcı geliyor olabilir ve hatalar, halüsinasyonlar ve mantıksal tutarsızlıklarla dolu olabilir. Buradaki endişe, uzman hakemlerin bile okuduklarının bir LLM halüsinasyonu olup olmadığını çoğu zaman ayırt edememeleridir.

Önemli makine öğrenimi konferanslarının organizatörleri de bizimle aynı görüşte: Bilimsel yazılarda büyük dil modelleri (LLM) tarafından üretilen metinlere yer yoktur. ICML (Uluslararası Makine Öğrenimi Konferansı) için resmi politika şu şekildedir:

Büyük Dil Modeli Politikasına İlişkin Açıklama

Biz (Program Başkanları), 2023 ICML için hazırlanan Bildiri Çağrısı’na aşağıdaki açıklamayı ekledik:

ChatGPT gibi büyük ölçekli dil modellerinden (LLM) üretilen metinler içeren makaleler, üretilen metin makalenin deneysel analizinin bir parçası olarak sunulmadığı sürece yasaktır.

Bu açıklama, potansiyel yazarlardan bir dizi soruya yol açmış ve bazılarının bizimle proaktif olarak iletişime geçmesine neden olmuştur. Geri bildirimlerinizi ve yorumlarınızı takdirle karşılıyoruz; bu açıklamanın ardındaki niyeti ve ICML 2023 için bu politikayı nasıl uygulamayı planladığımızı daha ayrıntılı olarak açıklamak istiyoruz.

Özetle;

ICML 2023 için Büyük Dil Modeli (LLM) politikası, tamamen LLM’ler tarafından üretilen (yani “oluşturulan”) metinleri yasaklamaktadır. Bu kural, yazarların kendi yazdıkları metinleri düzenlemek veya düzeltmek amacıyla LLM’leri kullanmalarını engellememektedir. LLM politikası, intihal dahil olmak üzere LLM kullanımından kaynaklanabilecek olası sorunlara karşı tedbirli davranma ilkesine büyük ölçüde dayanmaktadır.

Bu uyarıya rağmen, makine öğrenimi alanındaki yazarların önemli ve giderek artan bir kısmının bu politikayı ihlal ettiğini ve makalelerinde metin üretmek için yine de yapay zeka kullandığını görüyoruz.

Sorunun boyutunu belirlemek

Pangram olarak, kendi alanımız olan Yapay Zeka’da bu sorunun boyutlarını ölçmek istedik. Şu soruyu yanıtlamaya çalıştık: Yapay Zeka araştırmacıları, kendi araştırmalarını yazmak için ChatGPT’yi kullanıyor mu?

Bu sorunu incelemek amacıyla, OpenReview API'sini kullanarak en büyük iki yapay zeka konferansı olan ICLR ve NeurIPS'te 2018 ile 2024 yılları arasında sunulan bildiri özetlerini derledik.

Ardından, bu konferanslara gönderilen tüm özetler üzerinde Pangram'ın AI Dedektörü'nü çalıştırdık. İşte bulgularımız:

ICLR

ICLR'ye gönderilen yapay zeka tarafından üretilen özetlerin yıl bazında yüzdesini gösteren ve 2023'ten bu yana yükseliş eğilimi sergileyen bir grafik.

NeurIPS

Neurips'e gönderilen yapay zeka tarafından üretilen özetlerin yıl bazında yüzdesini gösteren ve 2023'ten bu yana yükseliş eğilimi sergileyen bir grafik.

Sonuçlar

2022'den önceki tüm verileri, modelimizin yanlış pozitif oranı açısından bir doğrulama kümesi olarak değerlendirebiliriz; zira o dönemde büyük dil modelleri henüz mevcut değildi. Şekillerde gösterildiği gibi, 2022 ve öncesine ait her bir konferans özetinin modelimiz tarafından insan tarafından yazılmış olarak tahmin edileceğini öngörüyoruz. Bu, modelimizin doğruluğuna güven vermeli: bilimsel özetlerde yanlış pozitif oranımız çok iyi, bu nedenle 2023 ve 2024'te yapılan her pozitif tahminin gerçek pozitif olduğundan emin olabiliriz.

O zamandan beri gözlemlediklerimiz son derece endişe verici. ChatGPT'nin Kasım 2022'de piyasaya sürülmesinden bu yana 3 konferans döngüsü yaşandı.

İlk döngü, ChatGPT’nin piyasaya sürülmesiyle (ICLR 2023) hemen hemen aynı zamana denk geldi. Aslında son başvuru tarihi ChatGPT'nin piyasaya sürülmesinden önceydi, ancak yazarlar konferansın gerçekleşmesinden önce, yani ChatGPT'nin piyasaya sürülmesinden birkaç ay sonra, düzenlemeler yapma fırsatına sahipti. Bulgularımız beklendiği gibiydi: sadece bir avuç özet AI tarafından yazılmıştı (bu döngüde birkaç bin özetin sadece 2'sinin AI tarafından yazıldığını tespit ettik) ve muhtemelen son başvuru tarihinden sonra değiştirilmişti.

İkinci döngü yaklaşık 6 ay sonra, Aralık ayında düzenlenecek konferans için son başvuru tarihi 2023 yazında olan NeuRIPS 2023 idi. Bu konferansta, gönderilen özetlerin yaklaşık %1,3’ünün yapay zeka tarafından üretildiğini bildiriyoruz: küçük ama anlamlı bir oran.

Son olarak, birkaç ay önce gerçekleştirilen en son yarışma olan ICLR 2024’te, %4,9’a varan bir artış gözlemledik: Bu, NeuRIPS 2023’e kıyasla yapay zeka tarafından üretilen değerlendirmelerde neredeyse 4 katlık bir artış anlamına geliyor!

Bu sonuçlar endişe verici bir eğilimi ortaya koyuyor: Yapay zeka tarafından üretilen ve önde gelen yapay zeka konferanslarına sunulan bildiri sayısı artmakla kalmıyor, aynı zamanda bu artış hız da giderek artıyor; başka bir deyişle, yapay zeka tarafından üretilen bildirilerin sunulma hızı giderek artıyor.

Yapay zeka tarafından oluşturulan özetler neye benziyor?

Aşağıdaki özetlere bir göz atın ve bunların teknik bilimsel literatürde okumaya alışık olduğunuz türden yazılar olup olmadığını kendiniz değerlendirin:

1. Ağ bağlantılı verilerin karmaşık yapısı içinde, müdahalelerin nedensel etkilerini anlamak, çeşitli alanlara yansımaları olan kritik bir zorluktur. Grafik Sinir Ağları (GNN’ler), karmaşık bağımlılıkları yakalamak için güçlü bir araç olarak ortaya çıkmıştır; ancak GNN tabanlı ağ nedensel çıkarımında geometrik derin öğrenmenin potansiyeli hâlâ yeterince araştırılmamıştır. Bu çalışma, bu boşluğu doldurmak için üç temel katkı sunmaktadır. İlk olarak, grafik eğriliği ile nedensel çıkarım arasında teorik bir bağlantı kurarak, negatif eğriliklerin nedensel etkilerin belirlenmesinde zorluklar yarattığını ortaya koyuyoruz. İkinci olarak, bu teorik içgörüye dayanarak, nedensel etki tahminlerinin güvenilirliğini öngörmek için Ricci eğriliğini kullanan hesaplama sonuçları sunuyoruz ve pozitif eğrilik bölgelerinin daha doğru tahminler sağladığını ampirik olarak gösteriyoruz. Son olarak, ağ verilerinde tedavi etkisi tahminini iyileştirmek için Ricci akışını kullanan bir yöntem öneriyoruz ve ağdaki kenarları düzleştirerek hatayı azaltarak üstün performans sergiliyoruz. Bulgularımız, nedensel etki tahmininde geometriyi kullanmanın yeni yollarını açarak, nedensel çıkarım görevlerinde GNN'lerin performansını artıran içgörüler ve araçlar sunmaktadır.

2. Dil modelleri alanında veri kodlaması, model eğitiminin verimliliğini ve etkinliğini etkileyen hayati bir unsurdur. Byte Pair Encoding (BPE), sık görülen bayt veya karakter çiftlerini birleştirerek hesaplama verimliliği ile dilbilimsel ifade gücünü dengeleyen, köklü bir alt-kelime tokenleştirme tekniğidir. Dil modeli eğitimi önemli miktarda hesaplama kaynağı gerektirdiğinden, dil modelleri için veri kodlamasında geleneksel Byte Pair Encoding (BPE) yaklaşımını önemli ölçüde geliştiren bir yöntem olan Fusion Token’ı öneriyoruz. Fusion Token, BPE'ye kıyasla daha agresif bir hesaplama stratejisi kullanır ve token gruplarını bi-gramlardan 10-gramlara genişletir. Dikkat çekici bir şekilde, kelime dağarcığına 1024 token eklenmesiyle, sıkıştırma oranı bir milyonluk kelime dağarcığına sahip normal bir BPE tokenizer'ınkini önemli ölçüde aşmaktadır. Genel olarak, Fusion Token yöntemi, hesaplama birimi başına artan veri kapsamı sayesinde performansın belirgin şekilde iyileşmesini sağlar. Ayrıca, daha yüksek sıkıştırma, belirli bir dize başına daha az token olması nedeniyle daha hızlı çıkarım sürelerine yol açar. Tokenizer oluşturma sürecine daha fazla hesaplama kaynağı ayırarak, Fusion Token dil modellerinin verimli veri sıkıştırma motorları olarak potansiyelini en üst düzeye çıkarır ve daha etkili dil modelleme sistemlerini mümkün kılar.

3. Hızla gelişen hareket üretimi alanında, metinsel anlamın zenginleştirilmesi, daha doğru ve gerçekçi hareketler üretmek için son derece umut verici bir strateji olarak kabul edilmektedir. Ancak, mevcut teknikler genellikle metin açıklamalarını iyileştirmek için kapsamlı dil modellerine dayanmaktadır ve metin ile hareket verileri arasında kesin bir uyum sağlamamaktadır. Bu uyumsuzluk genellikle yetersiz hareket üretimine yol açarak bu yöntemlerin potansiyelini sınırlamaktadır. Bu sorunu çözmek için, metin ve hareket verileri arasındaki boşluğu doldurmayı amaçlayan SemanticBoost adlı yeni bir çerçeve sunuyoruz. Yenilikçi çözümümüz, anlamsal tutarlılığı garanti altına almak ve hareket üretiminin genel kalitesini yükseltmek için, hareket verilerinin kendisinden türetilen ek anlamsal bilgileri özel bir gürültü giderme ağıyla birleştirir. Kapsamlı deneyler ve değerlendirmeler yoluyla, SemanticBoost'un hareket kalitesi, uyum ve gerçekçilik açısından mevcut yöntemlerden önemli ölçüde daha üstün olduğunu gösteriyoruz. Dahası, bulgularımız hareket verilerinden elde edilen anlamsal ipuçlarından yararlanmanın potansiyelini vurgulamakta ve daha sezgisel ve çeşitlilik içeren hareket üretimi için yeni yollar açmaktadır.

Herhangi bir örüntü fark ettiniz mi? Öncelikle, hepsinin çok benzer ifadelerle başladığını görüyoruz: "Karmaşık manzarasında", "Alanında", "Hızla gelişen alanında". Buna yapay bir şekilde süslü dil diyoruz. LLM'lerin çok az gerçek içerik üretmek için ne kadar sık çok fazla kelime kullandığını daha önce yazmıştık. Bu, ödevinde minimum kelime sayısına ulaşmaya çalışan bir öğrenci için arzu edilebilir olsa da, araştırma okumaya çalışan teknik bir okuyucu için bu tür aşırı süslü dil, makaleyi okumayı daha zor ve zaman alıcı hale getirirken, makalenin asıl mesajını daha az net hale getirir.

Yapay zeka alanındaki makaleler konferanslara gerçekten kabul ediliyor mu?

Yapay zeka tarafından üretilen makalelerin hakem değerlendirme süreciyle gerçekten etkili bir şekilde elendiğini mi, yoksa bazılarının gözden kaçtığını mı merak ettik.

Bu soruyu yanıtlamak için, ICLR 2024'te yapay zeka tarafından oluşturulan özetler ile makale kararları arasındaki ilişkiyi inceledik. (Sözlü, spotlight ve poster sunumları, hepsi "Kabul Edilen" makalelerdir; sözlü ve spotlight sunumları ise özel takdir kategorileridir). İşte bulgularımız:

AI tarafından üretilen makalelerin kabul edilme oranı, gönderilenlerin oranından daha düşük olsa da, önemli bir kısmı yine de hakem değerlendirme sürecinden geçmeyi başardı. Bu durum, hakemlerin AI tarafından üretilen içeriklerin bir kısmını tespit etseler de, hepsini tespit edemediklerini gösteriyor.

Bazı sözlü sunumların ve öne çıkan makalelerin bile özetlerinin yapay zeka tarafından oluşturulduğunu görüyoruz! Durumu iyi niyetle yorumlayacak olursak, ileride karşılaşabileceğimiz durum şudur: Araştırmalar aslında yüksek kalitede olabilir ve yazarlar, çalışmalarını daha iyi sunmak veya düzeltmek için ChatGPT'yi kullanarak kısayol arıyor olabilirler.

Özellikle, araştırma camiasının büyük bir kısmı ana dili İngilizce olmayan kişilerden oluştuğu için, büyük dil modellerinin (LLM) giderek daha fazla, başka dillerde yazılmış makaleleri İngilizceye çevirmek amacıyla kullanılacak.

Sonuç

Yapay zeka camiasının yazarlara ChatGPT'yi kullanmamaları yönündeki açık talebine rağmen, pek çok yazar bu kuralı göz ardı ederek makalelerini yazarken yine de büyük dil modellerini kullanıyor. Daha da endişe verici olan ise, konferansları büyük dil modelleriyle üretilmiş makalelerden korumak üzere hakemlik yapan yapay zeka uzmanlarının bile bunu fark edememesi!

ChatGPT, akademik süreç genelinde daha da geniş bir etki yaratıyor. Yakın zamanda yapılan bir ICML vaka çalışması, hakem değerlendirmelerinin yüzde 6 ila 16’sının yapay zeka tarafından oluşturulduğunu ortaya koydu; ayrıca, yapay zeka tarafından oluşturulan hakem değerlendirmeleri ile değerlendirmenin son teslim tarihine ne kadar yakın bir zamanda gönderildiği arasında pozitif bir korelasyon olduğu görüldü!

Yapay zeka topluluğunu bu politikaları daha iyi uygulamaya çağırıyor ve yazarların makalelerinin insan eliyle yazıldığından emin olmak için sorumluluk almalarını istiyoruz.

Yapay zekanın resmi yazım alanına girişi sadece araştırma alanıyla sınırlı değil — yapay zeka kurgu ödülleri de kazanıyor.