İşletmenizi LLM ve GenAI'ye Uygun Hale Getirmek

Muhtemelen “2023 yılının kişisi” yapay zeka (AI) olmuştur. Büyük Dil Modelleri’nin (LLM) ve daha genel olarak üretken yapay zekanın (GenAI) yenilik hızı ve yetenekleri hepimizi şaşırtmıştır. Aynı zamanda, özellikle çevrimiçi platformlarda pek çok kişi, bu teknolojilerin doğurabileceği potansiyel riskler hakkında sorular sormaktadır – bazı yapay zeka risklerini özetleyen bu Harvard Business Review makalesine göz atabilirsiniz. Çevrimiçi platformlar yakında yapay zeka tarafından üretilen içeriklerle dolup taşabilir ve bu durum, kullanıcıların güvenliği ve platformlarda kalma sürelerinin yanı sıra platformların itibarı üzerinde de olumsuz etkiler yaratabilir. Halihazırda, büyük hacimli GenAI içeriği üretmek ve yaymak için araçlar sunan girişimler bulunmaktadır.

Ancak yapay zeka ve genel yapay zeka, en son Güven ve Güvenlik Hackathonu’nda ortaya konan bazı fikirlerde de görüldüğü gibi, bu riskleri yönetmek ve daha güvenli dijital ortamlar ile çevrimiçi platformlar oluşturmamıza yardımcı olmak amacıyla bizim yararımıza da kullanılabilir. Yeni araçlar ortaya çıktıkça, genel yapay zeka nedeniyle çevrimiçi platformların karşı karşıya kaldığı riskleri yönetmeye yönelik en son yenilikler ve süreçler açısından nerede durduğumuzu değerlendirmek için uygun bir zamandır.

Bu makale şu tür soruların yanıtlanmasına yardımcı olabilir:

• İşletmemizi, çevrimiçi topluluklarımızı ve kullanıcılarımızı yapay zeka tarafından üretilen büyük miktardaki içerikten (örneğin, yorum spam'lerinden telif hakkı ve diğer yasaları ihlal eden yasa dışı içeriğe kadar) en iyi şekilde nasıl koruyabiliriz?
• Yapay zeka tarafından üretilen içerik tespit edilebilir mi?
• Yapay zeka tarafından üretilen içeriğin yaşam döngüsünün hangi aşamalarında güvenlik önlemleri alınabilir ve bu nasıl yapılır?
• Farklı pazarlarda ilgili düzenlemeler nasıl şekilleniyor ve bunlar sizin için ne anlama geliyor?

İş modelinizi ve ihtiyaçlarınızı göz önünde bulundurarak GenAI politikanızı oluşturun

Kullanıcı tarafından oluşturulan içeriğe sahip her işletmenin bir GenAI politikasına ihtiyacı vardır. Genel olarak yanıtlanması gereken iki soru vardır: Kullanıcılar yapay zeka tarafından oluşturulan içeriği görmek istiyor mu ve yapay zeka içeriğinin insan tarafından oluşturulan içerikle bir arada sunulmasını kabul ediyorlar mı?

Bu sorulardan herhangi birine verdiğiniz cevap "hayır" ise, yapay zeka içeriğine ilişkin bir politika belirlemeniz gerekir. Örneğin, yapay zeka içeriğinin açıkça belirtilmesini zorunlu kılmak ya da yapay zeka içeriğini açıkça yasaklamak gibi. Böyle bir politika, dikkatli gözlere sahip insan moderatörler ve Pangram Labs gibi araçlarla oluşturulan etkili süreçler aracılığıyla uygulanabilir.

Cevap evet ise – kullanıcılar yapay zeka tarafından üretilen içeriği görmekten rahatsızlık duymuyor ya da bu konuda hevesliyse – politika açısından bir sorun yok demektir. Ancak, LinkedIn’in yapay zeka destekli mesajları gibi yapay zeka araçlarını doğrudan kullanmaya başlamadan önce, içeriğin güvenli olduğundan emin olmanız gerekir. Bunun için bazı koruyucu önlemlere ihtiyacınız var ve daha da önemlisi, Tremau'nun moderasyon platformu gibi araçları kullanarak, kullanıcı tarafından oluşturulan içeriğin moderasyonuna benzer şekilde, AI tarafından oluşturulan içeriği etkili ve verimli bir şekilde denetlemek için her zaman süreçler oluşturmalısınız.

Elbette, GenAI politikanız iş modelinize ve bağlamınıza bağlıdır. Herkese uyan tek bir çözüm yoktur. Örneğin, bir pazar yeri veya genel olarak kullanıcıların diğer kullanıcıların yorumlarına güvendiği bir platform iseniz, AI tarafından üretilen yorumların platformunuza girmediğinden emin olmanız gerekebilir. Daha genel olarak, kullanıcılar tarafından oluşturulan içeriklerde olduğu gibi, AI tarafından oluşturulan yasa dışı içeriklerin de platformunuzda yer almadığından emin olmanız gerekir. Botlar ve spam her zaman bir sorun olmuştur, ancak GenAI'nin gücüyle bunlar daha da güçlü hale gelmiş ve yakalanması daha zor hale gelmiştir.

Yapay zeka sınırlamalarını anlamak ve bunlardan yararlanmak

Çoğu ticari AI API’si, bir tür AI koruma önlemi sunar. Google’ın Gemini API’si, çıktıları dört güvenlik kategorisinde otomatik olarak derecelendirir: Nefret Söylemi, Taciz, Cinsel İçerik ve Tehlikeli İçerik. Azure’un OpenAI API’sini kullanırsanız, “Nefret ve Adalet”, Cinsel İçerik, Şiddet ve Kendine Zarar Verme içerik filtrelerine dayalı benzer derecelendirmeler alırsınız. Her iki API de bu kategorilerin herhangi birinde çok yüksek puan alan sorguları reddeder, ancak orta düzeyde güvenlik denetimini sizin takdirinize bırakır.

Llama-2 veya Mistral gibi açık kaynaklı bir model kullanıyorsanız, kendi içerik filtrenizi geliştirmeniz gerekecektir. Bu sorun, kapalı kaynaklı bir sınıflandırıcıya (OpenAI’nin içerik filtresi API’si, Azure’un AI içerik güvenliği API’si) ayrı bir çağrı yaparak ya da Meta’nın yeni piyasaya sürdüğü LlamaGuard gibi bir açık kaynaklı çözümle çözülebilir. LlamaGuard, çok iyi performans gösteren 7 milyar parametreli bir LLM tabanlı modeldir. Hızlı ve yanıt sınıflandırmasının yanı sıra genel içerik denetimi için de umut vaat etmektedir.

İnsanların sürece dahil olmaya devam etmesini ve süreçlerinizin yasal düzenlemelere uygun olmasını sağlayın

Kullanıcılarınızı ve işletmenizi korumak için hangi otomatik araçları kullanırsanız kullanın, hiçbir teknoloji sizi tam anlamıyla koruyamaz. Kullandığınız tüm yapay zeka araçları her zaman hatalar yapacaktır. Bu tür hataların sizi operasyonel, müşteri veya yasal risklere maruz bırakmamasını sağlamanız gerekir.

Öncelikle, araçların kontrol etmeleri için işaretlediği içeriklerin en azından bir kısmını gözden geçirecek insanları her zaman sürece dahil etmeniz gerekecektir. Elbette, içerik inceleme süreçlerinizin etkili ve verimli olması gerekir. İronik bir şekilde, piyasada ne kadar çok yapay zeka aracı (örneğin, içerik üretimi veya denetimi için) bulunursa, bazı durumlarda o kadar çok kişiyi sürece dahil etmeniz gerekebilir.

İkincisi, içerik denetim süreçleri ve uygulamaları, kullanıcılarınızın güvenliği ve platformda kalmalarını – dolayısıyla işinizi de – göz önünde bulundurarak tasarlanmalıdır. Moderasyon hatalarınız endişe yaratırsa ne yapacaksınız? Sizin veya yapay zekanızın kararlarını düzeltmek gerektiğinde kullanıcılarınızın sesini duyurmasını nasıl sağlayacaksınız? Moderatörlerinizin en iyi moderasyon kararlarını olabildiğince verimli ve etkili bir şekilde alabilmeleri için ihtiyaç duydukları her şeye sahip olmalarını nasıl sağlayacaksınız? Bunları ve diğer karmaşık durumları yönetmek için, örneğin Tremau’nun içerik moderasyon platformu gibi araçları kullanarak süreçlerinizi dikkatlice düşünmeniz ve etkili bir şekilde otomatikleştirmeniz gerekir.

Son olarak, 2024 yılı, düzenleyici kurumlar tarafından para cezasına çarptırılan şirketler arasında yer almamak için gerçekten çaba sarf etmeniz gereken bir yıl olacak. AB’nin Dijital Hizmetler Yasası, Avrupa’da faaliyet gösteren tüm çevrimiçi platformlar için yürürlüğe girecek ve süreçlerinizi yeniden tasarlamanızı ve şeffaflık raporları gibi raporları sunmanızı – aksi takdirde para cezasına çarptırılacağınızı – gerektirecek. Elbette, platformunuz yapay zekadan etkileniyor ya da kullanıyor olsun ya da olmasın, mevzuata uyum şarttır.

Size nasıl yardımcı olabiliriz? Checkfor.ai ve Tremau olarak, güçlü yapay zeka teknolojilerinin ve yeni düzenlemelerin oluşturduğu bu yeni dünyada yolunuzu en iyi şekilde bulmanıza yardımcı olmak için çalışıyoruz.

Daha fazla bilgi almak için info@tremau.com ve info@pangram.com adreslerinden bize ulaşabilirsiniz.

Theodoros Evgeniou, Tremau’nun kurucu ortağı ve İnovasyon Direktörü, INSEAD’da profesör, OECD Yapay Zeka Uzmanlar Ağı üyesi, BCG Henderson Enstitüsü danışmanı ve Dünya Ekonomik Forumu’nda yapay zeka alanında akademik ortaktır. MIT’den, yapay zeka alanında doktora derecesi de dahil olmak üzere dört dereceye sahiptir.

Max Spero, Pangram Labs’ın kurucu ortağı ve CEO’sudur. Daha önce Google ve Nuro’da yazılım mühendisi olarak çalışmış, veri akışları oluşturmuş ve makine öğrenimi modellerini eğitmiştir. Stanford Üniversitesi’nden Bilgisayar Bilimleri alanında lisans ve yüksek lisans derecelerine sahiptir.

Bu makale, Ocak 2024'te Tremau ile ortaklaşa yayınlanmıştır.