Biden'ın Yapay Zeka Güvenliği Konulu Yürütme Kararnamesi Hakkında Açıklama

NOT: Adımızı Pangram Labs olarak değiştirdik! Daha fazla bilgi için blog yazımızı okuyun.

Bugün, Biden yönetimi yapay zeka güvenliği ve emniyeti konusunda yeni standartlar yayınladı; bunlara yapay zeka ile içerik tespiti hakkındaki şu yönerge de dahildir:

Ticaret Bakanlığı, yapay zeka tarafından üretilen içerikleri açıkça belirtmek amacıyla içerik doğrulama ve filigranlama konusunda kılavuzlar hazırlayacak. Federal kurumlar, bu araçları kullanarak Amerikalıların hükümetten aldıkları iletişimin gerçek olduğunu kolayca anlayabilmelerini sağlayacak ve özel sektöre ve dünya çapındaki hükümetlere örnek teşkil edecek.

Joe Biden, ai.gov'dan.

Checkfor.ai, büyük dil modellerinin güvenli ve sorumlu bir şekilde kullanılması konusundaki Biden yönetiminin taahhüdünü tam olarak desteklemektedir. Yapay zeka içerik doğrulaması konusunda kılavuzlar ve politikalar geliştirilmesinin, yapay zeka güvenliği açısından doğru yönde atılmış önemli bir adım olduğuna inanıyoruz; bu, interneti spam’den ve büyük dil modelleri tarafından üretilen diğer zararlı içeriklerden korumak olan misyonumuzla da uyumludur. Toplum olarak AI tarafından üretilen içeriği tespit etmeye daha fazla yatırım yaparsak, hem tüketiciler hem de AI teknolojisinin kullanıcıları olarak dünya daha iyi bir yer haline gelecektir. Bugün, içerik doğrulama, filigran ekleme ve tespit konularında şirket olarak tutumumuzla ilgili bir açıklama yayınlamak istiyoruz.

• Şu anda mevcut hiçbir algılama çözümünün sorunu çözmek için yeterli olmadığını düşünüyoruz ve özellikle yapay zeka tabanlı algılama sorununu çözmek için daha fazla kaynak ayırmamız gerekiyor.
• Filigran eklemenin bu soruna bir çözüm olmadığını düşünüyoruz; zira bu yöntem yanlış bir güvenlik hissi yaratıyor ve kullanıcının model ağırlıklarına erişimi olduğunda ya da çıktıyı düzenleme imkânı bulunduğunda sınırlı kaldığı kanıtlanmıştır (https://arxiv.org/pdf/2305.03807.pdf, https://arxiv.org/pdf/2301.10226.pdf). Güçlü ve yetenekli, filigran içermeyen açık kaynaklı modeller halihazırda mevcuttur ve kötü niyetli kişiler, tespit edilmekten kaçınmak için her zaman bu modellerin kendi versiyonlarını yerel olarak ince ayarlayabilecektir. Dahası, tespit sorununun filigran içermeyen modellerde bile çözülebilir olduğuna inanıyoruz.
• Yapay zeka güvenliği ve büyük dil modellerinin geliştirilmesine yönelik düzenlemeleri destekliyoruz; ancak bu düzenlemelerin açık kaynak ekosistemini desteklemesi şartıyla. Açık kaynak, güçlü büyük teknoloji şirketleri üzerinde denetim ve denge sağlar, tüketiciler için şeffaflık sunar ve halkın bu modelleri özgürce değerlendirmesine, eleştirmesine ve karşılaştırmasına olanak tanır.
• Hükümetin yapay zeka güvenliğini teşvik etme ve yapay zeka tespitine yönelik araştırmalara yatırım yapma konusundaki rolünün, yapay zeka tespitine yönelik hem akademik hem de endüstri projelerine finansman sağlamaya odaklanması gerektiğine inanıyoruz.
• Yapay zeka algılama alanında etkili araştırmaları ilerletmek için, tüketicilerin mevcut yapay zeka algılayıcılarının etkinliğini ve sınırlarını anlayabilmeleri amacıyla karşılaştırma ölçütleri ve değerlendirme kriterleri belirlemeliyiz. Daha büyük ve daha güçlü dil modellerinin güvenli ve sorumlu bir şekilde kullanıma sunulabilmesi için, yapay zeka algılama alanında sektör çapında standartlar geliştirmeye ve bu alana katkıda bulunmaya kararlıyız.

Checkfor.ai olarak, yeni nesil dil modellerinin güvenli ve verimli bir şekilde kullanıma sunulabilmesi için güvenilir yapay zeka algılama sistemleri geliştirmek üzere yoğun bir şekilde çalışıyoruz. Biden yönetiminin insan tarafından üretilen içerik ile yapay zeka tarafından üretilen içeriği birbirinden ayırma konusundaki kararlılığını memnuniyetle karşılıyoruz ve bu önemli standartları geliştirmek üzere araştırmacılar ve politika yapıcılarla birlikte çalışmayı sabırsızlıkla bekliyoruz.