AB'nin Yeni Yapay Zeka Yasasını Anlamak

Fotoğraf: Angel Bena.

Geçen hafta, Avrupa Parlamentosu, AB üye devletlerinin yapay zeka ürün ve hizmetlerini düzenlerken uymaları gereken kapsamlı bir çerçeve niteliğindeki Yapay Zeka Yasası’nı (AI Act) kabul etti.

AI Yasası, yapay zeka kullanan ürün veya hizmetlere yönelik “risk temelli bir yaklaşım” benimseyerek tüketici güvenliği mevzuatı işlevi görmeyi amaçlamaktadır; bir yapay zeka uygulaması ne kadar riskliyse, o kadar sıkı bir denetime tabi tutulur. Risk seviyeleri, aşağıdakiler dahil olmak üzere farklı kategorilere ayrılmıştır:

• “Davranışları çarpıtmak ve bilinçli karar verme sürecini bozmak amacıyla bilinçaltına hitap eden, manipülatif veya aldatıcı teknikler kullanan” ya da “temel insan haklarına açık bir risk teşkil eden” yapay zeka sistemleri, “Kabul Edilemez Risk” olarak değerlendirilecek ve yasaklanacaktır.
• Kritik altyapı, eğitim, sağlık hizmetleri, kolluk kuvvetleri, sınır yönetimi veya seçimler gibi alanlarda kullanılan ve "yüksek riskli" olarak değerlendirilen yapay zeka sistemleri, katı gerekliliklere uymak zorunda kalacak.
• Yüksek risk kategorilerine girmeyen genel amaçlı yapay zeka sistemleri, sınırlı riskli olarak değerlendirilecek ve daha hafif şeffaflık yükümlülüklerine tabi olacaktır. Üretken yapay zeka uygulamaları, genel amaçlı yapay zeka sistemleri olarak kabul edilecektir.

Hem üreticiler (OpenAI/Google gibi) hem de kullanıcılar (bu uygulamaları kullanan şirketler), son kullanıcıların (tüketicilerin) yapay zeka ile etkileşimde bulunduklarının farkında olmaları için doğruluk ve şeffaflık testlerini geçmek zorunda olacaklar. Bu yeni gerekliliklere uymayan şirketler, 35 milyon avroya kadar veya küresel yıllık gelirlerinin %7’si tutarında para cezasına çarptırılabilir.

Bu, çevrimiçi platformlar için ne anlama geliyor?

Merkezi nerede olursa olsun, AB'de son kullanıcıları bulunan ve ürünlerinde yapay zeka sistemlerinden yararlanan her işletme, Yapay Zeka Yasası'na tabi olacaktır. Bu kapsam geniş ve bazı belirsizlikler içerse de, yapay zeka içeriği kullanan veya yayınlayan çevrimiçi platformların bu yeni yasal yükümlülüklere uyması gerektiği açıktır.

Kullanıcı tarafından oluşturulan içerik platformlarının çoğunda yapay zeka tarafından üretilen içeriklerin paylaşımında artış görülmesi nedeniyle, çoğu çevrimiçi site (örneğin yayıncılar, pazar yerleri ve sosyal medya siteleri) aşağıdakiler dahil olmak üzere bazı şeffaflık ve denetim mekanizmaları oluşturmak zorunda kalacaktır:

• Platformda oluşturulan veya yayınlanan içeriğin yapay zeka tarafından üretilip üretilmediğinin açıklanması.
• Platformu, yapay zeka tarafından üretilen yasa dışı gönderimleri reddedecek şekilde tasarlamak.
• Şirket içi modellerin eğitilmesinde kullanılan telif hakkıyla korunan verilerin özetlerinin yayınlanması.

Yapay zeka tarafından üretilen içeriklerin etiketlenmesi ve dolaylı olarak tespit edilmesi, bu tür içeriklerin içerik platformlarında yayınlanması durumunda artık zorunlu hale gelecektir. Bu kural, metin, ses, görsel ve videolar dahil olmak üzere her türlü içerik türü için geçerlidir:

"Genel amaçlı yapay zeka sistemleri de dahil olmak üzere, sentetik ses, görüntü, video veya metin içeriği üreten yapay zeka sistemlerinin sağlayıcıları, yapay zeka sisteminin çıktılarının makine tarafından okunabilir bir biçimde işaretlenmesini ve yapay olarak üretilmiş veya değiştirilmiş olduğu tespit edilebilir olmasını sağlamalıdır."

AB’nin güvenli yapay zeka sistemlerini teşvik etme yönündeki yasal niyetini destekliyor olsak da, işletmelerin bu yasayı yorumlamasının ve uyum sağlamasının kafa karıştırıcı olabileceğinin de farkındayız. Bu yükümlülükler oldukça belirsiz görünebilir ve Yapay Zeka Yasası, ikincil içerik türlerinin (kullanıcı yorumları veya görüşleri gibi) bu gerekliliklere tabi olup olmadığı ya da işletmelerin hangi uyum kontrollerini uygulamaya koyması gerektiği konusunda ayrıntılı bilgi vermemektedir.

Şirketler Yapay Zeka Yasası'nın getireceği değişikliklere nasıl hazırlıklı olabilir?

İyi haber şu ki, şirketlerin mevzuata uyum sağlamak için çözümler geliştirmelerine zaman kalacak. Yasanın Mayıs ayına kadar yürürlüğe girmesi bekleniyor ve hükümleri aşamalı olarak yürürlüğe girecek; şeffaflık gerekliliklerinin çoğu ise ancak bir yıl sonra geçerli olacak.

Bununla birlikte, şirketlerin yasanın uygulanmasını önlemek için şimdiden alabilecekleri bazı önlemler olduğuna inanıyoruz. Özellikle şirketler aşağıdakileri geliştirmeye çalışmalıdır:

• Kullanıcı tarafından oluşturulan içeriklere ilişkin net kurallar ve yönetim ilkeleri.
• AI tarafından üretilen içeriği tespit etmek için daha verimli içerik denetim iş akışları.
• Yapay zeka tarafından üretilen içeriğin yayılmasını önlemeye yönelik otomasyonlar.

Şimdiden bazı şirketlerin harekete geçtiğini görüyoruz – YouTube ve Instagram gibi bazı platformlar, kullanıcılarından “gerçekçi” yapay zeka tarafından üretilmiş içerik yüklerken bunu kendileri bildirmelerini istiyor. Bu “güven sisteminin” yasaya uymak için yeterli olup olmayacağı belirsiz, ancak bu durum sektör liderlerinin bu mevzuatı ve yapay zeka güvenliğini ciddiye aldıklarının güçlü bir göstergesidir.

Pangram Labs olarak, şirketlerin güvenli ve sorumlu çevrimiçi platformlar işletebilmeleri için en iyi yapay zeka tespit sistemlerini geliştirmek üzere yoğun bir şekilde çalışıyoruz. AB’nin internet şeffaflığı hedefinden büyük ilham alıyoruz ve bu önemli standartları somutlaştırmak üzere araştırmacılar ve politika yapıcılarla birlikte çalışmayı sabırsızlıkla bekliyoruz.

Bizimle iletişime geçmek ister misiniz? info@pangram.com adresine bir e-posta gönderin!