الكشف الآلي عن المحتوى غير المرغوب فيه من أجل الثقة والأمان
الإشراف على المحتوى باستخدام الذكاء الاصطناعي لفرق الثقة والأمان
نقدم خدمة الكشف بالذكاء الاصطناعي حسب الطلب عبر واجهة برمجة التطبيقات (API) لعملاء الشركات. قم بتوسيع نطاق عملية مراقبة المحتوى لديك باستخدام أداة الكشف بالذكاء الاصطناعي الأكثر دقة — وبتكلفة لا تمثل سوى جزء بسيط من تكلفة المراجعة البشرية.
&Safety
من المؤسسين
ملاحظة موجهة إلى فرق الثقة والأمان
قبل انضمامي إلى Pangram، عملت في Google وYelp حيث شهدتُ بنفسي مخاطر المحتوى المزيف. وبصفتنا باحثين في مجال الذكاء الاصطناعي، نؤمن بأن الذكاء الاصطناعي يمكن أن يكون قوة خير في العالم، ونسعى إلى منع إساءة استخدامه في تشويه الواقع والحقيقة في المجالات التي تتطلب محتوى موثوقًا به.
لقد أنشأنا Pangram هنا في البداية، ونعتقد أن المحتوى الذي يولده الذكاء الاصطناعي والذي يغمر شبكة الإنترنت يمثل إحدى أكبر المشكلات في عصرنا. عندما بدأنا، سعينا إلى تطوير أكثر أدوات الكشف عن المحتوى المصطنع دقةً في السوق، وقد تمكنا، بفضل إنجازاتنا البحثية، من تدريب مصنف يتمتع بأعلى دقة وأقل معدل للنتائج الإيجابية الخاطئة.
نحن نُعدّ عاملًا مُضاعِفًا لقدرات فرق "الثقة والأمان" لتوسيع نطاق مبادراتها بتكلفة منخفضة. تزود Pangram الفرق بالأدوات التي تحتاجها لوضع السياسات بثقة والإشراف بفعالية على المحتوى الذي يُنتجه الذكاء الاصطناعي — وذلك للحفاظ على المحتوى الذي يُنتجه البشر والإبلاغ عن المحتوى الذي يُنتجه الذكاء الاصطناعي وفقًا لسياسة الشركة.
— ماكس، الشريك المؤسس لشركة Pangram Labs
لماذا هذا مهم
التعليقات التي تكتبها الذكاء الاصطناعي تقوض الثقة
وتضر بسمعة المنصة.
الامتثال لقوانين لجنة التجارة الفيدرالية (FTC)
أعلنت لجنة التجارة الفيدرالية عن قواعد تحظر التعليقات المزيفة، بما في ذلك التعليقات التي تم إنشاؤها بواسطة الذكاء الاصطناعي. حافظ على الامتثال لهذه القواعد من خلال الكشف عن المحتوى المزيف والإبلاغ عنه قبل وصوله إلى منصتك.
نزاهة التصنيف
التعليقات التي تكتبها الذكاء الاصطناعي لا تقتصر فائدتها على المستهلكين فحسب، بل إنها تخدع أنظمة التصنيف أيضًا، التي قد تمنح هذه التعليقات تصنيفًا عاليًا بسبب طول نصها وصحة قواعدها النحوية. احرص على الحفاظ على جودة التصنيف في منصتك.
حماية حقوق النشر
"عندما تحدد تقنية الذكاء الاصطناعي العناصر التعبيرية لمخرجاتها، فإن المادة الناتجة لا تُعد نتاجًا لإبداع بشري." — مكتب حقوق الطبع والنشر الأمريكي، مارس 2023
النطاق والدقة
قم بتوسيع نطاق خدمة الإشراف
دون زيادة التكاليف
تساعد Pangram في توسيع نطاق فرق "الثقة والسلامة" بتكلفة زهيدة، مما يوفر الدعم لفرق السلامة التي تعاني من ضيق الوقت مع خفض التكاليف في الوقت نفسه.
أكثر فعالية من حيث التكلفة بمقدار 100 ضعف
تعد عملية مراجعة المحتوى التي يقوم بها البشر مكلفة وتستغرق وقتًا طويلاً. Pangram هو أداة الكشف عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي الوحيدة التي تتفوق على الخبراء البشريين في تحديد هذا النوع من المحتوى، مما يساعد على أتمتة هذا المسار التشغيلي مع خفض التكاليف.
الكشف عن النصوص المختصرة
غالبًا ما تكون المنشورات القصيرة على وسائل التواصل الاجتماعي والرسائل الخاصة والتعليقات أقصر من أن تكتشفها أدوات الكشف عن المحتوى المصطنع التقليدية. أما نموذج Pangram فيكتشف المحتوى المصطنع الذي لا يتجاوز طوله 75 كلمة، ويمكنه فحص عدة محتويات في آن واحد للحصول على إشارة أكثر دقة.
التفوق التكنولوجي
تم تطويرها بواسطة باحثين في مجال الذكاء الاصطناعي من شركتي «تيسلا» و«جوجل» مع التزام بتحقيق دقة استثنائية. وتحقق طريقة «Hard Negative Mining» الخاصة بنا دقة تصل إلى 99.99% وأدنى معدل للنتائج الإيجابية الخاطئة في السوق.
الأسئلة الشائعة
الأسئلة الشائعة حول الكشف عن الذكاء الاصطناعي
هل تبحث عن إجابات؟ اطلع على الأسئلة الشائعة على
واحصل على المعلومات التي تحتاجها، كل ذلك في مكان واحد.
تقدم Pangram واجهة برمجة تطبيقات (API) تعتمد على نمط REST، مصحوبة بوثائق شاملة ومجموعة أدوات تطوير برمجيات (SDK) بلغة Python. وتقوم معظم الفرق بدمج ميزة الكشف كخطوة تمهيدية لعملية الإشراف — حيث يتم فحص المحتوى الذي ينشئه المستخدمون قبل نشره، أو إحالة المحتوى الذي تم الإبلاغ عنه إلى مشرفين بشريين لمراجعته. وعادةً ما يستغرق عملية الدمج أقل من يوم واحد.
يبلغ معدل الإيجابيات الخاطئة في Pangram حوالي 1 من كل 10,000 — وهو الأدنى في هذا المجال. ويعد هذا الأمر بالغ الأهمية بالنسبة للمنصات التي قد يؤدي فيها الإبلاغ الخاطئ عن مستخدمين شرعيين إلى الإضرار بالثقة والتفاعل.
نعم. على عكس معظم أدوات الكشف التي تتطلب نصوصًا طويلة، يمكن لـ Pangram الكشف بشكل موثوق عن المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي في نصوص لا يتجاوز طولها 75 كلمة. أما بالنسبة للمحتوى الأقصر من ذلك، فيمكننا تجميع عدة مقاطع من نفس المؤلف لتكوين مؤشر أقوى.
حصلت Pangram على شهادة SOC 2 من النوع 2. تتم معالجة المحتوى المقدم عبر واجهة برمجة التطبيقات (API) بشكل مؤقت ثم يتم حذفه — ولا يتم الاحتفاظ به أو فهرسته أو استخدامه أبدًا لتدريب النماذج. ويتوافق ذلك مع متطلبات اللائحة العامة لحماية البيانات (GDPR) وسياسات معالجة البيانات المؤسسية.
نعم. يدعم Pangram الكشف عن المحتوى الذي يحتوي على كلمات مكررة (AI) في أكثر من 20 لغة بدقة تزيد عن 99٪، بما في ذلك الإسبانية والفرنسية والعربية والصينية وغيرها الكثير. وهذا يجعله مناسبًا للمنصات العالمية التي تضم قواعد مستخدمين متنوعة.
نعم. تدعم واجهة برمجة التطبيقات (API) الخاصة بنا المعالجة المجمعة لحالات الاستخدام التي تتطلب إنتاجية عالية. تقوم العديد من فرق الثقة والأمان بإجراء عمليات فحص ليلية أو كل ساعة للمحتوى الجديد، مع وضع علامات على المنشورات المشبوهة لتتم مراجعتها. تتعامل واجهة برمجة التطبيقات مع آلاف الطلبات في الساعة بزمن انتقال ثابت. اطلع على كيفية استخدام الناشرين لـ Pangram للتحقق من المحتوى بكميات كبيرة.
اكتشف المزيد
الكشف عن الذكاء الاصطناعي لـ
لكل مؤسسة
لقطاع النشر والإعلام
الكشف الآلي عن المحتوى المزيف للناشرين وفرق التحرير. حماية نزاهة المحتوى التحريري والتحقق من صحته على نطاق واسع مع أدنى معدل للنتائج الإيجابية الخاطئة.
اعرف المزيد →للمطورين
كشف الشفرات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي للمطورين وفرق الهندسة. اكتشف الشفرات البرمجية التي تم إنشاؤها بواسطة الذكاء الاصطناعي من ChatGPT وCopilot وClaude في لغات Python وJava وC++ وغيرها.
اعرف المزيد →للمكاتب القانونية
الكشف عن استخدام الذكاء الاصطناعي لمكاتب المحاماة والمهنيين القانونيين. اكتشاف المذكرات التي تم إنشاؤها بواسطة الذكاء الاصطناعي، والتحقق من صحة المراجع القانونية، وضمان أصالة المؤلف في كل ملف.
اعرف المزيد →
توسيع نطاق عمليات الثقة والأمان.
اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي على نطاق واسع، وحماية سلامة المنصة، وخفض تكاليف الإشراف بمقدار 100 ضعف.
لتلقي آخر أخبارنا
