تصفية الكلمات المحظورة

تلتقط تصفية الكلمات المحظورة قائمتك الخاصة من الكلمات غير المسموح بها في النص. وعلى عكس الرسائل المزعجة أو تحليل المشاعر — التي تستخدم نماذج مدرّبة — تطابق هذه المراجعة النص مع قائمة كلمات مخصّصة تضبطها لمشروعك، بحيث تحدد أنت بالضبط المصطلحات المحظورة. فعّلها باستخدام check_badwords على POST /api/v2/check.

متى ينبغي استخدام قائمة كلمات مخصّصة؟

تتميّز النماذج في التعامل مع الفئات المرنة مثل السمية، لكن بعض المصطلحات هي قرارات متعلقة بالسياسة ولا يستطيع اتخاذها إلا أنت: اسم منافس، منتج محظور، شتائم خاصة بالمجتمع، أنماط بيانات اعتماد مسرّبة، أو كلمات يطلب فريقك القانوني حظرها. تمنحك القائمة المخصّصة مطابقة دقيقة ومتوقعة لهذه الحالات.

كيف تعمل؟

لا تعمل تصفية الكلمات المحظورة إلا عند تحقق أمرين: تمكين check_badwords، ووجود قائمة كلمات مخصّصة مضبوطة في مشروعك. بعد ذلك تُجري مطابقة جزئية غير حساسة لحالة الأحرف لكل كلمة مدرجة مقابل نص الرسالة، وتُرجع كل كلمة عثرت عليها.

curl -X POST https://api.discuse.com/api/v2/check \
  -H "Content-Type: application/json" \
  -H "X-API-Key: YOUR_API_KEY" \
  -d '{
    "content": {
      "text": "Check out CompetitorBrand for a better deal"
    },
    "settings": {
      "check_badwords": true
    }
  }'

الاستجابة

{
  "has_violations": true,
  "cached": false,
  "results": {
    "hits": true,
    "badwords": {
      "hit": true,
      "matched_words": ["CompetitorBrand"],
      "apply_penalty": true
    }
  }
}

يحتوي كائن results.badwords على ثلاثة حقول:

الحقل	النوع	الوصف
hit	boolean	تكون القيمة True إذا تم العثور على أي كلمة مدرجة
matched_words	string[]	الكلمات المضبوطة التي طابقت النص
apply_penalty	boolean	ما إذا كان ينبغي أن تؤدي المطابقة إلى تنفيذ الإجراء لديك (تكون دائمًا true عند وجود مطابقة)

كيف أضبط قائمة الكلمات؟

القائمة جزء من إعدادات مشروعك، وليست جزءًا من الطلب — تضبطها مرة واحدة ويستخدمها كل طلب check_badwords. يمكنك إدارتها من خلال إعدادات المشروع (المكان نفسه الذي تضبط فيه عمليات الفحص الافتراضية). وبما أن الطلب لا يحمل سوى مفتاح تشغيل check_badwords، يمكنك إبقاء قائمة كلماتك خاصة وتغييرها من دون تعديل كود العميل.

إذا كان check_badwords مفعّلًا لكن لا توجد كلمات مضبوطة في مشروعك، يتم تخطي الفحص ولا تُرجع نتيجة badwords.

ما نوع المطابقة المستخدمة؟

تعتمد المطابقة على بحث جزئي غير حساس لحالة الأحرف: الكلمة المدرجة spam تطابق spam وSPAM وكذلك spammer. اختر عناصر القائمة مع وضع ذلك في الاعتبار — أضف عبارات كاملة عندما تريد تجنّب المطابقة داخل كلمات أطول، وتذكّر أن العناصر القصيرة قد تطابق أجزاء غير مقصودة من كلمات أخرى.

الاستخدام

لا تملك تصفية الكلمات المحظورة حصة منفصلة — فمثلها مثل فحوصات النص، تعمل ضمن استدعاء /api/v2/check، ويُحتسب كل استدعاء مرة واحدة من رصيد طلبات API الشهري لديك. راجع المصادقة ومفاتيح API لمعرفة كيفية عمل الحصص وحدود المعدّل.

أفضل الممارسات

ادمجها مع الفحوصات المعتمدة على النماذج

استخدم القائمة المخصّصة للمصطلحات الدقيقة المرتبطة بالسياسة، واترك check_spam وcheck_sentiment وcheck_images تتعامل مع الفئات المرنة. يمكن لاستدعاء واحد إلى /check تشغيلها جميعًا معًا — راجع تحليل النصوص.

اتخذ إجراءً بناءً على الكلمات المطابقة

تخبرك matched_words بالضبط بما فعّل عامل التصفية، وهو أمر مفيد لتزويد المشرفين بالسياق ولتحسين قائمتك:

const result = await check({ text }, { check_badwords: true });
const bad = result.results?.badwords;

if (bad?.hit) {
  await blockAndLog(text, bad.matched_words);
}

راجع القائمة بانتظام

تصبح القائمة الثابتة قديمة مع تغيّر المجتمعات واللغة. راجع دوريًا العناصر التي تُطلق الفلتر فعليًا (من matched_words في سجلاتك)، واحذف العناصر التي لا تسبب إلا نتائج إيجابية كاذبة.

مثال تكامل

import os
import requests

def check_badwords(text):
    response = requests.post(
        'https://api.discuse.com/api/v2/check',
        headers={
            'Content-Type': 'application/json',
            'X-API-Key': os.environ['DISCUSE_API_KEY']
        },
        json={'content': {'text': text}, 'settings': {'check_badwords': True}}
    )
    return response.json()

هل أنت مستعد لتطبيق سياسة الكلمات الخاصة بك؟ ابدأ مع Discuse.