Skip to content

مولّد robots.txt

ولّد ملف robots.txt صحيحًا يخبر محركات البحث بأي المسارات يمكنها الزحف. أضف قواعد السماح والمنع، وتأخير الزحف، ورابط خريطة موقعك، ثم انسخ الملف النهائي إلى جذر موقعك.

ماذا يعني هذا

robots.txt ملف نصي في جذر موقعك يطلب بأدب من الزاحفين تجاوز مناطق معينة، مثل صفحات الإدارة أو المجلدات الخاصة. ليس حدودًا أمنية — يؤثر فقط في الروبوتات المتعاونة.

كيف نحسبها

المعادلة

الصيغة: User-agent: name، ثم أسطر Allow/Disallow لكل قاعدة، ثم Sitemap: URL. النجمة تطابق كل الروبوتات.

مثال محلول

امنع فهرسة صفحات الإدارة.

  1. 1أدخل المسارات المراد منعها، مثل /admin.
  2. 2أضف رابط خريطة موقعك.
  3. 3انسخ robots.txt إلى جذر موقعك.

الافتراضات المهمة

  • يجب أن تكون روابط خريطة الموقع مطلقة، تبدأ بـhttps://.

الأسئلة الشائعة

هل يمنع robots.txt الفهرسة؟

يمنع الزحف لا الفهرسة. قد تظهر صفحة مرتبطة من مكان آخر؛ للتحكم الصارم استخدم وسم noindex أيضًا.

ماذا تعني النجمة؟

User-agent: * يطبق قواعدك على كل روبوتات محركات البحث.

أدوات ذات صلة