เครื่องมือสร้างและตรวจสอบ Robots.txt
สร้างกฎสำหรับโปรแกรมรวบรวมข้อมูล, เพิ่มคำสั่งแผนผังเว็บไซต์ และตรวจสอบไวยากรณ์ robots.txt ในเครื่องก่อนเผยแพร่ไฟล์ที่รากของเว็บไซต์ของคุณ
ผลการตรวจสอบ
- สร้างหรือวางเนื้อหา robots.txt แล้วตรวจสอบ
การสร้างกฎของโปรแกรมรวบรวมข้อมูล
สร้างคำสั่ง User-agent, Allow, Disallow, Sitemap และ Host (ไม่บังคับ) โดยไม่ต้องจำรูปแบบของ robots.txt
ตรวจสอบไวยากรณ์
ตรวจสอบข้อผิดพลาดที่พบเช่นตัวแทนผู้ใช้ที่หายไป URLs Sitemap ที่เกี่ยวข้อง, เส้นทางที่ผิดปกติกฎคู่และชื่อของคําแนะนําที่ไม่สนับสนุน
การประมวลผลในเครื่องแบบส่วนตัว
ตัวสร้างและตัวตรวจสอบทำงานในเบราว์เซอร์ของคุณ เนื้อหา Robots.txt จะไม่ถูกอัปโหลดไปยังเซิร์ฟเวอร์ของ Convertr
คำถามที่พบบ่อย
ไฟล์ robots.txt ของฉันถูกอัปโหลดเพื่อตรวจสอบหรือไม่?
ไม่ การสร้างและการตรวจสอบทำงานในเบราว์เซอร์ของคุณด้วย JavaScript ข้อความที่คุณป้อนจะไม่ถูกส่งไปยังเซิร์ฟเวอร์ของ Convertr
ฉันควรวาง robots.txt ไว้ที่ใด
วาง robots.txt ไว้ที่รากของโฮสต์ที่เกี่ยวข้อง เช่น https://example.com/robots.txt.
robots.txt ลบหน้าออกจาก Google หรือไม่?
ไม่ Robots.txt ควบคุมการเข้าถึงของ crawler ใช้คำสั่ง noindex บนหน้า หรือลบหน้าหากคุณต้องการยกเลิกการจัดทำดัชนี
เครื่องมือนักพัฒนาที่เกี่ยวข้อง
เครื่องมือสร้าง Robots.txt
สร้างและตรวจสอบกลุ่ม robots.txt พื้นฐาน กฎ Allow และ Disallow หน่วงเวลาการรวบรวมข้อมูล และการอ้างอิง sitemap
- อินพุต
- กลุ่ม user-agent กฎเส้นทาง และ URL ของ sitemap.
- ผลลัพธ์
- ข้อความ robots.txt ที่คัดลอกได้พร้อมการวินิจฉัยโครงสร้าง.
- ข้อจำกัดจริง
- robots.txt เป็นเพียงคำแนะนำ การรองรับครอว์เลอร์แตกต่างกันไป กฎเป็นคำนำหน้าเส้นทางที่คำนึงถึงตัวพิมพ์เล็กใหญ่ และไม่สามารถลบ URL ที่จัดทำดัชนีแล้วได้ด้วยตัวเอง
- ความเป็นส่วนตัวและการจัดการข้อมูล
- กลุ่ม user-agent กฎเส้นทาง และ URL ของ sitemap ถูกประมวลผลในแท็บเบราว์เซอร์นี้ Convertr ไม่ได้รับหรือจัดเก็บข้อมูล การปิดหรือโหลดหน้าใหม่จะล้างสถานะการทำงาน เว้นแต่เครื่องมือจะเสนอให้ดาวน์โหลดในเครื่องอย่างชัดเจน
วิธีใช้เครื่องมือนี้
- ระบุกลุ่มผู้ใช้ กฎเส้นทาง และ URL ของไซต์แมปในเครื่องมือควบคุม
- เลือกการตั้งค่าที่ส่งผลต่อข้อความ robots.txt ที่คัดลอกได้พร้อมการวินิจฉัยโครงสร้าง แล้วเรียกใช้เครื่องมือ
- ตรวจสอบข้อความ robots.txt ที่คัดลอกได้พร้อมการวินิจฉัยโครงสร้างก่อนคัดลอกหรือดาวน์โหลด
โหมดความล้มเหลวทั่วไป
URL ในแผนผังเว็บไซต์ไม่ถูกต้อง, กลุ่มว่างที่ขัดแย้งกัน, คำสั่งที่ไม่รองรับ, หรือไม่มี user agent ทำให้เกิดคำเตือน
ตัวอย่างที่มีประโยชน์
สร้างกลุ่ม * user-agent ที่ไม่อนุญาต /admin/ และระบุ URL sitemap สำหรับโปรดักชัน