SEO Crawler SEOptimer membantu Anda memindai dan mengaudit halaman di situs web Anda untuk mengidentifikasi masalah SEO teknis dalam skala besar.

Alih-alih memeriksa halaman satu per satu, crawler meninjau struktur situs Anda, menganalisis elemen SEO di berbagai URL, dan menyoroti masalah yang mungkin memengaruhi pengindeksan, kegunaan, atau visibilitas pencarian.

Dalam panduan ini, Anda akan:

  • Jalankan "crawl" pertama Anda
  • Tinjau laporan "crawl"
  • Pelajari cara mengatur aturan "crawl" kustom
  • Jadwalkan dan ekspor "crawl" situs web

Apa itu "SEO Crawler" SEOptimer?

SEO Crawler SEOptimer adalah alat perayapan situs web yang memindai halaman-halaman situs Anda dan mengidentifikasi masalah terkait SEO di berbagai URL.

Ini bekerja dengan mengunjungi halaman di situs web Anda dan mengumpulkan data SEO teknis dan on-page seperti judul halaman, deskripsi meta, heading, kode status, indeksabilitas, pengalihan, dan tautan rusak.

Setelah perayapan selesai, alat ini menghasilkan laporan perayapan yang merangkum masalah yang ditemukan di seluruh situs Anda dan mengelompokkannya berdasarkan jenis dan tingkat keparahan.

Ini membuatnya lebih mudah untuk melihat masalah yang berulang dan memprioritaskan perbaikan, terutama pada situs web yang lebih besar di mana pemeriksaan halaman secara manual tidak praktis.

"SEO Crawler" berguna untuk menjalankan audit SEO teknis, memantau kesehatan situs dari waktu ke waktu, dan memeriksa apakah halaman kunci mengikuti praktik terbaik SEO.

Cara Menjalankan Perayapan Pertama Anda

Untuk menjalankan crawl pertama Anda, klik opsi “Website Crawls” di bawah “Auditing” pada dashboard SEOptimer Anda.

Item menu Penjelajahan Situs Web

Kemudian, tambahkan URL situs web Anda ke kolom terbuka dan klik “Add Crawl.”

Itu dia, Anda telah memulai perayapan situs SEOptimer pertama Anda!

SEO Crawler kami sekarang akan memeriksa semua halaman di situs Anda untuk menemukan masalah yang mungkin ada.

"Crawls" berjalan dalam waktu nyata, tetapi total waktu "crawl" akan bervariasi tergantung pada ukuran situs web Anda dan jumlah halaman yang perlu dipindai.

Kemajuan perayapan secara real time

Sementara perayapan masih berjalan, Anda dapat mulai meninjau masalah saat terdeteksi dengan membuka laporan perayapan.

Apa yang dapat Anda Lihat dalam Setiap Laporan Perayapan?

Setelah alat kami selesai menjelajahi situs Anda, Anda akan melihat tiga bagian utama:

  • Header Laporan
  • Halaman yang Diidentifikasi
  • Ringkasan Masalah

Mari kita berjalan melalui setiap bagian ini.

Kepala Laporan

Di sini Anda dapat melihat kapan laporan dihasilkan, meminta perayapan ulang, melihat tugas, dan menyesuaikan aturan perayapan. (lebih lanjut tentang fitur-fitur ini nanti)

Header laporan Perayapan

Halaman yang Diidentifikasi

Bagian ini menampilkan tabel dari semua halaman yang ditemukan selama perayapan, bersama dengan masalah SEO yang terdeteksi untuk setiap halaman.

Halaman yang Diidentifikasi

Ketika Anda mengklik halaman tertentu (misalnya, jalur homepage root yang ditampilkan sebagai “/”), Anda akan melihat daftar semua masalah yang ditandai untuk URL tersebut, termasuk tingkat keparahan dari setiap masalah.

Untuk melihat lebih detail, klik pada [setiap] "masalah" dalam daftar.

Misalnya, memilih “Lebih Dari Satu Tag H1” akan membuka rincian terperinci dari masalah tersebut untuk halaman yang dipilih.

Masalah lebih dari satu tag H1

Tampilan masalah ini mencakup:

  • URL yang terpengaruh
  • Deskripsi masalah
  • Apa arti masalah tersebut
  • Cara memperbaikinya

Setiap "pop-up" masalah juga akan menyertakan tautan ke panduan pendukung untuk membantu Anda menyelesaikan [problem] di situs web Anda.

Ringkasan Masalah

Bagian Ringkasan Masalah memberikan gambaran umum tentang semua masalah SEO yang terdeteksi di seluruh situs web Anda, dikelompokkan berdasarkan jenis masalah dan diurutkan berdasarkan prioritas.

Untuk setiap masalah, tabel menunjukkan:

  • Tipe isu
  • Tingkat prioritas
  • Jumlah halaman yang terpengaruh

Jadi dalam tangkapan layar situs di bawah ini yang saya telusuri, Anda dapat melihat bahwa ada 137 halaman yang memiliki lebih dari satu tag H1, 133 halaman yang memiliki kesalahan 404, dan 2 halaman yang tidak memiliki deskripsi meta.

Ringkasan Masalah

Setelah Anda meninjau ringkasan masalah, Anda dapat melanjutkan ke pengaturan crawl dan menjelajahi opsi SEO Crawler tambahan.

Lihat Tugas

Setelah menyelesaikan perayapan situs web, Anda dapat menggunakan fitur "Manajemen Tugas" SEOptimer untuk mengatur dan melacak masalah yang diidentifikasi dalam laporan perayapan Anda.

Alat Manajemen Tugas mengubah masalah crawl menjadi daftar tugas yang dapat Anda kerjakan dalam satu ruang kerja, memudahkan untuk memprioritaskan perbaikan dan melacak kemajuan dari waktu ke waktu.

Cara Mengakses Daftar Tugas

Anda dapat membuka daftar tugas Anda dengan dua cara:

  • Klik tombol biru “Lihat Tugas” di header Laporan Crawl.
  • Atau pilih Manajemen Tugas dari menu navigasi sebelah kiri di dasbor Anda.

Lihat tugas

Catatan: Jika Anda telah merayapi beberapa situs web, Anda dapat beralih antara daftar tugas menggunakan menu dropdown di bagian atas halaman Manajemen Tugas.

Fitur Manajemen Tugas SEO

[Menyaring] dan [Mengelola Tugas]

Tugas dapat disaring berdasarkan:

  • Status (Terbuka, Selesai, Dihapus)
  • Kategori (mis. SEO Pada-Halaman, Tautan, dll.)

Ketika Anda mengklik pada sebuah tugas, Anda akan melihat informasi terperinci yang mirip dengan laporan crawl, termasuk:

  • URL Terpengaruh
  • Deskripsi masalah
  • Apa arti masalah ini
  • Cara memperbaikinya
  • Pilihan untuk menyelesaikan tugas atau menghapusnya dari daftar tugas

Contoh Tugas

Cara "Menjadwalkan" [Crawls]

Anda juga memiliki opsi untuk menjadwalkan [crawls] agar berjalan setiap minggu atau bulanan. Fitur ini sangat berguna bagi agensi yang mengelola beberapa situs web klien.

Laporan perayapan terjadwal.

Untuk mengatur jadwal perayapan, cukup klik tombol “Options” di sebelah kanan situs web yang ingin Anda jadwalkan perayapannya.

Kemudian, klik pada opsi “Jadwal” dan sesuaikan jadwal perayapan sesuai dengan preferensi Anda.

Cara menjadwalkan perayapan di SEOptimer

Ketika perayapan terjadwal selesai, Anda akan menerima email dengan beberapa detail tingkat tinggi.

Mengatur "Crawl Rules" Anda Sendiri

"SEO Crawler" mencakup opsi konfigurasi perayapan yang memungkinkan Anda mengontrol halaman mana yang disertakan dalam [perayapan].

Pengaturan ini berguna jika Anda ingin membatasi hasil, menghindari URL duplikat, atau memastikan perayap berperilaku sesuai dengan aturan pengindeksan situs Anda.

Patuhi Pengecualian Robots.txt

Secara default, crawler dapat mengikuti aturan yang ditentukan dalam file robots.txt situs Anda. Ini menentukan apakah crawler harus menghindari memindai halaman yang ditandai sebagai tidak diizinkan.

  • Diaktifkan (disarankan): Perayap akan menghormati pengecualian robots.txt dan melewati halaman yang diblokir.
  • Dinonaktifkan: Perayap akan mengabaikan aturan robots.txt dan mencoba merayapi semua halaman yang dapat diaksesnya.

Dalam kebanyakan kasus, disarankan untuk mematuhi robots.txt, terutama ketika menjalankan "crawls" di situs produksi yang aktif.

Pilihan Perayapan

Abaikan Halaman yang Cocok dengan Pola Ini

Beberapa situs web menghasilkan beberapa versi dari halaman yang sama menggunakan parameter URL (misalnya, "penyortiran", "penyaringan", "pagination", atau kode pelacakan).

Ini terutama umum di situs web ecommerce.

Opsi “Abaikan halaman yang cocok dengan pola ini” memungkinkan Anda untuk mengecualikan URL duplikat atau bernilai rendah ini dari perayapan. Ini membantu menjaga hasil perayapan tetap bersih dan membuat pelaporan masalah lebih mudah untuk ditinjau.

Ini adalah fitur yang lebih maju dan terutama berguna untuk situs web dengan sejumlah besar URL berbasis parameter.

SEOptimer menyertakan satu set pola pengecualian default untuk menyaring duplikat berbasis parameter umum, tetapi Anda dapat menambahkan aturan Anda sendiri jika diperlukan.

Pola-pola ini mengikuti sintaks pencocokan robots.txt standar.

Jika Anda tidak terbiasa dengan aturan robots.txt atau pencocokan pola URL, disarankan untuk meninjau dasar-dasar sebelum menambahkan pengecualian perayapan kustom. Pola yang salah dapat mencegah halaman penting di-[crawl].

Berikut adalah beberapa referensi yang berguna:

Cara Mengekspor Data Perayapan

Setiap tabel dalam laporan SEO Crawler mencakup opsi ekspor bawaan, memungkinkan Anda untuk mengunduh atau membagikan hasil [crawl] di luar platform.

Ekspor data

Di bagian bawah setiap tabel, Anda akan melihat tombol ekspor yang memungkinkan Anda mengeluarkan data dalam berbagai format:

  • CSV: Unduh tabel sebagai file .csv (berguna untuk spreadsheet dan pemrosesan data).
  • Excel: Ekspor tabel sebagai file Excel untuk pelaporan atau analisis lebih lanjut.
  • PDF: Hasilkan versi PDF dari tabel untuk berbagi atau dokumentasi.
  • Cetak: Buka versi tabel yang ramah cetak.

Ekspor berlaku untuk tabel spesifik yang Anda lihat, memudahkan untuk mengunduh daftar masalah, laporan halaman, atau hasil yang disaring sesuai kebutuhan.

Ekspor CSV dari data crawl

Menyimpulkan

SEO Crawler SEOptimer memudahkan untuk mengidentifikasi masalah teknis dan SEO di halaman seluruh situs web Anda dalam satu kali perayapan.

Dengan meninjau laporan crawl dan menggunakan daftar tugas bawaan, Anda dapat dengan cepat mengubah temuan crawl menjadi perbaikan yang dapat ditindaklanjuti.

Untuk hasil terbaik, pertimbangkan untuk menjadwalkan crawl secara teratur untuk memantau perubahan dari waktu ke waktu dan menangkap masalah baru saat situs web Anda berkembang.

Butuh Bantuan?

"Obrolan Langsung": Klik "Obrolan Langsung" (kanan bawah)

Email: [email protected]

[Waktu] [respon]: [Dalam] 24 [jam]