SEO Crawler voor technische website-analyse

Crawl je website in de cloud en ontdek pagina's via interne links, in plaats van URL's één voor één te controleren. Stel capaciteit, diepte, JavaScript-rendering, concurrency en request-delay in en onderzoek de Pages-, Links- en Images-records achter elk technisch patroon.

Website crawlen Website Audit bekijken
Screpy SEO Crawler Pages-rapport met ontdekte URL's, status, diepte, metadata en canonicals
Logo van Uber in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Philips in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van FedEx Express in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Bosch in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Champion in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Iconfinder in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van T-Mobile in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Carrefour in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Stanley in de klantvertrouwenssectie van het Screpy SEO-platform
Logo van Skoda in de klantvertrouwenssectie van het Screpy SEO-platform

Crawl je website

Screpy begint bij je projectwebsite en volgt bereikbare interne links in de cloud. De eerste crawl start tijdens het instellen; gebruik later Analyseren in Pagina’s, Links of Afbeeldingen om een nieuwe inventaris te maken.

  • Stel het maximumaantal URL’s binnen je abonnementsruimte in en kies hoe diep links worden gevolgd.
  • Geef ScrepyBot via robotsregels en beveiligingslagen toegang tot de echte HTML.
  • Volg de voortgang en gebruik voltooide resultaten; lopende aantallen kunnen nog veranderen.

Crawl JavaScript-pagina’s

Navigatie aan de clientzijde kan belangrijke links voor een crawl van de oorspronkelijke HTML verbergen. Schakel JavaScript in wanneer scripts betekenisvolle inhoud of navigatie maken; laat het uit wanneer de server de benodigde HTML al teruggeeft.

  • Bekijk links en inhoud die na het uitvoeren van scripts ontstaan.
  • Houd rekening met aanzienlijk tragere analyses bij ingeschakelde JavaScript-rendering.
  • Rendering vereist bereikbare pagina’s en omzeilt geen logins, botcontroles of serverfouten.

Bepaal crawldiepte en snelheid

Ontdekkingsbereik en verzoektempo lossen verschillende problemen op. Diepte bepaalt het aantal gevolgde interne linkniveaus; gelijktijdigheid en vertraging regelen de serverbelasting. Meer diepte maakt een pagina zonder links niet vindbaar.

  • Kies een crawldiepte van 1 tot 10 passend bij je websitearchitectuur.
  • Pas het maximumaantal URL’s aan als een gezonde crawl de gekozen capaciteit bereikt.
  • Bepaal het aantal gelijktijdige verzoeken met de gelijktijdigheidsinstelling.
  • Gebruik vertraging tussen verzoeken met gelijktijdigheid 1; hogere waarden schakelen vertraging uit.

Onderzoek je websitestructuur

Begrijp via vastgelegde URL’s en links hoe een categorie, product of artikel verbonden is met je site. Gebruik bronpagina-relaties om diepe inhoud, verouderde navigatie en paden via redirects te onderzoeken.

  • Lees URL, uiteindelijke bestemming, HTTP-status en diepte in Pagina’s.
  • Herleid interne doelen tot bronpagina’s, ankerteksten en rel-attributen in Links.
  • Bekijk metadata en canonicals naast de afbeeldingsbronnen die deze pagina’s gebruiken.

Exporteer websitecrawlgegevens

Maak een werkbestand van de records die je team nodig heeft. Filter de gekozen crawl vóór export in plaats van de hele site te delen wanneer de taak één sjabloon, antwoordstatus of bestandspatroon betreft.

  • Exporteer gefilterde inventaren van Pagina’s, Links of Afbeeldingen als CSV of Excel.
  • Houd getroffen URL’s en bronpaginadetails bij het werk dat moet worden hersteld.
  • Gebruik Website Audit voor gegroepeerde bevindingen en prioriteiten in plaats van alleen ruwe records.

Vergelijk crawlmomentopnamen

Een voltooide crawl legt de website vast zoals die toen bereikbaar was. Crawl opnieuw na een navigatiewijziging of migratie om ontdekking en bestemmingen te controleren; oude records wijzigen niet automatisch met de live website.

  • Vergelijk bereikte pagina-aantallen, URL-patronen en belangrijke doelen tussen voltooide crawls.
  • Houd capaciteit, diepte, JavaScript-modus en toegang vergelijkbaar om dekkingswijzigingen te verklaren.
  • Onderzoek ontbrekende URL’s via hun interne linkpad, antwoord en gekozen bereik.

Praat over SEO Crawler. Met SEO MCP.

Verbind je AI-assistent met de SEO MCP-server van Screpy. Vraag naar je laatste voltooide crawl, bekijk betrokken pagina’s en bepaal een duidelijke volgorde voor technische SEO-taken.

  1. Screpy: Hallo! Laten we SEO Crawler voor example.com bekijken. Wat wil je weten?
  2. Jij: Controleer SEO Crawler voor example.com. Wat moet ik eerst oplossen?
  3. Screpy: De laatste voltooide crawl toont ontbrekende titels en kapotte interne links. Begin met de betrokken pagina’s en controleer het bewijs voordat je wijzigingen maakt. Crawlbevindingen: Ontbrekende titels: 3 pagina’s. Kapotte interne links: 1 link.
  4. Jij: Maak daar een kort actieplan van.
  5. Screpy: Ik houd bevindingen en aanbevelingen apart. Bekijk het bewijs, kies één wijziging en controleer daarna de resultaten. Je volgende stappen: Bekijk: Controleer bron en datum van elke bevinding.. Beslis: Kies de eerste wijziging.. Verifieer: Vergelijk de resultaten na de wijziging..
  6. Jij: Kun je het bewijs in gewone taal uitleggen?
  7. Screpy: Ja. Vraag naar een ondersteund resultaat en ik leg uit wat het toont, waar het vandaan komt en wat onzeker blijft. Ontbrekende gegevens blijven onbeschikbaar; aanbevelingen zijn geen automatische oplossingen.

Maak van een crawl evidence die je kunt verifiëren.

Houd bereik zichtbaar, inspecteer records, herstel de implementatie en bevestig het resultaat met de volgende crawl.

  1. Definieer de crawl

    Controleer start-URL, maximumaantal URL's, linkdiepte, JavaScript-modus, gelijktijdige verzoeken, wachttijd tussen verzoeken, robotsregels en crawlertoegang. Deze instellingen bepalen wat de momentopname kan vertegenwoordigen.

  2. Laat interne links de structuur tonen

    Screpy volgt toegankelijke interne routes en legt elke ontdekte URL, reactie, diepte, bestemming, linkrelatie en bijbehorende pagina- of afbeeldingsgegevens vast binnen de ingestelde reikwijdte.

  3. Filter de records achter een patroon

    Gebruik de rapporten Pages, Links en Images om van een totaalcijfer naar representatieve URL's, bronpagina's, redirectgedrag, metadata, canonieke URL's of afbeeldingsgebruik te gaan voordat je een verbetering kiest.

  4. Publiceer en maak een vergelijkbare snapshot

    Crawl opnieuw na de wijziging met hetzelfde bereik en controleer of het bedoelde patroon veranderde.

Gebruik de crawler voor structurele websitewijzigingen.

Maak een baseline vóór risicovol werk en een vergelijkbare snapshot nadat de wijziging live staat.

Migraties en URL-wijzigingen

Leg belangrijke URL's, redirects, canonicals en interne paden vast vóór de lancering.

JavaScript-websites

Gebruik JavaScript-rendering wanneer navigatie of betekenisvolle paginacontent in de browser ontstaat en controleer daarna of die URL's in de crawlinventaris voorkomen.

Interne links en architectuur

Bekijk crawldiepte, bronpagina's, ankerteksten, kenmerken en herhaalde navigatieroutes om belangrijke content te vinden die zwak verbonden of moeilijk te ontdekken is.

Release- en templatem monitoring

Crawl opnieuw na wijzigingen in routing, navigatie, CMS, templates en componenten om terugkerende technische problemen te vinden terwijl de implementatiecontext nog vers is.

Vergelijk Screpy met Screaming Frog wanneer uitvoeringsmodel, crawlinstellingen, aangepaste extractie, terugkerende monitoring, teamtoegang en rapportage meewegen.

Kies ruwe crawldata of een geprioriteerde audit

Gebruik SEO Crawler om ontdekkingsroutes in kaart te brengen en gegevens over pagina's, links en afbeeldingen te bekijken. Gebruik Website Audit wanneer het team gegroepeerde bevindingen, prioritering van problemen en een bredere workflow voor technische gezondheid nodig heeft.

Pas crawl-evidence toe op jouw websitemodel.

SaaS-sites en ecommercecatalogi hebben verschillende risico's in gedeelde templates en veranderende URL-sets.

Bekijk landingspagina's, documentatie, templates en release-regressies als één acquisitie-oppervlak.

Controleer categorie- en productpaginatypen, kapotte winkelroutes en structurele wijzigingen in de catalogus.

Screpy-documentatie

Leer je website crawlen

Gebruik de Screpy-handleidingen om het crawlbereik in te stellen, crawlertoegang toe te staan, de rapporten Pages, Links en Images te interpreteren en onvolledige resultaten te onderzoeken.

De website-crawlgids lezen

Veelgestelde vragen over SEO Crawler

Lees hoe pagina's worden ontdekt, hoe je het crawlbereik en de snelheid instelt, wat de rapporten bevatten en hoe je resultaten vergelijkt.

Wat is een SEO Crawler?

Een SEO-crawler begint bij een website-URL, volgt toegankelijke interne links binnen het ingestelde bereik en registreert technische gegevens over de gevonden pagina's en bronnen. Met die inventaris kunnen teams onder meer bereikbaarheid, statuscodes, redirects, canonicals, interne links, metadata, afbeeldingen en terugkerende patronen onderzoeken.

Kan Screpy JavaScript-sites crawlen?

Screpy biedt optionele JavaScript-rendering voor websites waarvan belangrijke links of content in de browser worden opgebouwd. Rendering kan de ontdekking verbeteren, maar omzeilt geen robots-regels, authenticatie, firewalls, botcontroles, time-outs of het ingestelde crawlbereik.

Kan ik bepalen hoe snel Screpy mijn website crawlt?

Ja. Gelijktijdigheid bepaalt hoeveel verzoeken tegelijk lopen. Verzoekvertraging is beschikbaar wanneer gelijktijdigheid op 1 staat; bij hogere waarden wordt de vertraging als nul opgeslagen. Verlaag de verzoekdruk als je server automatisch verkeer begrenst en controleer of de volgende crawl echte pagina-antwoorden ontvangt.

Wat bepalen het maximumaantal URL's en de crawl-diepte?

Het maximumaantal URL's beperkt hoeveel gevonden URL's de crawl kan opslaan. De crawl-diepte beperkt hoeveel niveaus van interne links Screpy vanaf de startpagina volgt. Hogere limieten verhelpen geen blokkades, ontbrekende links, redirects, snelheidslimieten of onbruikbare responses.

Kan Screpy een afgeschermde of geblokkeerde website crawlen?

De crawler moet de echte pagina kunnen ontvangen zonder login, CAPTCHA, browsercontrole, firewallblokkade of afwijzing door een snelheidslimiet. Sta ScrepyBot en het gedocumenteerde crawler-IP toe in elke beveiligingslaag, controleer de toegang via robots.txt en verifieer dat een succesvolle response de echte HTML bevat.

Garandeert het oplossen van alle crawlerbevindingen hogere posities?

Nee. Crawldata helpt technische omstandigheden te ontdekken en verbeteringen te verifiëren, maar posities hangen ook af van relevantie, contentkwaliteit, autoriteit, concurrentie, vraag, indexering en hoe zoekmachines elke pagina interpreteren. Gebruik crawlerfilters als aanleiding voor onderzoek, niet als automatische instructies voor hogere posities.

Hoe ontdekt Screpy pagina's?

Screpy begint bij de projectwebsite en volgt toegankelijke interne links binnen de ingestelde URL-limiet en crawl-diepte. Een pagina kan ontbreken als er geen link naartoe is, deze buiten de gekozen diepte valt, is geblokkeerd, naar een andere host verwijst, JavaScript-rendering vereist of geen bruikbare content teruggeeft.

Wat bevatten de rapporten Pages, Links en Images?

Pages registreert gecrawlde URL's met onder meer response, diepte, metadata, koppen, canonical, indexeerbaarheid, content, gestructureerde gegevens en sociale signalen. Links koppelt bestemmingen aan status, ankertekst, attributen, gebruik en bronpagina's. Images groepeert afbeeldingsbronnen met response, alt-tekst, afmetingen, laadkenmerken en paginagebruik.

Kan de crawler gebroken links en redirectpaden vinden?

Ja. Het Links-rapport helpt mislukte of doorgestuurde bestemmingen te vinden en terug te leiden naar de gecrawlde bronpagina's die ernaar verwijzen. Zo krijgen ontwikkelaars en redacteuren een concrete pagina, gedeelde component of template om te herstellen in plaats van alleen een bestemmings-URL.

Kan ik crawlresultaten in de loop van de tijd vergelijken?

Ja. Elke voltooide crawl is een gedateerde momentopname. Voer na een release of herstel een nieuwe crawl uit en vergelijk momentopnamen met hetzelfde bereik en dezelfde instellingen. Zo verwar je wijzigingen in dekking of aantallen problemen niet met een andere crawlconfiguratie.

Wat is het verschil tussen een SEO-crawler en een website-audit?

De crawler legt de technische inventaris vast, waaronder gevonden URL's, responses, paden, paginagegevens, links, afbeeldingen en crawlcontext. Website Audit groepeert die gegevens tot bevindingen, getroffen patronen en prioriteiten voor herstel en verificatie. Gebruik de crawler voor ruwe gegevens en ontdekking; gebruik de audit voor een bredere gezondheidscontrole.

Heb ik een SEO-crawler nodig als ik Google Search Console al gebruik?

Ze beantwoorden verschillende vragen. Search Console rapporteert over prestaties in Google Zoeken en geselecteerde indexeringsinformatie. Een SEO-crawler volgt proactief je interne links en maakt een technische inventaris die je kunt onderzoeken voordat Google een probleem meldt of het verkeer verandert.

SI SEO aan het onderzoeken?

Begrijp Super Intelligence en verbind audits, zoekonderzoek, posities en AI-zichtbaarheid in een praktische Screpy-werkwijze.