Bots and Crawler hinzugefügt
This commit is contained in:
parent
e0b3f4ea5f
commit
14bd344a70
1 changed files with 41 additions and 0 deletions
41
Bots and Crawler
Normal file
41
Bots and Crawler
Normal file
|
@ -0,0 +1,41 @@
|
||||||
|
Livelapbot
|
||||||
|
Franck, the Fediverse Graph Crawler
|
||||||
|
YisouSpider
|
||||||
|
DotBot
|
||||||
|
VelenPublicWebCrawler
|
||||||
|
ChatGPT-User
|
||||||
|
GoogleOther
|
||||||
|
GoogleOther-Image
|
||||||
|
GoogleOther-Video
|
||||||
|
Applebot
|
||||||
|
Applebot-Extended
|
||||||
|
AhrefsBot
|
||||||
|
Baiduspider
|
||||||
|
SemrushBot
|
||||||
|
DotBot
|
||||||
|
MJ12bot
|
||||||
|
PetalBot
|
||||||
|
SeznamBot
|
||||||
|
Mediapartners-Google
|
||||||
|
Bytespider
|
||||||
|
Claude-Web
|
||||||
|
GPTBot
|
||||||
|
PerplexityBot
|
||||||
|
Applebot
|
||||||
|
Amazonbot
|
||||||
|
Meta-ExternalAgent
|
||||||
|
Meta-ExternalFetcher
|
||||||
|
FacebookBot
|
||||||
|
DuckAssistBot
|
||||||
|
Anthropic-ai
|
||||||
|
Bytespider
|
||||||
|
Bytedance
|
||||||
|
fidget-spinner-bot
|
||||||
|
EmailCollector
|
||||||
|
WebEMailExtrac
|
||||||
|
ClaudeBot
|
||||||
|
facebookexternalhit
|
||||||
|
facebookcatalog
|
||||||
|
YandexBot
|
||||||
|
Bingbot
|
||||||
|
Googlebot
|
Loading…
Add table
Add a link
Reference in a new issue