クローラーとは、インターネット上でWebサイトの情報を自動で収集するプログラムのことをいい、情報を収集することをクローリングといいます。クローリングによってWebサイトはGoogleなどの検索エンジンに認知され(インデックスされる)、検索結果に表示されます。クロールには数日から数週間かかる場合があります。