Зміст
Google Maps Scraping In Pure Python
Скрапінг Google Maps вимагає хороших знань кодування, емуляції браузерів, проксі-серверів та вирішувач reCAPTCHA. Крім того, ви також повинні бути готові до змін, які Google може внести до свого динамічного контенту.
First of all, you will need to mimic the real user’s behavior by using browser emulation. Using Селен or other browser emulators might be a good solution.
Secondly, if you want to keep your office/home IP safe, you will need to use проксі-сервери. So you can request websites from other people’s IPs.
Even with that set of tools, once you have some good usage, Google might show you reCAPTCHA and bind it to some of your IPs. If you do not want to change IPs every time you see a reCAPTCHA, you can add a вирішувач reCAPTCHA.
Additionally, be prepared for situations when Google might change its content. You can do it by running daily tests.
Although it might take some time to implement the scraper, it can be built and maintained. Check out this step-by-step tutorial on how to scrape Google Maps using Python and Selenium to learn more: How to Scrape Google Maps with Python and Selenium.
Google Maps Scraping With Outscraper Python Package
A more simple and reliable way of scraping Google Maps will be using the Outscraper python library. It provides convenient access to the Outscraper API from applications written in the Python language, which allows you to use Послуги Outscraper з твого коду.
Ви можете почати, встановивши пакет та створення облікового запису на Outscraper.
Встановлення
Install the Outscraper SDK by running the following command (Python 3+ is required):
pip install outscraper
Ініціалізація
Ініціалізуйте клієнт Outscraper, імпортувавши клас і додавши ваш секретний ключ API. Ви можете згенерувати ключ API на сторінка профілю.
from outscraper import ApiClient
client = ApiClient(api_key='SECRET_API_KEY')
Приклади використання
Ось приклади того, як можна витягувати місця з Карт Google за допомогою пошукових запитів:
# Search for businesses in specific locations:
results = client.google_maps_search_v2(['restaurants brooklyn usa'], limit=20, language='en', region='us')
# Scrap Places by Two Queries
results = client.google_maps_search_v2(
['restaurants brooklyn usa', 'bars brooklyn usa'],
limit=50, # limit of palces per each query
language='en',
region='US',
)
# Iterate over the results
for query_places in results:
for place in query_places:
print('query:', place['query'])
print('name:', place['name'])
print('phone:', place['phone'])
print('website:', place['site'])
Також можна витягти дані за допомогою Place Id:
# Get data of the specific place by id
results = client.google_maps_search_v2(['ChIJrc9T9fpYwokRdvjYRHT8nI4'], language='en')
# Scrap Places by Place Ids
results = client.google_maps_search_v2(
["ChIJ8ccnM7dbwokRy-pTMsdgvS4", "ChIJN5X_gWdZwokRck9rk2guJ1M", "ChIJxWLy8DlawokR1jvfXUPSTUE"],
limit=1, # limit of palces per each query
)
# Iterate over the results
for query_places in results:
for place in query_places:
print('name:', place['name'])
print('place_id:', place['place_id'])
Спробуйте Outscraper SDK зараз
The Outscraper SDK is available for you to easily do Google Maps Scraping with Python. You can try it right now with a Free Tier.
За допомогою Outscraper SDK ви можете зібрати результати Google Maps. Вкажіть пошукові запити, мову та інші параметри і надішліть свій запит.
pip install outscraper
from outscraper import ApiClient client = ApiClient(api_key='SECRET_API_KEY')
# Search for businesses in specific locations: results = client.google_maps_search('restaurants brooklyn usa', limit=20, language='en') # Get data of the specific place by id results = client.google_maps_search('ChIJrc9T9fpYwokRdvjYRHT8nI4', language='en') # Search with many queries (batching) results = client.google_maps_search([ 'restaurants brooklyn usa', 'bars brooklyn usa', ], language='en')
Скрапінг Google Maps вимагає хороших знань кодування, емуляції браузерів, проксі-серверів та вирішувач reCAPTCHA. Крім того, ви також повинні бути готові до змін, які Google може внести до свого динамічного контенту.
Карти Google забороняють скрапінг. Хоча скрапінг та вилучення публічних даних захищено Першою поправкою до Конституції Сполучених Штатів.
0 Коментарі