您是否对Zillow网站上公开的房地产和房屋数据感兴趣?使用Zillow Scrapers,您可以自动提取它们。现在就来发现市场上最好的Zillow Scrapers。

电子商务正在对传统企业造成巨大冲击,并破坏了它。Zillow是电子商务平台之一,或者简单地说,是房地产和房屋租赁服务的市场,这对房地产行业造成了打击,并已经破坏了它。根据现有数据,Zillow是市场上领先的房屋租赁和房地产市场之一。

它很受欢迎,已经变成了房地产购买者和经纪人聚会的地方。Zillow在某种程度上声称自己是权威,甚至房地产分析师和研究人员也不能没有它。研究人员和分析师对网站上的公开数据感兴趣。

与许多其他网站不同,Zillow提供了一个完全免费API,您可以使用它来抓取您感兴趣的一些有趣的数据点。但是,就像大多数API一样,Zillow API也有一些限制,使其无法使用对大多数用例无用。如果必须在不支付费用的情况下批量访问Zillow上的数据,则必须使用称为Zillow Scrapers的自动抓取工具来进行访问。

但是,Zillow在积极应对抓取方面并不是推手。即使安装了防抓取系统,您仍然可以在它们周围走动,并获得所需的数据。

在本文中,我将向您推荐市场上最好的Zillow Scraper。在此之前,让我们看一下Zillow抓取的概述,以及如何以编码人员的身份进行操作。


Zillow抓取–概述

Web抓取是使用计算机程序自动从网站提取数据的过程。无论所涉及的网站是什么,其过程通常都是相同的。但是,每个网站都有一些特殊之处,它们可能使它们容易被刮擦,或者在您尝试刮擦时感到沮丧。Zillow不支持使用刮板将其公开的可用数据刮板。

因此,它提供了一些API,例如房屋估价API和针对开发人员量身定制的Property Details API,以集成到他们的程序中。这些API可能非常有限,特别是在每天可以发送的请求数量方面,每个API的最大发送数量限制为1000。

当您需要批量收集数据进行研究时,不仅请求限制,而且所有API都没有用。尽管他们为用户提供了无法用于抓取的免费API,但对于网络抓取工具,他们的抓取工作非常困难。实际上,您需要具有一定的经验,才能以任何合理的规模刮擦Zillow。这是因为Zillow已经采用了一些防刮擦技术,这些技术不仅使刮擦变得困难,而且使任何形式的自动化都变得困难。

如果您要抓取Zillow,则需要知道Zillow采取了商业上合理的措施来防止数据从其网站上被抓取。他们利用Captcha,蜜罐陷阱,IP分析,速度检查以及其他未公开的内部技术等技术来保护其数据免遭刮擦。

为了使您抓取Zillow数据,您需要避开所有这些反抓取技术。经验丰富的刮板可以轻松解决它们。但是对于新手来说,使用已经制成的Zillow铲运机将是最好的选择,这将是很多工作。


如何使用Python、请求和Beautifulsoup来抓取Zillow

本文的这一部分适用于具有编码技能的人员,他们希望开发Zillow Scraper以满足他们的特定要求。如果您没有编码技能,请跳过本节,转到下一部分,在该部分中,我提供了有关最佳Zillow铲运机的建议。凭借编码技巧和刮板经验,您可以开发自己的定制刮板,以从Zillow网站提取数据。

没有特定的编程语言。如果它是一种完整的编程语言,则可以将其用于网络编程和处理HTML文件。但是,Python是刮板编码最流行的编程语言。这就是本节将要使用的内容。

Python有一些漂亮的库和框架,使构建Web抓取工具变得容易。对于此Zillow抓取工具,您将需要Requests和Beautifulsoup。请求将用于发送HTTP请求,以下载您感兴趣的页面的HTML。Beautifulsoup用于解析和提取所需的数据。安装了这两个组件后,您就可以装备了。但是,您仍然必须考虑规避Zillow的反机器人检查的方法-请记住,它们具有适当的系统来防止自动访问。对于IP跟踪和分析,可以使用住宅高可用代理-如果您不想处理代理管理,则可以选择代理API。即使使用代理,验证码仍会出现。在某些时候,您将需要一个Captcha解算器。

重要的是,请注意,如果不发送标头和模仿流行的浏览器,则将无法访问Zillow。您还需要计划很多事情,但是在构建复杂的刮板时就是这种情况。

至于简单的刮板,您只需照顾代理,验证码和标题。以下是一个简单的网络抓取工具的示例,该抓取工具提取了洛杉矶列出的房屋的详细信息。因为这是概念证明,所以不支持验证码和代理。在实际情况下构建自己的应用程序时,必须包括Captcha解算器和代理支持。

import requests
from bs4 import BeautifulSoup


class ZillowScraper:

   def __init__(self):
      self.url = "https://www.zillow.com/homes/for_sale/Los-Angeles-
CA_rb/?fromHomePage=true&shouldFireSellPageImplicitClaimGA=false&fromHomePageTab=buy"
        self.properties = []
   def scrape_properties(self):
       headers = {
           'accept': 
'text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8',
           'accept-encoding': 'gzip, deflate, br',
           'accept-language': 'en-US,en;q=0.8',
           'upgrade-insecure-requests': '1',
           'user-agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) 
AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36'
        }
        content = requests.get(self.url, headers=headers)
        soup = BeautifulSoup(content.text, "html.parser")
        properties = soup.find("ul", {"class": "photo-cards photo-cards_wow photo-
cards_short"}).find_all("li")
       for e in properties:
            price = e.find("article").find("div", {"class": "list-card-price"}).text
            address = e.find("article").find("div", {"class": "list-card-addr"}).text
            self.properties.append([price, address])
      print(self.properties)

x = ZillowScraper()
x.scrape_properties()

市场上最好的Zillow Scraper

对于不想经历自己建造Zillow抓取工具的麻烦的非编码人员或编码人员,可以在市场上使用一些Zillow抓取工具。这些刮板大多数不是Zillow专用抓取工具,而是支持Zillow的通用抓取工具。下面讨论一些抓取工具。


Octoparse

  • 定价:每月75美元起
  • 免费试用:有限制的14天免费试用
  • 数据输出格式: CSV,Excel,JSON,MySQL,SQLServer
  • 支持的平台:云,桌面

Octoparse是最好的Web抓取工具之一,可用于从Zillow网页提取公共可用数据。关于Zillow,您会喜欢的一件事是它易于使用,并且-凭借其指向和单击界面,您也可以使用它。使用Octoparse,您将不需要具有编码技能。Octoparse可作为可安装的应用程序使用,也具有基于云的平台

Octoparse具有一些高级的Web抓取功能,使其非常适合处理各种网站。如果您不想使用他们的应用程序,您甚至可以为他们的专业数据服务付费,他们会为您提供您感兴趣的Zillow数据。


ScrapeStorm

  • 定价:每月49.99美元起
  • 免费试用:入门计划是免费的-有限制
  • 数据输出格式: TXT,CSV,Excel,JSON,MySQL,Google表格等。
  • 支持的平台:台式机

你会发现另一个Zillow scraper在为你的房地产研究收集所需数据方面很有用,那就是ScrapeStorm。ScrapeStorm是由一个前谷歌爬虫团队创建的。使用ScrapeStorm抓取Zillow完全是一种视觉操作,而且很容易。ScrapeStorm配有智能数据识别系统,可以将人工操作降到最低。

它自动识别关键数据点。这一切都有可能,因为该工具是人工智能驱动的。支持多种数据导出方法,支持多种系统平台。


Zillow Real Estate Scraper

  • 定价:每月起价为49美元,适用于100个Actor计算单元
  • 免费试用:入门计划附带10个Actor计算单元
  • 数据输出格式: JSON
  • 支持的操作系统:基于云–通过API访问

Zillow Real Estate Scraper网络抓取器是针对开发人员的Zillow抓取器。在Apify平台上可用。该工具利用Zillow的内部API为您提供Zillow上出售或出租的列出属性的访问权限。您可以使用它在任何位置搜索房屋,并检索返回的每个房屋的详细信息。虽然它旨在在Apify平台上运行,但也可以在本地运行。如前所述,它是供开发人员使用的,您可以将其集成到代码中。


WebHarvy

  • 定价:单用户许可证起价为139美元
  • 免费试用:不可用
  • 数据输出格式: TXT,CSV,Excel,JSON,XML。TSV等
  • 支持的平台:台式机

就像其他Zillow抓取工具器讨论的一样,WebHarvy是一种付费工具。它也是一种通用的Web抓取工具,但可用于抓取Zillow数据。Zillow带有智能模式检测系统,该系统可自动识别网页中出现的模式。

它是一种视觉抓取工具,不需要任何编码技能。所需要的是使用点击界面来对要废弃的数据进行训练。WebHarvy甚至支持正则表达式(Regex),甚至可以帮助提取房地产图像。


ParseHub

  • 定价:每月149美元起
  • 免费试用:桌面版免费,但有一些限制
  • 数据输出格式: Excel,JSON
  • 支持的平台:云,桌面

如果您的预算较低,或者想不花钱在上面的工具上报名,那么ParseHub是适合您的工具。它的桌面应用程序可免费使用,并具有某些形式的限制。但是,要消除所有限制,只需支付订阅费用,您甚至可以利用其基于云的刮板。

ParseHub非常灵活和强大。有趣的是,由于其指向和点击界面,它也易于使用。ParseHub甚至带有用于下载数据的REST API。使用ParseHub,您甚至可以安排您的抓取任务。


结论

作为结束本文的一种方式,我需要让您知道,抓取Zillow是完全不道德的。虽然它可能是合法的,但某些技术上也可能使其成为非法。您需要从律师那里了解您自己的用例的特殊性不会使其非法。如果不是这样,并且您想忽略道德方面的问题,那么使用Zillow scraper之一将帮助您。

这篇文章有用吗?

点击星号为它评分!

平均评分 0 / 5. 投票数: 0

到目前为止还没有投票!成为第一位评论此文章。

No more articles