手把手教你用Python爬中國電影票房數(shù)據(jù)

和很多同學接觸過程中，我發(fā)現(xiàn)自學Python數(shù)據(jù)分析的一個難點是資料繁多，過于復雜。大部分網(wǎng)上的資料總是從Python語法教起，夾雜著大量Python開發(fā)的知識點，花了很多時間卻始終云里霧里，不知道哪些知識才是真正有用的。

 

本來以為上手就能寫爬蟲出圖，卻在看基礎(chǔ)的過程中消耗了一周又一周，以至于很多勵志學習Python的小伙伴犧牲在了入門的前一步。

 

 

于是，我總結(jié)了以下一篇干貨，來幫助大家理清思路，提高學習效率。總共分為三大部分：做Python數(shù)據(jù)分析必知的語法，如何實現(xiàn)爬蟲，怎么做數(shù)據(jù)分析。

 

 

1.必須知道的兩組Python基礎(chǔ)術(shù)語

 

 

A.變量和賦值

 

Python可以直接定義變量名字并進行賦值的，例如我們寫出a = 4時，Python解釋器干了兩件事情：

 

• 在內(nèi)存中創(chuàng)建了一個值為4的整型數(shù)據(jù)

• 在內(nèi)存中創(chuàng)建了一個名為a的變量，并把它指向4

• 用一張示意圖表示Python變量和賦值的重點：

例如下圖代碼，“=”的作用就是賦值，同時Python會自動識別數(shù)據(jù)類型:

請閱讀代碼塊里的代碼和注釋，你會發(fā)現(xiàn)Python是及其易讀易懂的。

 

B.數(shù)據(jù)類型

 

在初級的數(shù)據(jù)分析過程中，有三種數(shù)據(jù)類型是很常見的：

• 列表list（Python內(nèi)置）

• 字典dict（Python內(nèi)置）

• DataFrame（工具包pandas下的數(shù)據(jù)類型，需要import pandas才能調(diào)用）

 

它們分別是這么寫的：

 

列表（list）：

??

list是一種有序的集合，里面的元素可以是之前提到的任何一種數(shù)據(jù)格式和數(shù)據(jù)類型（整型、浮點、列表……），并可以隨時指定順序添加其中的元素，其形式是：

 

字典（dict）：

??

字典使用鍵-值（key-value）存儲，無序，具有極快的查找速度。以上面的字典為例，想要快速知道周杰倫的年齡，就可以這么寫：

?

dict內(nèi)部存放的順序和key放入的順序是沒有關(guān)系的,也就是說，"章澤天"并非是在"劉強東"的后面。

 

DataFrame：

DataFrame可以簡單理解為Excel里的表格格式。導入pandas包后，字典和列表都可以轉(zhuǎn)化為DataFrame，以上面的字典為例，轉(zhuǎn)化為DataFrame是這樣的：

和excel一樣，DataFrame的任何一列或任何一行都可以單獨選出進行分析。

 

以上三種數(shù)據(jù)類型是python數(shù)據(jù)分析中用的最多的類型，基礎(chǔ)語法到此結(jié)束，接下來就可以著手寫一些函數(shù)計算數(shù)據(jù)了。

 

 

 

2.從Python爬蟲學循環(huán)函數(shù)

 

 

掌握了以上基本語法概念，我們就足以開始學習一些有趣的函數(shù)。我們以爬蟲中繞不開的遍歷url為例，講講大家最難理解的循環(huán)函數(shù)for的用法：

 

A.for函數(shù)

 

for函數(shù)是一個常見的循環(huán)函數(shù)，先從簡單代碼理解for函數(shù)的用途：

?

因為dict的存儲不是按照list的方式順序排列，所以，迭代出的結(jié)果順序很可能不是每次都一樣。默認情況下，dict迭代的是key。如果要迭代value，可以用for value in d.values()，如果要同時#迭代key和value，可以用for k, v in d.items()

 

可以看到，字典里的人名被一一打印出來了。for 函數(shù)的作用就是用于遍歷數(shù)據(jù)。掌握for函數(shù)，可以說是真正入門了Python函數(shù)。

 

B.爬蟲和循環(huán)

 

for函數(shù)在書寫Python爬蟲中經(jīng)常被應(yīng)用，因為爬蟲經(jīng)常需要遍歷每一個網(wǎng)頁，以獲取信息，所以構(gòu)建完整而正確的網(wǎng)頁鏈接十分關(guān)鍵。以某票房數(shù)據(jù)網(wǎng)為例，他的網(wǎng)站信息長這樣：

 

該網(wǎng)站的周票房json數(shù)據(jù)地址可以通過抓包工具找到，網(wǎng)址為http://www.cbooo.cn/BoxOffice/getWeekInfoData?sdate=20190114

 

仔細觀察，該網(wǎng)站不同日期的票房數(shù)據(jù)網(wǎng)址（url）只有后面的日期在變化，訪問不同的網(wǎng)址（url）就可以看到不同日期下的票房數(shù)據(jù)：

?

我們要做的是，遍歷每一個日期下的網(wǎng)址，用Python代碼把數(shù)據(jù)爬下來。此時for函數(shù)就派上用場了，使用它我們可以快速生成多個符合條件的網(wǎng)址：

 

為了方便理解，我給大家畫了一個for函數(shù)的遍歷過程示意圖：

此處省略掉后續(xù)爬取過程，相關(guān)爬蟲代碼見文末。我們使用爬蟲爬取了5800+條數(shù)據(jù)，包含20個字段，時間囊括了從2008年1月開始至2019年2月十一年期間的單周票房、累計票房、觀影人次、場均人次、場均票價、場次環(huán)比變化等信息。

 

 

 

3.Python怎么實現(xiàn)數(shù)據(jù)分析？

 

 

除了爬蟲，分析數(shù)據(jù)也是Python的重要用途之一，Excel能做的事，Python究竟怎么實現(xiàn)呢；Excel不能做的事，Python又是否能實現(xiàn)呢？利用電影票房數(shù)據(jù)，我們分別舉一個例子說明：

 

A.Python分析

 

在做好數(shù)據(jù)采集和導入后，選擇字段進行初步分析可以說是數(shù)據(jù)分析的必經(jīng)之路。在Dataframe數(shù)據(jù)格式的幫助下，這個步驟變得很簡單。

 

比如當我們想看單周票房第一的排名分別都是哪些電影時，可以使用pandas工具庫中常用的方法，篩選出周票房為第一名的所有數(shù)據(jù)，并保留相同電影中周票房最高的數(shù)據(jù)進行分析整理：

 

 

9行代碼，我們完成了Excel里的透視表、拖動、排序等鼠標點擊動作。最后再用Python中的可視化包matplotlib，快速出圖：

 

 

 

B.函數(shù)化分析

 

以上是一個簡單的統(tǒng)計分析過程。接下來就講講Excel基礎(chǔ)功能不能做的事——自定義函數(shù)提效。觀察數(shù)據(jù)可以發(fā)現(xiàn)，數(shù)據(jù)中記錄了周票房和總票房的排名，那么剛剛計算了周票房排名的代碼，還能不能復用做一張總票房分析呢？

 

當然可以，只要使用def函數(shù)和剛剛寫好的代碼建立自定義函數(shù)，并說明函數(shù)規(guī)則即可：

定義函數(shù)后，批量出圖so easy：

 

學會函數(shù)的構(gòu)建，一個數(shù)據(jù)分析師才算真正能夠告別Excel的鼠標點擊模式，邁入高效分析的領(lǐng)域。