国产 无码 综合区,色欲AV无码国产永久播放,无码天堂亚洲国产AV,国产日韩欧美女同一区二区

【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬取!

這篇具有很好參考價(jià)值的文章主要介紹了【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬??!。希望對(duì)大家有所幫助。如果存在錯(cuò)誤或未考慮完全的地方,請(qǐng)大家不吝賜教,您也可以點(diǎn)擊"舉報(bào)違法"按鈕提交疑問。

目錄
  • 一、背景介紹
    • 1.1 軟件說明
    • 1.2 效果演示
  • 二、科普知識(shí)
    • 2.1 關(guān)于視頻id
    • 2.2 關(guān)于評(píng)論時(shí)間
  • 三、爬蟲代碼
    • 3.1 界面模塊
    • 3.2 爬蟲模塊
    • 3.3 日志模塊
  • 四、獲取源碼及軟件

一、背景介紹

你好,我是@馬哥python說 ,一名10年程序猿。

最近我用python開發(fā)了一個(gè)GUI桌面軟件,作用是爬取YouTube指定視頻的評(píng)論,6個(gè)關(guān)鍵字段,含:

評(píng)論id、評(píng)論內(nèi)容、評(píng)論時(shí)間、評(píng)論作者昵稱、評(píng)論作者頻道、點(diǎn)贊數(shù)

1.1 軟件說明

幾點(diǎn)重要說明:

  1. 運(yùn)行之前,先打開魔法
  2. Windows用戶可直接雙擊打開使用,無需Python運(yùn)行環(huán)境
  3. 可爬取指定數(shù)量評(píng)論,或者全部評(píng)論(不存在反爬問題)
  4. 排序方式支持:按日期排序/按熱門排序
  5. 可爬取6個(gè)字段,含:評(píng)論id、評(píng)論內(nèi)容、評(píng)論時(shí)間、評(píng)論作者昵稱、評(píng)論作者頻道、點(diǎn)贊數(shù)
  6. 其中,評(píng)論時(shí)間含絕對(duì)時(shí)間(年月日時(shí)分秒的格式)

1.2 效果演示

演示視頻:
【Python爬蟲GUI】我開發(fā)了一個(gè)采集YouTube評(píng)論的軟件!

運(yùn)行截圖1:
【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬??!

運(yùn)行截圖2:
【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬??!

二、科普知識(shí)

2.1 關(guān)于視頻id

油管視頻id號(hào),比如,https://www.youtube.com/watch?v=9lc6D6nPd38 這個(gè)視頻鏈接的視頻id就是"9lc6D6nPd38"。YouTube的每個(gè)視頻都是如此。

2.2 關(guān)于評(píng)論時(shí)間

YouTube網(wǎng)頁(yè)上是看不到絕對(duì)時(shí)間(年月日時(shí)分秒格式)的,只能看到相對(duì)時(shí)間(幾個(gè)月前、幾天前之類),此軟件支持爬取絕對(duì)時(shí)間。

三、爬蟲代碼

3.1 界面模塊

軟件界面采用tkinter開發(fā)。

主窗口部分:

# 創(chuàng)建主窗口
root = tk.Tk()
root.title('YouTube評(píng)論爬蟲 | 馬哥python說')
# 設(shè)置窗口大小
root.minsize(width=850, height=650)
show_list_Frame = tk.Frame(width=800, height=350)  # 創(chuàng)建<消息列表分區(qū)>
show_list_Frame.pack_propagate(0)
show_list_Frame.place(x=30, y=180, anchor='nw')  # 擺放位置
# 滾動(dòng)條
scroll = tk.Scrollbar(show_list_Frame)
# 放到Y(jié)軸豎直方向
scroll.pack(side=tk.RIGHT, fill=tk.Y)

按鈕控件部分:

# 界面設(shè)計(jì)
# 視頻id
tk.Label(root, text='視頻id:').place(x=30, y=50)
video_id = tk.StringVar()
video_id.set('')
entry = tk.Entry(root, bg='#ffffff', width=20, textvariable=video_id)
entry.place(x=160, y=50, anchor='nw')  # 擺放位置

3.2 爬蟲模塊

通過請(qǐng)求YouTube評(píng)論的ajax接口實(shí)現(xiàn),詳見文末完整代碼。

3.3 日志模塊

好的日志功能,方便軟件運(yùn)行出問題后快速定位原因,修復(fù)bug。
核心代碼:

def get_logger(self):
	self.logger = logging.getLogger(__name__)
	# 日志格式
	formatter = '[%(asctime)s-%(filename)s][%(funcName)s-%(lineno)d]--%(message)s'
	# 日志級(jí)別
	self.logger.setLevel(logging.DEBUG)
	# 控制臺(tái)日志
	sh = logging.StreamHandler()
	log_formatter = logging.Formatter(formatter, datefmt='%Y-%m-%d %H:%M:%S')
	# info日志文件名
	info_file_name = time.strftime("%Y-%m-%d") + '.log'
	case_dir = r'./logs/'
	info_handler = TimedRotatingFileHandler(filename=case_dir + info_file_name,
											when='MIDNIGHT',
											interval=1,
											backupCount=7,
											encoding='utf-8')

日志截圖:
【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬取!

四、獲取源碼及軟件

愛學(xué)習(xí)的小伙伴,完整python源碼及可執(zhí)行軟件,我已打包好,并上傳至我的微信公眾號(hào)"老男孩的平凡之路",后臺(tái)回復(fù)"爬油管評(píng)論軟件"即可獲取。

獲取鏈接:【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬?。?mark hidden color="red">文章來源:http://www.zghlxwxcb.cn/news/detail-677119.html


我是@馬哥python說,一名10年程序猿,持續(xù)分享python干貨中!文章來源地址http://www.zghlxwxcb.cn/news/detail-677119.html

到了這里,關(guān)于【爬蟲GUI】YouTube評(píng)論采集軟件,突破反爬,可無限爬??!的文章就介紹完了。如果您還想了解更多內(nèi)容,請(qǐng)?jiān)谟疑辖撬阉鱐OY模板網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章,希望大家以后多多支持TOY模板網(wǎng)!

本文來自互聯(lián)網(wǎng)用戶投稿,該文觀點(diǎn)僅代表作者本人,不代表本站立場(chǎng)。本站僅提供信息存儲(chǔ)空間服務(wù),不擁有所有權(quán),不承擔(dān)相關(guān)法律責(zé)任。如若轉(zhuǎn)載,請(qǐng)注明出處: 如若內(nèi)容造成侵權(quán)/違法違規(guī)/事實(shí)不符,請(qǐng)點(diǎn)擊違法舉報(bào)進(jìn)行投訴反饋,一經(jīng)查實(shí),立即刪除!

領(lǐng)支付寶紅包贊助服務(wù)器費(fèi)用

相關(guān)文章

覺得文章有用就打賞一下文章作者

支付寶掃一掃打賞

博客贊助

微信掃一掃打賞

請(qǐng)作者喝杯咖啡吧~博客贊助

支付寶掃一掃領(lǐng)取紅包,優(yōu)惠每天領(lǐng)

二維碼1

領(lǐng)取紅包

二維碼2

領(lǐng)紅包