網站的產品如何進行防采集處理?
- 作者:新網
- 來源:新網
- 瀏覽:100
- 2018-04-10 13:28:13
很多網站為了用戶體驗,通常會將一部分想看到的數(shù)據(jù),直接加載在頁面上,讓用戶進行查看。這時候采集者只需要解析頁面的html結構,就能將頁面的信息全部采集下來。百度爬蟲、快照、頁面采集基本上都是用了這個原理。
<div>很多網站為了用戶體驗,通常會將一部分想看到的數(shù)據(jù),直接加載在頁面上,讓用戶進行查看。這時候采集者只需要解析頁面的html結構,就能將頁面的信息全部采集下來。百度爬蟲、快照、頁面采集基本上都是用了這個原理。
直接盜取
web數(shù)據(jù)庫這個就比較高級了,采集者通常會編寫一個爬蟲,讓爬蟲自動發(fā)現(xiàn)網站上的查詢接口,并且模擬接口的數(shù)據(jù)標準,向接口傳輸相應的查詢指令,最后將返回的數(shù)據(jù)進行整理處理,就完成了相應的資源采集。
手動采集從字面上理解,就是通過人工進行資源的采集,這種方式適用范圍比較靈活,可以通過資源下載、復制等人工方式進行資源的采集。這種方式看著很low,效率很低。但往往這種采集方式,讓人無比頭疼。
PS:1個用戶在A網站下載了一份word資料,經過簡單編輯后,上傳到自己的網站上進行使用。這個過程就無法通過技術手段進行跟蹤(整個過程全是用戶的真實操作),即使發(fā)現(xiàn)了這種現(xiàn)象,也無法確定對方盜取了自己的資源,因為你沒有切實可行的證據(jù)。此處大家可以思考一下,百度文庫的一部分內容是怎么來的。
防采集方法策略
上文中簡單介紹了部分采集者的采集手段,接下來我們聊聊該如何進行防采集處理。
應對下載鏈接泄露的策略
通過這個流程,我們發(fā)現(xiàn),如果采集者可以直接拿到步驟3的下載鏈接,是可以不需要經過步驟2的驗證,直接下載資源。這樣我們就清楚了,要防止這種采集方式的話,我們的重點在于不讓用戶拿到資源的下載鏈接。那我們就可以按照下面的方式進行處理:
將下載鏈接進行加密
程序猿在開發(fā)過程中,基本都會進行下載鏈接的加密處理。加密就好比一把鑰匙,沒有鑰匙就開不了鎖,加密一樣的,不知道解密方式,是無法破解你的下載鏈接,這樣便實現(xiàn)了資源的防采集。
解密是需要知道加密規(guī)則的,所以在做加密處理的時候,最好不要使用第三方機加密規(guī)則,自己做最安全。定期維護加密規(guī)則,也是有必要的。
防止采集者攔截下載鏈接
有一部分采集者,會在步驟3與步驟4之間,攔截傳輸出去的下載鏈接。這樣他不需要經過步驟2,一樣能拿到我們返回的下載鏈接進行下載。遇到這種情況的時候,我們可以考慮在下載url加入用戶驗證。在瀏覽器解析url的時候,驗證當前用戶是否是我們的下載用戶,達到防采集的目的。除非用戶能拿到我們的賬戶信息,否則是不能采集到我們的內容。但是這種方法無法支持斷點下載。
以上就是小編對于網站的產品如何進行防采集處理的解答。