Akamai今天推出了一款新的機器人管理器工具,以便讓企業(yè)能更精細(xì)地控制自己網(wǎng)站上的機器人流量。
有研究顯示,互聯(lián)網(wǎng)上近一半的流量來自機器人。據(jù)Akamai高級企業(yè)營銷經(jīng)理雷尼·沈(RennyShen)介紹,機器人指和網(wǎng)站打交道的小程序,作用有好有壞。
值得一提的是,一些機器人表現(xiàn)得無害,而另外一些機器人可能是在抓取你網(wǎng)站上的信息或是分布式拒絕服務(wù)攻擊(DDoS)的一部分。當(dāng)然,機器人友好與否取決于網(wǎng)站所有者對其的看法。
雷尼表示道:“大部分人把機器人當(dāng)作攻擊者。在我看來,機器人就是自動和網(wǎng)站交互的軟件。”這也是他認(rèn)為對機器人采取非此即彼的態(tài)度不合適的原因。
他說道:“機器人流量很常見。因為每個網(wǎng)站都不同,每個客戶的需求都不一樣,所以我們讓客戶來決定該怎么控制機器人流量,而不是直接屏蔽。”
Akamai機器人管理器可以讓客戶對機器人流量進(jìn)行精細(xì)控制,讓他們理解流量的本質(zhì),并采取他們覺得合適的操作,比如屏蔽、監(jiān)控、減速、欺騙或放行??蛻魰趺醋鋈Q于其公司的目標(biāo)。
比如,電子商務(wù)網(wǎng)站可以讓合作伙伴的價格爬蟲爬取自己的價格信息,屏蔽競爭對手的爬蟲。一些公司甚至?xí)捎刑摷賰r格的網(wǎng)頁來欺騙機器人。
還有一些公司也許根本不想和機器人管理的細(xì)枝末節(jié)打交道,同時仍然能獲得這一工具的好處,Akamai也考慮了這一部分客戶。
這款工具可以讓客戶查看自己網(wǎng)站上所有機器人流量的全局圖,并可以獲得單個機器人的細(xì)節(jié)信息如主機名、來源IP地址、活動類型以及對網(wǎng)站性能的影響。
一旦公司了解了這些細(xì)節(jié),就可以制定針對某個機器人的最佳策略,并判斷這個機器人是好是壞。又或是好壞難辨。他舉了搜索引擎百度作為例子。
他表示,百度的機器人并不尊重robots.txt文件,在爬取網(wǎng)站時很激進(jìn)。這就讓一些想要在百度搜索引擎中取得排名的網(wǎng)站犯難了,擔(dān)心放任不管會影響網(wǎng)站性能。
Akamai的機器人管理器可以讓客戶管理某個機器人在爬取網(wǎng)站時的行為,而不是簡單地屏蔽或放行。比如某個站長在碰到百度的機器人時,可以放行但減緩其爬取網(wǎng)站的速度,以便在百度中取得排名,同時又減少對網(wǎng)站性能的影響。
這款機器人管理器工具將在本月底時正式推出,價格根據(jù)該服務(wù)處理的流量大小而定。