网站robots协议使用教程 robots协议可以说是各种网络爬虫程序与网站之间的一种约定，前段时间etao和京东就360buy内容的抓取闹得像两个孩子（PS：这篇文章写了一段时间了），且不论京东与etao的对错是非，从中……

robots协议（也称爬虫协议、机器人协议等），“全称是网络爬虫扫除规范“（RobotsExclusionProtocol），robots是网站跟爬虫间的协议，用简单直接的txt格式文本方式告诉对应的爬虫被允许的权限，也就是说robots.txt……

2013年2月8日北京市第一中级人民法院正式受理了百度诉奇虎360违反“Robots协议”抓取、复制其网站内容的不正当竞争行为一案，索赔金额高达一亿元，这可以看做2012年下半年“3B大战”的继续。在此次索赔案件中，百度称……