# User-agent: * # Disallow:/admin/ # Disallow:/api/ # 禁止所有爬虫访问整个站点 #User-agent: * #Disallow: / # 特别针对Google的爬虫(名为Googlebot) #User-agent: Googlebot #Disallow: / # 特别针对百度的爬虫(名为Baiduspider) #User-agent: Baiduspider #Disallow: /