// 生成并添加请求至队列。 // Request.Url与Request.Rule必须设置。 // Request.Spider无需手动设置(由系统自动设置)。 // Request.EnableCookie在Spider字段中统一设置,规则请求中指定的无效。 // 以下字段有默认值,可不设置: // Request.Method默认为GET方法; // Request.DialTimeout默认为常量request.DefaultDialTimeout,小于0时不限制等待响应时长; // Request.ConnTimeout默认为常量request.DefaultConnTimeout,小于0时不限制下载超时; // Request.TryTimes默认为常量request.DefaultTryTimes,小于0时不限制失败重载次数; // Request.RedirectTimes默认不限制重定向次数,小于0时可禁止重定向跳转; // Request.RetryPause默认为常量request.DefaultRetryPause; // Request.DownloaderID指定下载器ID,0为默认的Surf高并发下载器,功能完备,1为PhantomJS下载器,特点破防力强,速度慢,低并发。 // 默认自动补填Referer。 func (self *Context) AddQueue(req *request.Request) *Context { // 若已主动终止任务,则崩溃爬虫协程 self.spider.tryPanic() err := req. SetSpiderName(self.spider.GetName()). SetEnableCookie(self.spider.GetEnableCookie()). Prepare() if err != nil { logs.Log.Error(err.Error()) return self } // 自动设置Referer if req.GetReferer() == "" && self.Response != nil { req.SetReferer(self.GetUrl()) } self.spider.RequestPush(req) return self }