pipelines.py 文件源码

python
阅读 24 收藏 0 点赞 0 评论 0

项目:scrapy_redis_mongodb 作者: smilemilk1992 项目源码 文件源码
def process_item(self, item, spider):
        if self.site_item_exist(item):
            self.MG_table.insert(dict(item))
            logging.debug("Question added to MongoDB database!")
            # log.msg("Question added to MongoDB database!", level=log.DEBUG, spider=spider)
            '''
            Scrapy ?? 5 ? logging ???
            CRITICAL - ????(critical)
            ERROR - ????(regular errors)
            WARNING - ????(warning messages)
            INFO - ????(informational messages)
            DEBUG - ????(debugging messages)     ???????DEBUG

            '''
        else:
            raise DropItem("{} is exist".format(item['url']))
        return item
评论列表
文章目录


问题


面经


文章

微信
公众号

扫码关注公众号