extractdoneurls.py 文件源码

python
阅读 25 收藏 0 点赞 0 评论 0

项目:crawler_old 作者: salmonx 项目源码 文件源码
def manager(dbs):
    # leave one cpu 
    tasks = mp.cpu_count() -1 
    tasks = 1
    que = mp.Queue()
    for db in dbs:
        que.put(db)

    lock = mp.Lock()
    plist = []
    for i in xrange(tasks):
        p = mp.Process(target=worker, args=(que, lock, i+1 ))
        p.start()
        plist.append(p)

    for p in plist:
        p.join()
评论列表
文章目录


问题


面经


文章

微信
公众号

扫码关注公众号