一篇文章带你解析Python进程

置酒长安道,同心与我违。

前言

进程,一个新鲜的字眼,可能有些人并不了解,它是系统某个运行程序的载体,这个程序可以有单个或者多个进程,一般来说,进程是通过系统CPU 内核数来分配并设置的,我们可以来看下系统中的进程:

可以看到,360浏览器是真的皮,这么多进程啊,当然可以这样来十分清楚的看进程线程使用情况:

通过任务管理器中的资源监视器,是不是很厉害了,哈哈哈。讲完了这些,再说说用法。

1.基本用法

进程能干什么,这是我们要深思熟虑的事情。我们都知道一个程序运行会创建进程,所以程序在创建这些进程的时候,为了让它们更能有条不紊的工作,肯定也加入了线程。

那么一条进程里面就会有多个线程协同作战,但是进程不可以创建过多,不然会消耗资源,除非你开发的是一个大型的系统。那么,我们现在就来创建一个进程吧。

一、创建进程

1.在创建进程之前,我们先导入进程的模块,代码如下:

import multiprocess as mm.Process(target,args)

其实这种写法是不对的,就好比bs4中的BeautifulSoup,你想通过先导入bs4,然后再引入BeautifulSoup是行不通的,必须这样:

from multiprocessing import ProcessProcess(group, target, args, kwargs, name)group:用户组target:调用函数args:参数元祖kwargs:参数字典name:子进程名称

可以看出进程和线程的用法基本差不多,只是名称功能不同而已。而且还有很多其它优秀的方法:

# 返回当前进程存活的子进程的列表。调用该方法有“等待”已经结束的进程的副作用。multiprocessing.active_children()# 返回系统的CPU数量。multiprocessing.cpu_count()

2.创建单个进程

由上述参数可知函数的返回值,基本与线程无差异化。

#启动进程,调用进程中的run()方法。start()#进程活动的方法run()#强制终止进程,不会进行任何清理操作。如果终止前创建了子进程,那么该子进程在其强制结束后变为僵尸进程;如果该进程还保存了一个锁,那么也将不会被释放,进而导致死锁。terminate()#判断某进程是否存活,存活返回True,否则False。is_alive()主线程等待子线程终止。timeout为可选择超时时间;需要强调的是:p.join只能join住start开启的进程,而不能join住run开启的进程。join([timeout])#设置进程为后台守护进程;当该进程的父进程终止时,该进程也随之终止,并且该进程不能创建子进程,设置该属性必须在start()之前daemon#进程名称。name#进程pid,在start后才能产生pid#子进程的退出代码。如果进程尚未终止,这将是 None,负值-N表示子进程被信号N终止。exitcode#进程身份验证,默认是os.urandom()随机生成的字符串。校验网进程连接是否正确authkey#系统对象的数字句柄,当进程结束时将变为 "ready" 。sentinel#杀进程kill()#关闭进程close()

请注意:创建进程务必将它加入如下语句中:

if __name__ == '__main__':

这样就实现了我们的一个关于进程的程序了。另外我们也可以通过继承进程类来实现:

可以说我们每创建一个进程它就会有一个ID来标志它,下面情况:

3.创建多个进程

单个进程往往都是不够用的,所有我们需要创建一个多进程,多进程创建方法也很简单,加一层循环即可:

这样就轻松创建了多进程的任务,速度比以往就要更快了。

4.进程池

进程池的设计之初就是为了方便我们更有效的利用资源,避免浪费,如果任务量大就多个核一起帮忙,如果少就只开一两个核,下面我们来看看实现过程:

首先导入包:

from multiprocessing import Poolimport multiprocessing as m

进程池的安装包为Pool,然后我们来看下它的CPU内核数:

num=m.cpu_count()#CPU内核数

紧接着我们在来创建进程池:

pool=multiprocessing.Pool(num)

进程池中也有很多方法供我们使用:

apply(func,args,kwargs)                 同步执行(串行) 阻塞apply_async(func,args,kwargs)           异步执行(并行) 非阻塞terminate()            强制终止进程,不在处理未完成的任务。join()     主进程阻塞,等待子进程的退出。必须在close或terminate()之后使用close()            等待所有进程结束后,才关闭进程池map(func,iterable,chunksize=int) map函数的并行版本,保持阻塞直到获得结果#返回一个可用于获取结果的对象,回调函数应该立即执行完成,否则会阻塞负责处理结果的线程map_async(func,iterable,chunksize,callback,error_callback)imap(func,iterable,chunksize) map的延迟执行版本#和imap() 相同,只不过通过迭代器返回的结果是任意的imap_unordered(func,iterable,chunksize)#和 map() 类似,不过 iterable 中的每一项会被解包再作为函数参数。starmap(func,iterable,chunksize)

为此我们可以创建同步和异步的程序,如果你对这对于爬虫来说是很不错的选择,小点的爬虫同步就好,大的爬虫异步效果更佳,很多人不了解异步和同步,其实同步异步就是串行和并行的意思串行和并行简单点说就是串联和并联。下面我们通过实例一起来看一下:

一、串行
二、并行

可以看到,仅仅只是一个参数的变化而已,其它的都是大同小异,我们获取到了当前进程的pid,然后把它打印出来了。

5.锁

虽然异步编程多进程给我们带来了便利,但是进程启动后是不可控的,我们需要将它控制住,让它干我们觉得有意义的事,这个时候我们需要给它加锁,和线程一样都是lock:

首先导入进程锁的模块:

from multiprocessing import Lock

然后我们来创建一个关于锁的程序:

可以看到,加锁的过程还是比较顺利的,跟多线程一样简单,但是相对来说速度会慢一点。既然有Lock,那么势必就有RLock了,在python 中,进程和线程的很多用法一致,锁就是。我们可以把它改为RLock,下面便是可重入锁,也就是可以递归:

import timelock1=RLock()lock2=RLock()s=time.time()def jc(num):    lock1.acquire()    lock2.acquire()    print('start')    print(m.current_process().pid,'run----',str(num))    lock1.release()    lock2.release()    print('end')if __name__ == '__main__':    aa=[]    for y in range(12):        pp=Process(target=jc,args=(y,))        pp.start()        aa.append(pp)    for x in aa:        x.join()    e=time.time()    print(e-s)

6.进程间通信

一、Event

进程间用于通信,方法和线程的一模一样,这里举个小栗子,不在详细描述,不懂的可以看我上一篇关于线程的文章,我们今天要讲的是其它的进程间通信方式,下面请看:

import timee=Event()def main(num):    while True:        if num<5:            e.clear()   #清空信号标志            print('清空')        if num>=5:            e.wait(timeout=1) #等待信号标志为真            e.set()            print('启动')                    if num==10:            e.wait(timeout=3)            e.clear()            print('退出')            break        num+=1        time.sleep(2)if __name__ == '__main__':    for y in range(10):        pp=Process(target=main,args=(y,))        pp.start()        pp.join()
二、管道传递消息

管道模块初始化后返回两个参数,一个为发送者,一个为接收者,它有个参数可以设置模式为全双工或者半双工,全双工收发一体,半双工只收或者只发,先了解下它的方法:

p1,p2=m.Pipe(duplex=bool) #设置是否全双工,返回两个连接对象
p1.send()  #发送p2.recv()  #接收p1.close()  #关闭连接p1.fileno() #返回连接使用的整数文件描述符p1.poll([timeout]) #如果连接上的数据可用,返回True,timeout指定等待的最长时限。p2.recv_bytes([maxlength]) #接收最大字节数p1.send_bytes([maxlength]) #发送最大字节数#接收一条完整的字节消息,并把它保存在buffer对象中,offset指定缓冲区中放置消息处的字节位移.p2.recv_bytes_into(buffer [, offset])

先收后发,其实我们完全可以使用锁来控制它的首发,可以让它一边收一边发。

三、队列

队列与其它不同的是它采取插入和删除的方法,让我们来看下:

def fd(a):    for y in range(10):        a.put(y)  #插入数据        print('插入:',str(y))def df(b):    while True:        aa=b.get(True) #删除数据        print('释放:',str(aa))if __name__ == '__main__':    q=Queue()    ff=Process(target=fd,args=(q,))    dd=Process(target=df,args=(q,))    ff.start() #开始运行    dd.start()    dd.terminate() #关闭    ff.join()

以上讲的队列主要用于多进程的队列,还有一个进程池的队列,它在Manager模块中。

7.信号量

与线程中完全一样,这里不在赘述,看下例:

s=Semaphore(3)s.acquire()print(s.get_value())s.release()print(s.get_value())print(s.get_value())s.release()print(s.get_value())s.release()output:2334

8.数据共享

共享数据类型可以直接通过进程模块来设置:

数值型:m.Value()  数组性:m.Array()  字典型:m.dict()  列表型:m.list()

也可以通过进程的Manager模块来实现:

Manager().dict()Manager.list()

下面我们就来举例说明下吧:

可以看到我们成功的将数据添加了进去,形成了数据的共享。

2.总结

通过对进程的描述,相信大家对进程此刻有了个深刻的感悟了吧,突然想起个事,就是大家学习时可能查资料会在网上搜索,那么我建议你专心看好我这篇好了,因为据我所知,那些都是错的,而且更让我纳闷的是,明明代码是错的,放出来的执行效果却是对的,这让我百思不得其解,哈哈哈。

------------------- End -------------------

(0)

相关推荐

  • 简单明了的 Python 多线程来了

    线程和进程   计算机的核心是CPU,它承担了所有的计算任务,就像是一座工厂在时刻运行. 如果工厂的资源有限,一次只能供一个车间来使用,也就是说当一个车间开工时其它车间不能工作,也就是一个CPU一次只 ...

  • (1条消息) python多进程并发与pool多线程

    一.多进程: 当计算机运行程序时,就会创建包含代码和状态的进程.这些进程会通过计算机的一个或多个CPU执行.不过,同一时刻每个CPU只会执行一个进程,然后不同进程间快速切换,给我们一种错觉,感觉好像多 ...

  • 行为驱动开发:一篇文章带你用 Python 玩转 BDD

    相信大部分的人都听说过 BDD,即:行为驱动开发,但并未涉及到它的使用方和项目实战. 所以,本篇文章将大家全面了解 BDD 及实现方式,最后使用 Python BDD 框架落地到实际项目中去. 1. ...

  • 一篇文章带你了解建设数字乡村问题有哪些?

    数字乡村是伴随网络化.信息化和数字化在农业农村经济社会发展中的应用,以及农民现代信息技能的提高而内生的农业农村现代化发展和转型进程,既是乡村振兴的战略方向,也是建设数字中国的重要内容.虽然数字乡村有着 ...

  • 一篇文章带你搞定牛吃草问题

    牛吃草问题,是小学数学一种重要的类型,又称为消长问题或牛顿问题,由17世纪英国科学家牛顿提出. 当年牛顿曾编过这样一道题目:牧场上有一片青草,每天都生长得一样快. 这片青草供给10头牛吃,可以吃22天 ...

  • 一篇文章带你搞定火车过桥问题

    火车过桥问题,在小学数学中是一种非常重要的行程问题. 难点在于,如果不太会画图的话,很容易找错路程之间的关系. 今天,就来给大家再总结一遍火车过桥中的一些基本情况,尤其是每种情况的图要分辨清楚. 孩子 ...

  • 一篇文章带你读懂湖田窑!资深藏家必看!

    湖田窑水晶莹玉润,白中泛青,色如湖蓝,极富情趣,刀法简捷明快,娴熟自然,结合造型.底足工艺特征判断,是开门的宋代湖田窑精品特征.湖田窑是汉族传统制瓷工艺中的珍品,位于今景德镇市东南湖田村,是中国宋.元 ...

  • 一篇文章带你了解强迫症!

    许多人都喜欢拿强迫症自居或者开玩笑,其实真实的强迫症一点都不好玩.本篇文章将带您了解强迫症到底是怎么一回事. 许多人认为,强迫症就是反复检查和洗手.其实不然.在临床调查中,50%左右的病人都有检查和清 ...

  • “吃素”到底好不好?一篇文章带你看穿素食的真相

    有人说, 人类进化了几十万年才爬上食物链的顶端, 可不是为了吃草. 然而,现在吃素的人越来越多了. 素食日渐风靡. 过去吃素可能是为了信仰,宗教,为了不杀生. 如今吃素是为了健康. 那么吃素有什么好处 ...

  • 为什么特发性震颤久治不愈?一篇文章带你深入了解它

    什么是特发性震颤?很多患者不知道该如何判断特发性震颤是属于哪种疾病,甚至认为特发性震颤是单纯的神经疾病与躯体疾病,对特发性震颤没有正确的认识,从而导致没有达到对症治疗,病情不但没有缓解反而越来越严重. ...

  • 想了解道家?一篇文章带你全面解锁

    通过对<庄子·外篇>的考察,除典型的庄子自由哲学形态外,还包含黄老道家哲学形态.神仙修炼道家形态.技艺武功修炼道家形态等.本文3755字,阅读大致需要10-15分钟.‍‍‍ 庄子分为< ...