CUDA学习笔记-CPU与GPU交互

本节来解决这三个问题,第一个锁页主机的内存,可以说一语道破天机了.

锁页的意思就是一块内存地址不在操作系统的统一管理之内,使用权移交给别的设备

所以对于写CUDA的程序来说,无时不刻不在构建并发程序

这个图是GPU通过锁页内存直接访问CPU的内存空间

这个东西我有点不太明白


好像是这么个意思,就是CPU和GPU调试想操作这快内存该怎么办.缓存区的内在运行方式是如何的?我看了很久的书也没有看懂.先GPU把要操作内存的这些命令(有很多)先存储起来.CPU将这些GPU的这些命令写入到一个供GPU命令消耗的缓冲区.在这个区域里面.GPU先运行以前缓存进来的命令.这个命令缓存区内的命令的状态都不太一样,命令的前缘由CPU   构建此时没有准备好供GPU来执行.中间的命令已经Ok了.直接GPU就可以执行.

而且CUDA可以重用已经执行过程序的内存


就好像是循环的,前面用,后面补.

然后在一个CUDA的程序运行的期间,CPU要执行几千个机器周期


上面的图是说了两种程序的受限的情况.就是CPU等GPU还是GPU等CPU.在未来写程序的时候,如果知道是什么受限型的程序未来的优化空间就很大~

以上的说明都是CPU和GPU按照并发运行的


在下节我会讲到加速比等问题~会有一点学术的味道哦!


(0)

相关推荐

  • 7个提升PyTorch性能的技巧

    作者:William Falcon,来源:AI公园 导读 一些小细节,确实可以提升速度. 在过去的10个月里,在PyTorch Lightning工作期间,团队和我已经接触过许多结构PyTorch代码 ...

  • GPU到底如何做到这么快的?

    HPC沿Nvidia CUDA-GPU架构走. 从零到如今. 有人将机器学习定义为数学(算法),工程学(高性能计算)和人类能力(经验)之间的完美融合. 因此,这些领域中的任何进展都将有助于机器学习的发 ...

  • Bash脚本编程学习笔记05:用户交互与脚本调试

    用户交互 在<学习笔记04>中我们有提到位置参数,位置参数是用来向脚本传递参数的一种方式.还有一种方式,是read命令. [root@c7-server ~]# read namealon ...

  • CUDA学习笔记-硬件构架

    https://github.com/ArchaeaSoftware/cudahandbook http://www.cudahandbook.com/ 这个是最近全新一版的书 这个是我目前看的书 代 ...

  • CPU、GPU、CUDA,CuDNN 介绍

    原http://blog.csdn.net/fangjin_kl/article/details/53906874 一.CPU和GPU的区别 CPU (Central Processing Unit) ...

  • 一则公报案例学习笔记:对修改股东出资期限应否适用资本多数决规则的思考|审判研究

    一.问题的提出 2021年第3期<最高人民法院公报案例>刊登了鸿大(上海)投资管理有限公司与姚锦城公司决议纠纷上诉案,裁判要旨为:"公司股东滥用控股地位,以多数决方式通过修改出资 ...

  • JAVA多线程学习笔记整理

    多线程: 三种创建方法 继承Thread类,以线程运行内容重写run方法,创建Thread对象并用start方法启动该线程. (匿名内部类) (Lambda表达式) 实现Runable接口,以线程运行 ...

  • 周哥学习笔记(2021.5.8)

    心理界限存在的意义,正是为了帮助人们控制情绪进入的量,不至于太过冷漠或太过投入,让我们保持一个合适的距离与外界互动. 人没有办法只通过吸收变得更美好和丰富,它必须通过大胆的碰撞和创造.如果不能保持足够 ...

  • 【学习笔记】控制角色移动的N种方法,但都离不开重复执行

    [学习笔记]控制角色移动的N种方法,但都离不开重复执行 今天我们讲一下控制角色移动的多种方法,因为缺少操作实例,希望课下同学们结合例子好好练习. 首先,我们说一下控制角色移动的多种方法.最比较常见的就 ...

  • 胡希恕伤寒论学习笔记——42

    42.太阳病,外证未解,脉浮弱者,当以汗解,宜桂枝汤. 字面意思是说:太阳病,外证依然存在,脉是浮弱的,治疗上依然需要通过出汗的方法,这时应该用桂枝汤一类的方剂. "宜"字说明不是 ...

  • 量柱擒涨停 - 量柱战法学习笔记(2)

    四.倍量战术 1.倍量的理解 [形态特征]:与前一个交易日比较高出1倍或1倍以上,就是倍量(4倍以上为发烧柱) ; [本质特征]:体现主力强势态度,主动(倍量阳/阴)买/卖盘吸筹坚决; [位置性质]: ...