加入收藏 | 设为首页 | 会员中心 | 我要投稿 淮安站长网 (https://www.0517zz.cn/)- 运营、云管理、经验、智能边缘、云硬盘!
当前位置: 首页 > 运营 > 正文

别再拿我当搬砖工!一个故事看懂零拷贝技术

发布时间:2021-02-17 10:27:29 所属栏目:运营 来源:互联网
导读:云计算成功的关键在于基础设施即服务(IaaS)的概念,以及它通过管理程序的API为虚拟机提供服务的能力。管理程序允许您在同一物理硬件上托管多个操作系统(即虚拟机)。大多数现代管理程序设计为模拟多个CPU体系结构,其中包括Intel (x86和x86-64)、ARM、PowerPC

云计算成功的关键在于基础设施即服务(IaaS)的概念,以及它通过管理程序的API为虚拟机提供服务的能力。管理程序允许您在同一物理硬件上托管多个操作系统(即虚拟机)。大多数现代管理程序设计为模拟多个CPU体系结构,其中包括Intel (x86和x86-64)、ARM、PowerPC和MIPS。在云计算下,通过基于web前端,您可以完全控制所有分配的计算资源,并且能够在几分钟内获得并启动一个新的服务器实例。

试想您可以在几分钟内同时委托一台服务器或数千个服务器实例。所有这些都是由web服务API控制的,对于那些不太熟悉的人来说,API就是将服务、应用程序和整个系统粘合在一起的东西。通常,API通过公开业务功能和服务,充当公司或产品的公共角色。针对云的API可以从浏览器、移动应用程序或任何其他支持互联网的端点调用。

同样,对于每个部署的服务器实例,您都可以完全控制。换句话说:您对每一个都有root访问权限(带有控制台输出),并且能够根据需要与它们交互。通过相同的web服务API,您可以启动或停止任何需要的实例。云服务供应商允许用户选择(虚拟)硬件配置——即内存、CPU和带有驱动器分区大小的存储。用户还可以从多个操作系统(包括Linux发行版和Microsoft Windows Server)和软件包的列表中选择安装。最后,值得注意的是,选择的资源越多,服务器实例的成本就越高。

容器

在运行虚拟机时,容器几乎是光秃秃的金属。托管虚拟机的开销很小甚至没有。该特性限制、考虑并隔离一个或多个进程的CPU、内存、磁盘I/O和网络使用。从本质上说,容器将软件应用程序与操作系统解耦,为用户提供一个干净的、最小的操作环境,同时在一个或多个隔离的“容器”中运行其他所有操作。

这种隔离防止在给定容器中运行的进程监视或影响在另一个容器中运行的进程。而且,这些服务不会影响或干扰主机。能够将分散在多个物理服务器上的多个服务合并到一个服务器上的想法是数据中心选择采用该技术的众多原因之一。这种隔离方法通过限制安全违反或违反所造成的损害,增加了技术的安全性。如果入侵者成功地利用了在该容器中运行的某个应用程序上的安全漏洞,那么入侵者将被限制为该容器中的一组操作。

在云环境中,容器极大地简化了应用程序部署,不仅将应用程序从一个完整的操作系统(虚拟)中隔离出来,还能够部署最低数量要求的软件和硬件,进一步减少维护成本。

 

AI芯片市场的细分方式

无论选择哪个具体领域,初创企业面临的竞争都将极为激烈。我发现大家可以参考图一,将整个市场理解成三角形结构,各个顶点都拥有自己的一套用于代表特殊市场需求的标准。最高点为数据中心、云以及高性能计算(HPC)环境对于AI芯片的需求。Cerebras很好地抓住了这一市场,制造出世界上最大的芯片——即晶圆级引擎。该细分市场只追求计算性能的最大化,功耗与成本都在其次。初创企业在这一领域面临的最大挑战,在于超大规模企业与老牌厂商已经牢牢把持住自己的优势区间——英伟达就在不断发布新的改进式架构,其最新版本Ampere已经于今年5月正式亮相。

而在以推理为基础的三角形下边,生存着能够在保持一定准确率的同时对精度要求较低的芯片。其限制条件有所不同:芯片尺寸不能太大,延迟要低,功耗越低越好,而且单位成本必须低廉可控。正因为如此,边缘应用市场可以说是初创企业的活跃区域。这方面的竞争没有英伟达这类巨鳄级企业的参与,他们也明确表示不打算参与大宗商用推理芯片市场。但竞争对手较弱实际上意味着客户本身话语权及实力较强,这些客户甚至有能力随时建立或者收购一家初创公司。

AI芯片未来将走向何方

我们之前提到过,AI芯片领域存在着太多竞争者,图一中的各个顶点附近实际上都有厂商在盘踞。而在之前提到的各项因素中,厂商需要打造出成熟的软件开发栈、建立起投身于市场竞争的明确意愿,同时也要探索将深度学习应用嵌入广泛产品的可行道路。市场波动已经初现端倪,Wave Computing于今年4月宣布破产正是其中一例。

但好消息是,激烈的竞争为我们带来速度更快、性能更好的AI芯片。AI研究人员能够由此获得助益,安心运行自己的种种新颖模型设计,而未来必将出现的新型算法也将逐步取代深度学习目前的霸主地位。最重要的是,对于希望能够利用AI重现人类大脑机能的研究者来说,深度学习已经是一条明确走不下去的道路。因此,下一代算法可能迎来重大变革,同时对加速技术类型提出新的要求。

在实际使用案例中,深度学习应用的广度使这些芯片拥有了价值数十亿美元的市场。而随着5G设施的普及,市场规模将继续保持增长,对AI硬件加速器的需求也不会动摇。AI芯片市场的合理化进程已经开始,未来竞争态势将随着下一代AI算法的出现而改变——但具体时间目前谁也说不清楚。

(编辑:淮安站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!

推荐文章
    热点阅读