CategoryResourceRepost/极客时间专栏/左耳听风/性能设计/62 | 性能设计篇之“边缘计算”.md
louzefeng d3828a7aee mod
2024-07-11 05:50:32 +00:00

14 KiB
Raw Blame History

前面我们通过一个秒杀的示例展示了如何在CDN结点上简单地部署小服务然后就可以完成在数据中心很难完成的事我想你应该能看到边缘结点的一些威力。今天我会和你聊聊我所认识的边缘计算这也是我创业的方向。

首先一说起边缘计算网上大多数文章都会说这是和IoT相关的一个技术。其实我觉得这个说法只说对了边缘计算的一部分边缘计算可以做的事情还有很多很多。

所谓边缘计算它是相对于数据中心而言。数据中心喜欢把所有的服务放在一个机房里集中处理用户的数据和请求集中式部署一方面便于管理和运维另一方面也便于服务间的通讯有一个比较好的网络保障。的确没错。不过我们依然需要像CDN这样的边缘式的内容发布网络把我们的静态内容推到离用户最近的地方然后获得更好的性能。

如果我们让CDN的这些边缘结点拥有可定制的计算能力那么就可以像秒杀那样可以在边缘结点上处理很多事情从而为我们的数据中心带来更好的性能更好的扩展性还有更好的稳定性。而我们的用户也会觉得响应飞快从而有了更好的用户体验。

下面,让我们来看看为什么边缘计算会变成一个必然的产物。这里,我有两个例子。

为什么要有边缘计算

从趋势上来说

首先,我们得看一下整个时代是怎么发展的。我们处在信息化革命时代,也有人叫数字化革命,总之就是电脑时代。这个时代,把各式各样的信息都给数字化掉,然后交给计算机来处理。所以,我们要清楚地知道,整个计算机发展的本质就是我们人类生活信息化建设的过程

这个过程中计算机硬件的发展也是非常迅猛的。CPU的处理速度硬盘的大小和速度网络的带宽和速度都在拼命地升级和降价。我们用越来越低的成本获得越来越快的速度、越来越大的带宽、越来越快的存储……

所有的这一切其实都是和信息还有数据有关。我们的信息和数据越来越多越来越大所以我们需要更好、更快、更便宜的硬件和基础设施。这个演化过程中在我参加工作这20年来就没有停止过而且我也不认为未来会停下来这个过程只会越来越快。

下面是我画的一个时代的变更图(不用太纠结其中的时间点,我只是想表示信息演进的过程)

从一开始我们处在MB时代那个时候电脑也是几百兆的硬盘就够了。因为那个时候的信息量不够大只有内容服务提供商在提供内容他们主要以新闻资讯为主所以数据还不多。

然后开始进入UGC时代用户开始产生数据他们写博客发贴子拍照片拍视频……于是信息越来越多于是我们的数据进入了GB时代于是计算机的硬件网络的基础设施都在升级。

再然后我们进入了大数据时代这个时代也是移动互联网的时代。以前你要打开电脑才能上网现在你只要手机有电你就是在线的而且这个时代大量的线下服务走到线上比如外卖、叫车……于是有各种各样的App在收集你的行为和数据。这个时候是计算机在记录每个人的上网行为的时候所以数据量也不是一般的大。

然后,这个趋势只会越来越大,下一个时间,我们的数据和信息只会越来越大,因为计算机正在吞噬可以被数字化的一切事情。除了继续吞噬线上的业务,一定会开始吞噬线下的信息和数据。比如,通过摄像头识别线下的各种活动,如车牌;通过一些传感器来收集线下的各种数据,如农业、水利……于是,数据只会变得越来越大。

这个时候,我们想一想,如果把这么大量的数据都拿到数据中心来做分析和计算,一个数据中心顶得住吗?我现在已经接到好几个用户和我说,数据量太大了,不知道怎么架构数据中心了,各种慢,各种贵,各种痛苦……

而且,还有另外一个需求就是要实时,对于大数据处理的实时需求越来越成为刚需了,因为,如果不能实时处理、实时响应,那么怎么能跟得上这个快速的时代呢。这就好像一个人脸识别的功能。如果苹果手机的人脸识别需要到服务器上算,然后把结果返回,那么用户的体验就很糟糕了。这就是为什么苹果在手机里直接植入了神经网络的芯片。

我们可以看到,数量越来越大,分析结果的速度需要越来越快,这两个需求,只会把我们逼到边缘计算上去。 如果你还是在数据中心处理,你会发现你的成本只会越来越高,到一定时候就完全玩不下去了。

从成本上来说

上面这个是第一个示例,我们再来看看数据中心的成本,当一个公司需要支持几十万用户的时候,并没有什么感觉。当他们要支撑上千万乃至上亿用户的时候,我们就会发现,一个几十万用户的系统架构和一个支撑上千万用户的架构,在成本上来说,完全不是一个数量级的。就像文本中的图片所描述的那样(只是一个草图,用于说明问题)。

在这个图中,我们可以看到,当需要处理的数据或是用户请求的规模越来越大时,我们的成本是呈现快速上升的曲线,而不是一个线性上升的成本关系。

我们可以来算一下根据我过去服务过的40多家公司的经验可以看到如下的投入

  • 几十万用户的公司只需要处理百级QPS的量只需要10台左右的服务器
  • 上百万用户的公司只需要处理千级QPS的量需要有50台左右的服务器
  • 上千万用户的公司需要处理万级到十万级QPS的量需要700台左右的服务器
  • 上亿用户的公司其需要处理百万级QPS的量需要上万台的服务器。
  • 可以看到十万用户到上亿用户也就多了100倍为什么服务器需要1000倍完全不是呈线性的关系。

    这时因为,当架构变复杂了后,你就要做很多非功能的东西了,比如,缓存、队列、服务发现、网关、自动化运维、监控等。

    那么我们不妨开个脑洞。如果我们能够把那上亿的用户拆成100个百万级的用户那么只需要5000多台机器100个50台服务器的数据中心

    我们还是同样服务了这么多的用户但我们的成本下降得很快。只不过我们需要运维100个小数据中心。不过相信我运维100个50台服务器的小数据中心的难度应该远远低于运维一个10000台服务器的数据中心。

    好了,问题来了,什么样的业务可以这么做?我觉得有地域性的业务是可以这么做的,比如:外卖、叫车、共享单车之类的。

    然而100个50台服务器的小数据中心也会带来一些复杂的问题因为当你的公司有100万用户的时候的业务形态和有1亿用户的业务形态是完全不一样的1亿用户的业务形态可能会复杂得多得多。也就是说我们不可能在一个小数据中心只有50台服务器因为那是百万用户的业务形态只有几十个服务。当公司成长到上亿用户的规模时可能会有上百个服务50台服务器是不够部署的。

    所以,我上面那种多个数据中心的理想只存在于理论上,而实际上不会发生。

    但是,我们依然可以沿着这条路思考下去。我们不难发现,我们完全可以用边缘结点处理高峰流量,这样,我们的数据中心就不需要花那么大的成本来建设了。

    于是,还是到了边缘计算。

    边缘计算的业务场景

    通过上面的两个案例分析,我觉得边缘计算一定会成为一个必然产物,其会作为以数据中心为主的云计算的一个非常好的补充。这个补充在我看来,其主要是做下面一些事情。

  • 处理一些实时响应的业务。它和用户靠得很近,所以可以实时响应用户的一些本地请求,比如,某公司的人脸门禁系统、共享单车的开锁。
  • 处理一些简单的业务逻辑。比如像秒杀、抢红包这样的业务场景。
  • 收集并结构化数据。比如,把视频中的车牌信息抠出来,转成文字,传回数据中心。
  • 实时设备监控。主要是线下设备的数据采集和监控。
  • P2P的一些去中心化的应用。比如边缘结点作为一个服务发现的服务器可以让本地设备之间进行P2P通讯。
  • 云资源调度。边缘结点非常适合用来做云端服务的调度。比如允许用户使用不同生产商的云存储服务使用不同生产商但是功能相同的API服务比如支付API相关。因为是流量接入方所以可以调度流量。
  • 云资源聚合。比如我们可以把语音转文字的API和语义识别的API相结合聚合出来一个识别语音语义的API从而简化开发人员的开发成本。
  • ……
  • 其实还有很多,我觉得边缘计算带来的想象力还是很令人激动的。

    关于现实当中的一些案例,你可以看看 Netflix的全球边缘架构的PPT

    边缘计算的关键技术

    在我看来,边缘计算的关键技术如下。

  • API Gateway。关于网关这个就不说了我们在管理设计篇中有一篇就是专门讨论这个东西的。
  • Serverless/FaaS。就是服务函数化这个技术就像是AWS Lambda服务一样你写好一个函数然后不用关心这个函数运行在哪里直接发布就好了。然后就可以用了。
  • Serverless这个词第一次被使用大约是2012年由Ken Form所写的一篇名为《Why The Future of Software and Apps is Serverless》的文章。这篇文章谈到的内容是关于持续集成及源代码控制等并不是我们今天所特指的这一种架构模式。

    但Amazon在2014年发布的AWS Lambda让"Serverless"这一范式提高到一个全新的层面为云中运行的应用程序提供了一种全新的系统体系结构。至此再也不需要在服务器上持续运行进程以等待HTTP请求或API调用而是可以通过某种事件机制触发代码的执行。

    通常这只需要在AWS的某台服务器上配置一个简单的功能。此后Ant Stanley 在2015年7月的名为《Server are Dead…》的文章中更是围绕着AWS Lambda及刚刚发布的AWS API Gateway这两个服务解释了他心目中的Serverless“Server are dead…they just dont know it yet”。

    如果说微服务是以专注于单一责任与功能的小型功能块为基础利用模块化的方式组合出复杂的大型应用程序那么我们还可以进一步认为Serverless架构可以提供一种更加"代码碎片化"的软件架构范式我们称之为Function as a ServicesFaaS。所谓的“函数”Function提供的是相比微服务更加细小的程序单元。

    目前比较流行的几个开源项目是:

    小结

    好了,我们来总结一下今天分享的主要内容。首先,我描绘了边缘计算的初始模样。接着,我讲了从计算的发展趋势上来看,数据量的不断增大迫使边缘计算成为一个必然。大数据中心的成本问题,也需要通过边缘计算来降低。然后,我列举了边缘计算的业务场景。最后,我介绍了实现边缘计算所需的关键技术。希望对你有帮助。

    也欢迎你分享一下你对边缘计算的看法如何?有没有什么好的想法?

    文末给出了《分布式系统设计模式》系列文章的目录,希望你能在这个列表里找到自己感兴趣的内容。

  • 弹力设计篇