为什么用Go编写机器学习的基础架构

引以为豪的机器学习算法只是生产环境机器学习系统的一个组成部分。如要实际大规模运行生产环境中的机器学习API，您的基础结构需要实现以下功能：

• · 自动缩放，确保流量波动不会破坏API
• ·实行API管理，以处理API同步部署
• · 滚动更新，确保更新模型不会中断用户服务

Cortex旨在自动实现所有上述基础架构，以及其他一些问题，例如日志记录和成本优化。

出于以下考虑，Go是构建满足上述需求软件的理想之选：

1. Go生态系统非常适合基础设施项目
 

的好处之一就是您可以从自己欣赏的项目中不断学习。例如，Cortex存在于Kubernetes(本身用Go编写)生态系统中。很幸运，我们能够在该生态系统中参考许多出色的开源项目，其中包括：

• · kubectl: Kubernetes CLI
• · minikube: 一种在本地运行Kubernetes的工具
• · helm: Kubernetes软件包管理工具
• · kops: 管理生产Kubernetes的工具
• · eksctl: 亚马逊EKS的官方CLI

以上所有工具不仅仅是Kubernetes项目，并且都是用Go语言编写。无论是查看CockroachDB还是Hashicorp的基础设施项目(包括Vault, Nomad, Terraform, Consul和 Packer)，您将发现它们均是使用Go语言编写。

Go在基础架构领域的流行还有另一个影响，那就是大多数对基础架构感兴趣的工程师都熟悉Go语言。所以，很容易通过GO吸引这些工程师。实际上，Cortex Labs最优秀的工程师之一就是通过在AngelList上搜索Go职位找到我们的。他找到了我们，我们感到非常幸运。

2.并发对于机器学习的基础架构至关重要

用户可以将许多不同的模型部署为不同的API，并把所有模型都在同一个Cortex集群中以便管理。而Cortex Operator也需要通过一些API来管理这些不同的部署。举例：

• · Cortex调用Kubernetes API在集群上部署模型。
• · Cortex调用各种AWS API(包括EC2 Auto Scaling，S3，CloudWatch等)来管理AWS上的部署。

用户不会直接与这些API进行交互。相反，Cortex以编程方式调

（编辑：潍坊站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!