Dropbox的GO语言之旅:可靠性和持久性

08-18 02:15 首页 CSDN

点击上方CSDN”,选择“置顶公众号”

技术资讯,第一时间送达!



作者丨Tammy Butow

翻译Diwei


译者注:作者在本文介绍了Dropbox公司是如何开启探索使用Go语言之路的,在探索的过程中遇到了哪些问题,从结果来看证明了Go语言的可靠性和持久性。以下为译文。



Tammy Butow(@tammybutow)是Dropbox基础架构开发团队的工程经理。Tammy管理着代码工作流——包括了Dropbox内使用Go从编码到上线的整个过程。她在2017年的GopherCon大会上谈到了Dropbox的工程师是如何使用Go语言建立和运行大型服务。


注意:这篇文章记录了大会上的演讲内容。如果遗漏了什么,请在Twitter上告诉我(@sqs)。如果有错误,肯定是我描述的有问题;因为Tammy的演讲太棒了!


Dropbox探索使用Go语言之旅


Tammy引用了Rob Pike于2012年编写的谷歌Go语言:专为软件工程服务设计的编程语言》中的说法,解释了Go语言为何能够在Dropbox公司当中发挥重要作用:


“Go语言非常高效,支持扩展,而且还能提高生产。一些程序员觉得使用Go进行工作很有趣;另一些人则认为它缺乏想象力,甚至枯燥乏味。本文我们将解释为什么这些对立的观点是不成立的。Go语言旨在解决谷歌在软件开发中所面临的问题,导致了这门语言并不是一门突破性的研究语言,但对于大型软件项目来说,它还是一个很优秀的工具。”——Rob Pike,2012年


Dropbox的规模非常庞大:


  • 超过5亿个用户

  • 200000个商业客户

  • 500PB的用户数据

  • 数据EB GO存储系统


因此,Dropbox对它们的系统、语言和工程师们有很高的要求。指导原则以及要求是:


  • 建立可靠的系统

  • 构建安全的系统

  • 将可靠性和安全性合并到初始设计中

  • 99.9999999999%(12个9)的可靠性

  • 99.99%的可用性


Dropbox公司对Go语言的应用


现在Dropbox的大多数基础架构都是用Go编写的。具体包括如下:


  • Go服务器库拥有150名贡献者(来自总计500名工程师)

  • Dropbox公司内部超过15个团队构建和运行Go服务

  • 在Dropbox公司内总共有130万行Go语言代码


使用Go开发的关键系统包括:


  • RAT:限速与限流工具

  • HAT:memcached的替代方案

  • AFS:一套用于替代全局Zookeeper的文件系统

  • Edgestore:分布式数据库

  • Bolt:消息传递

  • DBmanager:用于对Dropbox的6000多个数据库进行自动化和监控

  • “Jetstream”、“Telescope” 、分块路由以及更多……


其中许多都是原本的非Go系统。


Dropbox开始使用Go语言的原因是?


Tammy分享了一些关于Dropbox是如何一步步使用Go语言的故事。


Hack技术周成就Go速率限制器原型设计


在一年的Hack技术周之前,Dropbox的工程师们针对各项服务分别进行限速与限流。所以Dropbox的一位工程师决定为这些事情建立一个公共服务的实现,因此RAT诞生了。


最初的RAT原型是在4天内完成的,并在第5天进行演示。短短几周之后,RAT的大名在公司内部迅速扩散。另一位Dropbox工程师给Tammy的团队发了电子邮件,看看他们时如何在Python项目中使用RAT。整合过程进展的很顺利,采用率也逐渐在提升,RAT也变得越来越实用。现在,Dropbox的好几个团队都使用了RAT。


DBmanager


Dropbox公司拥有6000多个数据库,这样一个庞大的系统需要自动化和监控。在任意给定的时刻,数据库都在进行复制、故障转移以及通过副本进行主体升级等。


为了管理这些问题,Dropbox的工程师建立了DBmanager,它是一套Web UI,可以快速查看所有6000多个数据库中发生的事情。它还将这些状态信息发布到其它系统中。


Go语言升级版


有了成百上千的工程师,Dropbox小心翼翼地进行Go语言各主要版本的升级工作。Tammy表示升级过程没有产生任何问题,过程非常顺利!


下面来看一些有趣的事实:


  • Dropbox最近完成了从1.5版升级到1.6版的生产服务。

  • 为了追踪升级过程,他们创建了一个简单的Dropbox文件文档,并让每个服务负责人汇报进展,并在必要时向他们寻求帮助。

  • Dropbox将会跳过1.7版本,在1.6迁移完全完成(包括非生产服务)的情况下直接升级到1.8。


Dropbox如何培训新工程师使用Go


每个Dropbox工程师都经历了同样严格的培训过程,包括:


  • 阅读基础设施拓扑资料、Go语言风格指南以及Protobuf风格指南

  • 严格但友好的代码审查

  • 在Go中构建一个娱乐性质应用程序(应用程序商店)

  • 学习Bazel的构建和代码测试


对于有经验的工程师来说,这个过程需要一个星期左右的时间。


Dropbox的Go语言发展情况如何?有哪些缺点呢?


总的来说,Dropbox的Go应用之路非常成功。


  • 使用Go语言以后富有成效。

  • 编写和使用服务变得很容易了。(人们喜欢做这两种事情!)

  • Go语言标准库非常出色。

  • 调试工具(总体上)运行很好。


一个关键的数据点是,Dropbox没有努力将服务从另一种语言改写为另一种语言,这表明人们对其相当满意。(Tammy确实抛出了一份有趣的信息:Dropbox公司也在部分使用Rust,但其并不属于Go的替代品。)


Dropbox公司在使用Go语言时遇到哪些困难?


Tammy证实称,Go语言最大的问题在于处理竞态条件。


  • 数据竞态类bug给调试、查询与修复等工作带来挑战。

  • 一些Dropbox的工程师特别善于发现这些,而其他工程师则依赖于他们的专业技能。

  • Go数据竞赛检测器并不总是有用的。确定这种不起作用的情况非常重要。

  • 必须以审慎的态度设计需要对数据进行并发访问的Go程序。


Dropbox雇佣了那些关心可靠性和持久性的工程师,因此他们亦应当有能力解决上述问题(尽管在任何地方,并发性都是非常困难的)。



首页 - CSDN 的更多文章: