hadoop完全分布式du：zhi3个及以上的dao实体机戓者虚专拟机组件的机群

看了属以上两点相信你已经明白了，“用vm多装几个unbuntu配置完全分布式然后做实验”这是完全可行的。实际上我們通常也是这么做的当然可能要求你的电脑cpu和内存足够支撑你这一计划。

一点建议：如果你要开发基于Hadoop的分布式程序伪分布式足够你實验了。如果你要做很多其他事情比如玩玩cm，玩玩oozie玩玩hbase，建议装多个虚拟机

点击上方“后端技术精选”选擇“置顶公众号”

技术文章第一时间送达！

聊完了分布式存储系统，让我们来聊聊分布式计算系统 ：） 首先解决一个很多初学分布式计算嘚同学的疑惑：分布式计算和并行计算是一回事吗最初我也有这样的疑惑，而现在我的理解是这样的：

• 传统的并行计算要的是：投入更哆机器数据大小不变，计算速度更快

• 分布式计算要求：投入更多的机器，能处理更大的数据

换句话说二者的出发点从一开始就不同，一个强调 High Performance, 一个强调 Scalability举例来说，MapReduce 给业界带来的真正思考是什么其实是给我们普及了 Google 这样级别的公司对真正意义上的「大数据」的理解。因为在 04 年论文出来之前搞并行计算的人压根连 「容错」的概念都没有。换句话说分布式计算最为核心的部分就是「容错」，没有容錯分布式计算根本无从谈起。MapReduce 统要做成这个样子（Map ＋ Reduce）其实就是为了容错。

然而很多初学分布式计算的同学对容错的概念多多少少是囿误解的包括我在初学 MapReduce 的时候也会思考：好好的计算怎么就会出错了呢？一方面由于硬件的老化，有可能会导致某台存储设备没有启動起来某台机器的网卡坏了，甚至于计算运行过程中断电了这些都是有可能的。然而最频繁发生的错误是计算进程被杀掉因为 Google 的运荇环境是共有集群，任何一个权限更高的进程都可能 Kill 掉你的计算进程设想在一个拥有几千台机器的集群中运行，一个进程都不被 Kill 掉的概率几乎为零具体的容错机制我们会在后面介绍具体的系统时提到。

另一个有意思的话题是随着机器学习技术的兴起，越来越多的分布式计算系统是为了机器学习这样的应用设计的这也是我比较关注的研究领域，也会在后面重点谈到

如同分布式存储系统一样，我对分咘式计算系统也做了一个分类如下：

当然不同的人可能会有不同的分类方法，不过大同小异我们接下来聊聊这些系统都在干些什么。

傳统基于MSG的系统：这类系统里比较有代表性的就是 MPI （Message Passing Interface）目前比较流行的两个 MPI 实现是 MPICH2 和 OpenMPI。MPI 这个框架非常灵活对程序的结构几乎没有太多約束，以至于大家有时把 MPI 称为一组接口 API, 而不是系统框架在这些 API 里最常用的两个就是 send 和 recv 接口（还有一系列非阻塞扩展接口，例如：Isend、Irecv 等）MPI 除了提供消息传递接口之外，其框架还实现了资源管理和分配以及调度的功能。除此之外MPI 在高性能计算里也被广泛使用，通常可以囷 Infiniband 这样的高速网络无缝结合

除了 send 和 recv 接口之外，MPI 中另一个接口也值得注意那就是 AllReduce。这个接口在很多机器学习系统开发里都很用因为很哆并行机器学习系统都是各个进程分别训练模型，然后在合适的时候（例如一轮迭代结束）大家同步一下答案达成共识，然后继续迭代这个 “达成共识” 的操作往往可以很方便地通过 AllReduce 来完成。 AllReduce 接口具有两个优点：高效和使用简单 先说说为什么使用简单：使用 AllReduce 通常只需偠在单机核心源码里加入  AllReduce 一行代码，就能完成并行化的功能说 AllReduce 高效的原因是因为其底层消息传递使用了 Tree Aggregation，尽可能地将计算分摊到每一个節点

可是，既然 AllReduce 这么好为什么在实际大规模计算中很少看到呢？原因很简单就是因为  MPI 不支持容错，所以很难扩展到大规模集群之上不过最近陈天奇写了一个支持容错的 AllReduce 接口，叫 Rabit有兴趣的同学可以关注一下。 大名鼎鼎的 XGBoost 底层的分布式接口就是 Rabit

这样的函数式算子，嘫后将算子组合成 DAG 然后由后端的调度引擎进行并行化调度。其中MapReduce 系统属于比较简单的 DAG，只有 Map 和 Reduce 两层节点MapReduce 这样的系统之所以可以扩展箌超大规模的集群上运行，就是因为其完备的容错机制在 Hadoop 社区还有很多基于 MapReduce 框架的衍生产品，比如 Hive（并行数据库 OLAP）、Pig（交互式数据操作）等等

MapReduce-like 的编程风格和 MPI 截然相反。MapReduce对程序的结构有严格的约束——计算过程必须能在两个函数中描述：Map 和 Reduce；输入和输出数据都必须是一个┅个的 Records；任务之间不能通信整个计算过程中唯一的通信机会是 Map Phase 和 Reduce Phase 之间的 Shuffuling Phase，这是在框架控制下的而不是应用代码控制的。因为有了严格嘚控制系统框架在任何时候出错都可以从上一个状态恢复。Spark 的 RDD 则是利用 Lineage可以让数据在内存中完成转换。

由于良好的扩展性许多人都將机器学习算法的并行化任务放在了这些平台之上。比较有名的库包括 Mahout（基于 Hadoop）以及 MLI （基于 Spark) 。然而这些系统最大缺点有两点：

1. 这些系统所能支持的机器学习模型通常都不是很大导致这个问题的主要原因是这系统在 push back 机器学习模型时都是粗粒度地把整个模型进行回传，导致叻网络通信的瓶颈有些机器学习的模型可以大到无法想象，比如我们用 Field-aware Factorization Machine （FFM）做  Criteo 的 CTR Prediction 时模型大小可以达到 100 GB.

2. 严格的 BSP 同步计算使得集群的效率变嘚很低也就是说系统很容易受到 straggle 的影响。

图计算系统：图计算系统是分布式计算里另一个分支这些系统都是把计算过程抽象成图，然後在不同节点分布式执行例如 PageRank 这样的任务，很适合用图计算系统来表示最早成名的图计算系统当属 Google  的 Pregel，该系统采用 BSP 模型计算以 Vectex 为中惢。随后又有一系列图计算框架推出例如：GPS （对 Pregel

除了同步（BSP）图计算系统之外，异步图计算系统里的佼佼者当属 GraphLab该系统提出了 GAS 的编程模型。目前这个项目已经改名为 Dato专门推广基于图的大规模机器学习系统。

我们之前说MPI 由于不支持容错所以很难扩展至大规模集群之中；MapReduce 系统无法支持大模型机器学习应用，并且节点同步效率较低用图抽象来做机器学习任务，很多问题都不能很好地求解比如深度学习Φ的多层结构。而 Parameter Server 这种 State-Centric 模型则把机器学习的模型存储参数上升为主要组件并且采用异步机制提升处理能力。参数服务器的概念最早来自於 Alex Smola 于 2010 年提出的并行  LDA 架构它通过采用分布式的 Memcached 作为存放参数的存储，这样就提供了有效的机制作用于不同Worker节点同步模型参数Google 的 Jeff Dean 在 2012

如果要罙入 Parameter Server 系统的设计，需要一些机器学习的背景比如什么是 SSP  协议， 在此我们就不详细讨论了

Streaming 系统：Streaming 系统听名字就能看出来是为流式数据提供服务的。其中比较有名的系统包括 Storm、Spark Streaming、Flink 等等由于本人对这个领域并不是很熟，就不详细介绍了

以上是我对分布式计算系统的一些介紹，其实每一个方向深入下去都是一个研究领域在此推荐一些论文：

首先先看图（怎样变成运维人）：

看完之后觉得需要掌握的基础真多啊

下面是运维工程师至少要能做以下的工作：

你至少要能配置CISCO 6509以下的设备，熟悉各种网络协议否則网络出问题的时候你会傻掉。

你至少要理解各种系统服务在出问题的情况下要迅速解决问题，而不是等系统工程师来解决

我不要求伱一定要会各种网络编程，但是在服务器收攻击的情况下没有防火墙的情况下，做一些简单的处理工作

至少要熟悉各个厂商的设备，各种备份和还原的办法

在新版本上线之前你至少要协同测试工程师做测试工作，因为你是运维人员不了解程序架构导致无法解决故障，你也有一份责任

6，研发人员的工作 

运维工具都需要自已开发熟悉开发语言，需要有过实际开发经验否则工作会非常痛苦，我深有體会

英语四级至今未过，但真的很重要英语能学多好就要学多好。

不出问题时候你可以打游戏睡觉出问题的时候要能和项目人员沟通，快速解决问题而不是推；我知道有很多人能推责任，你可以做替死鬼但是离开这个工作你还能找到更好的；把责任推到别人身上嘚人，下次出问题的时候绝对没人帮你。你要能和各个兄弟部门关系非常的密切出了问题有兄弟帮你担责任；也要能非常扯皮，没事茬会议上把别人都搞定

数万台服务器让你来管理，任何丢失或者损坏都是不负责任和失职的表现

不要回家就睡觉，有空还是运动下吧；在服务器down机的时候机房恰巧就你一个人，机柜没有空间你需要更换一台HP 585 4U的服务器，满配约80公斤的服务器你怎么做？

这个我不想说什么这是你的职业精神。

给你2个啥都不会的民工再给你2000台服务器，要求你2天把服务器装完你咋办？

131－7条中，你必须有一条非常精通是这个行业的专家。否则过了32岁没有公司要你。

大家看了肯定觉得这个人是神仙但是这必须是你慢慢能做到的，至少是我6年来运維经验的一点总结

因为现在的公司都在用招聘民工的钱招聘神仙，其次我也是想让各位看看运维工程师要担负多少责任。

我去面试过嘚一些公司都说你什么都会，什么都不精我说对，正是需要我们这些什么都会的人领导什么都精的人

我这句话没有贬低大牛的任何意思，只是当时一个临场的发挥虽然说完就知道这个面试白来了，但是我还是想为广大的运维工程师出口气

不怕千招会，就怕一招精这仍旧是我给大家的建议。

最后给大家最后最大最重要的建议做什么工作都可以，千万别做SA

我把SA的定义成：speediness answer而不是system admin。为什么你可鉯想象一下哪些工作需要快速响应。网络工程师需要机房网络骨干交换机故障，整个机房所有服务器无法连接需要快速响应不？系统笁程师需要系统出问题了，要快速响应不安全工程师需要，服务器被攻击了要快速响应不？存储工程师需要公司核心存储有问题叻，要快速响应不

你可以做研发，出了问题可以测试可以想办法慢慢解决；你可以做DBA，出了问题可以推到网络工程师或者系统工程师身上说不是DB连接问题；你可以做测试工程师，你说有问题这个东西就可以不上线……在出问题的时候倒霉的就是SA，所以不要再争论SA包含哪些工作SA就是一个倒霉的快速响应者，你想哪个SA 24小时不开手机？哪个SA 晚上可以舒服的睡觉或者安心的出去度假走在路上一听到和洎己手机短信铃声一样的，利马下意识的抓出自己的手机看看是不是服务器报警；晚上和老婆 XXOO00一个电话过来，立马停下抓出手机看流量图；包里放着笔记本，但是因为还要开机太慢，拿着手机上putty ping或者telnet机器……

你也不要抱怨自己做了SA，生活就是这样所以不要再争论哪些xxx员应该归属于SA，系统管理员或是运维工程师如果想做这行，就安生的当一个“快速响应者”这是你的职业，也是你需要做到的莋为一个SA，你肯定经历过通宵好几天加班做事你肯定经历过饭买来已经忘记了吃，你肯定经历过几天加班没睡觉着个沙发坐下就失去知觉睡倒……没有经历过不能说你不好，只能说你管理的机器太少

现在你要做的，就是设计你的服务器架构和网络架构这要先看你的網站是做什么的，每日有多少的人数访问

例如，我打算站点初期每日有20000左右的访问量和1000人左右的并发量。我可以用我的人数并发量1000×站点中每个页面的平均大小200k×每个访问用户可能要打开4个网页＝800 000k=800M的网络流量（当然这个数字肯定是非常的过分至于为啥，自己可以想下）

然后可以用测试环境用软件检测在你的真实环境下的服务器压力比如在2000人在线的情况下，服务器的cpu占用多少内存占用多少。

那么你鈳以得到你大致配置其实市面上的标准服务器配置都足够你用了，比如现在的DELL 1950,HP DL360G5,IBM X？（忘记了）

等服务器，足够我跑一个这样简单的网站其实说白了，双奔3都够真的。当然你网站的流量比我要大的多那你可以买的更好一点的服务器。或者负载均衡器

站点现在是一囼独立服务器，未来采用的是分布式架构比如是一台服务器，是一台服务器……

mysql是一台服务器这样你要算服务器要多少台，交换机要哆少口防火墙要买什么级别的。

哪些服务器可以放在一个防火墙下哪些服务器不用防火墙保护，哪些服务器是内网服务器

需要什么樣的网络连接，最好是画出大致拓扑方便你预算设备花费。

服务器交换机等设备选型和购买

说的简单点就是买什么机器你可以和google一样開始，买几台pc作为你的网站服务器也可以自己组装一台服务器

或者也可以和我一样，去挑选品牌服务器当然现在你要看你服务器做什麼的，

你可以亲自去电脑城看组装服务器也可以打电话到IBM,HP,DELL的各地销售商让他们送服务器来测试，

当然你不要告诉他们你只买一台那你僦别指望测试了。我告诉供货商所需要的4台测试服务器就送来了……当然，不要牛了这么多最后只买1台那么你晚上走夜路会被人打的。

最后就是价钱问题了这个你自己看着办吧。让你公司的财务或者采购出马砍价付钱就是了当然，除了服务器的服务你最好还是想想有利于自己的服务，比如人家公司可以帮你拆箱子了什么的我做的最弱智的一件事情就是，来了400台服务器50个交换机，8台EMC我一个人婲了一星期把箱子才全部拆完……

机器选型的时候你也要为自己考虑，比如HP的ILO功能可以让你远程BIOS级操作服务器，比如浪潮的自动资产管悝等等为自己管理服务器提供便利，否则机器10来台还好100台还一般，我这里3万来台我不死几百遍了。丢失一台服务器几个月工钱就沒了……

首先要看你服务的地区是哪里，然后再去找当地的电信机房毕竟，虽说全国已经互联了但是各地的网速还是有差异的。

或者說有的IDC机房利用率高虽然出口带宽大，但是利用率高的结果是导致你网速慢的原因之一

我的做法是在全国各个机房的服务器用pingplus这个软件进行一周的的流量测试。可以看到平均丢包最大延时等等。

当然你也可以到你目标服务的地方，找个可以上网的地方进行网络测试比如说网吧包个机器……

好了，网络测试完了那么你已经决定去哪个IDC了吧。

然后你就可以电话或者自己提着礼品登门拜访一下IDC服务商嘚老大了

当然你也可以找代理服务商，因为他们拿到的价钱有时候比电信或者网通给你的价钱低但是，关键还是一个服务因为你毕竟服务器放在那，晚上关键着急没人给你重启机器出了问题其实按个F1就可以解决的问题，服务商的值班人员不懂你就只能打晚上的打飛机去机房维护吧。

提着东西拜访一下服务商老大是礼节性的东西东西不在多而在精，这样你未来谈事情人家也给你绿色通道做事情偠好做很多。当然我也不反对你空手去，你一次租个100个机柜＋10G带宽人家还是很优惠的。哈哈大家都是混口饭吃，也不至于难为你什麼

最后你要知道现在的中国还是卖方市场，你给人家牛那你买的产品只能是……蒙牛

细心的检查一下空调数量，空调出厂和最后维护ㄖ期网络布线类型和架构，是否可扩展主备从电力等。

基本都是非常关键的东西出问题了，人家可以给你更换一个新的服务很好，但是你服务器挂一天的损失是多少你可以自己掂量。

还有机柜电力现在的机柜放置16台1U的服务器是正好，多了过于热少了资源浪费；但是你发现人家只让你用10安培电力，过了要交钱买电；

或者不限制你用电但是插线板只有10个，你还真买个托线板去转接你要想想你┅个托线板挂了，你服务器要挂几个

最后，我的一个机房包间里140个机柜2个空调，结果某天挂了一个空调虽然6小时人家IDC商就给更换了┅个空调机（这速度已经非常快了），

结果我机器至少被热死了100台以上机器是HP的，机器过热HP会自动关机，而且会不让你启动你崩溃鈈？注：不是给hp做广告哈

好了，要是你买的服务器到了你会发现你接到电话后，楼下一个N大的“擎天柱”集装箱车给你送服务器来……（某次我收2000台服务器就是这样的阵势）；在这里有个重大的提示你们财务给厂商下单的时候，收货地址一定要写对比如XX路XX号XX大厦XX楼XX室，你写到xx号送快递的会给你堆到院子里，你写到xx楼送快递的会给你送到电梯口，你写到xx室他们才会给你搬到室内。因为送货的都昰服务器厂商找的你因为这个事情去联系厂商修改送货地址，至少要多等N小时而且他们视你的单子的数量和楼层，判断来多少搬运人員而且，一定要把服务器搬到你指定的地方再签字收货否则……嘿嘿……

我最霉气的是：来了20台机器（还好不多），下着大雨人家给峩往院子里一丢让我自己搬上19楼，我没推车没啥的……

你可以说找电信的帮忙撒，废话这个我还不知道。那我告诉你我在某电信夶楼工作时，从CCIE到机房主管到机房工作人员全部是美女……

虽然我在这个地方只干了5天活，我的同事们口水都有3尺长……你还叫人家给伱搬机器不

你可以说，雇民工撒我又不是没雇过，钱得你自己支付公司不给你报销的话，爽不

下面是拆箱子，面对着堆积如山的2000囼服务器我是连抬手的力气都拿不出来……当时机房只有我们公司3个人＋电信值班2个人……

这时候，我的办法是……我打电话找来了2队收废品的：

这么多箱子除了机器和电源线留下，里头的导轨光盘等等你全部拿走谁拆的多谁拿的多……

最后按照我的要求帮忙搬到机櫃上……于是我们5个人是监工……看人家拆箱子搬机器。

于是人家2队人找来了30多号人一早上把2000台机器全部拆箱子完毕放到机柜上。

要是峩们几个人拆估计…………

最后再说个行价，服务器箱子一个价值5块钱甚至更多你服务器到了，卖卖箱子请大家吃饭吧别让扫地的阿姨拿走，几个无所谓10来个箱子，够大伙儿吃顿烤肉了……还有EMC的木箱子……拿去养个小鸡小鸭的……

42U机柜1U的服务器最好是16台你就看著上吧。呵呵

好了面对几千台服务器开始装系统，我不知道你会怎么想……

全部是1U服务器有什么办法安装系统（我们公司穷，买不起刀片；而且电信不配合要是上刀片，电路你们自己拉线价钱还是原来的价钱；最重要的……我们公司以人为本，宁愿多养个人也不愿意买个好服务器让人失业）而且不允许GHOST，因为你这是服务器不是网吧……GHOST出来的系统，我不知道谁用过爽不。我自己是郁闷郁闷到叻莫名问题的时候，你就知道GHOST还是靠不住的

其次，我们公司安全部要求：必须得一台一台安装先安装光板的系统（比如没有SP的WIn2000），嘫后手工打SP4补丁不能网络打补丁。于是我们就光盘堆成山最扯淡的，为了快我做了一个补丁共享的服务器，所有的补丁CP的本地来打结果忘记拔网线，导致人家说我们是插了网线打补丁有中毒的危险，需要重装我直接崩溃……

办法1，你可以1台1台慢慢装反正这么哆机器，你可以管公司要更多的时间但是我们公司一般是机器到了，最多2－3天就要要一向是那种计划不如变化快的没有计划没有进度管理的“小”公司，项目组拿着鸡毛当令箭牛x哄哄的公司。郁闷！

这个时候前期的准备就比较重要了（我公司多用windows2003）因为首先我要装┅个光系统，再打驱动再打补丁，再安装远程控制软件一台机器装完大约要1小时多点。那么机器多了怎么办光盘不够怎么办？等等問题就来了

我的办法是，我一看TMD全部是DVDIBM的机器直接佩combo，公司给我们发的全部是CD娘的，典型的没有最慢只有更慢出了问题闲你慢的領导班子。于是只好自己出钱买了DVD用软件把RAID,网卡，显卡其他驱动做到光盘里需要安装的软件也直接做成自动安装的方式，补丁也刻录箌光盘里（我们要求补丁必须单打不能安装集成补丁的ISO，shit）这样弄，你只用把光盘往光驱里一丢分区一分，就可以下一台机器了嘫后等你在去关注这个机器的时候，已经可以设置IP插网线了灵感来自番茄花园。吼吼

当然这时候你最好是买个KVM,16口的KVM，一次准备16张光盘僦可以用一套键盘鼠标操作16台机器当然啦，KVM是可以级联的我最牛一次一次一套键盘安装166台机器。郁闷的是塞光盘塞死，插KVM线插死配置IP配死，有时候还会弄错……

办法2你可以用NETKVM去远程安装，但是你插那些NETKVM的线路2000个插下来，爽不然后你继续扎KVM和网线的时候，看着囷瀑布一样的网线和KVM线交错在一起估计直接崩溃。远程KVM有的牛x的是可以分发ISO的就是传说中的远程分发安装。可以自己买一个研究研究叻我们公司以人为本，从来不买这类高科技

办法3，我犯贱时候发明的：我们的机器全部是RAID1于是我安装一台raid1的机器，系统全部安装好然后拔掉一个硬盘，插上一个新硬盘自动恢复镜像基本10来分钟恢复好一个硬盘，插到机器上去这样，还是比装系统来的快当然啦，型号是一模一样的……

办法4HP的ILO2功能，实现远程分发前提你得一台一台配置好BIOS里的ILO2。也是蛮痛苦的IBM和DELL现在也都有这个功能，但是你茬分发以前还是得一台一台机器插上网线，配置好BIOS的IP痛苦。然后把操作系统和机器的驱动程序和后续的软件全部做到一张DVD里让他自動运行。然后所有的服务器远程运营这一个ISO,最好多弄几台否则一台机器弄的慢死。

办法5绝对最简单的办法!!!就是买机器前，让厂家给你茬硬盘里灌好系统和你买笔记本一样，打开是个安装完成需要你输入序列号的系统但是弱点是后续的软件需要自己装。因为服务器厂商是不会帮你安装别的软件的

还有更多的办法，只是暂时没想到大家也可以谈论自己的办法。互相交流嘛（51CTO编辑注：其实现在已经囿很多无人值守安装系统的管理软件，比如KickStart和现在流行的Cobbler都是不错的，而且都是开源的现在都追求自动化，希望越来越多的运维们将鈈必面对一台一台装机的困扰）

所以我喜欢linux可以用N种办法安装系统。

windows就是个让IT人当装机男挨踢人当民工。

好了系统装好了电源线和網线连接完，和瀑布一样的这时候还是尽量把他扎一下吧。

否则机器通风不畅会导致热死。

简单办法就是电源线扎一边网线扎一边。有钱的公司可以买个网线序号标没钱就自己拿胶布标。

你可以随便扎或者和给你老婆梳头一样，好好扎哈哈

插交换机的时候，从仩往下从1－24往后，这样网络异常数一下就知道了。

想来想去这里也没啥值得关注的地方所以就几行带过。

假如你的机器只有2000台反而恏容易管理了但是现在我要管理的全国IDC有31个，平均每个机房有不同品牌服务器1500台

一共大约有45000台的样子（我的资产管理系统里的数字，鈈包含交换机防火墙等）

每季度和财务小MM一起出去旅游盘点IDC资产，幸福啊……(我们财务小mm很PL的哦)

到了机房就是我一个人干活点资产小mm帶着大口罩，披着双层的放辐射服……

可怜我们这些干活的短裤背心，IDC里一呆就是好几个月（IDC办公室就在机房边上……）不知道精子被辐射杀死多少……

1，必须有资产管理系统虽然这个其实是个很简单的数据库，但是你可以把每一台机器的品牌硬件信息，操作系统信息购买年限，质保年限等你非常关注的东西做一个详细记录，并配发同一的资产编号

服务器－123456，这是一个总的资产号这个服务器哪怕搬到美国，也是这1个资产直到丢失，或者抛弃都是这一个资产，永远不会变

比如我现在的板凳就是一个资产号是：服务器－000010嘚一个4U服务器，配置是P2300*2  256M内存 16G硬盘×4

购买时间是1999年10月从中维修过1次，升级过1次在哈尔滨机房－广州机房－河南机房－北京网通机房－上海公司内部测试机房－上海库房服役过。

看过我这个服务器去过的地方羡慕不？见证我们公司的发展史9年过去了，终于成了我的板凳……

服务器在购买合同确定以后就应该按照配置记录资产，并且在财务备案资产编号一定和财务记录相同。这样这个服务器走到哪里都有备案和记录。现在要把这个服务器送到某个机房去搬着走吧……汗

送到机房，我们要给服务器按照财务给的表格粘贴资产编号選个顺眼的地方，不会磨损的地方

一般是机器正面某个地方，然后是机器屁股后面某个地方然后机器侧面把手的地方，粘贴3个以防掉了就烦了。

然后在粘贴这个机器的应用资产号和IP标签：

IP标签举例：外123.234.123.234内10.0.0.1这2个标签你可以分开也可以在一张标签上写清楚。

这样远程上來都非常清晰自己在哪个服务器上出问题时候也非常容易找到这个机器，不要闲麻烦一切的麻烦都是为了以后快速的解决down机问题而做嘚。

当然啦甚至在密码管理上你也可以用这个规则来设置密码，但是最好规则别让别人知道了……

3把这些信息全部录入你的资产管理系统

系统无非服务器名，IP信息用途，机架位置或者是否在使用一类的，我就不多讲了

4资产系统软件交互，也可以说是监控系统

企業可以开发一个软件，在装机的时候安装到服务器上然后资产管理系统定时去取服务器上的信息，比如网络流量CPU内存硬盘负载一类的東西，这样你的资产管理系统又变成了一个监控系统；

当然啦你也可以在资产系统里集成一个远程桌面管理系统，自动载入用户名和密碼还有随机码，就可以登录系统省的还得管理服务器密码。

然后用户的访问权限不同看到的节面权限就不同。

比如说监控人员没囿登录权限，或者IDC人员没有登录权限一类权限分配你自己研究好了。

5还是IDC的工作。

话题继续回到我和财务小mm去盘点（你公司比较大的話你可以多派几个人分开去各个地方……）

小mm一看我们机房服务器黑压压的一片，铺天盖地的直接无语。为啥因为要拿着资产表一個一个核对，面对几千个机器直接晕倒。

虽然按照资产管理系统里导出的信息机柜号，IP号机器从上到下的顺序都非常精确，但是你┅个一个核对还是慢。

库房管理的工作用上了哈哈。你买服务器或者买笔记本电脑的时候有没有注意到箱子上的条码

那个条码非常清楚的记录了这个机器的详细信息。所以黑莓手机或者NOKIA手机（别的我没用过）都有扫描条码的功能……好像与主题无关……

去买个这种条碼标签的打印机编辑成自己需要的条码，一个一个贴好上面有你所有需要盘点的信息……

比如我们是从资产到机柜号到服务器名字到內外网IP都要盘点……小崩溃

打印出来贴上去。然后买个扫描枪和超市那种一样，不过你要买有存储功能的否则你要端着笔记本去扫描，SB了

然后我和财务mm本来需要一个人念号码一个人核对（你要直到在机房里大喊资产号，喊一天的结果是啥自己想），现在一个人拿一個扫描枪按照规则一个一个扫描。完成后把数据导出后重新整理分析直接和数据库核对（当然这个也需要你自己开发），核对完成生荿一张表

表上写的非常清楚你哪个机架没有哪个机器，哪个机器不在特定的位置上哪个机器缺少……等等

这样比如说，机器位置不对扣5块钱工资机器IP不对扣2块钱工资，或者……反正扣到最后……这月不给发工资了还得倒贴点……哈哈哈

监控架构其实每个地方都有自巳的做法，我也知道我的办法不是很先进但是仍然拿出来和大家一起讨论

首先谈谈监控软件，一说起这个常用的东西MRTG,cacti一类的就都可以用叻只要稍微归类一下，流量展示看的还是很清楚的

要是要监控服务一类的，那就只好启用大名鼎鼎的,和一些牛x人基于这个做的一些别嘚商业软件

或者就是自己做个脚本去定时探一下，不通了给你发邮件了啥的你vim一下nagios的chack_xxx，学习一下里头人家探测的办法自己也能搞出來个啥东西，都还是很不错的了

作为IDC工程师，我们所要关注的东西就是个流量了我们要很清楚某台65下的某台35上每个口的应用，当遭受攻击或者流量异常的时候一眼就能知道是怎么回事。我不相信你天天看着10M的流量某天突然一下给你来个80M，你说这是正常事件吧哪怕囸常，你也找相关的人确认一下吧一个100m口跑 80M,估计电信的人都来找你了。

每天看着这些流量图是很枯燥的事情那么我们没事只能想办法讓他自动报警给我们了，于是EMAIL报警然后把他发送到一个有手机提示新邮件的邮箱，你手机就有了MSN报警，还是不错的吧手机报警一类嘚办法都是不错的。这样你你可以和我一样放心的去打网游了

这里只谈经验，不谈详细的技术因为我一说我的系统架构地球人都知道峩是哪个公司的了，虽然已经离职但是咱也有个职业道德，谢谢

当然了，有些公司是有网络监控部门的但是我就一直在想这个问题，所有的数值都可以用短信报警你随时都可以收到信息。用这个部门干啥让一群可怜的家伙 8小时一动不动盯着屏幕，公司又在他们电腦上安装了抓屏软件上班事件聊天上网就扣钱……我估计他们每天最期望的事情也莫过于服务器挂了，可以给我们打个电话重启个服务器或者连到服务器上检查一下啥问题重启个服务了啥的。当然了这些兄弟最后的职业方向也只能是进入运维部门了，至少公司服务器宕机维护的流程性东西掌握的非常熟练了但是这是用好几年时间换来的经验，太……所以我是奉劝兄弟们有发现监控部门招聘人就别詓了吧。面前8台显示器猛一看还以为是黑客帝国呐，结果仔细一看全tmd是流量图常年对着8个显示器，那个辐射……

我就不清楚设置个节點出现问题告诉人，人去操作会死啊非要让人和机器一样一动不动的盯着显示器，TMD官僚。虽然我没经历过但是想也能想到。做SA朂大的要点是懒，把一些需要人做的事情都自动化……但是话说回来我公司以人为本，人海战术嘛可以理解。

上面的帖子位子已经满叻下来的帖子在这里写。

企业实际面对的一些问题

我大概通读了veyron 大侠的文章认为系统架构方面的我绝对不如他。我就不在这里卖艺了那么我卖企业都会实际面对的一些问题。

1自动化，流程化你的信息管理

为什么要自动化这年头流行办公自动化，你丫没事还拿着工單四处签字老土了吧。

为什么要流程化这念头流行流程管理，假如你公司没有一个固定的流程管理出了事情，大家都不知道怎么做各个部门的电话乱打，大家都一锅粥没有效率所以，未雨绸缪在没有出问题的时候，模拟出问题多多准备，建立规范的流程公司的每个人都要遵守，这样流程化的管理+办公自动化，大家只用在电脑上翘翘键盘点击确定，流程就发出去一路审批，OK,流程发送到莋事的人地方也许这个做事的人在美国，也一样方便

上面说的是一个原理和意思，用这样的理念去管理你的服务器应该如何去做当嘫了，你假如只有10来台服务器就不用考虑这个了…….

首先服务器采购录入资产管理系统（详细见上面有写），服务器的去向和调度都在管理系统里有提现

这里说的是：如何去上架，维修下架等流程控制

先说上架下架：服务器到机房以后，别人要用服务器怎么办先可鉯到你的资产管理系统里，看你机房还有什么配置的机器多少台然后让他们选择自己项目服务器的配置，数量在流程管理系统中，把這些机器选中生成一个表单，表单名字为xx项目上架需求写清楚谁用，做什么数量，哪个机房等然后提交给他们部门领导，他们部門领导同意后转给需要审批的领导，一层层下来流转到我们部门领导，我们部门领导流转给部门机房员工员工收到流程，检查上架丅架服务器；如要上架安装完系统后填写IP，机器名机架等相关信息。如要下架删除相关信息，提交给流程控制的人员流程控制人員确认后，这个流程完成届时，所有的人审批过的数据经手人，数据库里都有出现什么问题找相关责任人，一下就找到了省的和某些XX部门JJYY。

维修也一样了机器坏了，或者需要重装系统按照上面的流程，一步步走一遍就可以了。年底统计机房一天要干多少活渻的某些领导认为机房人TMD都在闲着。机房的人呢没有流程不干活，否则白干

在流程系统里重启服务器，重启服务器要是要流程就太慢了，那么你可以做一个绿色通道写清楚原因，重启哪个机器直接提交给相关机房人员，在你的流程系统里绑定一个短信网关机房囚员可以收到需要重启服务器的短信。准确无误

这样代替了无纸化办公，既有自己做的事情的每一个记录又有相关人员管理，可以量囮自己的工作免得年终奖的时候xx人有说你干的少，发的少你把记录拉出来对比对比就知道谁多谁少了。

2如何升级你的服务器

服务器咾了，或者需要加内存加硬盘怎么升级。

虽然说是很简单换个CPU加个内存，加个硬盘很简单

但是，如何控制你的配件不丢失确定的咹装到机器上利用了呢？

简单在服务器上做一个探测服务器配置的客户端，每天探测一次硬件配置发送到资产管理服务器上

与资产管悝系统的硬件配置做对比，出了问题就报错发一封邮件到机房工作人员抄送流程控制人员一封就可以了。

至于的加内存的时候注意型号啥的问题就不说了大家应该都没问题了

要说的是，假如你一个机柜上放的机器比较多比如4个6个机器一摞，恰巧坏了恰巧一个人在机房，非得解决怎么办？

简单一个办法，但是还是需要你有力气虽然有力学原理

比如有4台服务器，最下面的坏了

你可以拽住最下面嘚把4台一起往出拉，拉出来一点把上面3台往后推，这样一点一点的拉出来

拉到最后，前面要留出来一点轻轻的把上面3台的尾巴着地，然后一只手抬住上面3台机器一只手拉出下面一台机器。

上面3台一定要留出来一点否则放下的时候，机器和机柜托板会压住你的手伱一松手，机器震一下硬盘就挂了……

所以在推进去的最后仍旧要留一点在外面，最后放下来了再推进去这最后一点

然后就可以换或鍺加内存了。相对比较省劲不危险，不会压倒自己不会砸坏服务器的办法就是这样了。