探析Linux操作系统高性能集群监控

会计考友

监控是集群治理的核心任务。监控数据可用于调度任务、负载平衡、向治理员报告软硬件故障，并广泛地控制系统使用情况。监控必须在不影响集群性能的情况下获得。本文将讨论使用/proc文件系统和Java来获得监控数据的方法。
8 O4 W1 ?% F) h+ \/ |, r) P　　Java在Linux集群中的应用
/ F/ U! q% J  Q3 b$ o* g% o9 ]7 ~- [　　Java技术为集群治理开发者提供了许多解决问题的办法。Java是动态、灵活、可移植的，这些不平常的特征使得它成为了在异构网络及平台上构造集群治理的理想基础。
　　Java具有广泛的例程库，很轻易处理IP协议，如TCP、UDP，并可在multi-homed主机上进行网络程序设计，用它创建网络连接比用C或C＋＋更轻易。通过Java本地接口（JNI），运行在Java 虚拟机（JVM）内的Java代码能够与用其它语言编写的应用及库文件相互操作并汇编。
8 g4 S2 j( X2 N. W( k/ V　　在构造集群监控和治理时，Java早已是一个可选的语言。然而，Java语言通常只被用于系统的前端或集群主机部分，而将用C 语言编写的守护进程安装在集群结点上。尽管Java程序设计语言提供了许多优点，但是，对于高性能集群监控，Java能够有效地替换运行在每个结点上的C 语言守护进程吗？这将是本文讨论的重点。
  k& s9 R* U# t) B! t. v　　高性能监控
　　监控Linux集群工具传统上以秒为测量频率来提供有限量的数据。而高性能集群监控被定义为“以intrasecond为测量频率，从结点有效地采集数据的能力”。当涉及较大集群时，监控软件的低效率问题就变得更加严重，这是因为所运行的应用软件必须互相协调或共享全局资源。
　　在一个结点上的阻隔冲突（Interference）能影响其它结点上作业的运行。例如，一个MPI作用需要与所有参与的结点同步。一种解决办法是收集少量的数据，并以小频率传输。然而，假如是高性能监控，这种解决办法是不可接受的，因为有较重利用率的集群应该被频繁持续地监控。本地作业调度器必须能够基于资源使用情况做快速决策。治理员经常希望收到紧急事件的立即通知，并希望观察到历史趋势数据，假如集群不能被频繁持续地监控，那么这些要求是不可能实现的。因此，必须采取一些措施，如使用更有效的算法、增加传输的并行性、提高传输协议及数据格式的效率、减少冗余等。
+ D% a. A, X: q( N- U　　在跟踪运行中的资源使用情况时，压缩Profiling应用有助于调试程序或优化程序。对一个给定的应用而言，像存储器、网络、CPU这样动态资源的使用可能快速地改变着，为了能够观察应用是怎样使用这些资源的，一种可能的办法是使用高频率的监控。
　　即使用户对高频率监控没有爱好，假如算法是有效的，不管监控频率是多少，它也将消费很少的资源。在异构集群中这种效率将更重要，用户的作业可以被分散到较快的及较慢的结点上，慢的结点需要全部CPU来跟上较快的结点并与之同步。一个监控程序花费在较慢结点上的CPU时间是作业的关键路径。
( y6 v9 F3 @% l  W　　监控阶段
　　集群监控主要消耗CPU周期与网络带宽这两个重要资源。然而，资源消费问题与这两个资源是根本不同的。CPU利用问题对结点而言是完全本地化的问题，可通过创建有效的收集与合并算法来解决。网络带宽是共享资源，是规模问题，可以通过最小化网络上传输的数据量来解决。
" ?5 N2 Y; s1 e, d. m　　为了解决这两个问题，我们将集群监控分为三个阶段：收集、合并、传输。收集阶段负责从操作系统装载数据、分析数据值，并存储数据。合并阶段负责将来自多个数据源的数据合在一起，决定数据值是否改变并过滤它们。传输阶段负责压缩并传输数据。本文集中讨论Linux集群监控的收集阶段。
　　1．收集阶段
　　Linux有几种方法来进行系统统计，每种方法都各有其优缺点。
9 ^! k/ b( v! O6 u4 R7 b  F　　使用现有的工具
2 s* G. u; D( s5 ]% R　　标准及非标准工具能执行一个或多个收集、合并及传输阶段，如rstatd或SNMP工具，然而标准的rstat后台程序提供的是有限的，速度慢而且效率低。
　　内核模块
　　几个系统监控工程利用内核模块来存取监控数据。一般情况下，这是很有效的收集系统数据的方法。然而这种方法存在的问题是，当主内核源内有其它改变时，必须保持代码一致性。一个内核模块可能与用户想使用的其它内核模块相冲突。此外，在使用监控系统之前，用户必须获得或申请模块。
" m$ Q1 b$ U$ v6 x( x5 E# ~　　/proc虚拟文件系统
　　/proc 虚拟文件系统是一个较快的、高效率执行系统监控的方法。使用/proc的主要缺点是必须保持代码分析与/proc 文件格式改变的同步。事实表明，Linux内核的改变比/proc 文件格式的改变要更频繁，所以，用/proc虚拟文件系统比用内核模块存在的问题要少。
　　混合系统
5 d" \0 j* H% b$ q* L　　某些监控系统采用混合方式，用内核模块收集数据，用/proc虚拟文件系统作为数据接口。
# }: Q/ g7 l0 P3 `5 Q6 A　　2．合并阶段
" A/ B' L/ j" E　　合并阶段的实现可以在结点上、集群治理的主机上，或者分布在两者上。考虑到效率，我们只采用在结点上的合并。原因在于结点是监控数据的收集器与提供者。两个或多个同时的数据请求不会引起两次操作系统调用来收集数据，而是将第一次请求获得的数据缓存，并可以提供给第二次请求调用。这种方法减少了操作系统的负担，提高了监控系统的响应性。合并阶段也可以用于将多个数据源的数据以相互独立的收集速率结合，因为并不是所有的数据都以同样的速度改变，或者需要以同样的速率收集。
% g9 B3 K% F% S1 t0 T* N! v" B　　使用在结点层上合并的另一个原因是，减少了包括传输在内的量。许多/proc文件既包含动态数据也包含静态数据。删除最近一次传输后没有改变的值，一个结点发送的数据量可以大大地减少。合并不仅除去了不经常改变的动态值的传输，也解决了从不改变的静态值的传输。

会计考友

　　3.传输阶段
, x2 ~, J0 w  k- `6 F　　监控数据几乎总是按一个层次结构组织起来。传输阶段的任务就是将层次数据进行有效的编码，形成一种能高效传输的数据格式。Java拥有的文件格式是存储层次数据的有效方法，并且用提供的Java APIs很轻易完成。S-Expressions已经被认为是传输这种数据的另一个有效的方法。
0 e0 U9 c/ m. N* @" k- F　　关于传输监控数据普遍讨论的问题是，数据应该按二进制编码还是按文本格式编码。二进制数据更轻易压缩，因此也能更有效地传输。但是，当采用/proc文件系统时，监控数据通常以人们易读的格式存储。在传输之前，将数据转换为二进制格式将需要更多的处理资源与时间。以文本格式保留收集的数据，结点资源能被用于更多非监控性的相关工作。
　　采用文本格式的数据将提供如下额外的益处：
　　平台独立性
" Q0 n1 q; W! r; c1 I( L8 l$ |9 T) j　　当监控异构集群时，机器之间数据字节指令的配置不是永远相同的。文本格式的使用在代码方面解决了这个问题，而且体系结构独立不会影响更多的处理需求。
" U0 x* G$ k. \6 }5 ?　　易读的格式
　　文本数据能以人们易读的格式进行组织。假如需要的话，这种特征能轻易地进行程序调试或答应用户观看数据流。
- |6 ?) T. L, @3 X. [# J+ H　　有效压缩
　　数值数据的文本表示由来自10个字节集中的字符组成，而不是二进制下的256个字节集。它们产生的数字及模式的相对频率答应有效地使用基于压缩算法的字典及熵（平均量）。
) n# s8 E8 l: ?) l　/proc虚拟文件系统
　　/proc虚拟文件系统（也叫procfs）是Unix操作系统所使用的虚拟文件系统的Linux实现，包括Sun Solaris、LinuxBSD。在/proc开始时，它以一个标准文件系统出现，并包含与正在运行的进程IDs同样名字的文件。然而，在/proc中的文件不占用磁盘空间，它们存在于工作存储器（内存）中。/proc最初的目的是便于进程的存取，但是现在，在Linux中，它可被内核的每一部分使用来报告某些事情。
. G0 x7 E+ w5 B, }9 P- C　　在/proc文件系统提供的成百上千的值当中，我们将集中考虑集群监控所需的最小集，它们包括：
# Z5 m. v3 [1 X; y　　/proc/loadavg：包含系统负载平均值；
/ X  A" j$ n2 k　　/proc/meminfo：包含存储治理统计量；
　　/proc/net/dev：包含网卡度量；
' S8 S6 e8 i6 K! H' O. z8 O　　/proc/stat：包含内核统计量；
. ]) o8 z8 Z) [　　/proc/uptime：包含总的系统正常工作时间及空闲时间。
+ {' \& y% Y5 [4 v" }　　每个文件提供的值的数量是不同的。这些文件的完整有效值列表如下。
　　/proc/loadavg提供以下数据：
# [" Q7 L* _3 f0 H' b- T& {! U8 k+ N　　1秒钟平均负载；
　　5秒钟平均负载；
　　15秒钟平均负载；
　　总作业数；
5 O! q2 o# a* g7 I: N' T# `! M9 M# h　　正在运行的作业总数。
　　/proc/meminfo提供的存储器包括：
2 j/ @+ p5 N$ K, t8 d8 h3 x　　活动存储器；
　　不活动存储器；
) C+ h( e2 I0 s　　缓冲存储器；
　　高速缓冲存储器；
" ]" m6 o& l, Y2 [' d　　总的自由存储器；
　　总的高位存储器；
7 S* P/ o4 X2 k3 t. x　　自由高位存储器；
. R2 f5 M/ @2 d　　总的低位存储器；
& B8 K) s9 s/ U. }& p7 r+ a　　自由低位存储器；
8 f, u6 b0 \" h/ D7 I8 ]$ d　　共享存储器；
7 @$ M5 C( R! {& B3 d　　交换存储器；
$ [% l( U- o3 [- w! c2 g　　交换高速缓冲存储器；
$ M/ Q1 q# \; F% t8 O9 J　　交换自由存储器；
; c  \% w9 k  R8 b2 r2 H% ^　　总存储器。
, [4 w9 i3 ~4 Z" V# g　　/proc/net/dev中包括每个网卡的如下数据：
　　接收到的字节；
　　接收到的压缩字节；
6 M8 _; m: l: b: @$ T& y8 n/ g( o- z* A　　收到的误码数；
1 `2 A  o; C8 v　　收到的漏失误码；
　　收到的FIFO误码；
- J/ m3 T6 k8 U+ S　　收到的帧误码；
5 ^0 t& M! ^! Y% C$ J% z9 z) D　　收到的多播误码；
! I5 V  @/ q. n& c0 Y& H　　收到的总包数；
+ j- }; ]! Q5 v( D　　已传输的字节；
　　已传输的压缩字节；
! o; s" d; w: q- E1 X　　传输误码总数；
8 `) I1 c6 W  D) a& i+ k　　传输载波误码；
. P8 `* v2 g$ A7 z' d  \　　传输冲突误码；
　　传输漏失误码；
' E1 _1 ^6 ~5 O1 |# Y( e4 p; n　　传输FIFO误码；
　　传输的总包数。
) |' Y# M$ ?8 Z' S9 y　　/proc/stat提供：
+ k* g/ B) }8 x1 h0 W　　引导时间；

会计考友

　　上下文切换数量；
　　中断总量；
# h# z8 V1 f4 Z! o! j( B4 l　　进页面总数；
　　出页面总数；
　　进程总数；
( k& l" H' E1 S5 t. o5 |4 j0 [　　换入总数；
6 q' Q! C; m9 V1 L' V9 ?) Y4 ^# o　　换出总数；
* p) F4 I: B% h' e　　合计CPU空闲时间；
) ~4 {% O; z* s1 u　　合计CPU nice时间；
7 I0 O. m! v9 U& ^4 _　　合计CPU系统时间；
6 B1 ?# ?" {1 o: Q  {/ C6 T, Y- F　　合计CPU用户时间。
　　同时提供对每个CPU的:
% ?; }3 _/ c# j. {( O　　单个CPU空闲时间；
　　单个CPU nice时间；
0 H' a" V- S& H4 N% v" M) D　　单个CPU系统时间；
　　单个CPU用户时间。
　　以及对每个磁盘驱动器的如下数据：
* s8 z9 e' ]% E: Q9 m% u* w6 a　　单个磁盘块读；
9 E& ^9 g$ c' F& a　　单个磁盘块写；
　　单个磁盘I/O总数；
% p% [2 K& o9 \& z4 @7 x　　单个磁盘I/O读；
5 y1 H+ @' m/ o3 b: f7 o$ i　　单个磁盘I/O写。
　　/proc/uptime中包括：
0 C: J8 y6 D$ a- ?6 ^　　系统总工作时间；
　　系统总空闲时间。
　　值得注重的是，每次某个/proc被读时，一个句柄函数都被内核或特有模块调用，来产生数据。数据在运行中产生，不管是读一个字符还是一个大的字块，整个文件都将被重建。这对效率是至关重要的一点，因为使用/proc的任何系统监控器将吞下整个文件，而不是一点一点地处理它。
  F( ]2 p5 q, I　　Java提供了丰富的文件I/O类集，包括基于类的流、基于类的块设备，以及J2SDK 1.4提供的新的I/O库。实验表明，一般而言，对基本的块读写文件操作，用RandomAccessFile类进行I/O是最佳的。例如，块读文件操作如下：
0 w9 o) c  @% j　　mFile = new RandomAccessFile;
+ M% x6 f9 ?* J. f6 z& K　　//以读方式打开文件
% I! m- R& C& I$ X  [) `; K　　mFile.read; //读文件块
  r  z* U$ g- m　　结论
　　本文讨论了如何将Java语言有效地用于Linux集群结点上的高性能监控。在程序设计中，要注重以下方面：
  `9 w- v% j0 X3 a1 q　　采用/proc文件系统；
　　以块形式读/proc文件，而不是以行或字符形式；
# ^! I3 \- Y6 k+ M. [0 G0 O7 W: g7 C' ]6 |　　在读文件期间保持文件打开；
, x' v/ p& U6 @/ {+ Q8 c+ T　　消除不必要的数据转换；
5 Q) C/ N# S9 |* o' y　　在结点上合并数据；
& K$ y: h* R9 P7 m6 T; T　　以压缩形式传输数据；
' z# A# z+ X" A1 C' P0 Q0 U, G　　注重与性能问题相关的语言或库。
　　对高性能监控而言，内核模块不是必要条件，这点很重要，因为它在Linux版本和分类之间提供了很大程度的可移植性，在监控器实现语言上有很多的选择。但是，/proc文件系统的性能却很依靠内核代码的效率，因此，适当地理解有关的机制将对以任何语言编写的监控器性能有非常大的影响。