一种实时集群系统负载均衡通用模型的研究及应用

论文摘要

近年来,随着计算机网络的迅猛发展,系统的访问量和用户量飞速增长,同时业务量以及用户需求的多样化使得业务逻辑和事务的处理日益复杂,服务器集群技术将多台服务器连接在一起利用负载均衡算法将大量的业务处理在多个服务器之间合理分配,大大提高了整个系统的处理能力、负载能力、可靠性、灵活性。本课题源自研发电信业务支撑智能网CAP协议解析平台集群系统。考虑电信业务系统信息量大、并发量大、业务逻辑复杂、系统要求的实时性高等诸多特点,积极寻求高效的解决方案。针对传统服务器集群多进程轮询服务器方案系统资源占用率高、效率低下、系统扩展性差等特点,本文提出一种基于线程池技术动态反馈负载均衡集群系统方案,经测试设计性能上符合电信级软件高可靠性、稳定性标准。研发完成后针对系统设计抽象提取出一种实时集群系统负载均衡通用模型,该模型方案在请求响应模型的服务器应用如及时通讯、大型网游等领域有广泛的理论意义和实用价值。主要的工作包括:首先,设计实现了一种改进的动态负载均衡算法平衡各服务器的系统负载。本文研究了各种负载均衡算法原理和实现机制,结合应用需求利用UDP协议和探测法获取各服务器负载信息加权计算并统计各服务负载信息,将计算任务发给负载最低的服务器进行业务运算和处理。其次,本文结合线程池技术实现原理,重新设计符合实际应用需求的线程池的各相关数据结构,同时提出一种用对数幂渐增变化算法实现的动态可伸缩线程池。线程池采用预创建池化技术,通过多个任务重用多个线程,多个线程处理多个任务,使系统响应更快,提高了系统的实时性。线程池通常采用固定线程数目的线程池,但其不能真实反映系统性能的变化,为适应业务请求的突发变化,本文提出基于上述算法实现的动态可伸缩的线程池。再次,结合一种改进的动态反馈负载均衡算法和对数幂渐增变化算法设计的线程池技术提出一种实时集群系统通用框架模型,阐述了实时集群通用模型的框架设计思想、软件架构设计和相关模块的原理及实现。最后将模型应用于电信业务支撑系统中智能网协议CAMEL应用部分CAP协议操作解析和编码的服务器软件系统中,测试结果显示该设计符合系统设计的目标。此后对课题设计过程进行总结,指出了当前研究工作中不足之处和需要进一步完善的地方。

论文目录

• 摘要
• Abstract
• 第1章 绪论
• 1.1 研究背景
• 1.2 课题来源及研究意义
• 1.3 实时集群的研究现状
• 1.4 本文主要工作
• 1.5 本文章节结构
• 第2章 负载均衡技术
• 2.1 负载均衡技术的引入
• 2.2 负载均衡算法
• 2.2.1 静态负载均衡算法
• 2.2.2 动态负载均衡算法
• 2.3 应用负载均衡的原则
• 2.4 本章小结
• 第3章 线程池技术及其实现
• 3.1 线程池技术的引入
• 3.2 线程池实现策略
• 3.2.1 线程数目固定的线程池
• 3.2.2 线程数目动态变化的线程池
• 3.3 线程池技术实现
• 3.3.1 线程池主要数据结构的定义
• 3.3.2 线程池的技术的实现流程及原理
• 3.4 基于对数幂渐增算法的线程池
• 3.4.1 对数幂渐增算法
• 3.4.2 算法分析
• 3.5 线程池技术实现优化
• 3.5.1 线程池中线程数目的优化
• 3.5.2 线程池技术实现的策略优化
• 3.6 线程池技术使用风险
• 3.7 本章小结
• 第4章 一种实时集群系统的通用模型
• 4.1 实时集群系统通用模型的框架设计思想
• 4.1.1 通用模型功能实现分析
• 4.1.2 通用模型性能分析
• 4.1.3 通用模型实现技术可行性分析
• 4.2 实时集群系统通用模型架构实现
• 4.2.1 实时集群系统接入点软件架构
• 4.3 通用模型系统各模块单元实现原理
• 4.3.1 请求接收线程
• 4.3.2 线程池设计与实现
• 4.3.3 工作线程与状态机
• 4.3.4 socket 消息发送线程
• 4.3.5 socket 消息接收线程
• 4.3.6 计算结果响应发送线程
• 4.4 本章小结
• 第5章 通用模型在电信业务系统中的应用
• 5.1 电信网络 SS7 七号信令系统
• 5.1.1 SS7 七号信令
• 5.1.2 SS7 信令结构及协议栈
• 5.2 SS7 七号信令在移动智能网CAMEL 中的应用
• 5.2.1 CAP 协议在七号信令协议栈中位置
• 5.2.2 CAP 协议消息的原理
• 5.2.3 常用 CAP 操作
• 5.2.4 CAP 操作形成的呼叫流程
• 5.3 系统的总体设计
• 5.3.1 系统物理结构设计
• 5.3.2 系统逻辑结构设计
• 5.3.3 主要数据结构设计
• 5.4 CAP 协议解析系统设计与实现
• 5.4.1 程序主线程设计与实现
• 5.4.2 板卡消息接收线程设计与实现
• 5.4.3 工作线程及其状态机设计与实现
• 5.4.4 SOCKET 发送线程设计与实现
• 5.4.5 SOCKET 解析线程设计与实现
• 5.4.6 SOCKET 接收线设计与实现
• 5.4.7 响应消息发送线程设计与实现
• 5.5 系统性能测试结果及分析
• 5.6 本章小结
• 结论与展望
• 参考文献
• 致谢
• 附录 A 攻读学位期间所发表的学术论文目录