一个数据分析系统的技术架构设计浅析 - 范文中心

一个数据分析系统的技术架构设计浅析

08/23

作者:成晓旭

本文是曾经参与的一个大型项目的解决方案的技术架构设计的简要总结与阐释,仅仅分析该系统的众多的内部构件之间的逻辑关系,仅供参考。

数据分析系统的主要功能是从众多外部系统中,采集相关的业务数据,集中存储到系统的数据库中。系统内部对所有的原始数据通过一系列处理转换之后,存储到数据仓库的基础库中;然后,通过业务需要进行一系列的数据转换到相应的数据集市,供其他上层数据应用组件进行专题分析。

因此,从数据被采集、转换、存储、分析、应用的角度对系统内部技术构件进行抽象,将系统内部分为采集层、处理层、应用层、配置层4个逻辑层次。数据分析系统的技术体系架构如下图:

在采集层,主要应用接口适配器、网络文件采集及转换器、ESB总线等技术。接口适配器技术,用于适配各专业系统的数据采集接口,通过接口适配器来屏蔽各专业接口方式的差异性;网络文件采集及转换器,用于从各专业系统的采集文件数据,主要针对特定格式的各类网络数据文件,负责对数据格式进行格式化、规范化等预处理;ESB总线对标准的WebService/JMS接口方式的数据进行采集。

在处理层,主要应用数据持久化、J2EE、BI等技术。关系数据库技术,用于存储系统采集、处理、计算等业务数据,存储系统各类运行参数配置信息,以及其他的运行过程信息;文件服务器,为各类文件型数据提供数据存储和访问服务;J2EE技术,是系统中所有B/S逻辑构件、应用程序、Web服务的容器,为各种B/S组件提供运行环境,并对其生命周期进行管控;BI的元数据管理为各类动态统计分析报表的数据聚合、多维分析、数据加载、数据生产、数据项、计算规则、展示方式等提供配置管理。

在应用层,用于人机交互的主要应用BI、Web等技术。Web技术,提供系统的B/S界面的应用;BI技术,为各类动态统计分析结果提供报表、图形、仪表盘等丰富的展示方式;用于系统交互的ESB总线技术,以数据总线的方式发布WebService调用、或者下发JMS数据,通过统一的数据发布系统为外部系统提供服务数据共享服务。

在配置层,主要应用ETL可视化可配置平台、规则引擎、工作流引擎等技术。ETL可视化配置技术,用于提供可视化、可配置的ETL数据抽取、转换、加载的处理,主要针对数据库数据、FTP标准文件格式的数据或者经过网络文件采集及转换器预处理过的中间数据;规则引擎部分为采集成各类适配及采集器提供配置数据的集中管理,包括提供接口文件的采集目录、文件名规则、数据项约定以及ETL数据抽取规则等的配置管理;工作流引擎,提供从数据采集接口配置、采集数据项、ETL参数配置、指标关联映射、BI参数关联映射等全过程的流程化配置向导。


相关内容

  • 蜂窝移动通信关键技术及市场发展
    蜂窝移动通信关键技术及市场发展 摘要随着现代社会的快速发展,科学技术的发展也日新月异,而通信技术方面的技术变革,更是站在当今发展最快的技术变革行列的前茅.蜂窝移动通信已成为世界范围内的一项非凡成功之作,其发展如此迅速以致业务需求远远超过了原 ...
  • 浅析现代商业空间设计
    浅析现代商业空间设计 -展示空间设计现状和趋势 商品展示设计是一传达商品信息.招引顾客的为主要目的有计划的设计:是将商品的内容通过不同的方式和技巧设计的形式传达给消费者,进而达到销售的目的. 随着经济的发展,社会文化水平的普遍提高,人们对商 ...
  • 浅析时代背景下企业信息化成熟度阶段分类模型
    浅析时代背景下企业信息化成熟度阶段分类模型 摘要:企业间的市场竞争日益激烈,企业要在市场上立足并占据 一席之地,不仅要具备产品质量等方面的硬实力,在信息技术这样 的软实力上也必须"过硬",企业在信息技术应用的不同阶段,其 ...
  • 雅居乐物业管理公司物管中心工作策划方案
    05.06年物业管理中心工作策划 05.06年是物业管理中心筹建.启动到实施中心与项目双线管理的关键时段,期间,物业管理中心各项工作的开展效果,将直接影响集团对物业管理中心与项目双线管理制的贯彻效果,同时,对物业管理中心的威信.后续发展以至 ...
  • 山地城市交通规划的思考
    山地城市道路网规划的思考 喻建 文章摘要 复杂的地形地貌制约了山地城市道路网规划布局和定线.为了发挥山地城市道路规划设计在城市规划中的地位和作用,本文对山地城市道路网规划中一些思路与方法进行探讨,并提出一些较成功的山地城市道路网规划设计实例 ...
  • 软件公司各岗位职责
    岗位:项目经理 主要职责: 1. 计划: a)项目范围.项目质量.项目时间.项目成本的确认. b)项目过程/活动的标准化.规范化. c)根据项目范围.质量.时间与成本的综合因素的考虑,进行项目的总体规划与阶段计划. d)各项计划得到上级领导 ...
  • 浅析高等院校学籍管理系统设计与开发的重要性
    龙源期刊网 http://www.qikan.com.cn 浅析高等院校学籍管理系统设计与开发的重要性 作者:孟玉倩 来源:<新课程学习·下>2015年第03期 随着科学技术的快速发展和网络的普及,我国教育的信息化建设也已经在全 ...
  • 人工智能在自动控制中的应用浅析
    人工智能在自动控制系统中的应用浅析 姓名:蔡志威 学号:2011080911 专业:电路与系统 摘 要:现如今,计算机技术已经成为全球最普及的信息技术, 人类的大脑是最为发达的机器,计算机所有的编程都是效仿人类的电脑,对其信息进行采集.分析 ...
  • 物联网对智慧城市长效发展的意义
    [摘 要]本文章针对城市化发展现状,分析城市化发展进程中的问题,通过物联网技术在智慧城市中的应用,针对推动城市化发展,解决可持续性,节能和精细动态管理等问题,提出了物联网的规划设计思路以及应用案例. [关键词]物联网:城市化:发展 中图分类 ...
  • IT架构五项基本原则
    随着业务的发展,企业越做越大,出现了许多分支机构,这意味着可能横跨了一个地区.一个国家或遍布世界各地,有一点是可以肯定的:不是所有运营都是在总部完成的,大约2/3的员工都在总部以外的地点.估计现在世界上有4.5亿移动工作者. 商机.人力和资 ...