当前位置:首页 > 头条相关 > 正文

优化集群性能管理 实现大数据可视化

2013-11-27 D1Net 编辑:佚名

  2013年全国高性能计算学术年会(HPC China 2013)在广西桂林香格里拉酒店召开,本届会议以“高性能计算与大数据”为主题。会上,北京并行科技有限公司以“大数据、可视化,开启HPC的多彩视角”为参会主题,演示了并行科技最新的大数据可视化利器Paramon应用运行特征收集器以及Paratune应用运行特征分析器。

  北京并行科技总经理陈健发表了《高性能计算应用运行过程的快速数据采集、分析和可视化》的主题演讲,经历了6年时间,并行科技已经与众多能源、制造、航天、气象、教育科研、电信、金融等领域用户进行大量应用测试。

  优化集群性能管理 实现大数据可视化

  在HPC China 2013大会召开前夕,并行科技Paramon v4.0正式发布,通过对用户管理的反馈,并行科技总结出十种颜色来代表具有高对比度、易于分辨的性能指标,进行HPC集群和Hadoop集群的数据采集和分析,并在此过程中实现大数据的可视化。

  此外,Paramon v4.0针对普通用户增加了较为重要的特性,以往的Paramon只针对管理员,而新版Paramon增加了普通用户使用模式,并行科技也希望将Paramon打造成一款普适软件,便于普通用户安装使用。

  并行科技自主研发的机群性能及应用运行特征分析软件Paramon可视化的指标包含4个区域:CPU区域、内存(Memory)区域、磁盘(Disk)区域、网络(Network)区域。Paramon软件采用了十种颜色来对性能指标进行可视化,其中CPU总利用率所占的百分比采用深绿色;Gflops占峰值的比例采用浅绿色;内核态占CPU时间百分比和等待IO请求占CPU时间百分比采用酒红色;CPU内存使用率采用暗黄色;内存带宽采用亮黄色;SWAP使用速率采用亮红色;网络发送速率采用粉色;网络接收速率采用青色;磁盘读速率采用橙色;磁盘写速率采用湖蓝色。

  随着Hadoop大数据方案在金融领域逐渐被接受,陈健表示,并行科技Paramon、Paratune在指导银行进行设备选型和系统实施方面发挥了无可比拟的作用,进一步开辟了并行科技在金融领域的广阔市场。

  Paramon对银行系统Hadoop中的数据导入HDFS、Hive数据仓库MapReudce作业、Oozie工作流MapReduce作业进行应用运行特征采集,并通过Paratune应用运行特征分析软件对特征数据进行分析,以可视化的方式展示出Hadoop大数据方案在不同运行场景下的资源依赖。

  通过对前期测试环境的数据采集和分析,Paramon、Paratune可视化性能数据已为银行的IT技术团队直观地建立了Hadoop大数据方案在不同运行场景下的性能模型,为Hadoop大数据方案的成功实施和进一步的性能优化提供充分的理论和数据支持。随着数据采集、分析的不断进行,金融行业对并行科技Paramon、Paratune的应用将加速Hadoop大数据方案的成功上线和应用。

  推动并行应用优化人才培养

  大会期间,由英特尔(中国)有限公司和中国计算机学会高性能计算专业委员会主办,北京并行科技有限公司承办的“2013全国教育科研并行应用程序优化大赛”正式迎来了决赛的角逐。

  一共有8支来自国内各高校及中科院的精英团队进入了决赛,陈健表示,决赛评判的标准是向参赛者提供一个现实生活中可用性较高的程序,参赛队尽可能地使用Intel Xeon Phi以最短的时间优化程序,用时最短的即为优胜者。

  经过紧张激烈的角逐,最终国防科技大学计算机学院以其优异的并行程序性能夺得桂冠“微异构优化奖”,中国科学技术大学和清华大学计算机系位列第二名,分别获得“微架构优化奖”和“多线程及MPI优化奖”,另外五支队伍山东大学、西安邮电大学、中科院计算所、中科院软件所、中科院超算中心获得“并行应用优化奖”。

  竞赛评审委员会共同主席、中科院计算所所长孙凝晖表示:“教育科研参赛团队在此次大赛中表现的编程与优化水平是我们所喜闻乐见的,高性能计算行业将会在各高校精英的创新推动下稳步发展。”

大家都爱看
查看更多热点新闻