大数据如何重塑政府数据中心 行业资讯

2014-02-25    来源:D1Net    编辑:佚名
大数据所带来的影响几乎无处不在,不管是高性能的计算机领域,还是大城市的运营和规划部门,大量的数据在各地喷涌而出。

  大数据所带来的影响几乎无处不在,不管是高性能的计算机领域,还是大城市的运营和规划部门,大量的数据在各地喷涌而出。

  但,有一个因为大数据而产生实质性影响的领域却较少得到了关注:那就是数据中心自身,技术经理普遍认为大数据会逐渐对传统数据系统和实践进行重塑。

  大数据是指超大型数据集的处理问题,这挑战了传统数据管理和分析技术。这些大数据集的增长,以及从中提取价值的必要性,都迫使机构开始使用诸如Apache基金会的Hadoop分布式计算框架、柱状数据库以及其他大数据管理的解决方案。

  这些技术的采用,反过来,也逐渐重组了数据中心,包括部署更多融合计算基础架构,改变数据中心流量模式,以及改变基本的存储成本。

  鉴于惊人的数据增长,政府机构对大数据管理的兴趣并不令人意外。惠普大数据和云计算解决方案的策略师Van Young,引用IDC的数据表示,与2012年的1.8ZB数据相比, 到2020年,全球数据将计划达到40ZB(10万亿字节)。

  在政企市场,这种规模的数据管理已经开始对传统的IT系统发起挑战,并且会促进数据中心管理者采用几年前被认为是非常另类的解决方案。Young最近在美国政府部门合作伙伴的大数据会议上表示,“你需要配置一些新科技。”

  变革的推动者:Hadoop

  Hadoop在一众新晋技术中显得非常引人注目。这一开源软件框架包括Hadoop分布式文件系统(HDFS),它将大数据集分发到Hadoop集群的服务器里。Hadoop的另一个关键是MapReduce,它提供了跨集群的分布式数据处理。这种结构使得数据和处理资源一直保持很近的距离。

  Hadoop集群服务器通常以千兆以太网或10千兆以太网进行相互连接。所有这些Hadoop架构内的新技术正在朝融合数据中心架构的方向发展。

  “当你想到Hadoop的时候,是存储、服务器和网络,以及它们之间集群通信的结合。”Young认为这是Hadoop与先前各自孤立的服务器和存储管理的不同之处。

   “Hadoop改变了数据中心基础架构的前景。”Young认为,“融合架构才是真正的关键。”

  不过,Hadoop的影响在每个政府机构中大相径庭。博思艾伦汉密尔顿策略创新集团的总裁Peter Guerra认为,许多联邦机构正在试水Hadoop。一些机构正努力把Hadoop作为数据中心日常运营的一部分。

  数据中心生态系统的变化

  不过,Hadoop已经被证明在其他一些机构中会改革得更加彻底,特别是在国防部,Gueera表示,一些联邦机构选择用Hadoop替代了传统的NAS和SAN技术。

  “我们已经看到客户针对长期数据存储需求,弃用了NAS和SAN结构,转而偏好大型的Hadoop集群。”Gueera表示。这在政府机构中已经成为一种模式,在关键业务领域把Hadoop作为企业技术来部署。

  数据中心的存储并不是唯一被大数据所影响的部分。作为惠普大数据存储和云计算解决方案的策略师,Robert Wisnowski认为大数据同样改变了数据中心的流量模式。Hadoop节点之间的集群通信采用了东西向模式,而不是原来的南北向模式。南北向模式在传统的数据中心里表现得更为典型。

   “所以这些都是要时刻谨记和多加考虑的,因为这意味着你的数据中心所受到的影响。” Wisnowski表示,“我忍不住想要奉承下(这个新模式),更简单的数据中心结构不仅会提高性能,而且还能减少延迟和降低成本。”

  不同的是,在另一些情况下,大数据系统可以借由数据中心升级,来完成大数据的独立进化。EMC联邦部门首席技术官Rich Campbell表示,他们的主要政府客户正在进行从千兆以太网到10千兆以太网的迁移。

  他还表示,这些升级并不一定要与大数据一起进行规划,但是大数据技术会利用到新网络。同样地,拥有虚拟服务器的政府机构也为大数据提供了可以利用的资源。他解释道:“不需要更多的服务器,只要以不同的方式使用它们就可以了。”

  数据中心中的大数据技术还带来了另一个影响:降低成本的潜力。一个传统的企业数据仓库可以使用提取、转换和加载(ETL)工具来整合不同数据源,还可以进行数据转换。

  但Guerra却认为这个过程是复杂、耗时以及相当费钱的。相比之下,Hadoop,可以在分析之前实现数据的整合。在一些情况下,这可以减少政府机构对数据整合和ETL工具的使用,Guerra表示这可以节省软件许可成本。

  Wisnowski认为,融合大数据基础架构同样也可以节省资金。整合存储和服务器的行为可以让IT机构降低成本。而且,他认为融合系统,可以实现更少的碳足迹,降低电力费用和冷却费用。

1
3