Elastic做客选型宝,分享PB级大数据实时处理解决方案

发布者:EtherealGlow最新更新时间:2018-11-23 来源: eefocus关键字:Elastic  大数据 手机看文章 扫描二维码
随时随地手机看文章

近日,Elastic中国区总经理王刚Galen、首席架构师吴斌做客选型宝直播间,与CTO和CIO们分享企业如何实现PB级大数据实时处理。作为全球最流行的开源数据搜索与实时分析技术,Elastic数据平台以灵活部署、平滑扩展、安全性强、适用场景广的特点,在全文检索、地理位置、全栈监控、机器学习等各类数据应用场景中大显身手,受到互联网企业、金融电信乃至政府机构的青睐。

 

Elastic Stack数据平台由Logstash、Beats、ElasticSearch和Kibana四大核心产品组成,在数据摄取、存储计算分析及数据可视化方面有着无可比拟的优势。首先,Logstash和Beats作为底层核心引擎组成数据摄取平台,可以将数据进行标准化,便于后续分析使用。其中,Beats作为轻量级的数据搬运工,集合了多种单一用途数据采集器,将数据发送给Logstash或ElasticSearch,其可扩展的框架及丰富的预置采集器将使工作事半功倍;Logstash 是开源的服务器端数据处理管道,可同时从多个来源采集、转换数据,并将数据发送到存储库中。在存储、计算和分析方面,ElasticSearch允许执行和合并多种类型的搜索,解决不断涌现的各种用例,并具有极高的可用性及容错性,充分保障集群安全。Kibana作为用户界面的核心,集成了丰富的可视化工具、界面交互开发工具和管理工具,帮助开发人员将数据轻松分享给任何人,甚至还能通过机器学习来监测数据中的隐藏异常并追溯其来源。

 

以这四大核心产品为基础构建的Elastic数据平台实现了数据实时性、相关性及扩展性的完美结合,不仅可以处理各种数据,还能深入挖掘数据的内在关联并迅速呈现,彻底解决企业的大数据实时处理难题。

 

目前,Elastic数据平台已广泛应用于各行各业,客户包括eBay、Facebook、Uber、微软、思科、大众汽车、携程、招商银行,联想及政府机构等。在开源产品的核心功能之上,Elastic数据平台为用户提供系统安全、数据告警、全栈监控、报表分析、图查询和机器学习六大付费商业化的功能。以数据告警为例,Elastic数据平台提供了基于时序性数据的告警、集群全局监控和自动生成报表等功能,帮助用户迅速完成分析并做出决策,实现最大程度止损。Elastic数据平台的机器学习及图查询特性可以自动检测当前数据中的异常情况,逐级追溯至底层数据,厘清数据关联,以图的形式展示给用户。

 

基于这六大功能,Elastic数据平台在搜索、地理位置、内部日志、数据指标、安全监控和APM应用性能管理等场景颇具亮点。作为一个强大的分布式搜索引擎,Elastic数据平台提供了对多种语言的支持,可以实现模糊查询、词根查询及联想查询,而不仅是全文快速检索。如果用户业务数据中存在地理位置信息,并叠加有其它多维数据,Elastic数据平台将应用新型数据结构进行存储,从而实现高效检索。当用户的手机端应用遇到线上高并发的问题时,Elastic数据平台可以快速拉起多个协调节点应对数据高峰,且不必担心性能问题。在面对企业内部日志时,Elastic数据平台中的Beats数据收集器将进行统一管理,使用预置或度身定做的数据模型进行分析,通过Kibana呈献给终端用户。此外,以各类事件信息为基础,Elastic数据平台提供了目前市场上独有的APM应用性能管理体系,可通过对全量数据的串联分析轻松发现应用的性能瓶颈。

 

为帮助订阅用户充分利用这些强大特性,Elastic不仅可为套件内的商业特性提供指导,亦可提供开源部分的集群架构设计、索引分片设计和集群整体性能优化等服务。通过专家咨询服务团队,帮助客户将Elastic数据平台与自身业务快速融合。更提供了极具弹性的Elastic企业云服务,通过与微软Azure/亚马逊/阿里云等合作,为用户业务的快速增长保驾护航。Elastic企业云可对资源全局进行整体管理,在瞬息之间完成单节点的纵向扩容或多个集群间的横向扩容。不仅大大简化了系统架构,提升了硬件利用率,满足业务增长需求,更凭借完整的安全机制和可靠的性能隔离策略最大化利用资源,直接节省运营费用。

 

另外,Elastic还提供了专业工程师认证服务,以公开课程及私塾培训等多种学习形式,帮助企业开发人员升级进阶,化解实际应用中的各类难题,更增强自身的职场竞争力。

 

自2012年成立以来,Elastic以解决所有实时数据问题为目标,逐步构建出数据处理的完整生态,为用户提供了强大的开源套件、丰富的拓展工具和专业的服务支持。2018年,Elastic成立中国独资公司,贴身服务国内用户。目前,Elastic已于今年10月6日上市,员工达1100余名,订阅客户超5000家,产品的全球下载量突破3.5亿次。


关键字:Elastic  大数据 引用地址:Elastic做客选型宝,分享PB级大数据实时处理解决方案

上一篇:一桥飞架三地,康普助力港珠澳大桥一路畅“通”
下一篇:人工智能时代已来临,但相应法律与道德体系往往发展滞后

推荐阅读最新更新时间:2024-05-03 03:22

从国家电网大数据“云图”看大数据给电力行业带来哪些变革?
中国储能网讯: 今天,大数据、云计算、物联网和移动互联等信息通信新技术正在给传统的行业带来深刻改变,而电力行业将会发生怎样的变革呢?这个被问了无数次的问题,在国家电网公司有了新的诠释和实践。 日前,国家电网公司副总工程师李向荣在接受记者采访时表示,未来电网将是广域范围内的能量传输平台和市场互动平台,是一次能源及终端用户之间的枢纽和桥梁。国家电网公司正积极把握现代能源工业发展方向,以信息通信新技术为支撑,全力打造世界一流电网和国际一流企业。 一张以信息通信新技术为支撑的国家电网大数据“云图”,正在徐徐展开。 大数据助力电网发展 十年以来,国家电网实施的SG186工程在信息化系统建设和应用等方面取得巨大的成功
[新能源]
大数据时代:安防领域的视频检索技术
    视频检索就是要从大量的视频数据中,找出所需要的视频片段,伴随着计算机技术和网络技术的发展,视频检索技术已经广泛应用在视频点播、数字电视、数字图书馆远程教育和远程医疗等领域。     在安防领域,各地平安城市、智慧城市的建设和公共安全领域的信息化建设的推进,都产生了大量监控视频数据,同时高清化和智能化的安防行业发展的趋势,视频数据的数量正在指数级增长。然而,视频数据却又不同于安防领域的其他传统的信息数据。以往的传统信息,经过多年的数据库技术的发展,已经形成了一套完善的基于信息管理系统的管理平台,可以快速准确地对所关心的数据进行检索查询,例如人口信息管理系统,报警平台,车辆管理系统等。而视频数据目前还没有这样有效的管理系统
[安防电子]
物联网未来的挑战要求与预测
物联网市场仍处于起步阶段,但企业急于抓住这个利用数据来提高效率和降低成本的机会。 在企业中使用传感器和仪表的历史与工业发展历史一样古老,但通过网络连接实现信息自动化正在成为标准做法。 工业领域的物联网仍处于起步阶段,大多数企业正在尝试利用物联网功能,尚未将其纳入企业日常运营中。但是,这种潜力不可忽视,物联网提供的数据将彻底改变企业管理,这只是时间的问题。 物联网在企业中的用途 物联网公司Itransition认为企业主要通过实施监测和现场作业这两种方法来运用物联网。首要的也是最具成本效益的方法是将现有设备(包括员工自己的智能手机)整合到专用体系架构中,从而获取相关设备所生成的数据。 另一种解决方案可能包括安
[网络通信]
中国联通研究院廖军:服务商的真正优势是大数据
2012年首届安卓峰会,中国联通研究员终端测试室主任廖军做了精彩演讲。廖军认为,运营商首先做好自己的管道,这是本分。在此基础上才能结合自己的优势提供一些增值服务。其中最重要的优势是大数据。 演讲中,廖军透露,目前中国联通的3G基站已经超过30万座。是最完善的3G网络服务网,不久的将来还有更多的基站将投入使用。 联通研究院的数据显示,目前市场上的3G手机已经占 到55%,而且趋势正在扩大。而3.88亿手机上网用户不可争议的坐上了第一上网终端的交椅。 廖军说,运营商首先做好自己的管道,做好自己的本分。 同时,发挥自己的优势,提供有价值的服务。比如IM互联网与短信结合。 运营商最大的优势是大数据。 只有运营商有庞大的上网接入
[网络通信]
UPS如何利用AI、机器学习和大数据优化业务?
每个驾驶员每天少开一英里就可以每年节省高达5000万美元,这让UPS有充分的动力把技术整合到各个业务领域,以提高效率。根据UPS首席技术官Juan Perez的说法,“在UPS,业务推动着技术的发展。”下面就让我们来看看UPS是如何使用大数据和人工智能(AI)为第四次工业革命做好准备的。 技术助力UPS全球运营 UPS公司成立于1907年,具有拥抱变化、随着新技术涌现而进行变革的悠久历史。使用大数据和人工智能,让这家公司能够成功在全球超过220个国家和地区运营其全球物流网络。平均每天道路上有96000个UPS车辆,在处理多达1900万个包裹。UPS每年在技术上投资近10亿美元,用于提高效率、改善客户服务、支持日益增长的消费者需
[机器人]
国网吉林电力开拓电力大数据商业化运营模式
5月10日,国网吉林省电力有限公司与吉林省地方金融监督管理局及工商银行、农业银行、建设银行、中国邮政储蓄银行等四家吉林省主要商业银行签订“智能电力大数据+金融——助力吉林振兴发展”战略合作协议。此次合作聚合电力大数据资源和银行金融服务资源,共同拓展电力大数据在金融领域的应用场景,实现智能电力大数据产品的商业化运营。 年初,国家电网有限公司确立了“三型两网、世界一流”的战略目标,推动坚强智能电网与泛在电力物联网协调并进,加快构建能源互联网,挖掘大数据价值。在数据应用和变现方面,国网吉林电力结合省情和企业实际,开展了相关探索。 供需双方共同开创新业态 多年来,随着企业信息化和智能电网的发展,电网生产、经营管理、电力
[新能源]
联网设备和大数据普及令芯片产业大幅受益
  联网设备和大数据的不断普及,让 芯片 厂商大受其益。作为科技界默默无闻的存在, 芯片 行业年规模增长到了3520亿美元。下面就随网络通信小编一起来了解一下相关内容吧。    价格上涨   联网设备和大数据的广泛普及,给三星电子、英特尔、高通、东芝等 芯片 厂商带来了新的发展动力。半导体行业也因而出现前所未见的繁荣,需求的增长推升了芯片的价格,同时也给那些能够获得大量存货的公司带来优势。   根据追踪销售和价格的DRAMeXchange的数据,从去年7月到今年3月,两种主要的存储芯片类型(用于内容存储的NAND,以及可给设备提升多任务处理速度的DRAM)的价格分别上涨了27%和80%。   在这两个市场都占据主导地位的三星因
[网络通信]
大数据时代,安防监控领域兼顾AI分析能力的摄像头需要怎样的存储卡?
     大数据 时代带来的数据量可能是超乎你想象的,如果按每年的年复合增长率42%来算的话,全球的数据量到2020年将会达到44ZB,也就是440亿GB。 大数据 带来的就是大存储容量的需求,就安防行业而言,随着4K应用的迅速增长,同时由于还需要实时记录,甚至实时计算和智能识别,因而在存储容量、速度等方面存在诸多挑战。下面就随安防电子小编一起来了解一下相关内容吧。     数据分类及当下关注点     现在产生的大量数据,按照需求来看基本可以分为两类,即 大数据 和快数据(快速数据)。     大数据是从规模上来讲的,例如,数据中心尤其对大容量的存储要求较高。另外,大数据还需要考虑总拥有成本(TCO)、架构以及对象存储等。通
[安防电子]
小广播
最新嵌入式文章
何立民专栏 单片机及嵌入式宝典

北京航空航天大学教授,20余年来致力于单片机与嵌入式系统推广工作。

换一换 更多 相关热搜器件
电子工程世界版权所有 京B2-20211791 京ICP备10001474号-1 电信业务审批[2006]字第258号函 京公网安备 11010802033920号 Copyright © 2005-2024 EEWORLD.com.cn, Inc. All rights reserved