据维基百科,大数据是一个广义的术语,所包含的的内容十分庞大且复杂,以至于传统的数据处理应用程序根本不足以应对。在许多情况下,使用SQL数据库用于存储/检索数据已经足够了。但在一些其他情况下,或是还有更好的工具。
现在让我们来讨论一下不同的存储/处理数据所用的非SQL工具——NoSQL数据库、内存缓存、全文搜索引擎、实时流媒体、图形数据库,等等。
MongoDB——一种流行的,跨平台的面向文档的数据库。Elasticsearch——为云构建的分布式REST内置搜索引擎。Cassandra——开源的分布式数据库管理系统,最初在Facebook开发和设计,用来处理横跨多个商用服务器的海量数据,提供了无单点故障的高度可用性。Redis——开源的(BSD许可),内存数据结构存储,作为数据库、缓存和消息代理使用。Hazelcast——开源,基于Java的内存数据网格。EHCache——一种被广泛使用的开源Java分布式缓存,用于通用缓存、JavaEE和轻量级容器。Ehcache相关介绍Hadoop——以Java编写的一个开源软件框架,用于分布式存储和对在计算机集群上的超大型数据集的分布式处理。Solr——开源的企业搜索平台,Java编写,来自ApacheLucene项目。Spark——ApacheSoftwareFoundation中最活跃的项目,一个开源的集群计算框架。Memcached——通用的分布式内存缓存系统。ApacheHive——提供了Hadoop之上类似于SQL的层。ApacheKafka——高通量、分布式的发布-订阅式消息系统,最初开发在LinkedIn上。Windows上脱离Cygwin运行ApacheKafkaAkka——工具包,运行时,用于在JVM上构建高度并行的、分布式的、有弹性的消息驱动的应用程序。HBase——一个开源的,非关系型的,分布式数据库,在谷歌的BigTable后建模,用Java编写,并运行在HDFS上。Neo4j——用Java编写的开源图形数据库。CouchBase——一个开源的、面向文档的分布式NoSQL数据库,特别为了交互式应用而优化。ApacheStorm——开源的分布式实时计算系统。CouchDB——使用JSON来存储数据的面向文档的开源NoSQL数据库。OracleCoherence——一个内存的数据网格解决方案,通过提供快速访问常用数据的渠道,使得企业可预测地扩展关键任务应用程序。Titan——一个可扩展的图形数据库,优化的目的在于存储和查询包含数千亿顶点和边的图形,分布在多机集群。AmazonDynamoDB——一个快速、灵活、完全管理的NoSQL数据库服务,用于在任何规模需要一致的、个位数毫秒延迟的所有应用程序。AmazonKinesis——用于在AWS上的流数据的实时平台。Datomic——一个用Clojure写的完全事务式的,支持云的,分布式数据库。