DBMS > Apache Kylin vs. Apache Pinot vs. DuckDB vs. Memcached vs. Microsoft Azure Data Explorer
System Properties Comparison Apache Kylin vs. Apache Pinot vs. DuckDB vs. Memcached vs. Microsoft Azure Data Explorer
| Editorial information provided by DB-Engines | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Name | Apache Kylin Xexclude from comparison | Apache Pinot Xexclude from comparison | DuckDB Xexclude from comparison | Memcached Xexclude from comparison | Microsoft Azure Data Explorer Xexclude from comparison | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Description | A distributed analytics engine for big data, providing a SQL interface and multi-dimensional analysis (OLAP) and leveraging the Hadoop stack | Realtime distributed OLAP datastore, designed to answer OLAP queries with low latency | An embeddable, in-process, column-oriented SQL OLAP RDBMS | In-memory key-value store, originally intended for caching | Fully managed big data interactive analytics platform | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Primary database model | Relational DBMS | Relational DBMS | Relational DBMS | Key-value store | Relational DBMS  column oriented | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Secondary database models | Document store If a column is of type dynamic docs.microsoft.com/en-us/azure/kusto/query/scalar-data-types/dynamic then it's possible to add arbitrary JSON documents in this cell Event Store this is the general usage pattern at Microsoft. Billing, Logs, Telemetry events are stored in ADX and the state of an individual entity is defined by the arg_max(timestamps)Spatial DBMS Search engine support for complex search expressions docs.microsoft.com/en-us/azure/kusto/query/parseoperator FTS, Geospatial docs.microsoft.com/en-us/azure/kusto/query/geo-point-to-geohash-function distributed search -> ADX acts as a distributed search engineTime Series DBMS see docs.microsoft.com/en-us/azure/data-explorer/time-series-analysis | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
| |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Website | kylin.apache.org | pinot.apache.org | duckdb.org | www.memcached.org | azure.microsoft.com/services/data-explorer | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Technical documentation | kylin.apache.org/docs | docs.pinot.apache.org | duckdb.org/docs | github.com/memcached/memcached/wiki | docs.microsoft.com/en-us/azure/data-explorer | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Developer | Apache Software Foundation, originally contributed from eBay Inc | Apache Software Foundation and contributors | Danga Interactive originally developed by Brad Fitzpatrick for LiveJournal | Microsoft | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Initial release | 2015 | 2015 | 2018 | 2003 | 2019 | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Current release | 3.1.0, July 2020 | 1.0.0, September 2023 | 0.10, February 2024 | 1.6.27, May 2024 | cloud service with continuous releases | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| License Commercial or Open Source | Open Source Apache Version 2.0 | Open Source Apache Version 2.0 | Open Source MIT License | Open Source BSD license | commercial | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Cloud-based only Only available as a cloud service | no | no | no | no | yes | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| DBaaS offerings (sponsored links) Database as a Service Providers of DBaaS offerings, please contact us to be listed. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Implementation language | Java | Java | C++ | C | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Server operating systems | Linux | All OS with a Java JDK11 or higher | server-less | FreeBSD Linux OS X Unix Windows | hosted | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Data scheme | yes | yes | yes | schema-free | Fixed schema with schema-less datatypes (dynamic) | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Typing predefined data types such as float or date | yes | yes | yes | no | yes bool, datetime, dynamic, guid, int, long, real, string, timespan, double: docs.microsoft.com/en-us/azure/kusto/query/scalar-data-types | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| XML support Some form of processing data in XML format, e.g. support for XML data structures, and/or support for XPath, XQuery or XSLT. | no | no | yes | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Secondary indexes | yes | yes | no | all fields are automatically indexed | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| SQL Support of SQL | ANSI SQL for queries (using Apache Calcite) | SQL-like query language | yes | no | Kusto Query Language (KQL), SQL subset | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| APIs and other access methods | JDBC ODBC RESTful HTTP API | JDBC | Arrow Database Connectivity (ADBC) CLI Client JDBC ODBC | Proprietary protocol | Microsoft SQL Server communication protocol (MS-TDS) RESTful HTTP API | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Supported programming languages | Go Java Python | C C# 3rd party driverC++ Crystal 3rd party driverGo 3rd party driverJava Lisp 3rd party driverPython R Ruby 3rd party driverRust Swift Zig 3rd party driver | .Net C C++ ColdFusion Erlang Java Lisp Lua OCaml Perl PHP Python Ruby | .Net Go Java JavaScript (Node.js) PowerShell Python R | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Server-side scripts Stored procedures | no | no | Yes, possible languages: KQL, Python, R | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Triggers | no | no | yes see docs.microsoft.com/en-us/azure/kusto/management/updatepolicy | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Partitioning methods Methods for storing different data on different nodes | horizontal partitioning | none | none | Sharding Implicit feature of the cloud service | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Replication methods Methods for redundantly storing data on multiple nodes | none | none Repcached, a Memcached patch, provides this functionallity | yes Implicit feature of the cloud service. Replication either local, cross-facility or geo-redundant. | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| MapReduce Offers an API for user-defined Map/Reduce methods | yes | no | no | Spark connector (open source): github.com/Azure/azure-kusto-spark | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Consistency concepts Methods to ensure consistency in a distributed system | Immediate Consistency | Immediate Consistency | Eventual Consistency Immediate Consistency | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Foreign keys Referential integrity | no | no | no | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Transaction concepts Support to ensure data integrity after non-atomic manipulations of data | ACID | no | no | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Concurrency Support for concurrent manipulation of data | yes | yes, multi-version concurrency control (MVCC) | yes | yes | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Durability Support for making data persistent | yes | yes | no | yes | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| In-memory capabilities Is there an option to define some or all structures to be held in-memory only. | no | yes | no | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| User concepts Access control | no | yes using SASL (Simple Authentication and Security Layer) protocol | Azure Active Directory Authentication | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
More information provided by the system vendorWe invite representatives of system vendors to contact us for updating and extending the system information, | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Related products and servicesWe invite representatives of vendors of related products to contact us for presenting information about their offerings here. | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| More resources | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Apache Kylin | Apache Pinot | DuckDB | Memcached | Microsoft Azure Data Explorer | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| DB-Engines blog posts | Redis extends the lead in the DB-Engines key-value store ranking New DB-Engines Ranking shows the popularity of database management systems | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
| Recent citations in the news | Migrating from ClickHouse to Apache Doris: Boosting OLAP Performance Overhauling Apache Kylin for the cloud eBay's Kylin Becomes a Top-Level Apache Open Source Project How Kyligence Cloud uses Amazon EMR Serverless to simplify OLAP | Amazon Web Services Distributed OLAPer Kyligence accelerates core engine, adds real-time data support – Blocks and Files provided by Google News | Apache Pinot - SD Times Open Source Project of the Week StarTree broadly enhances Apache Pinot-based analytics platform StarTree Finds Apache Pinot the Right Vintage for IT Observability Real-Time Analytics for Mobile App Crashes using Apache Pinot StarTree Makes Observability Case for Apache Pinot Database provided by Google News | DuckDB: In-Process Python Analytics for Not-Quite-Big Data My First Billion (of Rows) in DuckDB | by João Pedro | May, 2024 DuckDB Walks to the Beat of Its Own Analytics Drum DuckDB: The tiny but powerful analytics database MotherDuck launches its DuckDB-based cloud analytics platform provided by Google News | Facebook Pushes Limits for Memcached Memcached Adoption Spurs Solutions Why DDoS Threat Actors Are Shifting Their Tactics Intel Continues To Demonstrate The Importance Of Software Optimizations: Clear Linux + Xeon Max Benchmarks What are memcached servers, and why are they being used to launch record-setting DDoS attacks? provided by Google News | Azure Data Explorer: Log and telemetry analytics benchmark Controlling costs in Azure Data Explorer using down-sampling and aggregation Providing modern data transfer and storage service at Microsoft with Microsoft Azure - Inside Track Blog Individually great, collectively unmatched: Announcing updates to 3 great Azure Data Services Log and Telemetry Analytics Performance Benchmark provided by Google News | |||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
Share this page
