搜索结果:spark(9 个)
按分类缩小范围
kyuubi
综合 61
Apache Kyuubi 是一个分布式、多租户的 Serverless SQL 网关。它提供类 HiveServer2 的 JDBC/ODBC 接口,让开发者无需 Spark 背景,直接用纯 SQL 即可查询数仓与数据湖的大规模数据。服务端支持多租户架构,实现资源隔离、高并发与高可用。
almond
综合 60
almond 是一个专为 Jupyter 打造的 Scala 内核(Kernel)。它解决了无法直接在 Jupyter Notebook 中编写和运行 Scala 的问题,提供交互式 REPL 环境,并支持 Spark 与 Spark SQL,方便开发者进行 Scala 数据分析与交互式编程。
flink-learning
综合 59
Flink 学习资源整理,涵盖基础入门、原理调优、源码解析及实战项目案例。
datafusion-comet
综合 58
DataFusion Comet 是 Apache Spark 的高性能加速器。它无需修改现有代码,通过端到端 Apache Arrow 列式格式及基于 Rust 的 DataFusion 原生执行,避免 Spark 行式处理开销。核心加速算子执行、表达式计算、Parquet 扫描与 Shuffle,显著提升查询性能并降低计算成本。
geomesa
综合 57
GeoMesa 是一个分布式大规模地理空间数据处理套件。它解决了海量时空数据的存储、查询与实时分析难题。核心功能包括在 HBase、Cassandra 等分布式数据库上构建时空索引,结合 Kafka 实现流式空间数据处理,并支持 Spark 分布式分析与 GeoServer(WFS/WMS)地图集成。
incubator-toree
综合 51
Apache Toree 是一个专为 Apache Spark 打造的 Jupyter Notebook 内核,主要支持 Scala 语言。它让开发者能通过 Jupyter 交互式连接 Spark 集群,直接编写并运行 Spark 任务、执行代码片段、加载依赖并即时获取计算结果。
geotrellis
综合 51
GeoTrellis 是一个高性能地理数据处理框架,采用 Scala 编写。它主要解决大规模地理空间栅格与矢量数据的读写与运算难题,支持栅格代数计算;同时深度整合 Spark,并提供针对 S3、HBase 等外部存储及 GDAL、GeoTools 的扩展支持。
spark-testing-base
综合 51
spark-testing-base 是一个用于 Spark 应用程序测试的基础库。它解决了每次编写测试时都要手动搭建和销毁本地 Spark 运行环境的麻烦。核心功能是提供预设的测试基类,让开发者直接继承即可快速编写针对 Spark 的单元测试,支持 Scala 和 Python。
raydp
综合 51
RayDP 解决了传统 AI 流水线中 Spark 数据处理与深度学习训练常需分设独立集群、数据流转慢且运维复杂的问题。
它支持直接在 Ray 集群上运行 Spark,允许开发者在单个 Python 程序中混合编写 PySpark 与 AI 库代码;还提供将 Spark DataFrame 转换为 Ray Dataset 的 API,通过 Ray 内存对象实现高效数据交互。