搜索结果:big-data(9 个)
按分类缩小范围
SynapseML
综合 68
SynapseML(原 MMLSpark)是基于 Apache Spark 的分布式机器学习库,主要解决大规模数据下构建 ML 流水线复杂度高的问题。它无缝兼容 SparkML API,支持在弹性集群上分布式训练,覆盖文本分析、计算机视觉、异常检测及深度学习等任务,并支持 Python、Scala 等多语言调用。
fg-data-profiling
综合 68
仅需一行代码,即可对 Pandas 和 Spark DataFrame 进行数据质量分析与探索。
vespa
综合 67
面向 AI 场景的开源搜索与数据处理平台。
delta-sharing
综合 64
Delta Sharing 是开源的安全数据共享协议,解决跨计算平台实时交换大数据集的难题。它通过 REST 协议共享云存储上的数据,提供 Python、Spark 连接器及参考服务端,支持直接用 pandas、Spark 等工具读取 Delta Lake 或 Parquet 表。
beam
综合 64
统一的批处理与流式数据处理编程模型。
gun
综合 64
用于同步去中心化图数据的开源网络安全协议与分布式数据库。
quickwit
综合 59
面向可观测性的云原生开源搜索引擎。
大型分布式系统架构精选指南,汇总高可扩展、高可靠与高性能系统的设计模式。
cudf-spark
综合 46
cudf-spark(原 RAPIDS Accelerator for Apache Spark)是 NVIDIA 开源的 Spark 插件。它利用 cuDF 库调用 GPU 加速 Apache Spark 的大数据处理;其核心功能是在保证计算结果与原生 Spark 严格一致的同时,通过 GPU 提升 SQL 性能,并支持向 XGBoost 等 GPU 应用零拷贝传输数据。