Feast 路线图深度解读:数据源、存储矩阵、特性工程与服务治理的演进蓝图
Feast 路线图深度解读数据源、存储矩阵、特性工程与服务治理的演进蓝图【免费下载链接】feastThe Open Source Feature Store for AI/ML项目地址: https://gitcode.com/GitHub_Trending/fe/feastFeast 仓库中的 roadmap.md 是一份以勾选清单形式维护的项目功能路线图覆盖了数据源、离线/在线存储、特性工程Transformations、流式摄取、部署形态、特性服务与数据治理九大领域。本文以该路线图为骨架逐项对照当前仓库中的源码、ADR 与参考文档说明每项功能的完成状态、对应的实现位置与可验证的落地点帮助你在为模型选择 Feast 组件组合时判断哪些能力是稳定可用的、哪些仍处于 Alpha/Beta 演进阶段。路线图的组织方式与阅读方法路线图按功能域分组列出条目每条目标注完成状态[x]表示已交付部分条目标明 Alpha/Beta 成熟度[ ]表示尚未完成或正在进行中。路线图文首明确欢迎社区对所有条目进行贡献。理解这份路线图的一个关键背景是Feast 的架构决策均沉淀在 docs/adr/ 的 ADRArchitecture Decision Records目录中。路线图上若干重要条目与 ADR 一一对应例如路线图片项对应 ADRFeature Services模型中心的特性追踪ADR-0001On-Demand TransformationsADR-0003Streaming TransformationsADR-0005Kubernetes Operator 部署形态ADR-0006统一特性转换与 Feature ViewADR-0007向量数据库集成LLM/RAG 支持ADR-0010数据质量监控DQMADR-0011这些 ADR 记录了决策背景与后果是理解路线图为什么长这样的一手资料。NLP 与向量检索Alpha 已落地原生 NLP 服务仍在路上路线图 NLP 板块包含两项Vector Search向量检索已完成Alpha——这是 Feast 面向 RAG/LLM 场景的能力基础其设计依据见 ADR-0010面向用户的文档为 alpha-vector-database.md。面向 NLP 的增强 Feature Server 与 SDK未完成——这是路线图中标记为[ ]的条目之一说明原生的 NLP 推理链路尚未内建到 Feature Server 中。从源码结构看向量能力目前的实现入口是 FeastVectorStore其下挂载了三个向量型在线存储QdrantOnlineStoreMilvusOnlineStoreFaissOnlineStore对应的使用文档分别位于 qdrant.md、milvus.md 与 faiss.md。仓库中还提供了可运行的 RAG 示例如 examples/rag/README.md 与 examples/rag-retriever/README.md可用于验证向量特性视图的端到端流程。数据源生态从云数仓到流式消息的完整矩阵路线图 Data Sources 板块已全部勾选完成共 14 项。按存储介质归类如下类别数据源参考文档云数仓Snowflake、Redshift、BigQuery、Athena、Oracle、Azure Synapse Azure SQLcontrib 插件snowflake.md、redshift.md、bigquery.md、athena.md、oracle.md、mssql.md文件/表格式Parquet 文件源file.md开源大数据Sparkcontrib 插件、Hive社区插件spark.mdNoSQL / 列存Couchbase、ClickHouse、MongoDBcouchbase.md、clickhouse.md、mongodb.mdPython 生态Raycontrib 插件ray.md流式Kafka / Kinesis经由在线存储的 Push 支持push.md几个值得注意的实现细节Kafka/Kinesis 的接入路径路线图注明流式数据源是经由在线存储的 push 支持实现的即通过在线存储的写入 API 完成实时摄取而非独立的消息队列连接器。使用方式见 push.md 及专题文档 kafka.md、kinesis.md。贡献插件的存放位置Postgres、Spark、Couchbase、Athena、ClickHouse、Oracle、MongoDB、Ray 等以 contrib 插件形式维护源码集中在 sdk/python/feast/infra/offline_stores/contrib/ 下各自独立的目录中如mssql_offline_store、spark_offline_store、ray_offline_store等每个插件通常自带tests/data_source.py中的DataSourceCreator用于该插件的离线/在线一体化测试。扩展新数据源路线图中Custom offline store support一项指向的扩展指南即仓库内的 adding-a-new-offline-store.md 与 adding-support-for-a-new-online-store.md说明了以插件形式贡献新存储的完整流程。离线存储Offline Stores16 项全部交付路线图 Offline Stores 板块 16 个条目全部为[x]状态覆盖 SQL 数仓、分析引擎、分布式计算与混合部署核心内置Snowflake、Redshift、BigQuery、DuckDB、Dask、Remotecontrib 插件MSSQLmssql.py、Postgres、Trino、Spark、Couchbase、Athena、ClickHouse、Ray、Oracle、MongoDB特殊形态HybridOfflineStore混合存储见 hybrid.md与 Hive 社区插件。每个实现类都继承统一的OfflineStore基类例如 SnowflakeOfflineStore、PostgreSQLOfflineStore这保证了各存储对上层feature_store.apply()、pull等 SDK 操作呈现一致的接口契约。选型参考可查阅 offline-stores 总览。在线存储Online Stores低延迟服务层含向量存储三件套Online Stores 板块是路线图条目最多的部分全部完成。其源码位于 sdk/python/feast/infra/online_stores/可直接对照类定义验证存储源码位置文档RedisRedisOnlineStoreredis.mdDynamoDBDynamoDBOnlineStoredynamodb.mdSnowflakesnowflake_online_storesnowflake.mdPostgreSQLPostgreSQLOnlineStorepostgres.mdSQLitesqlitesqlite.mdCassandra / AstraDBCassandraOnlineStorecassandra.mdScyllaDBScyllaDBOnlineStorescylladb.mdMySQLMySQLOnlineStoremysql.mdHBaseHbaseOnlineStorehbase.mdHazelcastHazelcastOnlineStorehazelcast.mdElasticsearchElasticSearchOnlineStoreelasticsearch.mdSingleStoreSingleStoreOnlineStoresinglestore.mdCouchbaseCouchbaseOnlineStorecouchbase.mdMongoDBMongoDBOnlineStoremongodb.mdAerospikeAerospikeOnlineStoreaerospike.mdBigtable / DatastoreBigtableOnlineStore、DatastoreOnlineStorebigtable.md、datastore.mdDragonflydragonflydragonfly.mdQdrant / Milvus / Faiss见上文 NLP 一节向量存储文档RemoteRemoteOnlineStoreremote.mdHybridHybridOnlineStorehybrid.md两点与路线图相关的说明Azure Cache for Redis以社区插件形式完成不属于核心仓库代码。自定义在线存储扩展路线图该项指向的指南即 adding-support-for-a-new-online-store.md与离线存储插件机制对称。特性工程Transformations三类模式批量转换仍在进行Feature Engineering 板块是路线图成熟度标注最细致的部分条目状态说明On-demand Transformations (On Read)已完成Beta读取时计算见 beta-on-demand-feature-view.mdOn-demand Transformations (On Write)已完成Beta写入时计算Streaming Transformations已完成Alpha流式计算Batch transformation未完成In progress路线图中标记为[ ]的进行中项从源码结构看转换引擎的实现集中在 sdk/python/feast/transformation/ 目录factory.py 负责按语言类型分发到具体引擎各引擎实现为独立模块pandas_transformation.py、sql_transformation.py、python_transformation.py、ray_transformation.py、spark_transformation.py、flink_transformation.py、substrait_transformation.py上层 API 则以特性视图形式暴露on_demand_feature_view.py 与 stream_feature_view.py其架构决策分别记录在 ADR-0003、ADR-0005统一后的特性转换模型见 ADR-0007。此外SDK 还包含独立运行的转换服务入口 transformation_server.py支持将转换逻辑与在线服务解耦部署。流式摄取自定义 Provider 与 Push 双通道Streaming 板块三项均已完成自定义流式摄取作业支持——通过自定义 Provider 机制实现指南为 creating-a-custom-provider.mdPush 式摄取到在线存储与Push 式摄取到离线存储——两者共用同一套 push 数据源机制文档见 push.md。Push 通道正是前文Kafka/Kinesis 数据源的落地方式业务侧将消息推入在线存储的写入接口Feast 将其作为流式数据源对待。对于需要完全接管摄取作业如自带 Spark Streaming/Flink 作业的场景则走自定义 Provider 路线。部署形态AWS Lambda 与 KubernetesDeployments 板块两项均为[x]AWS LambdaAlpha——将 Feature Server 以无服务器函数形态部署相关背景可参考 feast-0-14-adds-aws-lambda-feature-servers.mdKubernetes——生产部署指南为 running-feast-in-production.md 与 feast-on-kubernetes.md。Kubernetes 路线在仓库中有两条并行实现选型时需区分Helm Chartsinfra/charts/feast/ 提供标准组件的 Chart 化部署含values.yaml与 README.mdFeast Operatorinfra/feast-operator/ 是一个基于 Kubernetes Operator 模式的部署形态Alpha拥有独立的 CRD 定义config/crd/、控制器internal/controller/与 API 类型api/v1/其架构决策记录为 ADR-0006使用教程可参考 docs/how-to-guides/feast-operator/README.md。特性服务Feature Serving多语言服务矩阵Feature Serving 板块列出六项服务形态全部完成成熟度除 Python 侧外均为 Alpha服务成熟度源码/文档Python Client稳定feature_store.py 中的get_online_features等 APIPython Feature Server稳定feature_server.py、python-feature-server.mdGo Feature ServerAlphago/main.go、go-feature-server.mdJava Feature ServerAlphajava/serving/、java/README.mdOffline Feature ServerAlphaoffline_server.py、offline-feature-server.mdRegistry ServerAlpharegistry_server.py、registry-server.mdFeast OperatorAlphainfra/feast-operator/README.md服务层共用的 gRPC/Protobuf 契约定义在 protos/ 目录core/registry/serving/storage 四组这也是 Python/Go/Java 三端能够共享同一注册表数据模型的基础。数据质量管理DQM 已交付Data Quality Management 板块的一项——Feature Quality Monitoring——已完成交付内容包括内建指标built-in metrics、漂移检测drift detection、服务日志监控serving log monitoring与 UI 仪表盘。仓库内的对应实现与文档使用指南feature-monitoring.md参考文档dqm.md架构决策ADR-0011代码实现sdk/python/feast/dqm/其中profilers子目录承载特征剖析器即漂移检测与统计指标的计算逻辑特征日志采集入口feature_logging.py与 serving 日志监控配合。从源码结构看DQM 的指标计算依赖在线服务的日志回流与 SDK 侧的 profiler 组件这意味着启用该能力的前提是部署了在线服务Feature Server 或 Operator并开启特征日志。特性发现与治理SDK/CLI/Web UI 已就位血缘浏览器未立项Feature Discovery and Governance 板块七项中六项完成Python SDK 浏览注册表——例如 feature_store.py 中的list_feature_views约 L791与list_feature_services约 L746等方法支持以编程方式枚举注册表内容CLI 浏览注册表——命令体系见 feast-cli-commands.md模型中心的特性追踪Feature Services——架构记录为 ADR-0001第三方元数据集成——路线图注明已提供 Amundsen 与 DataHub 两套提取器集成面向外部元数据平台的插件不在本仓库内Feast Web UIBeta——前端源码位于 ui/文档见 alpha-web-ui.mdFeast Lineage Explorer——唯一标记为[ ]的条目血缘可视化浏览器尚未交付。未完成项汇总与贡献指引通读路线图当前尚未完成或仍在进行中的条目集中在三处NLPEnhanced Feature Server and SDK for native support for NLP——原生 NLP 服务链Feature EngineeringBatch transformation——批量转换In progressGovernanceFeast Lineage Explorer——血缘可视化。路线图在开头明确We welcome contribution to all items in the roadmap即上述未完成项均开放社区贡献。若要参与开发建议的路径是先阅读对应功能的 ADRdocs/adr/理解既有架构约束再对照 CONTRIBUTING.md 与 docs/project/contributing.md 的规范提交变更对于存储类扩展则直接参考 customizing-feast 系列指南中的插件编写流程。小结这份路线图的价值不仅在于列出功能清单更在于它精确标注了每项能力的成熟度稳定 / Beta / Alpha / In progress。对照仓库源码可以确认Feast 的存储矩阵14 种数据源、16 种离线存储、20 种在线存储与多语言特性服务矩阵已全面落地并有明确的源码位置可查特性工程三大转换模式已交付其中两种批量转换仍在推进向量检索为 RAG 场景提供了 Alpha 级支撑而原生 NLP 服务与血缘浏览器是接下来最值得关注的演进方向。【免费下载链接】feastThe Open Source Feature Store for AI/ML项目地址: https://gitcode.com/GitHub_Trending/fe/feast创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
上一篇/下一篇内容由系统自动关联
返回资讯列表 →