行情数据接入与清洗
行情数据接入与清洗的完整工程实践:Level1 与 Level2 数据的差异、CTP 与交易所协议解析、快照与增量订单簿重建、时间戳与延迟测量、异常 tick 清洗规则、除权除息复权、Parquet 列式存储与压缩、历史回放以及多源校验与容灾方案。
tag
行情数据接入与清洗的完整工程实践:Level1 与 Level2 数据的差异、CTP 与交易所协议解析、快照与增量订单簿重建、时间戳与延迟测量、异常 tick 清洗规则、除权除息复权、Parquet 列式存储与压缩、历史回放以及多源校验与容灾方案。
系统讲解列式数据格式:行存与列存的访问模式差异、Parquet 的 row group/column chunk/page 三层结构、字典与 RLE 编码、按列压缩、谓词下推与统计信息、ORC 对比、Arrow 内存格式与零拷贝、小文件与分区问题,以及数据湖场景的选型决策。
系统讲解浏览器内数据分析的完整链路:DuckDB-WASM 架构与执行模型、Apache Arrow 列式内存格式与零拷贝、Parquet 与 CSV 读取、Web Worker 并行与 OPFS 持久化、查询结果回传 JS 的边界成本、内存上限与分块策略,以及它与后端查询引擎的取舍。
对比主流数据序列化格式:JSON/XML/YAML/TOML 文本族、Protobuf/MessagePack/CBOR/BSON 二进制族、Parquet/ORC 列式族——schema 演进、性能基准、版本兼容与选型决策树。
Python 文件 IO 与数据序列化完全指南:文本/二进制文件、CSV、JSON、YAML、Pickle、MessagePack、Parquet 的读写操作,涵盖 pathlib、with 上下文、编码处理、大数据分块读取等企业级最佳实践。