Trino权威指南

Trino Introducing

• 定义：Trino（原Presto SQL）是一个开源的分布式SQL查询引擎，专为大数据联邦查询设计。
• 核心目标：支持秒级查询海量数据（PB级）；无缝查询异构数据源（Hive、MySQL、Kafka、Redis等）。

graph LR
    A[User/Business Intelligence Tool] --> B(Trino Coordinator)
    B --> C{数据源}
    C --> D[Hive/HDFS]
    C --> E[RDBMS: MySQL, PostgreSQL]
    C --> F[NoSQL: MongoDB, Redis]
    C --> G[消息队列: Kafka]
    C --> H[云存储: S3, ADLS]

Trino核心特性

技术架构核心组件

• Coordinator（协调器）：接收SQL请求，解析生成分布式执行计划；调度Task到Worker，监控查询状态。
• Worker（工作节点）：执行Task（数据扫描、过滤、聚合等操作）；通过Driver驱动多个Operator（最小执行单元）。
• 连接器（Connector）：解耦计算与存储，通过插件支持新数据源；关键接口：getSplits()（数据分片）、getPage()。

flowchart TB
    User --> Coordinator
    Coordinator --> Worker1
    Coordinator --> Worker2
    Coordinator --> Worker3

    subgraph Worker1
        Task1[Task] --> Driver1[Driver]
        Driver1 --> Operator1[Scan Operator]
        Driver1 --> Operator2[Filter Operator]
    end

    subgraph Worker2
        Task2[Task] --> Driver2[Driver]
        Driver2 --> Operator3[Join Operator]
    end

    Coordinator <--> Metastore[Hive Metastore]
    Worker1 <--> Storage[Data Storage: HDFS/S3]

Using Trino

sequenceDiagram
    participant Client
    participant Coordinator
    participant Worker
    participant Metastore
    participant Storage

    Client->>Coordinator: 提交SQL查询
    Coordinator->>Metastore: 获取元数据
    Coordinator->>Coordinator: 生成执行计划
    Coordinator->>Worker: 分发查询任务
    Worker->>Storage: 读取数据分片
    Worker->>Worker: 本地计算处理
    Worker->>Coordinator: 返回部分结果
    Coordinator->>Coordinator: 结果聚合
    Coordinator->>Client: 返回最终结果

Trino Architecture (Trino架构)

分层架构设计

• 协调层(Coordinator)：集群大脑
  • SQL解析器：语法树生成
  • 优化器：基于成本的查询优化(CBO)
  • 调度器：分布式任务分配
  • 资源管理器：全局资源配额控制
• 计算层(Worker)：并行执行引擎
  • 任务执行器：Task处理单元
  • 驱动池：多线程执行引擎
  • 内存管理器：精细化内存控制
• 连接层(Connector)：存储抽象
  • 统一接口：getSplits(), getPage()
  • 数据源适配器：Hive/S3/RDBMS等

graph TD
    A[Client] --> B(Coordinator)
    B --> C[Discovery Service]
    B --> D[Worker 1]
    B --> E[Worker 2]
    B --> F[Worker N]
    
    subgraph Data Sources
        D --> G[Hive Metastore]
        D --> H[S3 Storage]
        E --> I[PostgreSQL]
        F --> J[Kafka]
    end
    
    subgraph Internal
        C -. 节点注册 .-> D
        C -. 节点注册 .-> E
        C -. 节点注册 .-> F
    end

Coordinator（协调器）深度解析

• SQL解析与优化
  • 语法解析 → 语义验证 → 逻辑计划 → CBO优化
  • 优化手段：谓词下推、Join重排序、Limit下推
• 资源管理：全局资源组配置；查询优先级队列；内存池监控。

Worker（工作节点）执行引擎

• Task：最小调度单元；包含多个Driver实例；状态机：PLANNED → RUNNING → FINISHED/FAILED。
• Driver：执行线程的基本单位；包含Operator管道；内存控制单元。
• Operator：原子操作实现，类型如下：
  • 数据源：TableScanOperator
  • 转换：FilterOperator, ProjectOperator
  • 聚合：HashAggregationOperator
  • Join：HashBuilderOperator, LookupJoinOperator

关键执行流程

• 查询解析阶段：SQL → 抽象语法树 → 逻辑计划 → 优化计划。
• 分布式调度阶段：Stage间构成流水线(Pipeline)；Task为最小调度单元；Split对应数据分片。
• 内存计算阶段：列式内存格式(Page)；向量化处理(每个Page 1024行)；操作符流水线(避免物化中间结果)。

核心设计思想

• 无共享架构(Shared Nothing)：Worker完全独立；无磁盘写依赖；线性扩展能力。
• 全内存流水线：各Operator间通过内存Page直接传递数据。
• 动态代码生成：运行时生成优化字节码；消除虚函数调用；特定数据类型特化。
• 异步I/O模型：网络与计算重叠；非阻塞数据获取；流水线气泡最小化。

关键优化技术

• 数据局部性优化：Split调度亲和性；网络拓扑感知；动态过滤(Dynamic Filtering)。
• 资源隔离机制：多级配额控制(CPU/内存/并发)。
• 弹性内存管理：内存分级(执行/系统/预留)；智能溢出(Spill to SSD)；OOM防护机制。

连接器设计精髓

• 元数据抽象：统一表/列/分区视图；跨源schema映射。
• 谓词下推优化：过滤条件下推到数据源。
• 分片并行处理：自动分裂大文件(>64MB)；并行读取小文件合并；ORC/Parquet列式加速。

Query Execution(查询执行)

分布式执行模型详解

graph LR  
    A[SQL Query] --> B(Query Parser)  
    B --> C[Logical Planner]  
    C --> D[Distributed Planner]  
    D --> E[Stage Scheduler]  
    E --> F[Task Executor]  
    F --> G[Operator Pipeline]  

• 四级执行抽象层

  层级	职责	并行度	生命周期
  Query	完整SQL执行单元	全局唯一	客户端提交到结束
  Stage	执行计划子图	多Worker	Query生存期内
  Task	Stage的分区实例	每Worker多Task	Stage执行期间
  Operator	原子计算操作	每Task多Operator	Task执行期间

• Stage拓扑类型

  • SOURCE Stage：直接对接数据源（HDFS/S3/RDBMS）；并行度 = 数据分片数（Split）；仅包含Scan类Operator。
  • FIXED Stage：承担Shuffle数据交换；并行度由hash_partition_count配置；包含Join/Aggregate等复杂Operator。
  • SINGLE Stage：最终结果汇聚；单点执行（Coordinator或指定Worker）；负责Order By/Limit等全局操作。

• 数据交换模式

  • Local Exchange：Worker内部Task间数据传输。
  • Global Exchange：跨Worker数据重分布。
  • Exchange Client：管理网络连接与数据缓冲。

内存计算引擎核心设计

• 列式内存结构（Page）

  组件	描述	优化价值
  Block	单列数据容器	列式处理加速聚合
  Page	1024行Blocks的集合	CPU缓存友好
  Position Count	实际行数（可能<1024）	处理尾部数据
  Dictionary Block	字典编码块	高基数列内存压缩

• 操作符流水线

  • 批处理：单次处理整Page而非单行。
  • 延迟物化：保持编码数据直至必须解码。
  • 短路执行：Limit条件下提前终止。

• 内存管理机制

  • 执行内存：Operator计算过程占用。
  • 系统内存：数据结构开销（Hash表等）。
  • 预留内存：保障关键操作不被中断。

高级优化策略体系

• 分布式Join优化

  策略	适用场景	数据移动代价
  Broadcast	维度表(<1GB)	O(N)
  Partitioned	双大表	O(N+M)
  Colocated	同分布键的事实-事实表Join	O(1)
  Dynamic Filter	星型模型Join	下推减少源数据

• 动态运行时优化

  • 自适应并行度：基于数据量动态调整Task数；小数据集自动降级到单Task处理；倾斜分区识别与特殊处理。
  • 动态过滤工作流

  sequenceDiagram  
      participant D as 维度表Stage  
      participant F as 事实表Stage  
      D->>F: 发送过滤条件(min/max值)  
      F->>F: 应用过滤条件扫描数据  
      F->>Coordinator: 返回过滤后数据  
  

• 连接器级加速（ORC/Parquet优化）

  • 行组跳过：基于统计信息过滤数据块
  • 布隆过滤：快速判断值是否存在
  • 延迟加载：仅读取需要的列块

Connectors(连接器)

核心设计原则

• 计算存储分离：Trino不存储数据，只进行计算。
• 统一接口规范：所有数据源实现相同API。
• 元数据抽象：统一表/列/分区视图。
• 下推优化：最大化利用底层存储能力。

三大基础接口

主流连接器特性