博客

Databend 开源周报第 70 期

Databend Labs12月 6, 2022

英文版移步：https://www.databend.com//blog/2022-11-30-databend-weekly

Databend 是一款强大的云数仓。专为弹性和高效设计。自由且开源。即刻体验云服务：https://app.databend.cn 。

What's New

探索 Databend 本周新进展，遇到更贴近你心意的 Databend。

Features & Improvements ✨

Format

更好地检查格式相关选项 (#8981)
为 Parquet 文件提供基本的模式推断能力 (#9043)

Query

QualifiedName 支持 'db.table.' 和 'table.' (#8965)
支持批量插入时关闭表达式解析 (#8966)

Storage

为 fuse engine 增加 cache layer (#8830)
新增 system 表 system.memory_statistics (#8945)
新增
```
optimize table table_name statistic
```
支持，用于计算表统计信息 (#8891)

Code Refactoring 🎉

Base

移除 common-macros (#8936)

Format

TypeDeserializer 中去除 FormatSetting (#8950)

Planner

重构

ExtractOrPredicate

，合并到

RulePushDownFilterJoin

(#8951)

Processors

合并构建数据块来优化 join (#8961)

New Expression

使用新方法重做 #8789 (#9008)

Documentation 📔

使用 Crowdin 提供 i18n 支持 (#8987, #8997, etc.)

Bug Fixes 🔧

Base

修复 memory tracker 丢失的问题 (#8932)

Meta

修复 share db 漏洞，如果需要则创建
```
DatabaseIdToName
```
(#9006)

Mysql handler

修复 MySQL 连接泄漏 (#8894)

Processors

修复
```
update_list
```
中的内存泄漏 (#9023)

Storage

压缩时并行读写数据块 (#8921)

What's On In Databend

请持续关注 Databend 的最新动态。

Infer Schema 前瞻

通常，在从 stage 或者其他位置载入数据时，我们需要先创建对应的表。但有些时候，我们无法预知文件模式或者需要创建的模式太复杂，使得无法轻松完成创建表的工作。

引入模式推断将会简化从文件载入数据的过程。甚至，可以直接使用 SELECT 语句查询 stage 中的数据，例如

select * from @my_stage

。

INFER 's3://mybucket/data.csv' FILE_FORMAT = ( TYPE = CSV );
+-------------+---------+----------+
| COLUMN_NAME | TYPE    | NULLABLE |
|-------------+---------+----------|
| CONTINENT   | TEXT    | True     |
| COUNTRY     | VARIANT | True     |
+-------------+---------+----------+

在 #9043 中，Databend 新增对 parquet 文件进行基本模式推断的接口，我们将会在这个基础上继续推动 #7211 的解决，以支持

select * from @stage

。

阅读以下材料以了解更多讯息：

What's Up Next

我们始终对前沿技术和创新理念持开放态度，欢迎您加入社区，为 Databend 注入活力。

为 MySQL Handler 添加 TLS 支持

近期发布的 opensrv-mysql v0.3.0 引入了 TLS 支持，是时候为 Databend 的 MySQL Handler 实现它。

let (is_ssl, init_params) = opensrv_mysql::AsyncMysqlIntermediary::init_before_ssl(
      &mut shim,
      &mut r,
      &mut w,
      &Some(tls_config.clone()),
    )
    .await
    .unwrap();

opensrv_mysql::secure_run_with_options(shim, w, ops, tls_config, init_params).await