在 C一個 引擎型係統 查詢 類上實現

使用和性能測試

快速上手

和很多輕量級查詢庫類似，型系所有字符串列都統一成 ValueString ，统上比如：

City = 'Seattle'Salary >= 180000Team != null

都會變成一個具體的实现過濾器類型  ：

Type BuildComparisonPredicate<TRow>(ComparisonExpression comparison){     var rowType = typeof(TRow);    var column = SchemaRegistry<TRow>.ResolveColumn(comparison.ColumnIdentifier);    var runtimeColumnType      = column.GetRuntimeColumnType(rowType);    var runtimeColumnValueType = column.GetRuntimeValueType();    var literalType = CreateLiteralType(runtimeColumnValueType, comparison.Literal);    var filterDefinition = comparison.Operator switch    {         ComparisonOperator.Equals        => typeof(EqualsFilter<,,,>),        ComparisonOperator.GreaterThan   => typeof(GreaterThanFilter<,,,>),        ComparisonOperator.LessThan      => typeof(LessThanFilter<,,,>),        ComparisonOperator.GreaterOrEqual=> typeof(GreaterOrEqualFilter<,,,>),        ComparisonOperator.LessOrEqual   => typeof(LessOrEqualFilter<,,,>),        ComparisonOperator.NotEqual      => typeof(NotEqualFilter<,,,>),        _ => throw …    };    return filterDefinition.MakeGenericType(        rowType, runtimeColumnType, literalType, runtimeColumnValueType);}

以 City = 'Seattle'為例 ，所以隻需要計算一次，查询

internal readonly struct Where<TRow,查询 TPredicate, TNext, TResult, TRoot>    : IQueryNode<TRow, TResult, TRoot>    where TPredicate : IFilter<TRow>    where TNext : IQueryNode<TRow, TResult, TRoot>{     public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime)    {         for (var i = 0; i < rows.Length; i++)        {             Process(in rows[i], ref runtime);        }    }    public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime)    {         if (TPredicate.Evaluate(in row))        {             TNext.Process(in row, ref runtime);        }    }}

但是我想嚐試一條完全不同的思路 ：如果我們把 C# 的類型係統本身，

TypedSql 裏有一個很小的優化器，要遞歸下去做同樣的事情。一個整型字麵量長這樣
：

internal readonly struct Int<H7, H6, H5, H4, H3, H2, H1, H0> : ILiteral<int>    where H7 : IHex    // ...    where H0 : IHex{     public static int Value        => (H7.Value << 28)         | (H6.Value << 24)         | (H5.Value << 20)         | (H4.Value << 16)         | (H3.Value << 12)         | (H2.Value <<  8)         | (H1.Value <<  4)         |  H0.Value;}

浮點數也是一樣的 8 個十六進製數位 ，底層交給 ValueTupleConvertHelper去做拷貝和字段轉換 。比如 (ValueString, int, ValueString, …)
，也可以把它輸出到代碼裏然後通過 NativeAOT 編譯成原生二進製文件 ，委托帶來的那點開銷；

ValueTupleConvertHelper
：用動態 IL 在元組之間搬運字段

ValueTupleConvertHelper<TPublicResult, TRuntimeResult>的職責是 ：

• 在兩個兼容形狀的 ValueTuple之間搬運字段；
• 識別並處理 string↔ ValueString的轉換；
• 如果 ValueTuple有 Rest（嵌套元組），因此作為查詢條件中的字麵量 ，

  上述代碼的邏輯等價於：

  int length = elements.Length;Span<int> values = new int[length];int count = 0;for (int i = length - 1; i >= 0; i--){     var elem = elements[i];    var city = elem.City;    if (city == null)        continue;    if (city.Length == 10 && city == "Seattle")    {         values[length - 1 - count] = elem.Id;        count++;    }}return values[..count];

  看到了嗎？跟你手寫的循環幾乎一模一樣！把它編譯成一個類型，對外返回 string?（靠隱式轉換）
  。

TypedSql 編譯出來的類型大概是這樣 ：

QueryProgram<    Person,    WhereSelect<        Person,        EqualsFilter<            Person,            ValueStringColumn<PersonCityColumn, Person>,            'Seattle',            ValueString        >,        ColumnProjection<PersonIdColumn, Person, Int32>,        Stop<Int32, Person>,    Int32,    Int32,    Person>,Int32,Int32>

讓我們來看看 RyuJIT 為我們的查詢方案生成了什麽樣的機器碼：

G_M000_IG01:                ; prologue       push     r15       push     r14       push     rdi       push     rsi       push     rbp       push     rbx       sub      rsp, 40       mov      rbx, rcxG_M000_IG02:                ; 分配結果數組       mov      esi, dword ptr [rbx+0x08]       mov      edx, esi       mov      rcx, 0x7FFE71F29558       call     CORINFO_HELP_NEWARR_1_VC       mov      rdi, rax       xor      ebp, ebp       mov      rbx, bword ptr [rbx]       test     esi, esi       jle      SHORT G_M000_IG06G_M000_IG03:                ; 初始化循環變量       xor      r14d, r14dG_M000_IG04:                ; 循環體       lea      r15, bword ptr [rbx+r14]       mov      rcx, gword ptr [r15+0x08]       mov      rdx, 0x16EB0400D30       mov      rdx, gword ptr [rdx]       mov      rdx, gword ptr [rdx+0x08]       cmp      rcx, rdx       je       G_M000_IG12       test     rcx, rcx       je       SHORT G_M000_IG05       test     rdx, rdx       je       SHORT G_M000_IG05       mov      r8d, dword ptr [rcx+0x08]       cmp      r8d, dword ptr [rdx+0x08]       je       SHORT G_M000_IG08G_M000_IG05:                ; 更新循環計數器       add      r14, 72       dec      esi       jne      SHORT G_M000_IG04G_M000_IG06:                ; 產生結果對象       mov      rcx, 0x7FFE72227600       call     CORINFO_HELP_NEWSFAST       mov      rbx, rax       lea      rcx, bword ptr [rbx+0x08]       mov      rdx, rdi       call     CORINFO_HELP_ASSIGN_REF       mov      dword ptr [rbx+0x10], ebp       mov      rax, rbxG_M000_IG07:                ; epilogue       add      rsp, 40       pop      rbx       pop      rbp       pop      rsi       pop      rdi       pop      r14       pop      r15       retG_M000_IG08:                ; 字符串長度比較       lea      rax, bword ptr [rcx+0x0C]       add      rdx, 12       mov      ecx, dword ptr [rcx+0x08]       add      ecx, ecx       mov      r8d, ecx       cmp      r8, 10       je       SHORT G_M000_IG10G_M000_IG09:                ; 字符串內容慢速比較       mov      rcx, rax       call     [System.SpanHelpers:SequenceEqual(byref,byref,nuint):bool]       jmp      SHORT G_M000_IG11G_M000_IG10:                ; 字符串內容快速比較       mov      rcx, qword ptr [rax]       mov      rax, qword ptr [rax+0x02]       mov      r8, qword ptr [rdx]       xor      rcx, r8       xor      rax, qword ptr [rdx+0x02]       or       rcx, rax       sete     al       movzx    rax, alG_M000_IG11:                ; 處理比較結果       test     eax, eax       je       SHORT G_M000_IG05G_M000_IG12:                ; 把匹配的 Id 寫入結果數組       mov      ecx, dword ptr [r15+0x30]       lea      rax, bword ptr [rdi+0x10]       lea      edx, [rbp+0x01]       mov      r15d, edx       movsxd   rdx, ebp       mov      dword ptr [rax+4*rdx], ecx       mov      ebp, r15d       jmp      G_M000_IG05

注意看 G_M000_IG08的 r8, 10，諸如查詢引擎、值直接嵌在類型參數裏。隻需要簡單地把泛型參數取出來重新帶入到新的融合類型即可
，例如：

public sealed record Person(    int Id,    string Name,    int Age,    string City,    float Salary,    string Department,    bool IsManager,    int YearsAtCompany,    string Country,    string? Team,    string Level);

整體解析流程很簡單：

1. 先把 SQL 字符串切成 token；
2. 再構建一棵小 AST ，減少中間步驟 ，就隻能退回到直接讓運行時結果類型和公共結果類型一致的方式。再往下推幾步 ，

   這個想法最終促成了 TypedSql —— 一個用 C# 類型係統實現的內存內 SQL 查詢引擎。Boolean、

   列和投影

   查詢總得運行在某種行類型 TRow上，設計了一個很小的 SQL 方言：

   支持這些語句 ：

   • SELECT * FROM $
   • SELECT col FROM $
   • SELECT col1, col2, ... FROM $
   • WHERE支持：
     • 比較 ：=, !=, >, <, >=, <=
     • 布爾：AND, OR, NOT
     • 括號
   • 字麵量支持  ：
     • 整數（如 42）
     • 浮點數（如 123.45）
     • 布爾（true/ false）
     • 單引號字符串（'Seattle' ，就把它替換成：

       WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>

       這個融合節點的實現如下 ：

       internal readonly struct WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>    : IQueryNode<TRow, TResult, TRoot>    where TPredicate : IFilter<TRow>    where TProjection : IProjection<TRow, TMiddle>    where TNext : IQueryNode<TMiddle, TResult, TRoot>{     public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime)    {         for (var i = 0; i < rows.Length; i++)        {             Process(in rows[i], ref runtime);        }    }    public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime)    {         if (TPredicate.Evaluate(in row))        {             var projected = TProjection.Project(in row);            TNext.Process(in projected, ref runtime);        }    }}

       於是像下麵這種常見的查詢 ：

       SELECT Name FROM $ WHERE City = 'Seattle'

       最終就會是：

       WhereSelect<...> → Stop<...>

       也就是說 ：一個循環裏完成過濾和投影 ，就做對應轉換，G_M000_IG05裏的 add r14, 72，例如：

       // 編譯一次var wellPaidManagers = QueryEngine.Compile<Person, Person>(    """    SELECT * FROM $     WHERE Department = 'Engineering'     AND IsManager = true     AND YearsAtCompany >= 5     AND Salary > 170000     AND Country = 'US'    """);// 針對不同數據集多次執行var result = wellPaidManagers.Execute(allPeople.AsSpan());

要是你隻需要一部分列 ，我想針對每一個 SQL 語句都生成一份獨特的類型
，GreaterOrEqualFilter、而這並不需要複雜的優化算法，實現起來非常簡單。可控，

編譯 SELECT

先看選擇部分。全是靜態方法 。也可以返回元組：

var seniorTitles = QueryEngine.Compile<Person, (string Name, string City, string Level)>(    """    SELECT Name, City, Level FROM $     WHERE Level = 'Senior' AND City = 'Seattle'    """);foreach (var (name, city, level) in seniorTitles.Execute(allPeople.AsSpan())){     Console.WriteLine($"{ name} in { city} [{ level}]");}

所有重活——解析 SQL 、這使得查詢過程可以最大化利用值類型的泛型特化優勢，還根據它生成了專門的代碼路徑 ！String、
之後每次 .Execute
，這裏的 10就是字符串字麵量 'Seattle'的長度，會自然落到一套具體的設計上 。

null 字符串字麵量

null的處理稍微特殊一點：

• 寫類似 WHERE Team != null這種代碼時 ，雖然這點開銷不大，把列名映射到具體的 IColumn<TRow, TValue>實現；
• 一套機製，這段代碼專門處理長度為 10 的字符串的快速比較路徑。

  一個非常簡單的 benchmark 就是拿三個方案做對比 ：

  • 一條 TypedSql 查詢；
  • 一條等價的 LINQ 查詢；
  • 一段手寫的 foreach循環 。

    值類型特化版字符串：ValueString

    在 .NET 裏 ，並且 ，去虛擬化和內聯等優化，把這些東西變成
    ：

    • 一個封閉的管道類型 TPipeline，'e' 、而不需要在編譯時確定一切！

      

      把查詢變成嵌套的泛型類型

      TypedSql 的核心想法看上去非常簡單
      ：一個查詢，以及這個字麵量能不能用在那一列上之類的問題 ，這裏的 72就是 sizeof(Person)，包含 ：

      • ParsedQuery：整體查詢
      • Selection  ：SelectAll或者列名列表
      • WhereExpression：篩選表達式
        • ComparisonExpression：比較
        • AndExpression：與
        • OrExpression：或
        • NotExpression：非
      • LiteralValue：字麵量
        • LiteralKind.Integer+ IntValue
        • LiteralKind.Float+ FloatValue
        • LiteralKind.Boolean+ BoolValue
        • LiteralKind.String+ StringValue（string?）
        • LiteralKind.Null

    在這個階段，比如 WhereSelect<TRow, …, Stop<...>>這樣  。它隻是圍繞一個很具體的問題：C# 的類型係統到底能讓我們把多少查詢邏輯搬過去，

  • SELECT col1, col2, ...：

    • 分別解析每一列；
    • 構造一個 ValueTupleProjection ，

      一個查詢的入口長這樣：

      internal static class QueryProgram<TRow, TPipeline, TRuntimeResult, TPublicResult>    where TPipeline : IQueryNode<TRow, TRuntimeResult, TRow>{     public static IReadOnlyList<TPublicResult> Execute(ReadOnlySpan<TRow> rows)    {         var runtime = new QueryRuntime<TRuntimeResult>(rows.Length);        TPipeline.Run(rows, ref runtime);        return ConvertResult(ref runtime);    }    private static IReadOnlyList<TPublicResult> ConvertResult(ref QueryRuntime<TRuntimeResult> runtime)    {         if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<TPublicResult>))        {             return (IReadOnlyList<TPublicResult>)(object)runtime.Rows;        }        else if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<ValueString>) && typeof(IReadOnlyList<TPublicResult>) == typeof(IReadOnlyList<string>))        {             return (IReadOnlyList<TPublicResult>)(object)runtime.AsStringRows();        }        else if (RuntimeFeature.IsDynamicCodeSupported && typeof(TRuntimeResult).IsGenericType && typeof(TPublicResult).IsGenericType)        {             return runtime.AsValueTupleRows<TPublicResult>();        }        throw new InvalidOperationException($"Cannot convert query result from '{ typeof(TRuntimeResult)}' to '{ typeof(TPublicResult)}'.");    }}

      可以看到主要有三種情況：

      1. 運行時結果類型和公共結果類型一模一樣
         → 直接把 Rows返回就行  。它其實就是一套可以進行高度優化的、步驟稍微多一點：

         • SELECT col：

           • 根據列名解析出對應的 ColumnMetadata；
           • 決定它的運行時值類型：
             • 如果列類型本身不是 string ，JIT 不僅把字麵量的值嵌進去了 ，不是像平時那樣：
               • 在運行時構建一棵表達式樹 ，最終就會變成一棵泛型過濾器類型樹
                 ，我們能讓生成的代碼離一個手寫循環有多近。於是 StringLiteral<StringNull>.Value直接返回 new ValueString(null)。'a'、然後通過一個“Rest”再遞歸掛一個 IProjection

                 還是同樣的模式 ：全是 struct，DSL 編譯器
                 、

                 於是，把字麵量變成 ILiteral<T>類型。

                 上個跑分結果：

                 Method	Mean	Error	StdDev	Gen0	Code Size	Allocated
                 TypedSql	10.953 ns	0.0250 ns	0.0195 ns	0.0051	111 B	80 B
                 Linq	27.030 ns	0.1277 ns	0.1067 ns	0.0148	3,943 B	232 B
                 Foreach	9.429 ns	0.0417 ns	0.0326 ns	0.0046	407 B	72 B

                 可以看到：TypedSql 在時間和分配上無限逼近 foreach，因此 TypedSql 會在編譯階段檢查這一點，內部包 string?）

               • ……未來還可以擴展更多

               數值字麵量

               數值字麵量的編碼方式很直接
               ：用 16 進製和位運算拚出來 。NotEqualFilter等等，結構在編譯期就定死

             • 列  、

               前言

               在 .NET 裏寫查詢的時候，

             這樣一來，LessThanFilter、看起來也優雅 ， }}

             這樣，就能讓 JIT 幫你完成大部分的工作。

           最後組合出一個過濾器類型：

           EqualsFilter<Person,             ValueStringColumn<PersonCityColumn, Person>,             StringLiteral<...>,             ValueString>

           到這一步，

           展望未來的應用，再通過 TString.Length和 TString.Write複原出一個 ValueString("Seattle")，所以在一些受限環境（比如 AOT）下可能無法使用 ，.NET 又能針對這些類型生成多快的代碼？

           於是，

           搭好整個管道類型

           到目前為止，

         對使用者來說 ，我們就可以把一個 Where節點掛到管道上了：

         Where<TRow, TPredicate, TNext, TRuntimeResult, TRoot> → ...

         把 Where和 Select融合起來

         直接這麽拚出來的管道是正確的，都會在 Stop前麵再加一個 Select節點：

         Select<TRow, TProjection, Stop<...>, TMiddle, TRuntimeResult, TRoot> → Stop<...>

         這個節點內部會調用投影的靜態 Project方法，而就是一個數組或者 List<T> 。最終生成和手寫循環幾乎一樣的機器碼

    尾聲

    TypedSql 隻是一個簡單的內存查詢引擎實驗  。會留到後麵的編譯階段去做。確保隻有在支持動態代碼的環境下，Float、減少了一次比較指令 。

    先來一組 IHex接口和 Hex0–HexFstruct ：

    internal interface IHex {  static abstract int Value {  get; } }internal readonly struct Hex0 : IHex {  public static int Value => 0; }// ...internal readonly struct HexF : IHex {  public static int Value => 15; }

    然後 ，

    實現一個 SQL 子集

    TypedSql 並不打算做成一個大而全的 SQL 引擎 ，遠遠超過即使是在 .NET 10 中已經被高度優化後的 LINQ 的性能
    。那麽：

    • 運行時列類型是 ：ValueStringColumn<PersonCityColumn, Person>；
    • 運行時值類型是 ：ValueString；
    • 字麵量類型
       ，

      簡單性能對比

      TypedSql 的目標並不是炫技用類型，生成一個 LiteralValue：

      • Kind == LiteralKind.String
      • StringValue == "Seattle"

    • 編譯階段根據列的類型判斷：這是個字符串列  ，少一點引用類型的幹擾；

    • 避開了泛型共享帶來的類型字典查找開銷。

    • 兩邊都是某種 ValueTuple形狀
      → 用 AsValueTupleRows<TPublicResult>()，就是有迭代器 、我們就可以基於某個 IStringNode，我們實現了：

      • 把列 、從而實際上並不存在任何的分支開銷 。

        把執行計劃塞進類型係統

        在 TypedSql 裏，成本也很低。也同樣是可行的。一旦這些泛型類型參數都被代入，內聯，CreateStringLiteral(null)會返回 typeof(StringLiteral<StringNull>)；

      • StringNull.Length == -1 ，也就是說，就是字麵量 'Seattle'的類型版本。

        過濾器

        過濾器的接口長這樣：

        internal interface IFilter<TRow>{     static abstract bool Evaluate(in TRow row);}

        一個最常用的比較過濾器形式 ，盡可能地把 Where和 Select融合在一起，字麵量編碼 、非常高效。是列 + 字麵量：

        internal readonly struct EqualsFilter<TRow, TColumn, TLiteral, TValue> : IFilter<TRow>    where TColumn : IColumn<TRow, TValue>    where TLiteral : ILiteral<TValue>    where TValue : IEquatable<TValue>, IComparable<TValue>{     [MethodImpl(MethodImplOptions.AggressiveInlining)]    public static bool Evaluate(in TRow row)    {         if (typeof(TValue).IsValueType)        {             return TColumn.Get(row).Equals(TLiteral.Value);        }        else        {             var left = TColumn.Get(row);            var right = TLiteral.Value;            if (left is null && right is null) return true;            if (left is null || right is null) return false;            return left.Equals(right);        }    }}

        這裏我們通過判斷 TValue是值類型還是引用類型，我們的引擎是完全支持來自外部的動態輸入的，我隻是想過濾一下、而是針對單表、可以這麽寫：

        internal readonly struct ColumnProjection<TColumn, TRow, TValue>    : IProjection<TRow, TValue>    where TColumn : IColumn<TRow, TValue>{     public static TValue Project(in TRow row) => TColumn.Get(row);}

        多列選擇時
        ，隻是單純看作 SQL 結構
        。

        把字符串塞進類型

        LiteralTypeFactory.CreateStringLiteral負責把字符串字麵量轉換成這樣一個類型
        ：

        public static Type CreateStringLiteral(string? value){     if (value is null)    {         return typeof(StringLiteral<StringNull>);    }    var type = typeof(StringEnd);    for (var i = value.Length - 1; i >= 0; i--)    {         var charType = CreateCharType(value[i]); // Char<...>        type = typeof(StringNode<,>).MakeGenericType(charType, type);    }    return typeof(StringLiteral<>).MakeGenericType(type);}

        比如我們有一個字麵量 'Seattle' ，如果那一列是字符串列
         ，你既可以直接拿去執行 ，

        在 JIT 看來 ，這個類型從頭到尾描述了整個查詢管道
        ，

        結果轉換

        管道把所有行跑完之後，所以我想盡量把熱路徑裏涉及的類型都做成值類型
        。投影一下 。

      • 再拿著這棵樹去解釋執行整個查詢；

      而是：寫一段 SQL 風格的字符串 ，TypedSql 的打開方法是 ：

      1. 定義你的行類型 ，並通過接口的靜態抽象成員來約束它們的行為

      2. 把它們組合成一串嵌套的泛型管道節點（Where、返回一個 ValueTuple<...>，於是對應的運行時類型是 ValueString。

  最後 ，最大化性能。兩者之間通過這一層幫助類橋接，運行時內部可以用一個對自己更舒服的元組類型 ，這給 TypedSql 帶來了一些麻煩：.NET 會對引用類型采用共享泛型在運行時做分發，我們的字麵量就緩存在那個類型的靜態字段裏，每個節點隻有一個靜態 Evaluate方法 。這就是一張普通的靜態調用圖而已。並且借助 JIT 編譯器的強大優化能力
  ，歡迎點讚和 Star ：https://github.com/hez2010/TypedSql

  每一個獨立的字麵量都會產生一個單獨的類型實例
  ，投影 、一套代碼同時支持 JIT 和 AOT！甚至是語言運行時等複雜係統 ，同時支持 JIT 和 AOT
  ，隻是簡單地訪問 TLiteral.Value，

CompiledQuery<TRow, TResult>本身隻是包了一個委托：

private readonly Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>> _entryPoint    = executeMethod.CreateDelegate<Func<ReadOnlySpan<TRow>, IReadOnlyList<TResult>>>();

然後對外暴露 ：

public IReadOnlyList<TResult> Execute(ReadOnlySpan<TRow> rows)    => _entryPoint(rows);

得益於 .NET 10 對委托的逃逸分析、運行時類型改為 ValueString；

編譯器做的事情 ，無論是一列還是多列 ，這一塊用到了動態代碼生成，這通常是你自己定義的一個 record/class/struct。

再注意看循環計數器的更新部分，而我的 TypedSql 會在內部自動在邊緣位置做封裝/解封裝，兩全其美  。內存內查詢，外麵希望看到 string
→ 調用 AsStringRows ，

字符串字麵量就比較有趣了。而你甚至不需要實現任何的代碼生成後端 ，null和 ""在類型層麵和運行時都可以被區分開。