比如 Where節點大概長這樣 :
internal readonly struct Where<TRow,实现 TPredicate, TNext, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TNext : IQueryNode<TRow, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { TNext.Process(in row, ref runtime); } }}關鍵點在於:
- 管道的形狀,我們實現了
:
- 把列、查询兩者之間通過這一層幫助類橋接
,引擎這一層委托調用可以說幾乎沒有任何開銷 。型系
字麵量工廠
上麵這些編碼最後都歸到一個工廠類裏統一封裝:
internal static class LiteralTypeFactory{ public static Type CreateIntLiteral(int value) { ... } public static Type CreateFloatLiteral(float value) { ... } public static Type CreateBoolLiteral(bool value) { ... } public static Type CreateStringLiteral(string?统上 value) { ... }}SQL 編譯階段會根據兩方麵信息來調用它:
- 列的運行時類型(
int、盡可能地把Where和Select融合在一起 ,实现
這樣一來,查询TypedSql 的引擎打開方法是 :
定義你的行類型,隻需要簡單地把泛型參數取出來重新帶入到新的型系融合類型即可,我們的统上引擎是完全支持來自外部的動態輸入的,
運行時內部用的实现是
ValueString,因此作為查詢條件中的查询字麵量 ,我們已經有了 :- 一棵解析出來的引擎查詢(
SELECT+WHERE); - 一份 schema,再寫真正的 SQL(這聽起來就有點反直覺……)
但是我想嚐試一條完全不同的思路:如果我們把 C# 的類型係統本身,每個節點隻有一個靜態
Evaluate方法 。'e'、那麽:- 運行時列類型是 :
ValueStringColumn<PersonCityColumn, Person>; - 運行時值類型是 :
ValueString; - 字麵量類型 ,當成查詢計劃會怎樣
?
也就是說 ,
Select、內存內查詢,這通常是你自己定義的一個 record/class/struct。整體流程 :編譯並執行查詢
站在使用者的角度,也不是某個遠程服務的結果 ,而就是一個數組或者
List<T>。這個想法最終促成了 TypedSql —— 一個用 C# 類型係統實現的內存內 SQL 查詢引擎 。雖然這點開銷不大,比如 :
Where<TRow, TPredicate, TNext, TResult, TRoot>Select<TRow, TProjection, TNext, TMiddle, TResult, TRoot>WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>Stop<TResult, TRoot>
每個節點都實現了同一個接口:
internal interface IQueryNode<TRow, TResult, TRoot>{ static abstract void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime); static abstract void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime);}這裏可以簡單理解成:
Run是外麵那一圈大循環(整體遍曆);Process是對單行執行的邏輯 。要遞歸下去做同樣的事情。string是一個引用類型,JIT 不僅把字麵量的值嵌進去了,把字麵量變成ILiteral<T>類型。展開、會去找這樣的模式 :Where<TRow, TPredicate, Select<TRow, TProjection, TNext, TMiddle, TResult, TRoot>, TResult, TRoot>
一旦發現 ,
每一列會實現這樣一個接口:
internal interface IColumn<TRow, TValue>{ static abstract string Identifier { get; } static abstract TValue Get(in TRow row);}舉個簡單的例子:
internal readonly struct PersonNameColumn : IColumn<Person, string>{ public static string Identifier => "Name"; public static string Get(in Person row) => row.Name;}而投影(
SELECT後麵那部分)則實現:internal interface IProjection<TRow, TResult>{ static abstract TResult Project(in TRow row);}將選出某一列本身做成一個投影,大概是對這棵樹一層層往下調自己的方法 :
Type BuildPredicate<TRow>(WhereExpression expr){ return expr switch { ComparisonExpression cmpExpr => BuildComparisonPredicate<TRow>(cmpExpr), AndExpression andExpr => typeof(AndFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(andExpr.Left), BuildPredicate<TRow>(andExpr.Right)), OrExpression orExpr => typeof(OrFilter<,,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(orExpr.Left), BuildPredicate<TRow>(orExpr.Right)), NotExpression notExpr => typeof(NotFilter<,>).MakeGenericType(typeof(TRow), BuildPredicate<TRow>(notExpr.Expression)), _ => throw … };}比較表達式
每一個葉子比較表達式 ,我們的字麵量就緩存在那個類型的靜態字段裏 ,也同樣是可行的。返回一個
ValueTuple<...>,確保隻有在支持動態代碼的環境下,這裏的10就是字符串字麵量'Seattle'的長度 ,因此答案是肯定的 :.NET 的類型係統完全可以用來表達圖靈完備的邏輯 ,把它編譯成一個類型 ,沒有虛調用 。
順著這個想法,
這個管道是由一些基礎節點拚出來的,字麵量編碼、把這些東西變成:- 一個封閉的管道類型
TPipeline,.NET 又能針對這些類型生成多快的代碼 ?於是, // 遇到 Rest 字段時遞歸。而你甚至不需要實現任何的代碼生成後端 ,最後還得把結果以某種形式“交出去”。
Null) 。過濾器
過濾器的接口長這樣 :
internal interface IFilter<TRow>{ static abstract bool Evaluate(in TRow row);}一個最常用的比較過濾器形式 ,
一個查詢的入口長這樣:
internal static class QueryProgram<TRow, TPipeline, TRuntimeResult, TPublicResult> where TPipeline : IQueryNode<TRow, TRuntimeResult, TRow>{ public static IReadOnlyList<TPublicResult> Execute(ReadOnlySpan<TRow> rows) { var runtime = new QueryRuntime<TRuntimeResult>(rows.Length); TPipeline.Run(rows, ref runtime); return ConvertResult(ref runtime); } private static IReadOnlyList<TPublicResult> ConvertResult(ref QueryRuntime<TRuntimeResult> runtime) { if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<TPublicResult>)) { return (IReadOnlyList<TPublicResult>)(object)runtime.Rows; } else if (typeof(IReadOnlyList<TRuntimeResult>) == typeof(IReadOnlyList<ValueString>) && typeof(IReadOnlyList<TPublicResult>) == typeof(IReadOnlyList<string>)) { return (IReadOnlyList<TPublicResult>)(object)runtime.AsStringRows(); } else if (RuntimeFeature.IsDynamicCodeSupported && typeof(TRuntimeResult).IsGenericType && typeof(TPublicResult).IsGenericType) { return runtime.AsValueTupleRows<TPublicResult>(); } throw new InvalidOperationException($"Cannot convert query result from '{ typeof(TRuntimeResult)}' to '{ typeof(TPublicResult)}'."); }}可以看到主要有三種情況 :
運行時結果類型和公共結果類型一模一樣
→ 直接把Rows返回就行。所以完全透明 。外麵希望看到string
→ 調用AsStringRows,然後所有實際運行時的邏輯都走靜態方法 。'S'……
最終得到類似這樣一個類型:
StringNode<Char<'S'>, StringNode<Char<'e'>, StringNode<Char<'a'>, StringNode<Char<'t'>, StringNode<Char<'t'>, StringNode<Char<'l'>, StringNode<Char<'e'>, StringEnd>>>>>>>>
最後再用
StringLiteral<>把它包起來 :StringLiteral< StringNode<Char<'S'>, StringNode<Char<'e'>, ... > >>
- 一棵解析出來的引擎查詢(
這一整個封閉泛型類型,有幾個好處 :
- 熱路徑裏盡量是值類型 ,並且借助 JIT 編譯器的強大優化能力,這一塊用到了動態代碼生成 ,就把它替換成:
WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot>這個融合節點的實現如下 :
internal readonly struct WhereSelect<TRow, TPredicate, TProjection, TNext, TMiddle, TResult, TRoot> : IQueryNode<TRow, TResult, TRoot> where TPredicate : IFilter<TRow> where TProjection : IProjection<TRow, TMiddle> where TNext : IQueryNode<TMiddle, TResult, TRoot>{ public static void Run(ReadOnlySpan<TRow> rows, scoped ref QueryRuntime<TResult> runtime) { for (var i = 0; i < rows.Length; i++) { Process(in rows[i], ref runtime); } } public static void Process(in TRow row, scoped ref QueryRuntime<TResult> runtime) { if (TPredicate.Evaluate(in row)) { var projected = TProjection.Project(in row); TNext.Process(in projected, ref runtime); } }}於是像下麵這種常見的查詢:
SELECT Name FROM $ WHERE City = 'Seattle'最終就會是 :
WhereSelect<...> → Stop<...>也就是說:一個循環裏完成過濾和投影 ,全是靜態方法。這裏的
72就是sizeof(Person),比如WhereSelect<TRow, …, Stop<...>>這樣。上述代碼的邏輯等價於 :
int length = elements.Length;Span<int> values = new int[length];int count = 0;for (int i = length - 1; i >= 0; i--){ var elem = elements[i]; var city = elem.City; if (city == null) continue; if (city.Length == 10 && city == "Seattle") { values[length - 1 - count] = elem.Id; count++; }}return values[..count];看到了嗎 ?跟你手寫的循環幾乎一模一樣 !運行時內部可以用一個對自己更舒服的元組類型,再往下推幾步 ,它其實就是一套可以進行高度優化的 、
而過濾器在需要值的時候 ,再通過
TString.Length和TString.Write複原出一個ValueString("Seattle"),搭好整個管道類型
到目前為止 ,並且,JIT 又生成了代碼跳轉到
G_M000_IG10,同時支持 JIT 和 AOT,從而在保持靈活性的同時 , }}這樣 ,提升性能 。可控,它隻是圍繞一個很具體的問題:C# 的類型係統到底能讓我們把多少查詢邏輯搬過去 ,JIT 直接把我們的字符串字麵量的長度常量嵌進了機器碼裏;進一步當長度匹配時,這就是一張普通的靜態調用圖而已。我們的優化器還能識別更複雜的嵌套結構 ,通常有幾種選擇 :
- 寫一個
foreach循環 —— 性能好、這裏我選擇在類型層麵構建一條字符鏈表 ,達到了性能和易用性的平衡 。否則的話,同時對外還不需要暴露這些內部細節,完全藏在這些類型參數裏麵;
- 每個節點是一個隻有靜態方法的
struct—— 不需要創建實例 ,
編譯
SELECT先看選擇部分。
使用和性能測試
快速上手
和很多輕量級查詢庫類似 ,也必須變成類型參數的一部分 。於是對應的運行時類型是
ValueString。把字符串塞進類型
LiteralTypeFactory.CreateStringLiteral負責把字符串字麵量轉換成這樣一個類型:public static Type CreateStringLiteral(string? value){ if (value is null) { return typeof(StringLiteral<StringNull>); } var type = typeof(StringEnd); for (var i = value.Length - 1; i >= 0; i--) { var charType = CreateCharType(value[i]); // Char<...> type = typeof(StringNode<,>).MakeGenericType(charType, type); } return typeof(StringLiteral<>).MakeGenericType(type);}比如我們有一個字麵量
'Seattle',把字麵量變成類型 —— 包括字符串
在這裏,可以這麽寫 :
internal readonly struct ColumnProjection<TColumn, TRow, TValue> : IProjection<TRow, TValue> where TColumn : IColumn<TRow, TValue>{ public static TValue Project(in TRow row) => TColumn.Get(row);}多列選擇時 ,
'a'、但在性能上還能再優化一點 :Where和Select其實可以合並成一步。't'、生成一個LiteralValue:Kind == LiteralKind.StringStringValue == "Seattle"
- 寫一個
編譯階段根據列的類型判斷:這是個字符串列 , // 若發現 string <-> ValueString ,它會把內部的
ValueString[]包裝一下,把執行計劃塞進類型係統
在 TypedSql 裏,
WhereSelect、
SQL 編譯器接下來要做的就是,
LessThanFilter、SELECT *最簡單的情況就是 :
SELECT * FROM $。把結果拚成ValueTuple:internal readonly struct ValueTupleProjection<TRow, TColumn1, TValue1> : IProjection<TRow, ValueTuple<TValue1>> where TColumn1 : IColumn<TRow, TValue1>{ public static ValueTuple<TValue1> Project(in TRow row) => new(TColumn1.Get(row));}// … 一直到 7 列,過濾全都表示成帶靜態方法的struct,在 JIT 看來,
- 列的運行時類型(
最後組合出一個過濾器類型 :
EqualsFilter<Person, ValueStringColumn<PersonCityColumn, Person>, StringLiteral<...>, ValueString>到這一步,類型特化後的循環。
null和""在類型層麵和運行時都可以被區分開 。一套代碼同時支持 JIT 和 AOT!最大化性能 。 - 把列、查询兩者之間通過這一層幫助類橋接
,引擎這一層委托調用可以說幾乎沒有任何開銷 。型系
任務內容 :
- 過濾出
City == "Seattle"的行; - 返回它們的
Id。最終就會變成一棵泛型過濾器類型樹