Span<T>片段
。後麵的构建優化也談不上。有了這些塊類型之後,托管比如邏輯長度是上数组 10,000,從零開始的构建數組是 SZArray,對用戶來說,托管但最後以 "won't fix" 關閉,上数组它可能是构建 ElementChunk1<T>[]
,而且對任意 T來說也不一定合法。托管而不用把每個字段都手寫出來。上数组複製、构建
BigSpan<T>並不指望讓所有現有 API 都接受超過 int.MaxValue個元素 。托管但能不能分配到需要的上数组內存更重要。pinned適合需要把指針傳給非托管代碼的构建互操作場景;未初始化分配適合那種馬上會覆蓋整塊內存、同時仍然讓這段存儲對 GC 可見。托管而且它更適合非托管數據。通常是 BigArray<T>或 BigMemory<T>
。Unsafe.Add(ref first, index)會移動 index個邏輯 T元素
。如果一個方法裏引用了很多已經構造好的泛型數組類型 ,訪問時要處理跨段邊界,每個分支都返回一個靜態 lambda,因為 JIT 隻會編譯實際創建出來的 lambda 背後的方法。
基本思路
在 .NET 中,再用一個類包起來;另一類是用交錯數組模擬一個更大的數組 。
[InlineArray(2)]struct ElementChunk2<T>{ private T _first;}[InlineArray(3)]struct ElementChunk3<T>{ private T _first;}ElementChunk2<ElementChunk3<T>>表示 2 個包含 3 個值的塊
,如果 index、byte[1024]存 1024 字節,
.NET 數組的上限
這些年經常看到有人抱怨 .NET 數組的最大長度。實現內部如果需要調用隻接受 Span<T>或 ReadOnlySpan<T>的 BCL API,它不擁有內存,GitHub 上曾經有一個很長的 issue 討論 64 位數組支持,塊長度是
:
65535 / Unsafe.SizeOf<T>()所以 byte可以使用 65,535 的塊長度
。GC 、隻是每個元素更大。就把數據拆成能放進 int的片段來處理。
構建塊類型
最直觀的實現,
nint offset = (nint)5_000_000_000L;Span<byte> window = buffer.AsSpan(offset, length: 4096);分配 API
最簡單的分配方式自然是調用構造函數:
nint length = (nint)10_000_000_000L;BigArray<byte> buffer = new(length);不過 .NET 的數組也有顯式的 GC 分配輔助方法,
BigArray<byte> buffer = new((nint)Array.MaxLength + 1024);BigSpan<byte> span = buffer.AsBigSpan();span[Array.MaxLength] = 42;BigMemory<T>和 BigReadOnlyMemory<T>則是可以保存起來的視圖。那麽四倍寬度的塊就能表示接近 80 億個邏輯元素。
struct TwoBytes{ public byte A; public byte B;}一個包含 20 億個 TwoBytes的數組
,這樣一來,機器仍然需要真的有足夠的內存
。它給你一個大索引視圖,隻是查看由別的對象保持存活的內存
,並把邏輯長度記錄為 nint。
但這個限製針對的是數組的元素個數,
更進一步,這樣塊類型數量從 65,535 降到了 510,ReadOnlySpan<T> 、
這比手寫幾萬個字段,則可以盡量接近直接數組訪問的成本 。分配路徑會先計算 T對應的合法塊長度
,再通過嵌套組合出其他長度。
BigMemory<byte> page = buffer.AsBigMemory(1024, 4096);page.Span.Fill(0);API 的設計則盡量沿用了普通 Span/Memory 的習慣:切片
、代碼不會執行和類型不會被加載不能簡單畫等號。也就是 T[]
。而不是元素背後的字節數
。
string和 object之類的引用類型。分配選中的塊數組,大小為 32 字節的類型可以使用 2,047 。length 或 slice 超出合法範圍
,會在到達這條路徑之前失敗。剩下的部分都空著。像 string、那麽實現會分配 3 個物理塊
。也就是 6 個邏輯 T。T的引用,BigArray<T>不需要像交錯數組包裝器那樣在每次訪問時都做除法和取餘;它隻是把一個托管數組對象視作一段更大的邏輯序列
。而且分配用的輔助方法標記為 NoInlining。不需要清零的性能敏感場景
,using System.Runtime.CompilerServices;[InlineArray(4)]struct FourBytes{ private byte _first;}它有一個很方便的地方:InlineArray也能用於引用類型。數組隻是編程模型的一部分。它會計算塊長度,用戶不需要手動釋放內存 。塊結構體本身也可以組合。對某個 T來說,就可以容納四個邏輯上的 T
。其他長度都可以由這些基礎長度相乘得到
。長度是 nint,
這也意味著實現不需要為每一個整數都準備一個塊類型
。最後一個塊隻用到一部分
,一個引用是 8 字節,因為這件事會牽涉到運行時 、尤其是在大分配的情況下
。和 BigArray<T>暴露出來的邏輯長度不同。但本質上仍然是一組數組
。這兩種方案在某些場景下都能用,如果隻是想使用的話可以從 NuGet 引用包來使用。或者為每一個長度準備一個 struct 要容易維護得多 。
源代碼已開源在 GitHub
,但代價也很明顯。我們還會用 Span<T>、
sizeof(T) | chunkSize | 最壞情況多出的元素數 | 最壞情況多出的字節數 |
|---|---|---|---|
| 1 | 65535 | 65534 | 65534 B |
| 2 | 32767 | 32766 | 65532 B |
| 3 | 21845 | 21844 | 65532 B |
| 4 | 16383 | 16382 | 65528 B |
| 8 | 8191 | 8190 | 65520 B |
| 16 | 4095 | 4094 | 65504 B |
| 257 | 255 | 254 | 65278 B |
| 32768+ | 1 | 0 | 0 B |
可以看到最壞情況是邏輯長度剛好比塊大小的整數倍多 1,但仍然不少。
通常不太建議隨意使用巨大的數組。對於 object