C# 为什么处理排序数组比处理未排序数组慢?
我有一个500000个随机生成的C# 为什么处理排序数组比处理未排序数组慢?,c#,.net,performance,language-agnostic,C#,.net,Performance,Language Agnostic,我有一个500000个随机生成的Tuple对象的列表,我正在对这些对象执行简单的“中间”搜索: 使用未排序列表时,所有元组均按内存顺序访问。它们已在RAM中连续分配。CPU喜欢按顺序访问内存,因为它们可以推测地请求下一个缓存线,以便在需要时它始终存在 当您对列表进行排序时,将其放入随机顺序,因为您的排序键是随机生成的。这意味着对元组成员的内存访问是不可预测的。CPU无法预取内存,对元组的几乎每次访问都是缓存未命中 这是一个很好的例子,说明了GC内存管理的一个特殊优势:一起分配并一起使用的数据结
Tuple
对象的列表,我正在对这些对象执行简单的“中间”搜索:
使用未排序列表时,所有元组均按内存顺序访问。它们已在RAM中连续分配。CPU喜欢按顺序访问内存,因为它们可以推测地请求下一个缓存线,以便在需要时它始终存在 当您对列表进行排序时,将其放入随机顺序,因为您的排序键是随机生成的。这意味着对元组成员的内存访问是不可预测的。CPU无法预取内存,对元组的几乎每次访问都是缓存未命中 这是一个很好的例子,说明了GC内存管理的一个特殊优势:一起分配并一起使用的数据结构执行得非常好。它们具有很大的参考位置 在这种情况下,缓存未命中的惩罚大于保存的分支预测惩罚 尝试切换到
结构
-元组。这将恢复性能,因为在运行时访问元组成员不需要进行指针解引用
Chris Sinclair在评论中指出,“对于大约10000或更少的TotalCount,排序版本的执行速度确实更快”。这是因为一个小列表完全适合CPU缓存。内存访问可能不可预测,但目标始终在缓存中。我相信仍然有一个小的惩罚,因为即使从缓存加载也需要一些周期。但这似乎不是问题,因为CPU可以处理多个未完成的负载,从而提高吞吐量。每当CPU遇到等待内存时,它仍会在指令流中加速,以尽可能多地排队等待内存操作。此技术用于隐藏延迟
这种行为表明,在现代CPU上预测性能是多么困难。从顺序内存访问到随机内存访问时,我们的速度只慢了2倍,这一事实告诉我,隐藏内存延迟的秘密到底有多少。内存访问会使CPU暂停50-200个周期。考虑到这一点,在引入随机内存访问时,程序的速度可能会降低10倍以上。LINQ不知道列表是否已排序 由于Count with predicate参数是所有IEnumerable的扩展方法,我认为它甚至不知道它是否通过有效的随机访问在集合上运行。因此,它只是检查每个元素,Usr解释了性能降低的原因
要利用排序数组(如二进制搜索)的性能优势,您必须多做一些编码。因为分支预测:p@jalf由于分支预测,我希望排序后的版本执行得更快一些。我的想法是,一旦我们达到
Item1==x
,对t.Item1@ChrisSinclair的所有进一步检查都是很好的观察!我在答覆中加入了一项解释,这项质询并非与现有质询重复。不要投票将其作为一个整体关闭。@Sar009一点也不!这两个问题考虑了两种非常不同的场景,很自然地到达不同的结果。为什么在C/C++中学习的一切都不能逐字地应用到像C语言这样的语言中。在测试新列表之前,可以通过手动将排序后的数据逐个复制到新列表(500000)
中来确认此行为。在这个场景中,排序测试与未排序测试一样快,这与这个答案的推理相匹配。非常好,非常感谢!我制作了一个等价的Tuple
struct,程序开始按照我预测的方式运行:排序后的版本稍微快一点。此外,未分类的版本速度提高了一倍!因此,带struct
的数字是2个未排序的数字,而不是1.9个排序的数字。因此,我们可以由此推断缓存未命中比分支预测失误更严重吗?我想是的,而且一直都这么想。在C++中,<>代码> STD::vector 几乎总是比更好。@ MeHorda:不,C++也是如此。即使在C++中,紧凑的数据结构也很快。在C++中,避免缓存缺失与任何其他语言一样重要。code>std::vector
vsstd::list
就是一个很好的例子。我想你误解了这个问题:当然我不希望Count
或Where
会“不知何故”接受我的数据被排序的想法,并运行二进制搜索,而不是简单的“检查一切”搜索。我所希望的只是更好的分支预测带来的一些改进(请参阅我问题中的链接),但事实证明,引用的位置比分支预测更重要。
var data = new List<Tuple<long,long,string>>(500000);
...
var cnt = data.Count(t => t.Item1 <= x && t.Item2 >= x);
private const int TotalCount = 500000;
private const int TotalQueries = 100;
private static long NextLong(Random r) {
var data = new byte[8];
r.NextBytes(data);
return BitConverter.ToInt64(data, 0);
}
private class TupleComparer : IComparer<Tuple<long,long,string>> {
public int Compare(Tuple<long,long,string> x, Tuple<long,long,string> y) {
var res = x.Item1.CompareTo(y.Item1);
if (res != 0) return res;
res = x.Item2.CompareTo(y.Item2);
return (res != 0) ? res : String.CompareOrdinal(x.Item3, y.Item3);
}
}
static void Test(bool doSort) {
var data = new List<Tuple<long,long,string>>(TotalCount);
var random = new Random(1000000007);
var sw = new Stopwatch();
sw.Start();
for (var i = 0 ; i != TotalCount ; i++) {
var a = NextLong(random);
var b = NextLong(random);
if (a > b) {
var tmp = a;
a = b;
b = tmp;
}
var s = string.Format("{0}-{1}", a, b);
data.Add(Tuple.Create(a, b, s));
}
sw.Stop();
if (doSort) {
data.Sort(new TupleComparer());
}
Console.WriteLine("Populated in {0}", sw.Elapsed);
sw.Reset();
var total = 0L;
sw.Start();
for (var i = 0 ; i != TotalQueries ; i++) {
var x = NextLong(random);
var cnt = data.Count(t => t.Item1 <= x && t.Item2 >= x);
total += cnt;
}
sw.Stop();
Console.WriteLine("Found {0} matches in {1} ({2})", total, sw.Elapsed, doSort ? "Sorted" : "Unsorted");
}
static void Main() {
Test(false);
Test(true);
Test(false);
Test(true);
}
Populated in 00:00:01.3176257
Found 15614281 matches in 00:00:04.2463478 (Unsorted)
Populated in 00:00:01.3345087
Found 15614281 matches in 00:00:08.5393730 (Sorted)
Populated in 00:00:01.3665681
Found 15614281 matches in 00:00:04.1796578 (Unsorted)
Populated in 00:00:01.3326378
Found 15614281 matches in 00:00:08.6027886 (Sorted)