我以前遇到的问题大概都是这种类型的:

1  
 for( 
 int  
 i  
 =  
 0;i<100;i++) 
 
2  
 { 
 
3  
   
   
   
 for( 
 int  
 j  
 =  
 0;j<10000;j++) 
 
4  
   
   
   
 { 
 
5  
   
   
   
   
   
   
 // 
 balabala
 
 
 
 6  
   
   
   
 } 
 
7  
 } 
 
8  
 和 
 
9  
 for( 
 int  
 i  
 =  
 0;i<10000;i++) 
 
10  
 { 
 
11  
   
   
   
 for( 
 int  
 j  
 =  
 0;j<100;j++) 
 
12  
   
   
   
 { 
 
13  
   
   
   
   
   
   
 // 
 balabala
 
 
 
 14  
   
   
   
 } 
 
15  
 }

这两个程序那个执行效率高,如果是以前我会毫不犹豫的说是第一个效率高,这是由于cpu切换的次数比较多导致性能下降,知道这句话不理解什么原理。我比较赞同下面的说法,

1. 最长循环放到内部可以提高I cache的效率,降低因为循环跳转造成cache的miss以及流水线flush造成的延时 2. 多次相同循环后也能提高跳转预测的成功率,提高流水线效率 3. 编译器会自动展开循环提高效率, 这个不一定是必然有效的 但不是绝对正确的,比如:

1 
   
  int 
  x[ 
  1000 
  ][ 
  100 
  ];
  
2    for(i=0;i<1000;i++) 
  
3      
    
  for(j=0;j<100;j++) 
  
4    { 
  
5      
    
  // 
  access x[i][j] 
  
   6  
  } 
  
7    
8    int  
  x[1000][100]; 
  
9    for(j=0;j<100;j++) 
  
10      
    
  for(i=0;i=1000;i++) 
  
11    { 
  
12      
    
  // 
  access x[i][j] 
  
   13  
  } 
  
14

这时候第一个的效率就比第二个的高,原因嘛和硬件也有一些关系,CPU对于内存的访问都是通过数据缓存(cache)来进行的。比如一个通用CPU,一级缓存(L1-Cache)的大小为16K,而其组织结构为每32个字节一组(cache line size=32byte),

也就是每次从二级缓存或内存取数据到一级缓存,都是一次性取32个字节。

对于上面的第一段代码,每次取数据到一级缓存,都有连续8次内存访问可以共享一条缓存。

而对于第二段代码,每次取数据到一级缓存后,访问一次后,基本上就没有机会被再次使用了;

上面这两段代码的区别在于第一段代码,每次内存访问后,地址值需要加常数4,而第二段代码,每次访问后,地址值加400。

如果没有对于缓存访问的区别,那么这时我们的确可以将长的循环放在里层,短的放在外层。但是而其主要原因不是一般人所想象的指令数目的区别的问题,

而主要由于分支预测错误会引起的流水线中断从而导致性能的降低。

-------------

观点2(重点在数组)

在多重循环中,如果有可能,应当将最长的循环放在最内 层,最短的循环放在最外层,以减少CPU跨切 ...

这种说法是错误的。譬如,对数组操作的两层循环,如果数组的物理存储是行优先的(现在的数组都是如此),则应该外层对行,内层对列,才有高效率。这样才能 充分发挥Cache的效果,即提高Cache的命中率。如果反过来做,特别是当列数很多、元素很大时,Cache的命中率会非常低。世界级的大牛,比如写 《深入C++对象模型》,或者C++之父BS,遇到效率问题,一般都会说:理论上可能如何如何,但是真正的结果一定要在具体的环境中实际测试。优化除了有 良好的算法结构以外,还涉及到很多的方面,硬件的处理方式必须有所了解

除了cache以外,现代CPU会对代码进行分支预测和预读取等优化执行效率的处理

如果代码编译后生成的机器语言更适合CPU的优化执行,执行效率也会高出不少

不过了解太多的底层实现来优化程序,成本太高。

大部分情况下,一般的设计人员只要有良好的代码结构就足够了。我估计林博士应该和我的观点是一样的^_^