童话故事 — CPU的贴身护卫ITCM和ICache

 

“叮铃铃… 叮铃铃…”

“什么人啊?”黛丝研究生打开了家门,”哇,高飞,你怎么来了?”

高飞狗:”好久不见,想来看看你,还买了你最欢喜吃的纯黑巧克力。”

黛丝:”以往都是布鲁托领着你来的,明日你独自上门,必定不怀好意。买了这么多巧克力,必是别有她图吧?”

高飞狗:”你这说的咋样话,咱俩一块长大的,怎么会不怀好意? 别有他图倒是真的。”

黛丝:”我就清楚你无事不登八宝殿! 说吧,又赶上如何困难的难题了。”

高飞狗:”是这么的,这两年以Cortex-M7(以下简称CM7)为骨干的MCU越来越多,CPU周围新增了三种部件,例如ITCM和ICache,最新的STM32H743,ITCM容量高达64KB,ICache容量高达16KB,我对其效能一知半解,对其用法一头雾水,你能不可以给详细讲解一番?”

黛丝:”高飞,你什么样时候变得起早贪黑了,居然探讨起高大上的科技来了。”

高飞狗心想:”只要能把你这白富美搞到手,再宏伟上的忙碌也要不惜一切代价打败。”

黛丝:”ITCM和ICache还真是很风尚的事物,毕竟是新东西,我研讨的大运也不长,谈不上教学,说错的地点还请及时指正。”

高飞狗:”你太谦虚了!”

黛丝:”大家仍旧从事实上问题出发吧。”

黛丝:”以堆栈空间为例。堆栈空间及其存储的各个数码(含应用程序中的所有片段变量),唯有CPU才会访问,而且是反复造访。不过,在CM7出现从前,堆栈空间只好放在SRAM中,而SRAM是共享资源,DMA能够访问,另外总线Master也都可以访问。导致了以下问题:”

黛丝:”Q1:CPU要和此外总线Master争夺SRAM访问控制权,最惨的时候,CPU只有50%的时刻可以访问SRAM,极大地降落了先后性能。”

黛丝:”Q2:此外总线Master有可能篡改堆栈空间上的数目,严重威迫应用程序的平安。”

高飞狗:”对对对,我就有过这么的阅历。”

黛丝:”ITCM的产出,彻底解决了上述多少个问题。ITCM就是CPU的贵妃,归CPU专享、专用、私有、独占。我们把堆栈空间布置在ITCM内,CPU就足以零等待、单周期、全速访问堆栈空间和多次用到的数码对象,大大升级应用程序性能,且其中的多少不会被其他总线Master篡改,大大升级了应用程序的安全性。”

高飞狗:”醍醐灌顶!”

高飞狗:”除此之外,ITCM还有怎么着用?”

黛丝:”在纷繁应用程序中,平时高频地、随机地发出各个中断。发生搁浅时,就要读取中断向量表(IVT),然后跳转到中断服务程序(ISR)。在CM7出现以前,CPU应对中断存在以下多少个高烧的题目:”

黛丝:”Q1:IVT与被搁浅代码的大体地址相距(简称空距)平日较远,需要耗费五个机械周期才能读取中断向量。”

黛丝:”Q2:而ISR与IVT的空距平常也较远,又需要消耗多少个机器周期才能跳转到ISR。”

黛丝:”于是,暴发一遍中断,要耗费成千上万机械周期才能跳转执行到ISR。”

黛丝:”Q3:ISR重回到被暂停代码又要消耗成千上万个机器周期。”

黛丝:”执行一遍ISR,花费在代码跳转上的时间相近不多。可是,低度频繁、随机发生的各类中断,将使CPU在先后跳转上耗费极其巨大的日子。在纷繁、实时性要求较高的拔取中,其代价依旧很惊人的。”

黛丝:”ITCM的出现,完美解决了以上3个问题。程序设计者可以人工地把IVT和ISR安排在一块连续地址空间内,在系统启动时将其所有装入ITCM中,由于CPU访问ITCM总是单周期的,以上3个问题中的程序跳转均可以单周期完成,大幅升级了ISR的实时性能。”

 

高飞狗:”我记忆MCU内部平时都配有自适应实时加速器 (ART-Accelerator™),为什么还亟需ITCM来做这项工作吗?”

黛丝:”在逐一读取连续存放的通令时,ART- Accelerator有显然的涨价效果。而上述3个问题的景观,基本上是随机读取指令,也就是代码间的空距较远,ART- Accelerator的法力就大促销扣,基本没什么提速效能,这正是ART- Accelerator的短板,而ITCM的现身则大大升级了自由读取指令和数据的性质,补上了ART- Accelerator的短板。”

 

高飞狗:”我精通了。”

高飞狗:”亲爱的,我发现,STM32H743的ITCM容量高达64KB,除了缓存IVT、ISR、堆栈空间之外,把任何RTOS缓存进去也没问题。如此,CPU就可以独占地、单周期访问高频度用到的代码和数据,应用程序的性质进步幅度将是不足想像的。”

黛丝:”你依旧很懂事的! 比以前聪明多了!”

高飞狗:”我了然为什么要把ITCM的容量设计得如此大了。”

高飞狗:”CM7是32位核心,为什么ITCM被规划为64位宽度?”

黛丝:”尽管CM7的整数运算能力多为32位,但也有微量64位整数运算指令和大气64位双精度浮点数运算指令,传送64位数据的需要依然累累的,而且不少下令需要两遍传送多个32位数据,如下表所示,与32位总线宽度相比较,64位的总线宽度可以省去50%的多少传送时间,性能提高是可怜惊人的。”

例子:一次传送64位宽度数据的指令

说明

LDRD R8, R9, [R3];

以R3为地址指针,将一个64位双字载入R8和R9

LDM R8, {R0-R3}

以R8为地址指针,读取4个32位数据到寄存器中

相当于传送2个64位双字

STM R1, {R3-R6,R11,R12}

以R1为地址指针,存储6个32位寄存器数据

相当于传送3个64位双字

PUSH {R4-R7};

将4个32位寄存器推入堆栈,相当于2个64位双字

64位双精度浮点数的读取和存储指令

不再列出具体指令

 

高飞狗:”听你讲了如此多,胜读多年书。有点累了啊? 我给你泡杯咖啡,吃块巧克力怎么样?”

黛丝:”你倒反客为主了!还有甚问题,一气问了,我还要出去办事呢。”

高飞狗心想:”还这样狠心,一丝咸聊的时机都不给。”

高飞狗:”既然ITCM这么好,为啥还出了个ICache,又有什么样用吧? 总有种既生高飞,何生黛丝的感觉!”

黛丝:”巧言令色,看自己不踩死你!”

黛丝:”这还得看一个小例子,才能说得通晓。如下表所示。”

 

// 循环1亿次

while (…) {

function1(); // 函数地址在0x10000

function2(); // 函数地址在0x20000

function3(); // 函数地址在0x30000

}

 

黛丝:”这段小程序有2个特点:

F1:3个函数顺序拿到实施,在执行时间上是附近的,简称时距相邻。

F2:3个函数的情理地址相距很远,简称空距很远。

 

因为空距很远,前一个函数执行完毕后,跳转执行到下一个函数,至少需要花费3个机器周期,循环的1次施行花费在跳转上的时间最少9个机器周期,循环的1亿次实践相应的开销至少9亿个机器周期!

 

有了ICache之后,意况大不相同。

ICache的风味是活动地把时距相邻的代码尽可能集中存放在自己体内,而不管这么些代码的空距有多少距离,且CPU以单周期访问ICache。”

 

黛丝:”以上述小循环为例,在实施function1()期间,ICache会把function1()尽可能缓存在大团结体内,在举办完四遍巡回后,假诺3个函数的总容量不超过ICache的容量,那么3个函数的全体代码均已缓存在ICache体内。从循环的第2次施行起来,CPU只需访问ICache就足以实施总体循环,不必再拜访FLASH,所有指令的取得都是单周期的。前一个函数执行完毕后,跳转执行到下一个函数,只需1个机械周期,循环的1亿次实施花费在函数跳转上的岁月只需3亿个机械周期!”

黛丝:”平日,函数function1/2/3()还会调用其余众多函数,函数之间的跳转切换数量要远远多于如上所说。只要容量丰硕大,ICache还会把被function1/2/3()调用的另外函数通通缓存到体内,因此而节约的实施时间远远大于如上所述。”

黛丝:”所以,ICache的优势是智能地、自动地将时距相邻而空距很远的代码段放置在体内,CPU以单周期访问这一个代码,大大提升了程序性能。”

黛丝:”而ITCM的优势是大大提高了时距不相邻而空距相邻的代码段的施行性能,且需要人工地把代码社团成空距相邻。”

高飞狗:”ICache会不会缓存ITCM中的代码?”

黛丝:”由于CPU可以以单周期访问ITCM中的全体内容,所以ITCM中的内容不必缓存到ICache。在CPU硬件设计上就保险完成这或多或少。所以,ICache中缓存的代码一定是ITCM之外的始末。”

高飞狗:”ITCM和ICache还确确实实各有所长。”

高飞狗:”你讲了如此多,我来总计一下,你看对不对。”

高飞狗:”结论1:ITCM既能缓存代码也能缓存数据,但需要人工地把频繁执行的代码、IVT、ISR和货栈空间连通(空距相邻),人为地装入其中。从而使CPU以单周期、独占形式访问这么些代码和数码,大幅提高应用程序的属性和安全性。”

高飞狗:”结论2:ICache只可以缓存代码,但智能地、自动地将时距相邻而空距很远的代码段放置在体内,CPU以单周期访问这一个代码,大幅升级程序性能。”

高飞狗:”简单来讲,ITCM和ICache是CPU的贴身护卫。”

黛丝:”概括得非常好。”

黛丝:”对于STM32H743,ITCM和ICache的总容量已达成80KB,假如程序设计者精心安排,使得80%的年华CPU是在这两者内部推行顺序,应用程序的性能提高将会极其巨大。”

 

高飞狗:”ITCM是Instruction Tightly Coupled
Memory的缩写,似乎其中只可以存放代码?”

黛丝:”你还挺仔细的!ITCM也得以存放数据,例如堆栈空间。所以,那么些名词的确有些词不平易。”

 

高飞狗:”对了,CM7大旨还新增了DCache部件。如今做了一些试行,涉及DMA传送,好像一启用DCache,数据读写和传递就出问题;只要禁用DCache,一切都例行。你能不可能给本人详细讲解一番?”

黛丝:”明日时刻不早了,我还得出来干活,下次加以吧。”

高飞狗:”这我请吃晚饭,聊表谢意!”

黛丝:”饭和谢就免了,你再不走我就打跑了您!”

高飞狗:”这么厉害呀!那自己就不谦虚了,先走一步了。”

“高飞的白鹭,黛丝的鹅,唐诗里有画,唐诗里有歌,唐诗是本人对您的剖白…”