童话故事科技美学 — CPU的贴身护卫ITCM和ICache

 

“叮铃铃… 叮铃铃…”

“何人啊?”黛丝研究生打开了家门,”哇,高飞,你怎么来了?”

高飞狗:”好久不见,想来看看您,还买了你最欢喜吃的纯黑巧克力。”

黛丝:”以往都是布鲁托领着你来的,明天你独自上门,必定不怀好意。买了这么多巧克力,必是别有她图吧?”

高飞狗:”你这说的怎么着话,咱俩一块长大的,怎么会不怀好意? 别有她图倒是真的。”

黛丝:”我就领悟你无事不登八宝殿! 说吧,又赶上什么样疑难的难题了。”

高飞狗:”是这样的,这两年以Cortex-M7(以下简称CM7)为主干的MCU越来越多,CPU周围新增了两种部件,例如ITCM和ICache,最新的STM32H743,ITCM容量高达64KB,ICache容量高达16KB,我对其职能一知半解,对其用法一头雾水,你能不可能给详细讲解一番?”

黛丝:”高飞,你怎么着时候变得起早贪黑了,居然研讨起高大上的科技来了。”

高飞狗心想:”只要能把您这白富美搞到手,再伟大上的劳苦也要不惜一切代价战胜。”

黛丝:”ITCM和ICache还真是很风尚的事物,毕竟是新东西,我探究的年月也不长,谈不上教学,说错的地点还请立时指正。”

高飞狗:”你太谦虚了!”

黛丝:”大家如故从实质上问题出发吧。”

黛丝:”以堆栈空间为例。堆栈空间及其存储的各个数据(含应用程序中的所有片段变量),只有CPU才会造访,而且是频繁造访。不过,在CM7出现往日,堆栈空间只可以放在SRAM中,而SRAM是共享资源,DMA能够访问,另外总线Master也都得以访问。导致了以下问题:”

黛丝:”Q1:CPU要和此外总线Master争夺SRAM访问控制权,最惨的时候,CPU唯有50%的岁月可以访问SRAM,极大地降落了先后性能。”

黛丝:”Q2:此外总线Master有可能篡改堆栈空间上的数额,严重胁制应用程序的安全。”

高飞狗:”对对对,我就有过如此的经历。”

黛丝:”ITCM的产出,彻底解决了上述三个问题。ITCM就是CPU的贵妃,归CPU专享、专用、私有、独占。大家把堆栈空间布置在ITCM内,CPU就足以零等待、单周期、全速访问堆栈空间和多次用到的数目对象,大大升级应用程序性能,且其中的数额不会被其他总线Master篡改,大大升级了应用程序的安全性。”

高飞狗:”出现转机!”

高飞狗:”除此之外,ITCM还有什么样用?”

黛丝:”在错综复杂应用程序中,平日高频地、随机地发出各类中断。暴发搁浅时,就要读取中断向量表(IVT),然后跳转到中断服务程序(ISR)。在CM7出现在此以前,CPU应对搁浅存在以下几个头痛的题材:”

黛丝:”Q1:IVT与被暂停代码的情理地址相距(简称空距)平日较远,需要耗费七个机械周期才能读取中断向量。”

黛丝:”Q2:而ISR与IVT的空距日常也较远,又需要消耗几个机械周期才能跳转到ISR。”

黛丝:”于是,暴发一回中断,要耗费成千上万机械周期才能跳转执行到ISR。”

黛丝:”Q3:ISR重临到被中断代码又要耗费成千上万个机械周期。”

黛丝:”执行五回ISR,花费在代码跳转上的大运接近不多。可是,低度频繁、随机暴发的各个中断,将使CPU在程序跳转上耗费极其巨大的刻钟。在纷繁、实时性要求较高的利用中,其代价如故很惊人的。”

黛丝:”ITCM的产出,完美解决了上述3个问题。程序设计者可以人工地把IVT和ISR安排在一块连续地址空间内,在系统启动时将其任何装入ITCM中,由于CPU访问ITCM总是单周期的,以上3个问题中的程序跳转均可以单周期完成,大幅提升了ISR的实时性能。”

 

高飞狗:”我记得MCU内部平常都配有自适应实时加速器 (ART-Accelerator™),为啥还亟需ITCM来做这项工作吧?”

黛丝:”在依次读取连续存放的下令时,ART- Accelerator有彰着的提速效果。而以上3个问题的意况,基本上是随意读取指令,也就是代码间的空距较远,ART- Accelerator的效率就大让利扣,基本没什么提速功能,这正是ART- Accelerator的短板,而ITCM的出现则大大提高了任性读取指令和数据的性能,补上了ART- Accelerator的短板。”

 

高飞狗:”我明白了。”

高飞狗:”亲爱的,我发觉,STM32H743的ITCM容量高达64KB,除了缓存IVT、ISR、堆栈空间之外,把全副RTOS缓存进去也没问题。如此,CPU就足以独占地、单周期访问高频度用到的代码和数目,应用程序的习性进步幅度将是不足想像的。”

黛丝:”你如故很懂事的! 比原先聪明多了!”

高飞狗:”我了然为何要把ITCM的容量设计得这么大了。”

高飞狗:”CM7是32位核心,为啥ITCM被设计为64位宽度?”

黛丝:”尽管CM7的整数运算能力多为32位,但也有微量64位整数运算指令和大量64位双精度浮点数运算指令,传送64位数据的要求仍旧众多的,而且不少下令需要三遍传送五个32位数据,如下表所示,与32位总线宽度相比,64位的总线宽度可以节约50%的数额传送时间,性能提高是万分惊人的。”

例子:一次传送64位宽度数据的指令

说明

LDRD R8, R9, [R3];

以R3为地址指针,将一个64位双字载入R8和R9

LDM R8, {R0-R3}

以R8为地址指针,读取4个32位数据到寄存器中

相当于传送2个64位双字

STM R1, {R3-R6,R11,R12}

以R1为地址指针,存储6个32位寄存器数据

相当于传送3个64位双字

PUSH {R4-R7};

将4个32位寄存器推入堆栈,相当于2个64位双字

64位双精度浮点数的读取和存储指令

不再列出具体指令

 

高飞狗:”听你讲了这般多,胜读多年书。有点累了吗? 我给您泡杯咖啡,吃块巧克力怎么样?”

黛丝:”你倒反客为主了!还有吗问题,一气问了,我还要出去干活呢。”

高飞狗心想:”还这么厉害,一丝咸聊的机会都不给。”

高飞狗:”既然ITCM这么好,为啥还出了个ICache,又有什么样用啊? 总有种既生高飞,何生黛丝的感到!”

黛丝:”巧言令色,看我不踩死你!”

黛丝:”那还得看一个小例子,才能说得精晓。如下表所示。”

 

// 循环1亿次

while (…) {

function1(); // 函数地址在0x10000

function2(); // 函数地址在0x20000

function3(); // 函数地址在0x30000

}

 

黛丝:”这段小程序有2个特色:

F1:3个函数顺序拿到执行,在实施时间上是隔壁的,简称时距相邻。

F2:3个函数的大体地址相距很远,简称空距很远。

 

因为空距很远,前一个函数执行完毕后,跳转执行到下一个函数,至少需要花费3个机器周期,循环的1次实施花费在跳转上的小运至少9个机器周期,循环的1亿次进行相应的支出至少9亿个机器周期!

 

有了ICache之后,情状大不相同。

ICache的特色是半自动地把时距相邻的代码尽可能集中存放在投机体内,而不论是这些代码的空距有多少路程,且CPU以单周期访问ICache。”

 

黛丝:”以上述小循环为例,在履行function1()期间,ICache会把function1()尽可能缓存在团结体内,在执行完一回巡回后,假诺3个函数的总容量不领先ICache的容量,那么3个函数的整套代码均已缓存在ICache体内。从循环的第2次实施起来,CPU只需访问ICache就足以推行总体循环,不必再拜访FLASH,所有指令的获取都是单周期的。前一个函数执行完毕后,跳转执行到下一个函数,只需1个机械周期,循环的1亿次实施花费在函数跳转上的时光只需3亿个机器周期!”

黛丝:”通常,函数function1/2/3()还会调用此外众多函数,函数之间的跳转切换数量要远远多于如上所说。只要容量充裕大,ICache还会把被function1/2/3()调用的别样函数通通缓存到体内,因此而节约的举办时间远远出乎如上所述。”

黛丝:”所以,ICache的优势是智能地、自动地将时距相邻而空距很远的代码段放置在体内,CPU以单周期访问这么些代码,大大升级了程序性能。”

黛丝:”而ITCM的优势是大大提高了时距不相邻而空距相邻的代码段的推行性能,且需要人工地把代码协会成空距相邻。”

高飞狗:”ICache会不会缓存ITCM中的代码?”

黛丝:”由于CPU可以以单周期访问ITCM中的全体内容,所以ITCM中的内容不必缓存到ICache。在CPU硬件设计上就保险完成这一点。所以,ICache中缓存的代码一定是ITCM之外的内容。”

高飞狗:”ITCM和ICache还确实各有所长。”

高飞狗:”你讲了那般多,我来总计一下,你看对不对。”

高飞狗:”结论1:ITCM既能缓存代码也能缓存数据,但需要人工地把频繁执行的代码、IVT、ISR和仓库空间连通(空距相邻),人为地装入其中。从而使CPU以单周期、独占形式访问这么些代码和数目,大幅提升应用程序的特性和安全性。”

高飞狗:”结论2:ICache只好缓存代码,但智能地、自动地将时距相邻而空距很远的代码段放置在体内,CPU以单周期访问这么些代码,大幅升级程序性能。”

高飞狗:”一言以蔽之,ITCM和ICache是CPU的贴身护卫。”

黛丝:”概括得特别好。”

黛丝:”对于STM32H743,ITCM和ICache的总容量已落得80KB,假若程序设计者精心安排,使得80%的流年CPU是在这两边内部实施顺序,应用程序的性能提高将会无限巨大。”

 

高飞狗:”ITCM是Instruction Tightly Coupled
Memory的缩写,似乎其中只可以存放代码?”

黛丝:”你还挺仔细的!ITCM也可以存放数据,例如堆栈空间。所以,那些名词的确有些词不平易。”

 

高飞狗:”对了,CM7主题还新增了DCache部件。如今做了部分尝试,涉及DMA传送,好像一启用DCache,数据读写和传递就出题目;只要禁用DCache,一切都健康。你能无法给我详细讲解一番?”

黛丝:”前几日时刻不早了,我还得出来干活,下次加以吧。”

高飞狗:”这自己请吃晚饭,聊表谢意!”

黛丝:”饭和谢就免了,你再不走自身就打跑了你!”

高飞狗:”这么狠心呀!这自己就不虚心了,先走一步了。”

“高飞的白鹭,黛丝的鹅,唐诗里有画,唐诗里有歌,唐诗是本人对你的表白…”