Как определить эффективный цикл обращения в оперативную память при наличии кеш памяти с тремя уровнями

Скорость работы кэша на порядок выше, чем у ОП и лишь немногим уступает скорости работы процессора, поэтому удачная реализация кэша может намного повысить скорость доступа процессора к данным и, как следствие, выполнения программ.

В каждый момент времени в кэше находится определенная часть информации из ОП, при этом данные в процессор поступают только через кэш. Этими данными могут быть адреса, команды или данные; в соответствии с этим кэш может быть адресным, программным или кэшем данных.

Какие именно данные помещать в кэш — это первая задача при проектировании кэш-памяти. Ситуация, когда при последовательных обращениях к памяти в течение некоторого промежутка времени используется только небольшая ее часть, называется принципом локальности. Этот принцип составляет основу всех систем кэш-памяти. Идея состоит в том, что когда определенное слово вызывается из памяти, оно вместе с остальными словами помещается в кэш-память, что позволяет при очередном запросе быстро обращаться к следующим словам. Другая задача состоит в определении блока, который нужно вытеснить из кэша.

Самой важной характеристикой эффективности кэша является коэффициент кэш-попаданий (h). Зная этот коэффициент, а также время доступа к кэшу © и основной памяти (m) можно определить среднее время доступа для системы кэш-ОП:

Tд = c+ (1-h) m

где (1-h) — коэффициент промахов (вероятность того, что нужного слова в кэше нет). Эта зависимость для одноуровневой кэш-памяти. Для двухуровневой кэш-памяти среднее время доступа можно вычислить аналогично:

Tд = cl1+ (1-hl1) cl2+ (1-hl2) m

где cli — время доступа к кэшу i-го уровня, hli — коэффициент попаданий для кэша i-го уровня (i={1,2}).

При проектировании кэш памяти ее стремятся сделать такой, чтобы коэффициент h был как можно ближе к 1.

При взаимодействии с кэш-памятью основная память представляется состоящей из определенного количества блоков фиксированной длины. кэш — память состоит из блоков такого же размера, но этих блоков намного меньше, чем в ОП (блоки кэш-памяти принято называть строками). При считывании слова из какого-либо места ОП, блок ОП, содержащий это слово переписывается в одну из строк кэша. Поскольку число строк кэша меньше числа блоков ОП, отдельная строка кэша не может быть постоянно выделена одному блоку ОП. По этой причине каждой строке кэша соответствует тег (признак), указывающий, копия какого из блоков ОП хранится в данный момент в строке кэша. В качестве тега обычно используется часть адреса ОП.

На эффективность применения кэш-памяти в иерархической системе памяти влияет целый ряд моментов. К наиболее существенным из них можно отнести: емкость кэш-памяти, размер строки, способ отображения основной памяти на кэш-память, алгоритм замещения информации в заполненной кэш-памяти, алгоритм согласования содержимого основной и кэш-памяти, число уровней кэш-памяти.

Емкость кэш-памяти, может служить одним из оптимизируемых параметров модели всей системы иерархической памяти. Эта емкость должна быть достаточно малой, чтобы ее стоимостные показатели были близки к показателям ОП, с другой стороны — достаточно большой, чтобы среднее время обращения к памяти характеризовалось временем доступа к кэшу (коэффициент попаданий был максимально близким к 1: h>1).

В большинстве современных систем используется многоуровневая кэш-память с небольшим и очень быстрым кэшем первого уровня, и медленными кэшами 2-го и 3-го уровня, но большими по объему. Это позволяет значительно увеличить быстродействие всей системы памяти (при ее удачной реализации), но значительно усложняет задачу проектирования такой системы: теперь нужно искать оптимальную емкость сразу нескольких кэшей, а вместе с этим еще и их число. В общем случае эта задача полностью не может быть разрешена, так как эффективности всей системы памяти зависит от характера решаемых задач.