Ієpapxiя запам'ятовуючих пристроїв. Принцип кешування даних

Пам'ять обчислювальної машини є ієрархією запам'ятовуючих пристроїв (внутрішні pericтри процесора, piзні типи надоперативної й оперативної пам'яті, диски, стрічки), що відрізняються середнім часом доступу i вартістю збереження даних, у розрахунку на один біт (малюнок 2.17). Користувачу хотілося б мати i недорогу, i швидку пам'ять. Кеш-пам'ять є компромісним рішенням цієїпроблеми.

 

Мал. 2.17. Ієрархія ЗП.

 

Кеш-пам'ять - це спосіб організаціїспільного функціонування двох типів запам'ятовуючих пристроїв, що відрізняються часом доступу i вартістю збереження даних, що дозволяє зменшити середній час доступу до даних за рахунок динамічного копіювання, в"швидке" ЗУ найчастіше використовуваної інформації з "повільного" ЗП.

Кеш-пам'яттю часто називають не тільки спосіб організації роботи двох типів запам'ятовуючих пристроїв, але й один iз пристроїв - "швидке" ЗП. Він коштує дорожче i, як правило, має, порівняно, невеликий обсяг. Важливо, що механізм кеш-пам'яті є прозорим для користувача, що не повідомляє інформаціюпро інтенсивність використання даних. Він не повинний брати участь у переміщенні даних із ЗП одного типу в ЗП іншого типу, усе це роблять системні засоби автоматично.

Розглянемо окремий випадок використання кеш-пам'яті, з метою зменшення середнього часу доступу до даних, що зберігається в оперативній пам'яті. Для цього, між процесором i оперативною пам'яттю міститься швидке ЗП, назване просто кеш-пам'яттю (малюнок 2.18). З цією метою може бути використана, наприклад, асоціативна пам'ять. Вміст кеш-пам'яті являє собою сукупність записів щодо всіх завантажених у неї елементів даних. Кожен запис про елемент даних містить у собі його адресу, i керуючу інформацію: ознака модифікації й звертання до даних, за певний період часу.

Мал. 2.18. Кеш-пам'ять

У системах, оснащених кеш-пам'яттю, кожен запит до оперативної пам'яті виконується у відповідності з наступним алгоритмом:

1. Розглядається вміст кеш-пам'яті, з метою визначення чи не знаходяться потрібні дані в кеш-пам'яті; кеш-пам'ять не є адресною, тому пошук потрібних даних здійснюється за вмістом - значенню поля чи адреси в оперативній пам'яті (із запиту).

2. Якщо дані містяться в кеш-пам'яті, то вони зчитуються з неї, а результат передається в процесор.

3. Якщо потрібних даних немає, то вони разом з адресою копіюються з оперативної пам'яті в кеш-пам'ять, а результат виконання запиту передається в процесор. При копіюванні даних може з’ясуватися, що в кеш-пам'яті немає вільного місця. Тоді вибирають дані, до яких у певний період було найменше звертань, для витиснення з кеш-пам'яті. Якщо ці дані були модифіковані за час перебування в кеш-пам'яті, то вони листуються в оперативну пам'ять. Якщо ж вони не модифіковані, то їхне місце в кеш-пам'яті стає вільним.

На практиці в кеш-пам'ять зчитується не один елемент даних, до якого відбулося звертання, а цілий їх блок. Це збільшує ймовірність, так званого "попадання в кеш", тобто перебування потрібних даних у кеш-пам'яті.

Покажемо, як середній час доступу до даних залежить від ймовірності попадання в кеш. Нехай, є основні запам'ятовуючі пристрої з середнім часом доступу до даних t1 i кеш-пам'ять, що має час доступу t 2, мабуть, t2<t1. Позначимо через t середній час доступу до даних у системі з кеш-пам'яттю, а через р -ймовірність попадання в кеш. За формулою повної ймовірності маємо:

t = t1(0-p) + t2(p)

Отже, середній час доступу до даних у системі з кеш-памятю лінійно залежить від ймовірності попадання в кеш i змінюється відсереднього часу доступу в основне ЗП (при р=0) до середнього часу доступу безпосередньо в кеш-пам'ять (при р=1).

У реальних системах, ймовірність попадання в кеш складає приблизно 0,9. Високе значения ймовірності перебування даних у кеш-пам'яті пов'язано з наявністю об'єктивних властивостей: просторової i тимчасової локальності.

· Просторова локальність. Якщо відбулося звертання за деякою адресою, то, з високим ступенем ймовірності, найближчим часом відбудеться звертання до cycідніх адрес.

· Тимчасова локальність. Якщо відбулося звертання за деякою адресою, то наступне звертання, за цією, же адресою, з великою ймовірністю, відбудеться найближчим часом.

Уci попередні міркування справедливі i для інших пар запам'ятовуючих пристроїв, наприклад, для оперативної i зовнішньої пам'яті. У цьому випадку, зменшується середній час доступу до даних, розташованих на диску i роль кеш-пам'яті виконує буфер, що є в оперативній пам'яті.