Apa tempat paling kotor di komputer? Apakah menurut Anda itu keranjang? Folder pengguna? Sistem pendingin? Anda salah menebak! Tempat paling kotor adalah cache! Lagi pula, Anda harus selalu membersihkannya!

Faktanya, terdapat banyak sekali cache di komputer, dan cache tersebut tidak berfungsi sebagai tempat pembuangan sampah, tetapi sebagai akselerator untuk peralatan dan aplikasi. Dari mana mereka mendapatkan reputasi sebagai “sistem saluran pembuangan sampah”? Mari kita cari tahu apa itu cache, apa itu, cara kerjanya, dan alasannya dari waktu ke waktu.

Konsep dan jenis memori cache

Aplikasi (browser web, pemutar audio dan video, editor basis data, dll.), komponen sistem operasi (cache thumbnail, cache DNS) dan perangkat keras (cache CPU L1-L3, framebuffer grafis) memiliki chip memori cache, buffer penyimpanan) . Hal ini diimplementasikan dengan cara yang berbeda – dalam perangkat lunak dan perangkat keras.

• Cache program hanyalah folder atau file terpisah yang memuat, misalnya, gambar, menu, skrip, konten multimedia, dan konten lain dari situs yang dikunjungi. Folder inilah yang pertama kali dimasuki browser saat Anda membuka kembali halaman web. Pager bagian konten dari penyimpanan lokal mempercepat pemuatannya dan .

• Pada perangkat penyimpanan (khususnya hard drive), cache adalah chip RAM terpisah dengan kapasitas 1-256 Mb, yang terletak di papan elektronik. Ia menerima informasi yang dibaca dari lapisan magnetik dan belum dimuat ke dalam RAM, serta data yang paling sering diminta oleh sistem operasi.

• Prosesor pusat modern berisi 2-3 tingkat memori cache utama (juga disebut memori akses ultra-acak), yang terletak dalam bentuk modul perangkat keras pada chip yang sama. Ukuran tercepat dan terkecil (32-64 Kb) adalah cache Level 1 (L1) - beroperasi pada frekuensi yang sama dengan prosesor. L2 menempati posisi rata-rata dalam hal kecepatan dan kapasitas (dari 128 Kb hingga 12 Mb). Dan L3 adalah yang paling lambat dan paling produktif (hingga 40 Mb), dan tidak ada pada beberapa model. Kecepatan L3 tergolong rendah hanya jika dibandingkan dengan saudaranya yang lebih cepat, namun juga ratusan kali lebih cepat dibandingkan RAM paling produktif.

Memori flash prosesor digunakan untuk menyimpan data yang terus digunakan yang dipompa dari RAM dan instruksi kode mesin. Semakin besar, semakin cepat prosesornya.

Saat ini, tiga tingkat caching bukan lagi batasnya. Dengan munculnya arsitektur Sandy Bridge, Intel menerapkan cache L0 tambahan (dimaksudkan untuk menyimpan instruksi mikro yang didekripsi) di produknya. Dan CPU berperforma paling tinggi juga memiliki cache tingkat keempat, dibuat dalam bentuk chip terpisah.

Secara skematis, interaksi level cache L0-L3 terlihat seperti ini (menggunakan Intel Xeon sebagai contoh):

Dalam bahasa manusia tentang cara kerjanya

Kertas-kertas yang jarang dia butuhkan disimpan di rak terdekat ( dalam RAM). Untuk mendapatkannya, Anda perlu berdiri dan berjalan beberapa meter. Dan apa yang saat ini tidak dikerjakan oleh seseorang akan diarsipkan ( direkam ke harddisk).

Semakin lebar tabelnya, semakin banyak dokumen yang dapat ditampung di dalamnya, yang berarti karyawan akan dapat mengakses lebih banyak informasi dengan cepat ( Secara teori, semakin besar kapasitas cache, semakin cepat program atau perangkat bekerja.).

Terkadang dia membuat kesalahan - dia menyimpan kertas di mejanya yang berisi informasi yang salah dan menggunakannya dalam pekerjaannya. Akibatnya kualitas karyanya menurun ( Kesalahan cache menyebabkan kegagalan program dan perangkat keras). Untuk memperbaiki situasi, karyawan harus membuang dokumen yang salah dan meletakkan yang benar pada tempatnya ( bersihkan cache).

Meja mempunyai luas yang terbatas ( memori cache memiliki kapasitas terbatas). Terkadang dapat diperluas, misalnya dengan memindahkan tabel kedua, dan terkadang tidak bisa (ukuran cache dapat ditingkatkan jika kemungkinan tersebut disediakan oleh program; cache perangkat keras tidak dapat diubah, karena diimplementasikan di perangkat keras) .

Cara lain untuk mempercepat akses ke lebih banyak dokumen daripada yang dapat ditampung meja adalah dengan meminta asisten melayani kertas pekerja dari rak (sistem operasi dapat mengalokasikan sebagian RAM yang tidak terpakai untuk menyimpan data perangkat dalam cache). Tapi itu masih lebih lambat dibandingkan mengambilnya dari meja.

Dokumen yang ada harus relevan dengan tugas saat ini. Karyawan itu sendiri yang harus memantau hal ini. Anda perlu mengatur segala sesuatunya secara teratur (penghapusan data yang tidak relevan dari memori cache berada di pundak aplikasi yang menggunakannya; beberapa program memiliki fungsi pembersihan cache otomatis).

Jika seorang karyawan lupa menjaga ketertiban di tempat kerja dan selalu memperbarui dokumentasi, dia dapat membuat sendiri jadwal pembersihan meja dan menggunakannya sebagai pengingat. Sebagai upaya terakhir, percayakan hal ini kepada asisten (jika aplikasi yang bergantung pada memori cache menjadi lebih lambat atau sering mengunduh data yang tidak relevan, gunakan alat pembersih cache sesuai jadwal atau lakukan manipulasi ini secara manual setiap beberapa hari).

Kami sebenarnya menemukan “fungsi caching” di mana-mana. Ini termasuk membeli bahan makanan untuk digunakan di masa depan, dan berbagai tindakan yang kita lakukan sambil lalu, pada saat yang sama, dll. Intinya, ini semua yang menyelamatkan kita dari keributan yang tidak perlu dan gerakan yang tidak perlu, menyederhanakan hidup kita dan membuat pekerjaan kita lebih mudah. Komputer melakukan hal yang sama. Singkatnya, jika tidak ada cache, ia akan bekerja ratusan dan ribuan kali lebih lambat. Dan kita mungkin tidak akan menyukainya.

Juga di situs:

Apa itu cache, mengapa diperlukan dan bagaimana cara kerjanya? diperbarui: 25 Februari 2017 oleh: Johnny Mnemonik

Chip di sebagian besar komputer desktop modern memiliki empat inti, namun pembuat chip telah mengumumkan rencana untuk beralih ke enam inti, dan prosesor 16-inti masih merupakan hal yang lazim untuk server kelas atas saat ini.

Semakin banyak core, semakin besar masalah pendistribusian memori di antara semua core saat bekerja bersama. Dengan bertambahnya jumlah core, akan semakin bermanfaat untuk meminimalkan waktu yang terbuang dalam mengelola core saat memproses data - karena kecepatan pertukaran data tertinggal dari kecepatan prosesor dan pemrosesan data di memori. Anda dapat mengakses cache cepat milik orang lain secara fisik, atau Anda dapat mengakses cache Anda sendiri yang lambat, namun menghemat waktu transfer data. Tugas ini diperumit oleh kenyataan bahwa jumlah memori yang diminta oleh program tidak secara jelas sesuai dengan jumlah memori cache dari setiap jenis.

Secara fisik, hanya sejumlah kecil memori yang dapat ditempatkan sedekat mungkin dengan prosesor - cache L1 prosesor, yang volumenya sangat kecil. Daniel Sanchez, Po-An Tsai, dan Nathan Beckmann, peneliti dari Laboratorium Ilmu Komputer dan Kecerdasan Buatan Institut Teknologi Massachusetts, mengajarkan komputer untuk mengonfigurasi berbagai jenis memorinya untuk hierarki program yang fleksibel secara real-time. Sistem baru, yang disebut Jenga, menganalisis kebutuhan volumetrik dan frekuensi akses program ke memori dan mendistribusikan kembali kekuatan masing-masing dari 3 jenis cache prosesor dalam kombinasi yang memberikan peningkatan efisiensi dan penghematan energi.

Untuk memulainya, para peneliti menguji peningkatan kinerja ketika menggabungkan memori statis dan dinamis ketika mengerjakan program untuk prosesor inti tunggal dan memperoleh hierarki utama - kapan lebih baik menggunakan kombinasi mana. Dari 2 jenis memori atau dari satu. Dua parameter dinilai: penundaan sinyal (latensi) dan konsumsi energi selama pengoperasian setiap program. Sekitar 40% program mulai bekerja lebih buruk dengan kombinasi jenis memori, sisanya - lebih baik. Setelah mencatat program mana yang “menyukai” kinerja campuran dan mana yang menyukai ukuran memori, para peneliti membangun sistem Jenga mereka.

Mereka menguji secara virtual 4 jenis program pada komputer virtual dengan 36 core. Program yang diuji:

• omnet - Objective Modular Network Testbed, perpustakaan simulasi C dan platform alat simulasi jaringan (warna biru pada gambar)
• mcf - Kerangka Konten Meta (warna merah)
• astar - perangkat lunak tampilan realitas virtual (hijau)
• bzip2 - pengarsip (warna ungu)

Tingkat cache

Cache CPU dibagi menjadi beberapa level. Untuk prosesor universal - hingga 3. Memori tercepat adalah cache tingkat pertama - L1-cache, karena terletak pada chip yang sama dengan prosesor. Terdiri dari cache instruksi dan cache data. Beberapa prosesor tanpa cache L1 tidak dapat berfungsi. Cache L1 beroperasi pada frekuensi prosesor dan dapat diakses setiap siklus clock. Seringkali dimungkinkan untuk melakukan beberapa operasi baca/tulis secara bersamaan. Volumenya biasanya kecil - tidak lebih dari 128 KB.

Cache tingkat kedua, L2, berinteraksi dengan cache L1. Ini adalah yang tercepat kedua. Biasanya terletak di dalam chip, seperti L1, atau di dekat inti, seperti di dalam kartrid prosesor. Pada prosesor lama, satu set chip pada motherboard. Volume cache L2 dari 128 KB hingga 12 MB. Dalam prosesor multi-inti modern, cache tingkat kedua, yang terletak pada chip yang sama, adalah memori terpisah - dengan total ukuran cache 8 MB, setiap inti menyumbang 2 MB. Biasanya, latensi cache L2 yang terletak pada chip inti berkisar antara 8 hingga 20 siklus jam inti. Dalam tugas-tugas yang melibatkan banyak akses ke area memori terbatas, misalnya DBMS, penggunaan penuhnya meningkatkan produktivitas sepuluh kali lipat.

Cache L3 biasanya lebih besar, meskipun agak lebih lambat dibandingkan cache L2 (karena bus antara L2 dan L3 lebih sempit daripada bus antara L1 dan L2). L3 biasanya terletak terpisah dari inti CPU, tetapi bisa berukuran besar - lebih dari 32 MB. Cache L3 lebih lambat dibandingkan cache sebelumnya, namun masih lebih cepat dibandingkan RAM. Dalam sistem multiprosesor, ini umum digunakan. Penggunaan cache tingkat ketiga dibenarkan dalam rentang tugas yang sangat sempit dan mungkin tidak hanya tidak memberikan peningkatan kinerja, namun, sebaliknya, menyebabkan penurunan kinerja sistem secara keseluruhan.

Menonaktifkan cache tingkat kedua dan ketiga paling berguna dalam masalah matematika ketika jumlah data kurang dari ukuran cache. Dalam hal ini, Anda dapat memuat semua data ke dalam cache L1 sekaligus, lalu memprosesnya.

Jenga mendistribusikan data tidak hanya bergantung pada program mana yang dikirim - program yang menyukai memori berkecepatan tunggal yang besar atau program yang menyukai kecepatan cache campuran, tetapi juga bergantung pada kedekatan fisik sel memori dengan data yang sedang diproses. Terlepas dari jenis cache apa yang dibutuhkan program secara default atau hierarki. Hal utama adalah meminimalkan penundaan sinyal dan konsumsi energi. Bergantung pada berapa banyak jenis memori yang “disukai” oleh program, Jenga memodelkan latensi setiap hierarki virtual dengan satu atau dua level. Hierarki dua tingkat membentuk suatu permukaan, sedangkan hierarki satu tingkat membentuk kurva. Jenga kemudian memproyeksikan penundaan minimum pada dimensi VL1, sehingga menghasilkan dua kurva. Terakhir, Jenga menggunakan kurva ini untuk memilih hierarki terbaik (yaitu ukuran VL1).

Penggunaan Jenga memberikan efek yang nyata. Chip virtual 36-inti mulai bekerja 30 persen lebih cepat dan menggunakan energi 85 persen lebih sedikit. Tentu saja, untuk saat ini Jenga hanyalah simulasi komputer yang berfungsi dan perlu waktu lama sebelum Anda melihat contoh nyata dari cache ini dan bahkan sebelum produsen chip mengadopsinya jika mereka menyukai teknologinya.

Konfigurasi mesin 36 nuklir konvensional

• Prosesor. 36 core, x86-64 ISA, 2,4 GHz, OOO mirip Silvermont: lebar 8B
  ambil; bpred 2 tingkat dengan BHSR 512×10-bit + PHT 1024×2-bit, dekode/penerbitan/ganti nama/komit 2 arah, IQ dan ROB 32 entri, LQ 10 entri, SQ 16 entri; 371 pJ/instruksi, 163 mW/daya statis inti
• cache L1. 32 KB, set-asosiatif 8 arah, data terpisah dan cache instruksi,
  latensi 3 siklus; 15/33 pJ per hit/miss
• Layanan Prefetcher. Prefetcher aliran 16 entri yang dimodelkan dan divalidasi
  Nehalem
• L2 cache. 128 KB privat per inti, set asosiatif 8 arah, inklusif, latensi 6 siklus; 46/93 pJ per hit/miss
• Modus yang koheren. Bank direktori latensi 16 arah dan 6 siklus untuk Jenga; direktori L3 dalam cache untuk yang lain
• NoC Global. 6×6 mesh, flit dan link 128-bit, perutean XY, router pipeline 2 siklus, link 1 siklus; 63/71 pJ per router/link flit traversal, daya statis router/link 12/4mW
• Memori statis memblokir SRAM. 18 MB, satu bank 512 KB per ubin, zcache 52 kandidat 4 arah, latensi bank 9 siklus, partisi Vantage; 240/500 pJ per hit/miss, daya statis 28 mW/bank
• DRAM Bertumpuk Multilapis. 1152MB, satu brankas 128MB per 4 ubin, Paduan dengan MAP-I DDR3-3200 (1600MHz), bus 128-bit, 16 peringkat, 8 bank/peringkat, buffer baris 2 KB; 4,4/6,2 nJ per hit/miss, daya statis 88 mW/vault
• Memori utama. 4 saluran DDR3-1600, bus 64-bit, 2 peringkat/saluran, 8 bank/peringkat, buffer baris 8 KB; 20 nJ/akses, daya statis 4W
• Pengaturan waktu DRAM. tCAS=8, tRCD=8, tRTP=4, tRAS=24, tRP=8, tRRD=4, tWTR=4, tWR=8, tFAW=18 (semua timing dalam tCK; DRAM bertumpuk memiliki separuh tCK sebagai memori utama )

Selamat siang semuanya. Hari ini kami akan mencoba menjelaskan kepada Anda konsep cache. Memori cache prosesor adalah rangkaian pemrosesan data ultra-cepat, yang kecepatannya melebihi RAM standar sebanyak 16-17 kali lipat, jika kita berbicara tentang DDR4.

Dari artikel ini Anda akan belajar:

Ini adalah volume memori cache yang memungkinkan CPU beroperasi pada kecepatan maksimum tanpa menunggu RAM memproses data apa pun dan mengirimkan hasil perhitungan yang telah selesai ke chip untuk diproses lebih lanjut. Prinsip serupa juga terlihat pada HDD, hanya saja menggunakan buffer 8–128 MB. Hal lainnya adalah kecepatannya jauh lebih rendah, tetapi proses kerjanya serupa.

Apa itu cache prosesor?

Bagaimana proses perhitungan secara umum? Semua data disimpan dalam RAM, yang dirancang untuk penyimpanan sementara informasi penting pengguna dan sistem. Prosesor memilih sendiri sejumlah tugas tertentu, yang dimasukkan ke dalam blok ultra-cepat yang disebut memori cache, dan mulai menangani tanggung jawab langsungnya.

Hasil perhitungan dikirim lagi ke RAM, tetapi dalam jumlah yang jauh lebih kecil (daripada seribu nilai keluaran, kita mendapatkan lebih sedikit), dan array baru diambil untuk diproses. Begitu seterusnya sampai pekerjaan selesai.

Kecepatan operasi ditentukan oleh efisiensi RAM. Namun tidak ada satu pun modul DDR4 modern, termasuk solusi overclocking dengan frekuensi di bawah 4000 MHz, yang mampu menandingi kemampuan prosesor yang paling terhambat dengan cache yang “lambat”.

Ini karena kecepatan CPU rata-rata melebihi kinerja RAM sebesar 15 kali lipat, atau bahkan lebih tinggi. Dan jangan hanya melihat parameter frekuensinya; ada banyak perbedaan selain itu.
Secara teori, ternyata Intel Xeon dan AMD Epyc yang super bertenaga pun terpaksa menganggur, namun kenyataannya kedua chip server tersebut bekerja pada batas kemampuannya. Dan semua itu karena mereka mengumpulkan jumlah data yang diperlukan sesuai dengan ukuran cache (hingga 60 MB atau lebih) dan langsung memproses data tersebut. RAM berfungsi sebagai semacam gudang tempat pengambilan array untuk perhitungan. Efisiensi komputasi komputer meningkat dan semua orang senang.

Perjalanan singkat ke dalam sejarah

Penyebutan memori cache pertama kali dimulai pada akhir tahun 80-an. Hingga saat ini, kecepatan prosesor dan memori kurang lebih sama. Perkembangan chip yang pesat memerlukan semacam “penopang” untuk meningkatkan tingkat kinerja RAM, namun penggunaan chip ultra-cepat sangatlah mahal, dan oleh karena itu mereka memutuskan untuk menggunakan opsi yang lebih ekonomis - memperkenalkan chip yang tinggi- kecepatan array memori ke dalam CPU.

Modul memori cache pertama kali muncul di Intel 80386. Pada saat itu, latensi pengoperasian DRAM berfluktuasi sekitar 120 nanodetik, sedangkan modul SRAM yang lebih modern mengurangi latensi hingga 10 nanodetik yang mengesankan pada saat itu. Gambaran perkiraan lebih jelas ditunjukkan dalam konfrontasi antara HDD dan SSD.

Awalnya, memori cache disolder langsung ke motherboard, karena tingkat teknologi pada saat itu. Dimulai dengan Intel 80486, memori 8 KB ditanamkan langsung ke dalam cetakan prosesor, sehingga semakin meningkatkan kinerja dan mengurangi area cetakan.

Teknologi pengaturan ini tetap relevan hanya sampai Pentium MMX dirilis, setelah itu memori SRAM digantikan oleh SDRAM yang lebih canggih.
Dan prosesor menjadi jauh lebih kecil, dan oleh karena itu tidak diperlukan sirkuit eksternal.

Tingkat cache

Pada pelabelan CPU modern, selain dan , Anda dapat menemukan konsep ukuran cache level 1, 2 dan 3. Bagaimana cara menentukannya dan apa pengaruhnya? Mari kita pahami secara sederhana.

• Cache Level 1 (L1) adalah chip terpenting dan tercepat dalam arsitektur CPU. Satu prosesor dapat menampung sejumlah modul yang sama dengan jumlah core. Patut dicatat bahwa chip tersebut dapat menyimpan data paling populer dan penting dalam memori hanya dari intinya. Ukuran array seringkali dibatasi hingga 32–64 KB.
• Cache tingkat kedua (L2) - penurunan kecepatan dikompensasi dengan peningkatan ukuran buffer, yang mencapai 256 atau bahkan 512 KB. Prinsip pengoperasiannya sama dengan L1, tetapi frekuensi permintaan memori lebih rendah karena penyimpanan data dengan prioritas lebih rendah di dalamnya.
• Cache tingkat ketiga (L3) adalah bagian yang paling lambat dan paling banyak jumlahnya di antara semuanya. Dan tetap saja array ini jauh lebih cepat daripada RAM. Ukurannya bisa mencapai 20 bahkan 60 MB jika menyangkut chip server. Manfaat array sangat besar: array merupakan penghubung utama dalam pertukaran data antara semua inti sistem. Tanpa L3, semua elemen chip akan tersebar.

Dijual, Anda dapat menemukan struktur memori dua dan tiga tingkat. Mana yang lebih baik? Jika Anda hanya menggunakan prosesor untuk program perkantoran dan game kasual, Anda tidak akan merasakan perbedaan apa pun. Jika sistem dirakit dengan maksud untuk permainan 3D yang kompleks, pengarsipan, rendering dan bekerja dengan grafik, maka peningkatan dalam beberapa kasus akan berkisar antara 5 hingga 10%.
Cache tingkat ketiga hanya dibenarkan jika Anda ingin bekerja secara teratur dengan aplikasi multi-utas yang memerlukan perhitungan rumit secara teratur. Karena alasan ini, model server sering kali menggunakan cache L3 yang besar. Meskipun ada kalanya ini tidak cukup, dan oleh karena itu Anda harus memasang tambahan apa yang disebut modul L4, yang terlihat seperti chip terpisah yang terhubung ke motherboard.

Bagaimana cara mengetahui jumlah level dan ukuran cache pada prosesor saya?

Mari kita mulai dengan fakta bahwa ini dapat dilakukan dengan 3 cara:

• melalui baris perintah (hanya cache L2 dan L3);
• dengan mencari spesifikasi di Internet;
• menggunakan utilitas pihak ketiga.

Jika kita mengambil dasar fakta bahwa untuk sebagian besar prosesor L1 adalah 32 KB, dan L2 dan L3 dapat berfluktuasi secara luas, 2 nilai terakhir adalah yang kita butuhkan. Untuk mencarinya, buka baris perintah melalui "Start" (masukkan nilai "cmd" melalui bilah pencarian).

Sistem akan menunjukkan nilai L2 yang mencurigakan. Anda perlu membaginya dengan jumlah inti prosesor dan mengetahui hasil akhirnya.

Jika Anda berencana mencari data di jaringan, cari tahu dulu nama pasti CPU tersebut. Klik kanan pada ikon "Komputer Saya" dan pilih "Properti". Pada kolom “System” akan ada item “Processor” yang sebenarnya kita butuhkan. Anda menulis ulang namanya ke Google atau Yandex dan melihat artinya di situs. Untuk informasi yang dapat dipercaya, lebih baik memilih portal resmi pabrikan (Intel atau AMD).
Cara ketiga juga tidak menimbulkan masalah, namun memerlukan instalasi software tambahan seperti GPU-Z, AIDA64 dan utilitas lainnya untuk mempelajari spesifikasi batu tersebut. Pilihan bagi mereka yang suka melakukan overclock dan mengutak-atik detail.

Hasil

Sekarang Anda memahami apa itu memori cache, bergantung pada ukurannya, dan untuk tujuan apa susunan data ultra-cepat digunakan. Saat ini, solusi paling menarik di pasaran dalam hal memori cache yang besar adalah perangkat AMD Ryzen 5 dan 7 dengan 16 MB L3.

Pada artikel berikut kami akan membahas topik-topik seperti prosesor, manfaat chip, dan banyak lagi. dan pantau terus. Sampai jumpa lagi, sampai jumpa.

Salah satu faktor penting yang meningkatkan kinerja prosesor adalah keberadaan memori cache, atau lebih tepatnya volumenya, kecepatan akses dan distribusi antar level.

Sudah cukup lama, hampir semua prosesor telah dilengkapi dengan memori jenis ini, yang sekali lagi membuktikan kegunaan kehadirannya. Pada artikel ini, kita akan membahas tentang struktur, level, dan tujuan praktis memori cache, sebagai karakteristik yang sangat penting dari sebuah prosesor.

Apa itu memori cache dan strukturnya

Memori cache adalah memori ultra cepat yang digunakan oleh prosesor untuk menyimpan sementara data yang paling sering diakses. Beginilah cara kami menjelaskan secara singkat jenis memori ini.

Memori cache dibangun di atas flip-flop, yang terdiri dari transistor. Sekelompok transistor membutuhkan lebih banyak ruang daripada kapasitor yang sama yang membentuk RAM. Hal ini menimbulkan banyak kesulitan dalam produksi, serta keterbatasan volume. Itulah sebabnya memori cache adalah memori yang sangat mahal, namun volumenya dapat diabaikan. Namun dari struktur ini muncullah keuntungan utama dari memori tersebut - kecepatan. Karena flip-flop tidak memerlukan regenerasi, dan waktu tunda gerbang tempat mereka dirakit kecil, waktu peralihan flip-flop dari satu keadaan ke keadaan lain terjadi dengan sangat cepat. Hal ini memungkinkan memori cache beroperasi pada frekuensi yang sama dengan prosesor modern.

Selain itu, faktor penting adalah penempatan memori cache. Itu terletak di chip prosesor itu sendiri, yang secara signifikan mengurangi waktu akses. Sebelumnya, memori cache pada tingkat tertentu terletak di luar chip prosesor, pada chip SRAM khusus di suatu tempat di motherboard. Saat ini, hampir semua prosesor memiliki memori cache yang terletak pada chip prosesor.

Untuk apa cache prosesor digunakan?

Seperti disebutkan di atas, tujuan utama memori cache adalah untuk menyimpan data yang sering digunakan oleh prosesor. Cache adalah buffer tempat data dimuat, dan meskipun ukurannya kecil (sekitar 4-16 MB) pada prosesor modern, cache memberikan peningkatan kinerja yang signifikan dalam aplikasi apa pun.

Untuk lebih memahami kebutuhan memori cache, bayangkan mengatur memori komputer seperti kantor. RAM akan menjadi lemari dengan folder yang diakses secara berkala oleh akuntan untuk mengambil blok data yang besar (yaitu folder). Dan tabel tersebut akan menjadi memori cache.

Ada elemen yang ditempatkan di meja akuntan, yang dia rujuk beberapa kali dalam satu jam. Misalnya saja nomor telepon, beberapa contoh dokumen. Jenis informasi ini terletak tepat di atas meja, yang pada gilirannya meningkatkan kecepatan akses ke informasi tersebut.

Dengan cara yang sama, data dapat ditambahkan dari blok data besar (folder) ke tabel untuk penggunaan cepat, misalnya dokumen. Bila dokumen ini tidak diperlukan lagi, maka dokumen tersebut ditempatkan kembali di kabinet (ke dalam RAM), sehingga tabel tersebut dibersihkan (memori cache) dan tabel ini dibebaskan untuk dokumen baru yang akan digunakan pada periode waktu berikutnya.

Begitu pula dengan memori cache, jika ada data yang kemungkinan besar dapat diakses kembali, maka data dari RAM tersebut dimuat ke dalam memori cache. Seringkali, hal ini terjadi dengan memuat bersama data yang kemungkinan besar akan digunakan setelah data saat ini. Artinya, ada asumsi tentang apa yang akan digunakan “sesudahnya”. Ini adalah prinsip pengoperasian yang kompleks.

Tingkat cache prosesor

Prosesor modern dilengkapi dengan cache, yang seringkali terdiri dari 2 atau 3 level. Tentu saja ada pengecualian, tetapi hal ini sering terjadi.

Secara umum, levelnya bisa sebagai berikut: L1 (level pertama), L2 (level kedua), L3 (level ketiga). Sekarang sedikit lebih detail tentang masing-masingnya:

Cache level pertama (L1) merupakan level memori cache tercepat yang bekerja langsung dengan inti prosesor. Berkat interaksi yang erat ini, level ini memiliki waktu akses terpendek dan beroperasi pada frekuensi yang mendekati prosesor. Ini adalah buffer antara prosesor dan cache tingkat kedua.

Kami akan mempertimbangkan volume pada prosesor Intel Core i7-3770K berkinerja tinggi. Prosesor ini dilengkapi dengan cache L1 4x32 KB 4 x 32 KB = 128 KB. (32 KB per inti)

Cache tingkat kedua (L2) – tingkat kedua lebih besar dari yang pertama, namun sebagai hasilnya, memiliki “karakteristik kecepatan” yang lebih rendah. Oleh karena itu, ini berfungsi sebagai penyangga antara level L1 dan L3. Jika kita lihat kembali contoh kita Core i7-3770 K, maka ukuran memori cache L2 adalah 4x256 KB = 1 MB.

Cache tingkat ketiga (L3) – tingkat ketiga, sekali lagi, lebih lambat dibandingkan dua tingkat sebelumnya. Tapi itu masih jauh lebih cepat daripada RAM. Ukuran cache L3 di i7-3770K adalah 8 MB. Jika dua level sebelumnya digunakan bersama oleh masing-masing inti, maka level ini umum untuk seluruh prosesor. Indikatornya cukup solid, namun tidak selangit. Karena, misalnya, untuk prosesor seri Extreme seperti i7-3960X, ukurannya 15 MB, dan untuk beberapa prosesor Xeon baru, lebih dari 20.

we-it.net

Untuk apa cache digunakan dan berapa banyak yang dibutuhkan?

Kami tidak berbicara tentang uang tunai, tetapi tentang memori cache prosesor dan banyak lagi. Para pedagang telah membuat fetish komersial lain dari kapasitas memori cache, terutama dengan cache prosesor pusat dan hard drive (kartu video juga memilikinya, tetapi mereka belum mendapatkannya). Jadi, ada prosesor XXX dengan cache L2 1MB, dan prosesor XYZ yang sama persis dengan cache 2MB. Coba tebak mana yang lebih baik? Ah - jangan langsung melakukannya!

Memori cache adalah buffer yang menyimpan apa yang bisa dan/atau perlu ditunda untuk nanti. Prosesor sedang melakukan pekerjaan dan situasi muncul ketika data perantara perlu disimpan di suatu tempat. Ya, tentu saja di cache! - lagi pula, ini lipat lebih cepat daripada RAM, karena... itu ada di dalam cetakan prosesor itu sendiri dan biasanya berjalan pada frekuensi yang sama. Dan kemudian, setelah beberapa waktu, dia akan mengambil kembali data ini dan memprosesnya lagi. Secara kasar, ini seperti seorang pemilah kentang di ban berjalan, yang setiap kali menemukan sesuatu selain kentang (wortel), melemparkannya ke dalam kotak. Dan ketika sudah penuh, dia bangkit dan membawanya ke kamar sebelah. Pada saat ini, konveyor berhenti dan ada waktu henti. Volume kotak adalah cache dalam analogi ini. Dan berapa yang dibutuhkan – 1 MB atau 12? Jelas bahwa jika volumenya kecil, Anda harus menghabiskan terlalu banyak waktu untuk menghilangkannya dan itu akan sederhana, tetapi setelah volume tertentu, peningkatan lebih lanjut tidak akan menghasilkan apa-apa. Nah, tukang sortir akan mempunyai sekotak wortel untuk 1000 kg - tapi dia tidak akan punya sebanyak itu selama seluruh shiftnya dan ini TIDAK akan membuatnya DUA KALI LEBIH CEPAT! Ada satu kehalusan lagi - cache yang besar dapat menyebabkan peningkatan penundaan dalam mengaksesnya, pertama, dan pada saat yang sama, kemungkinan kesalahan di dalamnya meningkat, misalnya selama overclocking - kedua. (Anda dapat membaca tentang BAGAIMANA menentukan stabilitas/ketidakstabilan prosesor dalam kasus ini dan mengetahui bahwa kesalahan terjadi pada cache-nya dan menguji L1 dan L2 di sini.) Ketiga, cache memakan cukup banyak area chip dan anggaran transistor dari rangkaian prosesor. Hal yang sama berlaku untuk memori cache hard drive. Dan jika arsitektur prosesornya kuat, ia akan memiliki cache sebesar 1024 KB atau lebih yang dibutuhkan di banyak aplikasi. Jika Anda memiliki HDD yang cepat, 16MB atau bahkan 32MB sudah sesuai. Namun cache sebesar 64MB tidak akan membuatnya lebih cepat jika itu adalah trim yang disebut versi hijau (Green WD) dengan kecepatan 5900 daripada yang disyaratkan 7200, meskipun yang terakhir memiliki 8MB. Kemudian prosesor Intel dan AMD menggunakan cache ini secara berbeda (secara umum, AMD lebih efisien dan prosesor mereka sering kali nyaman dengan nilai yang lebih kecil). Selain itu, Intel memiliki cache bersama, tetapi AMD memilikinya secara individual untuk setiap inti. Cache L1 tercepat pada prosesor AMD adalah 64 KB untuk data dan instruksi, dua kali lebih besar dari Intel. Cache L3 level ketiga biasanya ada di prosesor papan atas seperti AMD Phenom II 1055T X6 Socket AM3 2.8GHz atau pesaing Intel Core i7-980X. Pertama-tama, game menyukai volume cache yang besar. Dan banyak aplikasi profesional TIDAK menyukai cache (lihat. Komputer untuk rendering, pengeditan video, dan aplikasi profesional). Lebih tepatnya, mereka yang paling menuntut umumnya acuh tak acuh terhadapnya. Namun yang pastinya tidak boleh Anda lakukan adalah memilih prosesor berdasarkan ukuran cache. Pentium 4 lama dalam versi terbarunya memiliki cache 2MB pada frekuensi operasi lebih dari 3GHz - bandingkan kinerjanya dengan Celeron E1*** dual-core murah, yang beroperasi pada frekuensi sekitar 2GHz. Dia tidak akan meninggalkan kebutuhan bisnis yang terlewat dari orang tua itu. Contoh yang lebih relevan adalah dual-core frekuensi tinggi E8600, yang harganya hampir $200 (tampaknya karena cache 6MB) dan Athlon II X4-620 2.6GHz, yang hanya memiliki 2MB. Hal ini tidak menghalangi Athlone untuk membantai pesaingnya.

Seperti yang dapat Anda lihat dari grafik, tidak ada cache yang dapat menggantikan inti tambahan baik dalam program yang kompleks maupun dalam game yang menuntut prosesor. Athlon dengan cache 2MB (merah) dengan mudah mengalahkan Cor2Duo dengan cache 6MB, bahkan pada frekuensi yang lebih rendah dan biaya hampir setengahnya. Selain itu, banyak orang lupa bahwa cache ada di kartu video, karena secara umum mereka juga memiliki prosesor. Contoh terbaru adalah kartu video GTX460, di mana mereka berhasil tidak hanya memotong kapasitas bus dan memori (yang akan ditebak pembeli) - tetapi juga cache shader, masing-masing, dari 512Kb menjadi 384Kb (yang TIDAK akan ditebak oleh pembeli) ). Dan ini juga akan menambah kontribusi negatifnya terhadap produktivitas. Menarik juga untuk mengetahui ketergantungan kinerja pada ukuran cache. Mari kita periksa seberapa cepat pertumbuhannya seiring bertambahnya ukuran cache menggunakan contoh prosesor yang sama. Seperti yang Anda ketahui, prosesor seri E6***, E4*** dan E2*** hanya berbeda dalam ukuran cache (masing-masing 4, 2, dan 1 MB). Beroperasi pada frekuensi yang sama yaitu 2400 MHz, mereka menunjukkan hasil sebagai berikut.

Seperti yang Anda lihat, hasilnya tidak jauh berbeda. Saya akan mengatakan lebih banyak - jika prosesor dengan kapasitas 6MB terlibat, hasilnya akan meningkat sedikit, karena prosesor mencapai kejenuhan. Namun untuk model dengan 512Kb penurunannya akan terlihat jelas. Dengan kata lain, 2MB sudah cukup bahkan untuk bermain game. Untuk meringkasnya, kita dapat menarik kesimpulan berikut - cache baik jika SUDAH ada banyak hal lainnya. Adalah naif dan bodoh untuk mengubah kecepatan hard drive atau jumlah inti prosesor untuk ukuran cache dengan biaya yang sama, karena bahkan kotak penyortiran yang paling luas pun tidak akan menggantikan penyortir lainnya misalnya, Pentium Dual-Core dalam revisi awal pada proses 65 nm memiliki 1MB cache untuk dua inti (seri E2160 dan sejenisnya), dan revisi 45-nm selanjutnya dari seri E5200 masih memiliki 2MB, semua hal lain dianggap sama ( dan yang paling penting - HARGA). Tentu saja, Anda harus memilih yang terakhir.

compua.com.ua

Apa itu cache, mengapa diperlukan dan bagaimana cara kerjanya?

Faktanya, terdapat banyak sekali cache di komputer, dan cache tersebut tidak berfungsi sebagai tempat pembuangan sampah, tetapi sebagai akselerator untuk peralatan dan aplikasi. Dari mana mereka mendapatkan reputasi sebagai “sistem saluran pembuangan sampah”? Mari kita cari tahu apa itu cache, apa itu cache, cara kerjanya, dan mengapa cache perlu dibersihkan dari waktu ke waktu.

Cache atau memori cache adalah tempat penyimpanan khusus data yang sering digunakan, yang diakses puluhan, ratusan, dan ribuan kali lebih cepat dibandingkan RAM atau media penyimpanan lainnya.

Aplikasi (browser web, pemutar audio dan video, editor basis data, dll.), komponen sistem operasi (cache thumbnail, cache DNS) dan perangkat keras (cache CPU L1-L3, framebuffer grafis) memiliki chip memori cache, buffer penyimpanan) . Hal ini diimplementasikan dengan cara yang berbeda – dalam perangkat lunak dan perangkat keras.

• Cache program hanyalah folder atau file terpisah yang memuat, misalnya, gambar, menu, skrip, konten multimedia, dan konten lain dari situs yang dikunjungi. Folder inilah yang pertama kali dimasuki browser saat Anda membuka kembali halaman web. Page beberapa konten dari penyimpanan lokal mempercepat pemuatannya dan mengurangi lalu lintas jaringan.

• Pada perangkat penyimpanan (khususnya hard drive), cache adalah chip RAM terpisah dengan kapasitas 1-256 Mb, yang terletak di papan elektronik. Ia menerima informasi yang dibaca dari lapisan magnetik dan belum dimuat ke dalam RAM, serta data yang paling sering diminta oleh sistem operasi.

• Prosesor pusat modern berisi 2-3 tingkat memori cache utama (juga disebut memori akses ultra-acak), yang terletak dalam bentuk modul perangkat keras pada chip yang sama. Ukuran tercepat dan terkecil (32-64 Kb) adalah cache Level 1 (L1) - beroperasi pada frekuensi yang sama dengan prosesor. L2 menempati posisi rata-rata dalam hal kecepatan dan kapasitas (dari 128 Kb hingga 12 Mb). Dan L3 adalah yang paling lambat dan paling produktif (hingga 40 Mb), dan tidak ada pada beberapa model. Kecepatan L3 tergolong rendah hanya jika dibandingkan dengan saudaranya yang lebih cepat, namun juga ratusan kali lebih cepat dibandingkan RAM paling produktif.

Memori flash prosesor digunakan untuk menyimpan data yang terus digunakan yang dipompa dari RAM dan instruksi kode mesin. Semakin besar, semakin cepat prosesornya.

Saat ini, tiga tingkat caching bukan lagi batasnya. Dengan munculnya arsitektur Sandy Bridge, Intel menerapkan cache L0 tambahan (dimaksudkan untuk menyimpan instruksi mikro yang didekripsi) di produknya. Dan CPU berperforma paling tinggi juga memiliki cache tingkat keempat, dibuat dalam bentuk chip terpisah.

Secara skematis, interaksi level cache L0-L3 terlihat seperti ini (menggunakan Intel Xeon sebagai contoh):

Dalam bahasa manusia tentang cara kerjanya

Kertas-kertas yang jarang dibutuhkannya disimpan di rak terdekat (dalam RAM). Untuk mendapatkannya, Anda perlu berdiri dan berjalan beberapa meter. Dan apa yang saat ini tidak digunakan oleh seseorang akan diarsipkan (direkam di hard drive).

Semakin lebar tabel, semakin banyak dokumen yang dapat ditampung di dalamnya, yang berarti pekerja akan dapat dengan cepat mengakses lebih banyak informasi (secara teori, semakin besar kapasitas cache, semakin cepat program atau perangkat bekerja).

Terkadang dia membuat kesalahan - dia menyimpan kertas di mejanya yang berisi informasi yang salah dan menggunakannya dalam pekerjaannya. Akibatnya, kualitas pekerjaannya menurun (kesalahan cache menyebabkan kegagalan fungsi program dan perangkat keras). Untuk memperbaiki situasi, karyawan harus membuang dokumen yang salah dan meletakkan yang benar di tempatnya (mengosongkan memori cache).

Tabel memiliki area terbatas (cache memory memiliki kapasitas terbatas). Terkadang dapat diperluas, misalnya dengan memindahkan tabel kedua, dan terkadang tidak bisa (ukuran cache dapat ditingkatkan jika kemungkinan tersebut disediakan oleh program; cache perangkat keras tidak dapat diubah, karena diimplementasikan di perangkat keras) .

Cara lain untuk mempercepat akses ke lebih banyak dokumen daripada yang dapat ditampung meja adalah dengan meminta asisten melayani kertas pekerja dari rak (sistem operasi dapat mengalokasikan sebagian RAM yang tidak terpakai untuk menyimpan data perangkat dalam cache). Tapi itu masih lebih lambat dibandingkan mengambilnya dari meja.

Dokumen yang ada harus relevan dengan tugas saat ini. Karyawan itu sendiri yang harus memantau hal ini. Anda perlu mengatur segala sesuatunya secara teratur (penghapusan data yang tidak relevan dari memori cache berada di pundak aplikasi yang menggunakannya; beberapa program memiliki fungsi pembersihan cache otomatis).

Jika seorang karyawan lupa menjaga ketertiban di tempat kerja dan selalu memperbarui dokumentasi, dia dapat membuat sendiri jadwal pembersihan meja dan menggunakannya sebagai pengingat. Sebagai upaya terakhir, percayakan hal ini kepada asisten (jika aplikasi yang bergantung pada memori cache menjadi lebih lambat atau sering mengunduh data yang tidak relevan, gunakan alat pembersih cache sesuai jadwal atau lakukan manipulasi ini secara manual setiap beberapa hari).

Kami sebenarnya menemukan “fungsi caching” di mana-mana. Ini termasuk membeli bahan makanan untuk digunakan di masa depan, dan berbagai tindakan yang kita lakukan sambil lalu, pada saat yang sama, dll. Intinya, ini semua yang menyelamatkan kita dari keributan yang tidak perlu dan gerakan yang tidak perlu, menyederhanakan hidup kita dan membuat pekerjaan kita lebih mudah. Komputer melakukan hal yang sama. Singkatnya, jika tidak ada cache, ia akan bekerja ratusan dan ribuan kali lebih lambat. Dan kita mungkin tidak akan menyukainya.

f1comp.ru

Cache, cache, uang tunai - memori. Untuk apa memori cache digunakan? Dampak ukuran dan kecepatan cache terhadap kinerja.

Cache - memori (cache, cash, buffer - eng.) - digunakan dalam perangkat digital sebagai clipboard berkecepatan tinggi. Memori cache dapat ditemukan pada perangkat komputer seperti harddisk, processor, video card, network card, CD drive dan masih banyak lagi yang lainnya.

Prinsip pengoperasian dan arsitektur cache bisa sangat bervariasi.

Misalnya, cache dapat berfungsi sebagai clipboard biasa. Perangkat memproses data dan mentransfernya ke buffer berkecepatan tinggi, tempat pengontrol mengirimkan data ke antarmuka. Cache semacam itu dirancang untuk mencegah kesalahan, memeriksa integritas data secara perangkat keras, atau untuk menyandikan sinyal dari perangkat menjadi sinyal yang dapat dimengerti oleh antarmuka, tanpa penundaan. Sistem ini digunakan, misalnya, pada drive CD/DVD.

Dalam kasus lain, cache dapat berfungsi untuk menyimpan kode yang sering digunakan dan dengan demikian mempercepat pemrosesan data. Artinya, perangkat tidak perlu menghitung atau mencari data lagi, yang akan memakan waktu lebih lama dibandingkan membacanya dari cache. Dalam hal ini, ukuran dan kecepatan cache memainkan peran yang sangat penting.

Arsitektur ini paling sering ditemukan pada hard drive, drive SSD, dan unit pemrosesan pusat (CPU).

Saat perangkat beroperasi, firmware khusus atau program operator dapat dimuat ke dalam cache, yang akan bekerja lebih lambat dengan ROM (memori hanya-baca).

Sebagian besar perangkat modern menggunakan jenis cache campuran, yang dapat berfungsi sebagai clipboard dan menyimpan kode yang sering digunakan.

Ada beberapa fungsi yang sangat penting yang diterapkan untuk cache prosesor dan chip video.

Menggabungkan unit eksekusi. CPU dan prosesor video sering kali menggunakan cache bersama yang cepat antar inti. Oleh karena itu, jika satu inti telah memproses informasi dan berada dalam cache, dan perintah diterima untuk operasi yang sama, atau untuk bekerja dengan data ini, maka data tersebut tidak akan diproses lagi oleh prosesor, tetapi akan diambil dari cache untuk diproses lebih lanjut. Kernel akan diturunkan untuk memproses data lainnya. Hal ini secara signifikan meningkatkan kinerja dalam penghitungan serupa namun rumit, terutama jika cache berukuran besar dan cepat.

Cache bersama juga memungkinkan inti untuk bekerja dengannya secara langsung, melewati RAM yang lambat.

Tembolok untuk instruksi. Ada cache L1 bersama yang sangat cepat untuk instruksi dan operasi lainnya, atau cache khusus untuknya. Semakin banyak instruksi yang disimpan dalam suatu prosesor, semakin besar cache instruksi yang dibutuhkannya. Hal ini mengurangi latensi memori dan memungkinkan blok instruksi berfungsi hampir secara independen. Ketika penuh, blok instruksi mulai menganggur secara berkala, yang memperlambat kecepatan perhitungan.

Fungsi dan fitur lainnya.

Patut dicatat bahwa CPU (unit pemrosesan pusat) menggunakan koreksi kesalahan perangkat keras (ECC), karena kesalahan kecil dalam cache dapat menyebabkan satu kesalahan terus menerus selama pemrosesan lebih lanjut dari data ini.

Di CPU dan GPU terdapat hierarki memori cache, yang memungkinkan Anda memisahkan data untuk inti individu dan inti umum. Meskipun hampir semua data dari cache tingkat kedua masih disalin ke tingkat umum ketiga, tetapi tidak selalu. Tingkat cache pertama adalah yang tercepat, dan tingkat cache berikutnya lebih lambat, tetapi ukurannya lebih besar.

Untuk prosesor, tiga atau lebih sedikit level cache dianggap normal. Hal ini memungkinkan keseimbangan antara kecepatan, ukuran cache, dan pembuangan panas. Sulit untuk menemukan lebih dari dua level cache dalam prosesor video.

Ukuran cache, dampaknya terhadap kinerja dan karakteristik lainnya.

Tentu saja, semakin besar cache, semakin banyak data yang dapat disimpan dan diproses, namun ada masalah serius di sini.

Cache yang besar berarti anggaran transistor yang besar. Di unit pemrosesan server (CPU), cache dapat menggunakan hingga 80% anggaran transistor. Pertama, hal ini mempengaruhi biaya akhir, dan kedua, konsumsi energi dan pembuangan panas meningkat, yang tidak sebanding dengan peningkatan produktivitas beberapa persen.