[Belansky]

ИМХО, это от глагола "кешировать". Этимология лексемы от англ. cache. - кэш (каша). Можно, например, кешировать жесткие диски, т.е. загружать часть информации в верхнюю память. На жестком диске также располагется кэш-директория браузеров, хотя бы IE, из которой потом происходит рендеринг страниц (отображение страниц браузером).

[BeerMan]

...если проще, то это такая хр@нь, которая убыстряет работу, путем предварительного считывания...

[Kristy]

Кэширование используется из-за недостатков дисковой памяти (это низкая скорость обмена) и оперативной (ее объем). Поэтому бывает кэширование дисков и кэширование оперативной памяти (по другому виртуальная память).
      Кэширование дисков - это сохранение в ОПЕРАТИВНОЙ памяти образов последних используемых блоков ДИСКОВОЙ памяти в надежде на то, что к ним в ближайшее время будет сделан запрос. Таким образом, если к ним действительно делается запрос, то данные считываются уже не с диска, а из оперативной памяти, что гораздо быстрее.
    Суть кэширования оперативной памяти в том, что для программ и для пользователя предоставляется виртуальная память по размерам бОльшая, чем на самом деле установлено оперативной памяти.  Но на самом деле данные хранятся на диске в виде страниц определенного размера и только ЧАСТЬ этих страниц в любой момент времени находится в оперативке. При необходимости она может "подкачать" нужные файлы на место предварительно выгруженных из памяти. Сам процесс подкачки называется свопингом, а часть диска, на котором хранятся страницы - файлом подкачки (swap-file).