Varnish

Хорошее практическое руководство по кэшированию с помощью Varnish.

P.S. возможно, кто-то из ЖЖ это не прочитал ...

P.P.S. для Java веб-приложений есть несколько полезных инструментов кэширования в составе JSOS