Křemže liegt eingebettet im Blanský les, einem ausgedehnten Waldgebiet in Südböhmen. Das Städtchen breitet sich im Křemžský potok aus, der durch das Kremser Becken fließt. Im Süden erhebt sich der 1084 Meter hohe Kleť, während im Osten die Burg Maidstein thront. Nachbarorte wie Chlumeček und Bohouškovice im Norden oder Holubov und Třišov im Südosten umgeben die Gemeinde.
Erstmals taucht der Ort 1266 unter dem Namen „Zmilenburch“ in Urkunden auf. Im Laufe der Jahrhunderte wechselte die Schreibweise mehrfach, bis sich schließlich „Křemže“ durchsetzte. Die Herrschaft über das Gebiet lag lange in den Händen des Adelsgeschlechts Dubenský von Chlum, das sich später in verschiedene Linien aufspaltete. Einer dieser Zweige, die Smil von Krems, erbaute eine Burg, die jedoch durch Konflikte mit den Rosenbergern und eine tragische Hinrichtung 1447 in Verruf geriet. Später wechselte die Burg mehrfach den Besitzer, bis sie schließlich an das Kloster Goldenkron und später an die Fürsten Schwarzenberg gelangte.
Heute prägen historische Bauwerke wie die neugotische St.-Michaels-Kirche und die Friedhofskapelle St. Ursula das Bild. Die mittelalterlichen Burgspiele im August ziehen Besucher an, während der Aussichtsturm auf dem Kleť einen weiten Blick über die Landschaft bietet. Ein besonderer Anziehungspunkt ist der jährliche internationale Klavierwettbewerb für junge Talente im Rathaussaal.
