Vrchlabí liegt am Oberlauf der Elbe im Vorland des Riesengebirges, etwa zwanzig Kilometer westlich von Trutnov. Die Stadt wird als Tor zum Gebirge bezeichnet und durchfließt sie der Fluss von Nord nach Süd. Im Norden grenzt sie an Strážné, im Osten an Černý Důl und Lánov, im Süden an Kunčice und Horní Branná sowie im Westen an Benecko.
Erstmals schriftlich erwähnt wurde der Ort im 14. Jahrhundert unter dem Namen Wrchlab, der auf eine slawische Gründung im 13. Jahrhundert zurückgeht. Im 16. Jahrhundert erhielt er unter Christoph von Gendorf Stadtrechte und den Namen Hohenelbe, verbunden mit Bergbauprivilegien. Später prägten Textilmanufakturen und eine protestantische Gemeinde das Leben, bis die Erzvorkommen erschöpft waren und die Textilindustrie zur Hauptwirtschaft wurde.
Die Stadt ist geprägt durch historische Bauwerke wie ein Renaissance-Wasserschloss und ein Augustinerkloster, in dem einst Joseph Haydn als Kapellmeister wirkte. Ihre Ortsteile Hořejší Vrchlabí, Podhůří und Vrchlabí spiegeln die historische Entwicklung wider. Die Umgebung mit ihren Gebirgsbauden und Wäldern bis zur schlesischen Grenze unterstreicht die landschaftliche Bedeutung des Ortes.