Gerbstedt liegt im nordöstlichen Teil des Landkreises Mansfeld-Südharz, eingebettet in die wellige Landschaft der Mansfelder Platte am Harzvorland. Die Stadt wird von zwei Tälern durchzogen: dem der Schlenze und dem des Fleischbachs, die beide westlich von Friedeburg in die Saale münden. Die tiefste Stelle im Stadtgebiet befindet sich im Saaledurchbruch bei Rothenburg, während der Sickberg bei Thondorf mit 241 Metern die höchste Erhebung bildet. Zahlreiche Hügel wie der Sehringsberg oder der Warthe prägen das Bild, ebenso wie die Saale, die auf drei Kilometern durch das Gebiet fließt.
Schon früh war die Gegend besiedelt, wie Funde von Kreisgrabenanlagen und Gräberfeldern belegen. Viele ehemalige Dörfer sind heute nur noch als Wüstungen erkennbar, darunter Dankendorf oder Lodderstedt. Die heutige Stadt entstand durch Eingemeindungen, darunter 2010 mehrere umliegende Gemeinden wie Augsdorf oder Siersleben. Gerbstedt gehörte wechselnden Verwaltungsstrukturen an, darunter bis 1994 zum Kreis Hettstedt und später zum Mansfelder Land.
Die Stadt gliedert sich in zwölf Ortschaften mit insgesamt 25 Ortsteilen. Prägend sind die Lodderstedter Teiche und ein Altarm der Saale als größte stehende Gewässer. Die Stadt pflegt seit 1991 eine Ring-Städtepartnerschaft mit Grefrath und Frévent, zu der alljährlich Besuche zu Pfingsten gehören.
