Poznat po svojoj bogatoj prošlosti, između ostalog i kao važno mjesto na karavanskom putu koji je vodio od Jadranske obale do Ugarske, Olovo se i danas nalazi pored samog magistralnog puta M 18 izgrađenog 1958. godine.
U pisanim dokumentima Olovo se prvi put spominje 1382. godine pod imenom Plumbum (lat.-olovo) što potvrđuje navode da je ovaj grad dobio ime po rudi olova.
U XIV i XV stoljeću Olovo je bilo poznati rudarski i trgovački centar sa unosnom carinom. Nacionalna struktura stanovništva mijenjala se kroz protekla stoljeća zbog krupnih historijskih događaja kao i prestankom eksploatacije olovne rude.
Najveći dio stanovništva Olova krajem srednjeg vijeka činili su Sasi kao rudari, te razni trgovci i obrtnici iz Dubrovnika i Dalmacije. Upravo na njihovu inicijativu u drugoj polovini XIV vijeka, u doba Tvrtka I Kotromanića u Olovu je sagrađen samostan Svete Gospe, koji danas predstavlja najstarije Gospino Svetište na Balkanu.
Ovaj vjerski objekat i danas je stjecište velikog broja vjernika katolika iz svih krajeva BiH i Hrvatske.
Dolaskom Turske u Olovu se povečava broj muslimanskog stanovništva koje početkom XVI stoljeća gradi džamiju na lokalitetu današnjag naselja Gornje Olovo, a već u XVII vijeku muslimani čine tri četvrtine stanovništva u Olovu.
Zbog plahovitih planinskih rijeka (Bioštice – što dolazi iz Knežine i Stupčanice iz vrela kod Han Pijeska) koje su u proljeće plavile okolna polja, naselje Donje Olovo nastalo je tek u XX stoljeću.
Razvoju Donjeg Olova, odnosno današnjeg gradskog jezgra, nakon okupacije Austro-ugarske, znatno je doprinijela izgradnja pruge Zavidovići – Olovo – Han Pijesak. To ujedno predstavlja početak planske eksploatacije bogatih olovskih šuma, što i danas predstavlja osnovni privredni resurs.
O čuvenoj olovskoj banji i njenim nadaleko poznatim ljekovitim svojstvima pisao je i nobelovac Ivo Andrić u svojoj pripovjetci “Čudo u Olovu”.