Na opheffing van de adellijke muziekkapellen en het vertrek van de Franse militaire muziekkorpsen ontstaan begin negentiende eeuw de eerste burgerlijke muziekkorpsen. In de vroegere Generaliteitslanden maakt de oprichting van muziekgezelschappen deel uit van de 'burgerlijke emancipatie'. In Grave wordt op 11 januari 1845 de Harmonie van Grave opgericht, voornamelijk door leden van de Sociƫteit Tot Nut en Vermaak.
Een jaar later, in 1846, wordt het eerste concert gegeven, ten bate van de armen van de stad. Het is het begin van een traditie. In 1848 krijgt het gezelschap een eigen vaandel, aangeboden door de dames van de leden van de harmonie, en twee schellenbomen gegeven door de minister van oorlog. Na flink wat gerommel in de gelederen maakt de harmonie in 1870 een nieuwe start onder de naam Concordia. Luisterrijk is de viering van het 50-jarig jubileum op 11 januari 1895. Ochtendlijk hoorngeschal en een receptie openen de feestelijkheden. Op 29 en 30 juni volgt een groot nationaal festival met optocht.
In de jaren tussen 1895 en 1900 staat het muzikaal leven in Grave op een laag pitje. Een aantal heren richt dan de Harmonievereniging van Grave op. Dit is natuurlijk tegen het zere been van de oude harmonie die meteen weer actief wordt. Vanaf dat moment beschikt Grave over twee harmoniegezelschappen. Een verzoeningspoging door de gemeente heeft geen succes en al spoedig is het heel normaal dat bij feestelijke gelegenheden beide gezelschappen hun opwachting maken. Uiteraard proberen ze elkaar zoveel mogelijk de loef af te steken, wat leidt tot grote muzikale vooruitgang. Die wedijver duurt tot de Tweede Wereldoorlog.
Na het tekenen van de vrede in 1945 maakt men ook in Grave een nieuw begin. Op 19 juli 1945 gaat de Harmonie Stad Grave officieel van start. In de loop der jaren groeit de vereniging op muzikaal gebied en nemen ook de activiteiten toe, zoals we die kennen in het traditionele kermisconcert, nieuwjaarsconcert, de taptoe en het begeleiden van optochten met Sinterklaas, Palmpasen en Koninginnedag. In 1965 wordt de muziekvereniging uitgebreid met een slagwerkgroep. De harmonie bestaat anno 202023 uit een harmonieorkest en een slagwerkgroep. Veel leden zijn ook actief in vertakkingen zoals het Graafsch Muziekkapelleke (GMK) (vanaf 1914), De Mertbloazers en de Havenmuzikanten. Ter gelegenheid van het 150-jarig bestaan is Harmonie Stad Grave in 1995 onderscheiden met de Koninklijke Erepenning.