Oprindelig sikkert blot en jordvej som gik fra Skolegade ud i markerne. Men i omkring 1890‘erne blev vejen udbygget som en parallelgade til Storegade og der kom små butikker og værksteder.

I den vestlige ende af vejen havde bygmester Hans Hansen lagerplads. Det var også på Mellemgade at Luthersk Missionshus blev opført i 1906.

Omkring 1909 blev Mellemgade 4 opført som Fortbildungsschule (Teknisk Skole), efter Genforeningen købte Skærbæk Kommune bygningen og havde Kommunekontor der indtil 1976.