Mikkola kävi Turun lukkari- ja urkurikoulun 1895 ja opiskeli Helsingin musiikkiopistossa 1897–1899. Pariisissa Mikkola opiskeli laulua ja urkujen soittoa 1900–1901 ja teki opintomatkat Saksaan 1920 ja 1929 ja Italiaan 1929. Mikkola oli Turun tuomiokirkon kanttori 1901–1907 ja Turun Mikaelin kirkon urkuri 1908–1950. Hän toimi myös pedagogina ja musiikkialan luottamustehtävissä. Hänellä oli vuodesta 1905 piano- ja harmoniliike Turussa ja Helsingissä 1912–1932. Turun Sanomien musiikkikriitikkona Mikkola työskenteli 1903–1912. Hänelle myönnettiin Director musices -arvonimi vuonna 1919.

Mikkola konsertoi Turussa ja Helsingissä, pitäen muun muassa yli sata kirkkokonserttia, ja toimi orkesterinjohtajana, urkurina ja säestäjäpianistina.