Kui algas Eesti Vabadussõda, määrati ta suurtükipaat Lembitu dessantroodu ülemaks. Herm võttis osa kõigist Vabadussõja dessantidest, mis toimusid ajavahemikus detsembrist 1918 kuni jaanuarini 1919.

1918. aasta 11. jaanuaril, staabikapten Karl Aleksander Pauluse haavamise järel, juhtis Herm tervet dessanti Kundas, kus ta juhatas umbes 300-mehelist üksust ja lõi vaenlase taganema. 18. jaanuaril Utria dessandis määrati ta vabastatud Narva-Jõesuu komandandiks ning aitas vabastada Narvat.

1. veebruaril 1919 määrati Herm Rannavalve, Side ja Päästejaamade ülemaks. 28. novembril 1919 aga juba Eesti Merejõudude juhatajaks.

Vabadussõjas osalemise eest autasustati Johannes Hermi I liigi 2. järgu ja II liigi 3. järgu Vabadusristiga. Samuti sai ta mõisasüdame Sauel.

Merejõudude juhataja oli Herm 28. novembrist 1919 kuni 1. märtsini 1925.

1920. aastal ülendati Herm II järgu kapteniks (1922. aastast kaptenleitnant) kiiduväärt teenistuse eest.

1920. aastatel viis Herm Merejõudude organisatsiooni üle rahuaegsele tegevusele, tegi korda merekindlused ja tänu oma järjekindlusele hankis Eestile miiniristlejad Lennuk ja Vambola. Samuti alustas Herm mereväelaste koolitamist Suurbritannias ning tegi Sõjaministeeriumile koos Hermann Salzaga ettekande, mida oleks Mereväes vaja muuta. Esmatähtsaks pidas Herm allveelaevade hankimist.

1923. aastal ülendati Herm mereväekapteniks.

Johannes Hermi tervis halvenes kiiresti, tal oli tuberkuloos. Juba 1924. aastast ei suutnud ta oma kohustustega toime tulla ja käis pidevalt ravil, kuid see ei aidanud.

1925. aasta märtsist määrati Johannes Herm reservi ja uueks Merejõudude juhatajaks sai Hermann Salza.

Mereväekapten Johannes Herm suri 1. jaanuaril 1926 oma kodus Sauel. Maetud Tallinna Rahumäe kalmistule.