In 1928 werd het Haags Matrozenkoor opgericht door de dirigent Theo van Elferen.
Het kleine groepje Matrozen waarmee hij in de Katholieke kerk aan de Brandstraat in Den Haag begon, groeide al snel uit tot een behoorlijke groep jongens die vaak voor optredens werd gevraagd. In die jaren werd zelfs af en toe al een uitstapje naar het buitenland gemaakt.
Na een korte onderbreking tijdens de hongerwinter in 1944/45 begon het koor na de bevrijding echt naam te maken
In de vijftiger jaren telde het Haags Matrozenkoor soms meer dan honderd leden. Er waren optredens in het later afgebrande gebouw van Kunsten en Wetenschappen in Den Haag, maar ook in de zaal van de toenmalige Haagsche dierentuin. Verder werd regelmatig opgetreden voor de Koninklijke familie en zong het koor tijdens verschilde radio-uitzendingen van de KRO. Het koor ging ook toen al regelmatig op reis naar het buitenland, zoals bijvoorbeeld naar Rome en Parijs.
De dirigent Theo van Elferen werd tijdens zijn werkzaamheden, en ook tijdens de koorreizen, altijd terzijde gestaan door mevrouw Annie Coli.
In 1955 werd Theo opgevolgd door Kees Stolwijk senior, en zeven jaar later in 1962 door Sipke de Jong. Hij dirigeerde het koor meer dan 35 jaar, en het door zijn enthousiaste inzet wist hij het steeds naar een hoger niveau te brengen. Aan het einde van zijn carrière kreeg hij steeds meer te maken met de concurrentie van andere vrijetijdsbestedingen waardoor het moeilijker werd om genoeg jongens aan te trekken.
In 1998 nam Nico Hovius het koor voor een jaar over, waarna Arie Hoek als dirigent werd benoemd.
Van 2007 tot 2013 werd het koor gedirigeerd door Daniel Salbert. Hij gaf het koor een nieuwe impuls. In deze periode werd reguliere individuele stemcoaching voor de matrozen ingezet om de kwaliteit van het nog verder te verbeteren. Hiervoor werd David van Lith benoemd tot stemcoach.
Vanaf september 2013 tot januari 2019 werd het koor geleid worden door dirigent Wouter Verhage. De koorrepetities werden aangevuld met aparte solfegelessen. Wouter Verhage werd opgevolgd op interim basis door Josefine Straesser (2019) en door Patrick Pranger in 2020. In januari 2021 trad Peter van der Leeuw aan als dirigent van de C- en ATB-klassen, en Leander Schoormans als docent voor de jongste jongens (zie ook de pagina ‘Muzikaal Team’).