Orkestern grundandesgrundades 1871 men bär sina rötter från året innan då ''Zagrebs operaorkester'' skapades.<ref name="huoku">[http://www.huoku.hr/htm/zagrebackafilharmonija.htm Huoku.hr] - Kroatiska föreningen för orkester- och [[kammarmusiker]] {{språkikon|en|engelska}} {{språkikon|hr|kroatiska}}</ref> 1870 organiserade [[Ivan Zajc]] så kallade [[quodlibet]], koncerterkonserter med utdrag ur operor, symfoniska fragment och senare kompletta koncerterkonserter. Den 25 februari 1871 uppträdde de för första gången och detta datum betraktas som början på den professionella orkester- och konsertverksamheten i Zagreb samt grunden för Zagrebs Filharmoni.<ref name="huoku" /> Den 27 juni 1918 grundades sällskapet ''Kroatiska Filharmonin'' med baron ''Milan Turković'' som dess första ordförande. Inspirerade av ''Dragutin Arany'' skapades 1919 ''Teaterorkesterns Filharmoni'' som den 3 september 1920 bytte namn till Zagrebs Filharmoni.<ref name="huoku" />
Sedan grundandet har dess historia formats av förstklassiga dirigenter såsom [[Friedrich Zaun]], [[Milan Horvat]], [[Lovro von Matačić]], [[Mladen Bašić]], [[Pavle Dešpalj]], [[Kazushi Ono]], [[Pavel Kogan]], [[Alexander Rahbari]] och [[Vjekoslav Šutej]].<ref name="zgf" />
