"Da, wo vor nicht langer Zeit Sandhügel, verfallenes Gemäuer und öde Steppen den Wanderer zurückschreckten, entzückt nun ein mit Geist und Geschmack angelegter Lusthain das Auge. Schöne Baumgruppen, freie Rasenplätze, schattige Alleen, liebliche Wasserpartien, überraschende Aussichten auf die Stadt, auf den Rhein, machen diese Anpflanzung zu einem der angenehmsten Spaziergänge. - Von irgendeiner der verschiedenen Anhöhen des Parks umherschauend, glaubt man in jeder einzelnen Partie des Lusthains ein schönes Landschaftsgemälde zu erblicken."
Ausgestattet war der Hofgarten, der sich damals noch hinter Schloss Jägerhof bis zur heutigen Pempelforter Straße ausdehnte, mit Statuen, Gipslöwen und einem chinesischen Pavillon am Bassin des "Jrönen Jong" - ganz nach dem vorherrschenden höfischen Geschmack.
Diese fürstlichen Herrlichkeiten fielen militärischen Planungen zum Opfer. Zwischen 1797 und 1799 bauten die Franzosen, die in den Wirren der Revolutionskriege Düsseldorf eingenommen hatten, die Stadt als Festung aus und vernichteten viele Bäume samt Pavillon. Nach dem Frieden von Lunéville 1801 mussten die Franzosen Düsseldorf wieder räumen, die Festungswerke wurden geschliffen. So entstand Platz für eine Erweiterung des Hofgartens, mit der 1804 nach den Plänen Maximilian Weyhes begonnen wurde und die 1811 von Napoleon, der mit einem "Verschönerungsdekret" den Düsseldorfern die ehemaligen Wallanlagen für Grünanlagen überließ, ausdrücklich anerkannt wurde. Weyhe schuf einen Landschaftsgarten, im englischen Stil. Seine Kunst, Bodenerhebungen und sanfte Täler auf engem Raum anzuordnen und "natürliche" Landschaft zu zaubern, ist im Hofgarten gut abzulesen: Das Zusammenspiel der Hügel Landskrone, Hexenberg und Ananasberg sowie der Napoleonsberg mit den angrenzenden, weiten Wiesen ist meisterlich gelungen. Weyhe gestaltete auch große Teile des alten französischen Gartenteils neu, nur die Reitallee und die Seufzerallee neben der Düssel blieben erhalten. Der Hofgarten war eingebunden in die Stadtplanung der damaligen Zeit. Trotz ihrer unterschiedlichen Charaktere und unterschiedlicher Ansichten arbeiteten der Gartenarchitekt Weyhe und der Stadtplaner Adolph von Vagedes eng und fruchtbar zusammen. Ein Grünzug vom Rhein über Schwanenspiegel, Königsallee, Hofgarten und Heinrich-Heine-Allee zum Rhein sollte entstehen. (Ein Gedanke, der heute unter dem Motto "Grüne Achse vom Rhein zum Rhein" wieder aufgenommen wurde.)
Der Ananasberg und der Napoleonsberg sind gleichzeitig optische Schlusspunkte für Königsallee bzw. Heinrich-Heine-Alle; die goldene Brücke, die über den Weiher zur Landskrone führt, ist Mittelpunkt der Anlage. Ständen nicht Bäume, Hauser und Straßen im Wege, könnte von ihr der Blick sowohl bis zum Schloss Jägerhof als auch bis zur Altstadt schweifen.
Die Qualität des Hofgartens als grüne Insel in der City wurde nicht immer erkannt. So sollten Teile von ihm 1845 einem Bahnhof geopfert werden, die Nazis wollten dort eine große Aufmarschstraße bauen. Diese Pläne konnten zwar vereitelt werden, doch einige kleine Teile des Parks gingen an die gefräßige Straße verloren. Der Eiskellerberg wurde bebaut, ebenso der Garten hinter Schloss Jägerhof. Für die Gesolei wurde der Ehrenhof wie ein Riegel zum Rhein hin errichtet. Er stellt aber in seiner Geschlossenheit einen städtebaulich reizvollen Abschluss dar. 1958 wollte Stadtplaner Professor Tamms für Autostraßen sogar den Weiher an der Landskrone teilweise zuschütten. Wegen der großen Proteste bei den Düsseldorfern wurde dieser Plan fallengelassen. Was blieb, sind eine Erhaltungssatzung, die jede Änderung des Hofgartens verbietet Düsseldorfer Stadtrecht , und Fußgängerpassagen, welche die trennenden Verkehrsachsen unterqueren und die verschiedenen Teile des Hofgartens zusammenwachsen ließen.