Das Heinrich-Heine-Institut ist 1970 aus der Handschriftenabteilung der Landes- und Stadtbibliothek Düsseldorf hervorgegangen. Hierbei handelt es sich um die vormalige Kurfürstliche, dann Königliche Bibliothek, an deren viele tausend "mächtige Bücher" sich Heinrich Heine in seinem Reisebild "Ideen. Das Buch Le Grand" von 1826 zurück erinnert.
Als Stiftung des Kurfürsten Karl Theodor von der Pfalz-Sulzbach hatte diese öffentliche Bildungseinrichtung seit spätestens 1770 der rheinischen Residenzstadt Düsseldorf die besten wissenschaftlichen und kulturellen Dienste geleistet. Die Familie Jacobi gehörte zu den Förderern der Bibliothek, der junge Heinrich Heine und Robert Schumann ebenso zu ihren Benutzern wie später Herbert Eulenberg.
Die Buchbestände der alten Landes- und Stadtbibliothek wurden an die neu gegründete Universitätsbibliothek Düsseldorf übertragen. Die Handschriftenabteilung, deren Mittelalterliche Handschriften und Inkunablen erst 1977 als Dauerleihgabe an die Universitätsbibliothek übergeben wurden, verblieb dagegen unter städtischer Obhut. Diese nach regional bestimmten Gesichtspunkten aufgebaute Abteilung besaß vor allen Dingen mit dem Heine-Archiv und der Schumann-Sammlung eine internationale Bedeutung.
Im Jahr 1974 konnte das Heinrich-Heine-Institut das alte, seit 1906 genutzte und im Zweiten Weltkrieg stark beschädigte Bibliotheksgebäude am Grabbeplatz verlassen und das historische Patrizierhaus Bilker Straße 14 nutzen. Zum 700-jährigen Stadtjubiläum 1988 ergab sich die Erweiterung des Instituts durch das Nachbarhaus Nr. 12.