Grand Palais byl postaven v letech 1897-1900 na nově vytvořené Avenue Nicolas II (dnešní Avenue Winston Churchill), která tvořila spojnici od Avenue des Champs-Élysées přes Pont Alexandre III k Invalidovně. Původně stál na tomto místě Průmyslový palác postavený pro světovou výstavu roku 1855. V roce 1896 byla vyhlášena architektonická soutěž omezená jen na francouzské architekty, ve které zvítězili Henri-Adolphe-Auguste Deglane (1855-1931), Louis-Albert Louvet (1860-1936), Albert-Félix-Théophile Thomas (1847-1907) a Charles-Louis Girault (1851-1932), přičemž posledně jmenovaný stál v čele skupiny. 1. května 1900 francouzský prezident Émile Loubet palác slavnostně otevřel. V roce 1975 byla loď paláce zapsána mezi historické památky. Od roku 2000 je chráněn celý Grand Palais. V letech 1993-2005 prošel celý palác nákladnou rekonstrukcí.