Trouvant ses origines sous le règne de Philippe Le Bel, la Chambre des comptes de Paris, qui avait succédé à la Cour du roi, contrôlait les recettes et les dépenses du Royaume. Après sa suppression à la Révolution, c’est Napoléon qui la remet en place sous la dénomination toujours actuelle de Cour des Comptes. Elle s’installera en 1842 dans le palais d’Orsay où se trouvait aussi le Conseil d’Etat, palais incendié lors de la Commune comme le fut l’Hôtel de Salm tout proche et remplacé par la gare devenu musée éponyme.
Il faudra attendre de nombreuses années, alors que l’Hôtel de ville était déjà reconstruit, pour que soit décidé d’installer la vénérable institution dans le palais Cambon construit à cet effet au 13 de la rue du même nom. L’installation effective n’aura lieu qu’en 1912.
Les travaux débutent en 1898 et sont confiés à l’architecte Constant Moyaux (1831-1911) auquel succédera son assistant Paul Guadet (1873-1931), sur l’emplacement d’un ancien couvent, celui des dames de l’Assomption. La chapelle est devenue l’église de Notre Dame de l’Assomption, la principale église polonaise de Paris. Constant Moyaux est Grand Prix de Rome, architecte des bâtiments civils et palais nationaux, professeur à l’École des Beaux-Arts, successeur de Garnier à l’Académie des Baux Arts.
La réalisation de cette construction est complexe, elle offre un mélange de styles à la fois issus du palais Pitti de Florence, du palais du Luxembourg et du Louvre. Les façades du quadrilatère qui entoure la cour d’honneur sont classiques alors que l’intérieur est conçu de façon très moderne pour l’époque, notamment la partie réservée aux archives (qualifiée de « premier gratte-ciel français ») dont la conception est très pointue quant à la résistance aux charges et à l’isolement.
L’œuvre la plus importante est le plafond de l’escalier d’honneur de Gervex 1852-1929), peintre des commandes publiques, qui représente une allégorie de l’Etat. L’escalier dont la rampe et sept pièces de décor ou objets mobiliers sont classés Monuments historiques au même titre que les façades et toitures des bâtiments, à l’exception de celui de 1967 donnant sur la rue Saint-Honoré (arrêté du 18 mai 1993, modifié par l’arrêté du 14 mars 2006).
La fresque de galerie de la bibliothèque dite Philippe Seguin a été peinte bien plus tard par l’artiste français connu pour ses sculptures en acier, Bernar Venet, à l’occasion du bicentenaire de la Cour en 2007.