Fils de Louis 1er Phélypeaux de Pontchartrain, après avoir été Premier président du parlement de Bretagne, il réunit jusqu’en septembre 1699 les fonctions de contrôleur général des finances, de secrétaire d’État de la Marine à partir du 7 novembre 1690 et de secrétaire d’État de la Maison du Roi.
Il administra avec compétence un immense département qui réunissait la marine, le commerce, les colonies, le Clergé, Paris, la maison du Roi et les finances de l’État. Il fit réaliser le recensement de la population française de 1693, le premier après celui de Vauban de 1678. Il combattit l’influence, à la Cour, du quiétisme propagé par Fénelon et Mme Guyon.
On lui impute toutefois un certain nombre d’erreurs dans l’utilisation de la flotte française, portée à un très haut niveau par Colbert et son fils le marquis de Seignelay, notamment une part de responsabilité dans le désastre de La Hougue.
Il fut ensuite chancelier de France du 5 septembre 1699 au 1er juillet 1714. Il fut greffier de l’ordre du Saint-Esprit en mai 1700.
Il épousa en 1668 Marie de Maupeou fille de Pierre de Maupeou, seigneur de Bruyères, président de la chambre aux enquêtes . Il démissionna de sa charge pour ne pas avoir à apposer les sceaux sur l’arrêt du conseil du 5 juillet 1714 condamnant un texte de l’évêque de Metz, Mgr Henri-Charles de Coislin, comme contraire à la bulle Unigenitus. Depuis quelque temps, il se sentait mal à l’aise devant la dérive autoritariste de Louis XIV et désirait se consacrer au salut de son âme. Il se retire à l’institution de l’Oratoire où il meurt en 1727.
Le lac Pontchartrain en Louisiane porte son nom, et la ville actuelle de Détroit dans le Michigan a été fondée avec le nom Fort Pontchartrain du Détroit à son honneur à l’époque de la Louisiane française.
Le lac Maurepas et le fort Maurepas, tous deux situés en Louisiane, furent également nommés en son honneur.