Né à Paris de l’union de Jeanne Mercier et d’Hubert Gervais, valet de chambre du duc d’Orléans.
C’est probablement dans le foisonnement de cette cour qu’il reçut ses premiers rudiments musicaux, même si l’on ignore le nom de son maître. En 1683, il échoue cependant au concours ouvrant au poste de sous-maître de musique à la Chapelle royale mais 14 ans plus tard, en 1697, on le retrouve "ordinaire de la musique de son Altesse le duc d’Orléans". Intendant, puis maître de la musique du Régent en 1700, il épouse, en 1701, Françoise du Vivier avec qui il aura trois enfants. Le 24 avril 1702, il succède alors à son père comme valet de chambre du duc.
Gervais est chargé d’enseigner son art à son maître, amoureux de la musique italienne, et l’aidera à composer deux opéras : “Penthée” en 1705 et “Suite d’Aride ou Jerusalem” délivrée en 1704. Le compositeur reste cependant fidèle à la tradition lullyste, notamment avec sa “Méduse”, sur un livret de Boyer en 1697. Usant, comme François Couperin, de la réunion des goûts français et italiens, il livre son chef-d’œuvre, en 1716, “Hypermnestre”, sur un livret de Lafond.
En janvier 1723, le roi Louis XV le nomme à l’un des 4 quartiers de sous maître de la Chapelle royale [1]. Il livre alors une quarantaine de motets [2] à grand chœur. Les autres quartiers de sous-maître sont alors confiés à André Campra et Nicolas Bernier.