Ab 1881 begann er Novellen in der Zeitschrift Le Clairon zu veröffentlichen. 1890 gab er seine öffentliche Stellung auf, um sich der Literatur zu widmen. Nach ersten Romanen, die das Leben in der Provinz behandelten – Le Scorpion (1887), Chonchette (1888), Mademoiselle Jaufre (1889) – begann er, sich in Romanen wie: Cousine Laura (1890), La Confession d’un amant (1891), Lettres de femmes (1892), L’Automne d’une femme (1893) mit dem Thema zu beschäftigen, für das er bekannt werden sollte: die Erforschung des Wesens der Frau, betrachtet ausschließlich aus männlicher Sicht.
Sein Erfolg kam 1894 mit Les Demi-vierges, seinem gefeiertsten Roman. Er beschreibt auf überdeutliche Weise die Auswirkungen, die das Pariser Großstadt-Leben und die moderne Erziehung und Gesellschaft auf junge Frauen haben kann. Der Roman wurde anschließend zu einem Theaterstück umgeschrieben und am 2. Mai 1895 mit großem Erfolg am Théâtre du Gymnase uraufgeführt. Der Begriff «demi-vierge» (Halb-Jungfer) ging in die Umgangssprache ein und bezeichnet ein freizügiges und gleichwohl jungfräuliches Mädchen.
Im gleichen Geist veröffentlichte Marcel Prévost sodann Jardin secret (1897), Les Vierges fortes (1900), Frédérique (1900), Léa (1900), L’Heureux ménage (1901), Les Lettres à Françoise (1902), La Princesse d’Erminge (1904), L’Accordeur aveugle (1905), Féminités (1912), Les Don Juanes (1922), La Mort des Ormeaux (1938) und weitere. Aus dieser Fülle von gleichartigen Hervorbringungen, könnte man Monsieur et Madame Moloch (1906) besonders hervorheben, eine heitere Satire über den deutschen Charakter. Les Lettres à Françoise (1902) stellen ein Programm zur Mädchenerziehung dar, während die Verbindung von Mystik und Erotik in Retraite ardente (1927) Proteste der Katholischen Kirche nach sich zogen.
Sein Stück in vier Aufzügen La plus faible, wurde 1904 an der Comédie-Française aufgeführt und erfuhr ebenfalls großen Erfolg.