Afin d'aider sa mère, Jeanne passa plusieurs années comme employée de cuisine, puis elle entra comme infirmière à l'hôpital de Rosais, sur la Rance. Le 15 octobre 1840, avec deux amies, elle forme une association de charité. En 1842, le groupe d'associés s'assemble avec l'abbé Le Pailleur afin de s'organiser en vue de l'avenir. Elles décident de prendre alors le nom de "Servantes des Pauvres" et choisissent Jeanne Jugan (qui prend le nom de "Sœur Marie de la Croix") pour supérieure. 

En 1844, les « Servantes des Pauvres » deviennent les « Sœurs des Pauvres ». L'année suivante, l'Académie française décerne à Jeanne Jugan, pour son œuvre, le prix Montyon. Elle devient célèbre, les journalistes s'intéressent à elle. En 1846, elle fonde deux nouvelles maisons à la Piletière, à Rennes, et à Dinan. 

D'autres maisons sont ouvertes en France. Les "Petites Sœurs des Pauvres" arrivent à Orléans en 1855 (rue de la Poterne), puis s'installent en 1870 rue Bellébat sous le nom de : Ma Maison. Le romancier anglais Charles Dickens vient visiter une des maisons. En 1849, la congrégation adopte définitivement le nom de Petites Sœurs des pauvres. Une rue d'Orléans (Voir photos) porte son nom.