Joseph-Charles Mardrus naît au Caire : son père est un riche commerçant, fils d’un émigré du Caucase conquis par les Russes, qui s’est installé en Egypte dans la première moitié du XIXe siècle et naturalisé car catholique. En 1878, il est envoyé pour son éducation chez les Jésuites au Liban. Il étudie la médecine à l’Université Saint Joseph de Beyrouth, où il obtient son premier diplôme en 1892, et poursuit sa formation à Paris où il soutient sa thèse en 1894. Il se rapproche à cette époque de Stéphane Mallarmé qu’il admire et auquel il dédiera ses traductions, et fréquente le milieu littéraire où il fait la connaissance de Joris-Karl Huysmans, André Gide et Paul Valéry.

Après ses études, il ouvre brièvement un cabinet médical au Caire, puis s’engage de 1895 à 1899 comme médecin pour la compagnie des Messageries maritimes, ce qui lui permet de découvrir le Moyen-Orient, la Chine et l’Asie du Sud-Est. Il est basé à Marseille où il noue des amitiés avec des membres du Félibrige. Il s’installe définitivement à Paris, en 1899. Il se définit comme « Musulman de naissance et Parisien par accident », bien que catholique, et est l’un des promoteurs de l’Orient à l’origine de l’engouement orientaliste à Paris.

Entre 1898 et 1904, encouragé par Stéphane Mallarmé, il traduit « Les Mille et une nuits », dans une nouvelle version non expurgée et plus érotique que la version du XVIIIe siècle d’Antoine Galland, publiée en 16 volumes richement illustrés. Dès la publication des premiers volumes par la « Revue blanche » en 1899, l’apport financier lui permet de se mettre en disponibilité de son activité de médecin. Il acquiert une grande notoriété, bien que les savants arabisants expriment beaucoup de réticence sur sa « traduction », avec raison, le « traducteur » enrichissant les originaux arabes d’éléments puisés dans des recueils français de contes arabes et hindoustanis, et accentuant érotisme et exotisme ainsi que le burlesque des contes. Emprunts, expansions et interpolations fournissent une version conforme au goût et à l’image orientalistes du moment. Ce qui explique le succès qui lui permet d’être admis chez Robert de Montesquiou et chez José Maria de Heredia. Son ouvrage a un impact très important : Tristan Klingsor écrit « Le livre de Shéhérazade » qui est mis en musique par Maurice Ravel en 1903 ; Les Ballets russes de Diaghilev créent une « Shéhérazade » en 1910. Des « fêtes arabes » sont organisées à Paris et notamment en 1911 la « Mille et deuxième nuit » du couturier Paul Poiret.

Le 5 juin 1900, il épouse à Paris la poétesse Lucie Delarue. L’union est dissoute le 19 juin 1923, et il épouse en secondes noces le 31 janvier 1924 Gabrielle Clémence Bralant (1897-1997), dite « Cobrette » avec qui il est en couple depuis 1914. A partir de 1904, avec Lucie Delarue, il entreprend des voyages au Maghreb, en Turquie, en Egypte. Après la guerre, il s’intéresse au mysticisme et travaille à de nouvelles « traductions » : une traduction du Coran (parue en 1925), une histoire légendaire de « La reine de Saba » (1918), de nouveaux contes orientaux, comme l’« Histoire charmante de l’adolescente Sucre d’Amour » (1927), puis puise son inspiration dans les textes sacrés « Le Cantique des cantiques » (1925), « Le Paradis musulman » (1930). En 1926, il découvre le cinéma d’animation avec la cinéaste allemande Lotte Reiniger, dont il présentera le film « Les Aventures du prince Ahmed ». Il voyage une dernière fois en Egypte en 1927, où très déçu des changements du pays, il ne reste qu’un mois et demi. Il meurt à Paris après y avoir passé la Guerre cloîtré chez lui avec Cobrette.