Jean El-Mouhoub Amrouche nait le 7 février 1906 à Ighil-Ali, le petit village de Kabylie de la famille paternelle. La famille peine à survivre financièrement d’autant que son père, après son éducation chez les Pères Blancs où il s’est converti au catholicisme, vient de quitter son poste de moniteur-instituteur chez les Pères Blancs. Il part alors à Tunis chercher un travail et en 1910, la famille s’installe à Tunis dans le quartier musulman et arabe, puis dans le quartier dit de la « Petite Sicile ». Inscrit à l’école laïque, Jean est un excellent élève ; en 1914, il passe une année à Ighil-Ali, rencontrant la culture kabyle. Il obtient en 1920 le brevet élémentaire et entre à l’Ecole Normale de Tunis. En 1924, lorsqu’il en sort, il est nommé instituteur à Sousse, puis en août 1925, il part à Paris pour intégrer l’Ecole Normale Supérieure de Saint-Cloud, dont il sort diplômé en 1928. De retour en Tunisie, il écrit le 11 novembre 1928 à André Gide. Dans cet échange d’un jeune aspirant écrivain au personnage public qui se distingue dans l’époque par son engagement contre le système colonial, il va se définir comme « hybride culturel », et définir sa mission, dépasser les antagonismes culturels pour une spiritualité commune et mettre la France au service de l’Afrique du Nord.
Après son service militaire, en octobre 1929, il est nommé professeur de Lettres au collège de Sousse, où il rencontre Armand Guibert. Puis en 1935, il obtient un poste à Bône en Algérie. Il y rédige son étude sur « La pensée de Patrice de La Tour du Pin » qui paraît dans un ouvrage collectif. Par l’intermédiaire d’Armand Guibert, il fait connaissance à Marseille de Jean Ballard, et à Paris, de Jules Roy. Il publie articles et compte-rendu dans les revues littéraires tunisiennes, « Mirages », « Shéhérazade », « La Tunisie française littéraire » dont il tient la page littéraire avec Armand Guibert du 16 novembre 1940 à mai 1941, puis seul jusqu’au 27 juin 1942. Il publie deux recueils de poésies dans la collection « Les Cahiers de Barbarie » créée par Armand Guibert, « Cendres » (1934) et « Étoile secrète » (1937). Ils créent ensemble les éditions « Monomotapa » où en 1939, les « Chants berbères de Kabylie » traduisent en français les chants de sa mère empreints du souvenir nostalgique de sa Kabylie natale, et d'une méditation poétique et religieuse.
En 1942, André Gide s’exile à Tunis et c’est l’occasion pour Jean Amrouche qui n’avait qu’une relation épistolaire avec celui-ci de le rencontrer et de confirmer son allégeance : chaque jour, les deux écrivains se retrouvent pour jouer aux échecs. Le 27 mai 1943, André Gide part pour Alger où il rencontre le Général De Gaulle le 26 juin. Est lancé le projet d’une revue de la France libre, « L’Arche », dont dès le 15 juillet Jean Amrouche rédige le manifeste et dont le premier numéro paraît en février 1944. Le 27 juillet 1943, il est officiellement appelé à Alger où il est nommé au Cabinet du Directeur de l’Information Henri Bonnet. Il est reçu par le Général de Gaulle à qui il expose ses idées qui inspirent le discours progressiste de Constantine le 12 décembre.
Le 31 juillet 1944, il embarque pour la France, comme correspondant de guerre avec pour mission de mettre en place en vue de l’après-Libération le nouveau dispositif d’information, muni d’une lettre d’André Gide à destination de ses amis Jean Schlumberger et Roger Martin du Gard. Il commence en parallèle une carrière journalistique à la Radiodiffusion française, qu'il poursuivra à Paris après 1944 avec des entretiens d'André Gide, de François Mauriac, de Paul Claudel, de Jean Giono, ... En 1945, Edmond Charlot rejoint Paris également et Jean Amrouche le rejoint comme directeur littéraire des éditions Charlot, et « l’Arche » est publiée par les Editions Charlot à Paris à partir d’août 1945. Les difficultés financières des Editions Charlot conduisent à leur cessation d’activité en 1950, dont doit se charger Amrouche ; elles entraînent dans sa chute la revue « L’Arche » déjà mise à mal par la résurrection de la Nouvelle Revue française de Gallimard. Bien que reconnu par les entretiens radiophoniques des grands écrivains André Gide, Paul Claudel, François Mauriac, Jean Giono, son rôle de liquidateur des Editions Charlot lui coûte sa notoriété littéraire et des amitiés.
Dès les massacres de Sétif en mai 1945, il se place en faveur de l'indépendance de l'Algérie : ne croyant pas à une communauté franco-musulmane, ce qui le distingue d'Albert Camus, la guerre d'Algérie renforcera son sentiment de double appartenance d'une manière tragique. Il meurt en avril 1962, 4 mois avant l'indépendance de l'Algérie.
Il a été le porte-parole d'une génération d'écrivains maghrébins, héros combinant l'héritage africain, l'Islam et l'enseignement occidental, revendiquant la littérature des écrivains français et le patrimoine oral kabyle de sa mère ; un des tous premiers intellectuels kabyles avec sa soeur Marguerite-Taos Amrouche, préservant et transmettant le patrimoine oral kabyle.