André Marie naît le 3 décembre 1897 à Honfleur (Calvados) dans une famille d’instituteurs. Alors qu’il prépare son diplôme de lettres à l’École normale de Rouen, il se retrouve mobilisé à la fin de l’année 1916 ; il termine le conflit décoré de la croix de guerre avec palmes.

Démobilisé, il reprend des études de droit, à l’issue desquelles il s'inscrit au barreau de Rouen et commence une double carrière d'avocat et d'écrivain (il écrit plusieurs livrets d'opéras-comiques ainsi que des pièces de théâtre sous les pseudonymes Jacques Laurent ou P. André-Marie) avant d'adhérer au Parti radical-socialiste, dont il devient un des membres les plus fidèles et les plus représentatifs. Élu conseiller d'arrondissement en 1923, conseiller municipal de Rouen en 1925, conseiller général du canton de Pavilly en 1928 et, la même année, député de la Seine-Inférieure (aujourd'hui Seine-Maritime), réélu dans cette fonction en 1932 et en 1936, il est, dès 1933, nommé sous-secrétaire d'État auprès d’Albert Sarraut spécialement chargé des affaires d'Alsace-Lorraine ; puis, en 1934, il est sous-secrétaire d'État aux Affaires étrangères dans le deuxième cabinet Daladier tout en étant, dans le même temps, délégué de la France à la Société des Nations.

Dès le début de la Seconde Guerre mondiale, à l’instar de plusieurs parlementaires, il reprend volontairement du service comme capitaine d'artillerie. Fait prisonnier en 1940, il ne vote donc pas les pleins pouvoirs à Pétain le 10 juillet de la même année. Il est libéré en 1941 comme ancien combattant ; mais, de retour à Rouen, il se démet de tous ses mandats, refusant la politique de Vichy ; il envoie une lettre à tous ses électeurs de Seine-Inférieure pour leur expliquer qu’il ne peut accepter que le mandat du suffrage universel. Il entre alors dans la Résistance, est arrêté en septembre 1943 et déporté à Buchenwald.

À son retour, il est élu maire de Barentin et retrouve très vite son siège d'abord de conseiller général puis de député – il siège sans discontinuer au Palais-Bourbon d'octobre 1945 à novembre 1962.

Durant cette période, il assume également de nombreuses responsabilités gouvernementales. Du 22 janvier au 24 novembre 1947, il devient garde des Sceaux dans les ministères Ramadier I et II et a lors la responsabilité des derniers procès en Haute Cour des collaborateurs. Le 27 juillet, le président Vincent Auriol l’appelle pour devenir président du Conseil en remplacement de Robert Schuman, mais il démissionne de sa fonction un mois plus tard, le 5 septembre, pour devenir vice-président du Conseil des ministres de Maurice Schuman. Ce dernier est remplacé dès le 11 septembre par Henri Queuille qui confirme André Marie comme vice-président du Conseil des ministres et qui lui confie en sus le portefeuille de la justice. Il y fait preuve de beaucoup de sévérité à l’encontre des mineurs grévistes en 1948, demandant aux procureurs la plus grande rigueur dans leurs poursuites. En revanche, par comparaison avec cette intransigeance, sa mansuétude à l’encontre de Pierre Brice, industriel poursuivi pour collaboration économique avec les Allemands – le dossier est classé sans suites malgré les faits -, lui vaut d’être sévèrement attaqué à l’Assemblée nationale : André Marie démissionne alors le 23 février 1949. Il revient au pouvoir en 1951 : d’août 1951 à juin 1954, il est en effet ministre de l’éducation nationale sous les gouvernements Pleven, Faure, Pinay, Mayer et Laniel. Il fait voter les lois Marie et Barangé d’aide à l’enseignement libre, mais, dans le même temps, octroie la qualité de fonctionnaires stagiaires aux élèves des écoles normales supérieures pour soutenir l’école publique.

Il quitte le parti radical en 1957 et rejoint le Centre républicain.

Il abandonne toute fonction nationale en 1962 et se retire à Barentin (Seine-Maritime), ville dont il est maire depuis 1945. Il y décède le 12 juin 1974, toujours maire en exercice.

André Marie, outre la croix de guerre avec palmes, a aussi été décoré de la croix de guerre 1939-1945, de la médaille de la Résistance et a été promu commandeur de la Légion d’honneur.