Les premiers efforts de lobbying pour la déségrégation de l’armée avant 1941 n’ont pas convaincu le président Roosevelt d’agir. Le 27 septembre 1940, la première délégation composée de A. Philip Randolph, Walter White (NAACP) et T. Arnold Hill (National Urban League), rencontra le président Roosevelt et ses principaux responsables. La délégation présente un mémorandum exigeant l’intégration immédiate de tous les Noirs dans les services armés. La Maison Blanche publie une déclaration disant que « la politique du ministère de la Guerre est de ne pas mélanger le personnel engagé de couleur et le personnel engagé blanc dans les mêmes organisations régimentaires. » Les forces armées ne seront intégrées qu’en 1948, sous la présidence de Harry S. Truman.
Inquiétant de l’inefficacité des réunions traditionnelles, le 25 janvier 1941, A. Philip Randolph propose officiellement une marche sur Washington pour « mettre en lumière la question. » Au cours des mois suivants, les sections du MOWM ont commencé à s’organiser pour une marche de masse prévue pour le premier juillet de cette année-là. Au printemps, les organisateurs ont estimé qu’ils pourraient attirer 100 000 marcheurs pour l’événement.
Une semaine avant que la marche n’ait lieu, le maire de New York, Fiorello La Guardia, a rencontré les dirigeants du MOWM pour les informer des intentions du président de publier un décret établissant le premier comité des pratiques d’emploi équitable (FEPC) qui interdirait la discrimination dans les programmes fédéraux de formation professionnelle et de formation. Avant que le décret ne soit signé, le MOWM a également exigé qu’il comprenne une disposition relative à la déségrégation des industries de guerre. Roosevelt accepte et émet le décret 8802, qui interdit la discrimination dans les programmes fédéraux de formation professionnelle et dans l’emploi dans les industries de la défense ayant des contrats avec le gouvernement. Compte tenu de cette victoire majeure, Randolph accepte d’annuler la marche. Il a poursuivi le mouvement de la Marche sur Washington comme un moyen de maintenir une organisation qui pourrait suivre et faire pression pour le progrès, et tenir la FEPC à sa mission.
Le MOWM a continué les rassemblements tout au long de l’été sur ces questions, mais le point culminant était passé. L’appel continu du mouvement à la désobéissance civile non violente a aliéné certaines organisations noires, comme la NAACP, dont les dirigeants ont retiré un certain soutien. Bien qu’il ait été organisé pour provoquer la marche sur Washington de 1941, le MOWM a fonctionné jusqu’en 1947 ; ses représentants ont collaboré avec d’autres groupes pour continuer à faire pression sur le gouvernement fédéral. En 1943, Roosevelt a émis le décret 9346, qui a étendu la couverture du FEPC aux agences fédérales au-delà de celles de la défense.
Randolph a continué à promouvoir des actions non violentes pour faire avancer les objectifs des Afro-Américains. Le futur leader des droits civiques Martin Luther King Jr. et d’autres hommes plus jeunes ont été fortement influencés par ses méthodes.