Obwohl die Gründung der „Schwarzen Schar“ eine direkte Reaktion vorwiegend junger Mitglieder der Freien Arbeiter Union Deutschlands (FAUD) und der Syndikalistischen-Anarchistischen Jugend Deutschlands (SAJD) auf das Erstarken der faschistischen Bewegung in Deutschland war, so hat sie sich nie einzig und allein als antifaschistischen Kampfbund verstanden. Vielmehr wollte sie dem zahlenmäßigen Niedergang der anarcho-syndikalistischen Bewegung entgegenwirken und die Isolation der Bewegung aufheben.

Im Oktober 1929 kommt es im heutigen Racibórz zur ersten Gründung einer Schwarzen Schar. Entgegen allen Gepflogenheiten der FAUD tragen ihre Mitglieder Einheitskleidung: „Zu ihrer Uniform gehören schwarze Bluse, schwarze Baskenmütze, Koppel und Schulterriemen. Das anarchistische Symbol der Gegnerschaft gegen Rechtsordnung und Staatsgewalt, die Darstellung eines zerbrochenen Gewehrs, findet sich auf den Koppelschlössern sowie auf den Mützenkokarden der ‚Schwarzen Schar‘.“

Noch im Laufe desselben Jahres gründen sich in weiteren Orten in Oberschlesien (Beuthen, Rosenberg, Katscher, Gleiwitz und Bobrek-Karf) Schwarze Scharen. Im Sommer 1930 entsteht dann auch eine Schar in Berlin und ab 1931 folgten weitere Gruppen in anderen Orten der Republik (Wuppertal, Kassel, Suhl und Darmstadt). Denn Übergriffe der Nazis, aber auch Anfeindungen der KPD, machten es immer häufiger nötig, Veranstaltungen der FAUD zu schützen. Letztere kritisierte die „Schwarzen Scharen“ zwar ob ihrer Uniformierung und ihres gewalttätigen Auftretens, griff aber immer wieder auf die jungen GenossInnen zurück.

Die Gesamtstärke der Organisation kann leider nicht mehr genau festgestellt werden. Bis zur Machtübergabe an die Nazis lässt sich ihre Mitgliederzahl aber mit 250 bis 500 AktivistInnen veranschlagen. Um die Basis der anarcho-syndikalistischen Bewegung wieder zu vergrößern, gingen diese Gewerkschaftsmitglieder neue Wege in der Agitation. Einerseits scheuten sie sich nicht, offensiv aufzutreten (Musikzüge, motorisierte Demonstrationszüge, Theatergruppen usw.). Andererseits gingen sie mit ihren Agitationstouren speziell in die Kleinstädte und das umliegende Land. Ziel ihrer Agitation waren dort vor allem das Landproletariat und die Kleinbauern. Auch wenn sie ihrem selbstgesteckten Ziel nicht gerecht wurden, die FAUD wieder für die Masse der ArbeiterInnen attraktiv zu machen, so blieb ihre Agitationstätigkeit doch nicht ohne Wirkung.

Die Wuppertaler Gruppe der „Schwarzen Schar“ besaß mehrere Revolver und einen Karabiner. Um im Kampf gegen den Faschismus erfolgreich zu sein, gingen sie breite Bündnisse ein. So bildeten die Wuppertaler mit der „Sozialistischen Arbeiter-Partei Deutschlands“ (SAPD), der „Kommunistischen Partei-Opposition“ (KPO) und den „Partisanen“ eine überparteiliche „Kampfgemeinschaft gegen Faschismus und Reaktion“.

Bekanntlich ist es den „Schwarzen Scharen“ nicht gelungen, die Nazi-Diktatur zu verhindern. Trotzdem leisteten nicht wenige Mitglieder in Deutschland bis zum Untergang des 1000-jährigen Reiches Widerstand. Andere gingen ins Exil und waren an der Gruppe „Deutsche Anarchosyndikalisten im Ausland“ (DAS) beteiligt. Dazu gehören neben vielen anderen die ehemaligen Mitglieder der „Schwarzen Schar“ Johannes Noll, Paul Brunn, Karl Liereck und Ernst Petri (Berlin), Willy Paul und Fritz Schröder (Kassel), Gustav Doster und Helmut Thomas (Darmstadt) sowie Fritz Benner, Arnold Engels und Helmut Kirschey (Wuppertal).