1901 wurde die Vereinigung arbeitender Frauen auf Initiative von Caroline Gronemann gegründet. Die Standesvertretung berufstätiger bürgerlicher Frauen sowie die Schaffung besserer Ausbildungsmöglichkeiten für Mädchen standen im Mittelpunkt der Vereinsarbeit. Caroline Gronemann war selbst schon früh berufstätig und „Südbahnbeamtin“. Ab 1905 entstanden zahlreiche Zweigvereine zwischen Czernowitz und Innsbruck.

Um eine Verbesserung der häufig wirtschaftlich und sozial schwierigen Lebens- und Arbeitssituation erwerbstätiger Frauen zu erreichen, wurden zuerst Abendkurse zur Erweiterung der oft geringen Bildung von Frauen angeboten: 1913 gab es 900 Hörerinnen in 33 verschiedenen Kursen.

Die Zahl der Mitglieder stieg von 500 im 1. Vereinsjahr auf 1.160 im Jahr 1905 und auf circa 2.400 im Jahr 1911 an. Die ersten Jahre war der Verein in den Räumlichkeiten des Neuen Frauenklub untergebracht, ab 1907 wurden eigene Vereinsräume Am Hof angemietet. Damit war die Voraussetzung für die Einrichtung von Tagesschulen geschaffen.

Um Mädchen eine Berufsausbildung zu geben und sie zur Erwerbstätigkeit zu befähigen, wurden eine Reihe von Schulen in Wien eingerichtet: eine zweijährige Handelsschule, zweiklassige Frauengewerbeschule, einjährige Koch- und Haushaltungsschule und einjährige Erzieherinnenschule. Im Todesjahr Gronemanns 1911 war der Schulbetrieb auf 50 Lehrpersonen und gegen 1.300 Schülerinnen angewachsen.

Der Verein engagierte sich auch in Rechtsschutzfragen und bei der Stellenvemittlung. Auf Initiative von Olly Schwarz wurde 1916 die Zentralstelle für weibliche Berufsberatung in Wien unter der gemeinsamen Ägide des Bundes österreichischer Frauenvereine und der Vereinigung der arbeitenden Frauen geschaffen.

Ein eigenes Publikationsorgan – die „Mitteilungen der Vereinigung der arbeitenden Frauen“, später die „Österreichische Frauen-Rundschau“ – wurde von 1903 bis 1937 herausgegeben.