Schon in der Zwischenkriegszeit wurde in Krems wettkampfmäßig Gewichtheben betrieben. Der damalige Verein nannte sich Eiche Krems.

Der Athletenclub Union Krems wurde inoffiziell am 19. Februar 1959 von Johann Kurzbauer gegründet. Der “geistige Vater” des Vereins ist aber Hans von Szabadosz, der 1936 bei den Olympischen Spielen von Berlin den sechsten Platz belegte. Die beiden lernten sich in der Kriegsgefangenschaft kennen, wo Kurzbauer von Szabados das Gewichtheben erlernte und von diesem Sport fasziniert wurde.

Die offizielle Anmeldung des Vereins erfolgt im Juli 1959 desselben Jahres. Zu den Gründungsmitgliedern zählten auch noch Dkfm. Karl Binder, Franz Dürhammer, Maria Binder, Friedrich Mayer und Siegfried Bensch, welche alle Funktionen im Verein übernahmen. Franz Dürhammer ist der aktuelle Ehrenpräsident des ACU Krems; von 1972 bis 2003 war er Präsident des Klubs. Bevor Franz Dürhammer das Präsidentenamt übernahm war er von 1961 bis 1972 Obmann. Ab 1972 übernahm diese Funktion Johann Fischer, die er noch heute bekleidet.