Kirkut w Zabrzu założony został w 1871 r., grunt zaś pod nekropolię podarował tutejszej gminie żydowskiej książę Guido Heckel von Donnersmarck. Parcela znajdowała się na ówczesnych peryferiach miasta. Niedługo po powstaniu cmentarza wybudowano tu dom przedpogrzebowy, w którym mieściło się bractwo pogrzebowe Chewra Kadisza. Z końcem XIX w., a także później, kirkut powiększano.
Obecnie na powierzchni ok. 1,5 ha odnajdziemy kilkaset nagrobków - zarówno macew, jak i monumentalnych grobowców wykonanych z szarego piaskowca, a także z marmurów, granitu, czy czerwonego labradorytu. Najpiękniejsze z nich powstały na przełomie XIX i XX w. i należą do rodzin Herzbergów, Goldmannów, Borinskich, Leschnitzerów. Grobowiec Böhmów, wykonany z czarnego granitu szwedzkiego, jest wśród nich najokazalszy. Najstarszymi zaś są nagrobki Moritza Adlera oraz Johanny Friedmann, zmarłych w roku 1872. Pod murami pochowano także, w 1918 r., zmarłych żołnierzy rosyjskich z obozu jenieckiego w Zabrzu. Na terenie cmentarza odnajdziemy również zbiorową mogiłę więźniów zlokalizowanej w rejonie miasta filii niemieckiego obozu Auschwitz-Birkenau.
Ponieważ przez lata cmentarz był pozbawiony opieki, następowała jego dewastacja, a wiele cenniejszych nagrobków padło ofiarą złodziei. W czasach nam bliższych część zniszczonych macew przeniesiona została w jedno miejsce, gdzie stworzono z nich „ścianę płaczu”. Obecnie opiekę nad cmentarzem sprawuje (od 1989 r.) Społeczny Komitet Opieki nad Cmentarzem Żydowskim w Zabrzu.
Piękny jest drzewostan cmentarza, obejmujący kilkanaście gatunków drzew, w tym platany klonolistne posadzone w pierwszych latach istnienia kirkutu. Większą część powierzchni cmentarza i jego drzewostan bujni e porasta bluszcz pospolity.
