Ksiądz Jan Pojda przez biskupa wrocławskiego został skierowany do pracy duszpasterskiej w Książenicach, które należały do parafii Matki Boskiej Bolesnej w Rybniku. Duszpasterstwo koncentrowało się wokół kapliczki, która znajdowała się przy drodze do Knurowa. Ksiądz Pojda starając się o usamodzielnienie Książenic czynił przygotowania do utworzenia parafii. Dlatego postarał się także o lokalizację cmentarza, na którym wraz z utworzeniem parafii miały miejsce pierwsze pochówki. Pierwszy pogrzeb obył się 18 listopada 1923 roku, pogrzebano Franciszka Kudalę, dziewięciotygodniowe dziecko Pawła i Łucji. Drugi pogrzeb miał miejsce 21 listopada 1923 roku – było to półtoraroczne dziecko tych samych rodziców Marta Kudala, która zmarła w dzień pogrzebu swego młodszego braciszka.
Do dnia 21 listopada 2013 roku na cmentarzu odbyły się 3773 pogrzeby.
Na tym cmentarzu pochowani są proboszczowie parafii Książenice – ks. Paweł Ryś, ks. Szczepan Ogaza, ks. Stanisław Kołodziejczyk, zaś ks. Jan Pojda, pierwszy proboszcz, który zginął w 1942 roku w obozie w Dachau, ma upamiętniający obelisk ustawiony staraniem ks. prob. Stanisława Kołodziejczyka.
W styczniu 1945 roku kiedy ze stacji kolejowej na Rzędówce prze Książenice prowadzono więźniów obozu koncentracyjnego w Auschwitz, wielu zginęło z powodu mrozu lub zostało zastrzelonych przez żołnierzy hitlerowskich. Ich ciała leżały w okolicznych lasach i polach. Ks. prob. Paweł Ryś nakazał pozbierać ich ciała i pogrzebać we wspólnej mogile na cmentarzu w Książenicach, nakazując także spisać numery obozowe tych, którzy poginęli. Na cmentarzu znajduję się więc mogiła , w której zostało pochowanych 43 zmarłych z umieszczoną tablicą z wyrytymi numerami obozowymi. Zmarłych przywieziono na cmentarz furmankami z lasu oraz dwóch zabitych na terenie fabryki gwoździ w Dąbrowie. Pogrzeb więźniów odbył się 26 stycznia i 12 lutego 1945 roku. Notatka z numerami osób tam pochowanych, którą wykonał grabarz Wystup na polecenie ks. prob. Pawła Rysia, znajduje się w Państwowym Muzeum Auschwitz-Birkenau w Oświęcimiu. W maju 2008 roku odbyła się uroczystość odsłonienia tablic, które zostały wykonane staraniem Instytutu Yad Vashem z Jerozolimy oraz parafii Niepokalanego Serca NMP – na jednej tablicy znajduje się krótka historia tego wydarzenia w języku polskim, hebrajskim i angielskim, na drugiej tablicy wyryte są nazwiska osób pochowanych, które dało się odczytać w oparciu o odpisane numery obozowe. W tej uroczystości brali udział przedstawiciele ambasady Izraela z Warszawy, przedstawiciele Yad Vashem z Jerozolimy oraz wnuki i rodziny osób tam pogrzebanych, które były po raz pierwszy na grobie swoich krewnych. Uroczystość nagrywała telewizja izraelska. Z tego względu, że wiadomo jest, kto został w tej mogile pogrzebany, na cmentarz w Książenicach przyjeżdżają liczne pielgrzymki szczególnie młodzieży z Izraela, która zapoznaje się z tragiczną historią swoich rodaków.
Cmentarz i groby są z troską utrzymywane przez mieszkańców Książenic i Kamienia, którzy dbają również o tę zbiorową mogiłę, przynosząc kwiaty i zapalając znicze.