Kiedy dokładnie powstał Kościół Mariacki nie wiemy, słyszymy o nim podczas procesu o Patronat Mysłowicki w latach 1393-1397. Był to dość masywny kościół z piaskowca w stylu gotyckim, który wówczas obowiązywał. Pierwsze lata po wybudowaniu kościoła upływały spokojnie. Niestety kolejne lata nie były łatwe, bardzo często domy jak i kościół ulegały zniszczeniom. Czasem strawił je pożar, a czasem zostały splądrowane i zniszczone.
Po raz pierwszy pomysł budowy nowego kościoła został przedstawiony w 1856 roku. Patron Tiele-Winkler, który był protestantem, zgodził się i oświadczył gotowość ofiar na ten cel, ale pod warunkiem że stary kościół zostanie przekazany protestantom. Oczywiście nie mógł się na to zgodzić proboszcz Ludwik Markiewka, by po tylu wiekach kościół mariacki przeszedł w ręce protestantów.
Kościół Najświętszego Serca Pana Jezusa przejął główną rolę w parafii, kościół mariacki stał się filialnym. Pierwsze misje po wybudowaniu nowego kościoła odbyły się w 1894 roku, a odprawili je ojcowie franciszkanie z Góry Św. Anny. Na przełomie wieków odbyło się w Mysłowicach szczególne i rzadkie nabożeństwo z okazji przywitania nowego stulecia. Przez trzy dni poprzedzające nowe stulecie odprawiono triduum, a w sylwestra o północy odbyła się uroczysta Msza przy wypełnionym po brzegi kościele.
Po II wojnie światowej kościół chwilowo zaczął się cieszyć względną swobodą. Niestety na przełomie lat 40. i 50. nie było już tak dobrze, zakazano działalności Caritas, wkrótce aresztowano Prymasa Wyszyńskiego, kościół w tej atmosferze postępującego społecznego upadku nie działał lecz wegetował.
Najstarszym mysłowickim cmentarzem był bez wątpienia teren wokół kościółka Świętego Krzyża, ponieważ ten kościół był pierwszym w naszym mieście. Cmentarz ten był dużo większy niż obecny teren przy kościółku, na którym znajduje się obelisk upamiętniający to miejsce pochówku. Grzebano tam ludzi przez kilka wieków, jednak, gdy powstał drugi cmentarz, a miało to miejsce już w XIV wieku, to grzebanie tutaj zostało ograniczone.