Historia Cmentarza Rakowickiego zaczęła się na... Sejmie Czteroletnim. To właśnie wówczas komisja sanitarna policji wydała zalecenie by władze miast w porozumieniu z kościelnymi urządziły cmentarze komunalne, które docelowo miały całkowicie zastąpić niewielkie cmentarze przy parafiach. Powodem takiej decyzji była rosnąca świadomość zagrożeń sanitarnych jakie niosły dotychczasowe lokalizacje miejsc pochówków - grzebanie zmarłych w centrum miasta, w pobliżu gęstej zabudowy niosło ze sobą wiele zagrożeń.

Sama budowa cmentarza rozpoczęła się nieco później niż pierwotnie planowano. Był on wytyczany i urządzany w latach 1800-1802, zaś pierwszy pogrzeb miał miejsce w 1803 roku. Tworzeniem nowego miejsca pochówku dla Krakowa zajęły się już władze austriackie, którym dawna stolica Polski "przypadła w udziale" po rozbiorach.

Początkowo cmentarz miał 5,5 ha powierzchni, następnie rozbudowywano go i obecnie liczy 42 ha, nadal zaliczając się do największych nekropolii w Krakowie. Położony jest między aleją 29 Listopada, ulicą Prandoty i ulicą Rakowicką, od której wziął swoją nazwę. Pochowano tam ponad 420 tys. zmarłych. W wydzielonych kwaterach spoczywają uczestnicy najważniejszych polskich powstań w czasie zaborów - od Insurekcji Kościuszkowskiej poprzez powstanie listopadowe, krakowskie i styczniowe. Swoje kwatery mają na cmentarzu Rakowickim także żołnierze, którzy podczas I wojny światowej walczyli we wszystkich trzech armiach zaborców i członkowie Legionów Polskich. Wieczny spoczynek znaleźli tu także polegli w ciągu długiego czasie II wojny światowej i okupacji - od poległych w kampanii wrześniowej po żołnierzy radzieckich, którzy zginęli podczas wyzwalania Krakowa.

Przez lata na cmentarzu Rakowickim przybywało też nagrobków ze znanymi nazwiskami. Swoją ostatnią drogę zakończyli tu Andrzej Bursa, święty Albert Chmielowski, Helena Modrzejewska, Józef Dietl, Karol Estreicher (starszy), Karol Estreicher (młodszy), Marek Grechuta, Karol Irzykowski, Tadeusz Kantor, Oskar Kolberg, Jerzy Kossak, Juliusz Kossak, Wojciech Kossak, Józef Mehoffer, Tadeusz Pawlikowski, Jan Matejko, Lucjan Rydel, Stanisław Smolka, Dorota Terakowska, Bolesław Wieniawa-Długoszowski, Piotr Skrzynecki oraz wielu innych przedstawicieli świata nauki, polityki, literatury czy sztuki. Znajduje się tu także grób rodziców Jana Pawła II - Emilii i Karola Wojtyłów.

Niezwykle interesujące są też same nagrobki - wśród pomników cmentarnych naliczono około 10 tys. zabytkowych. Niektóre z grobowców to projekty i rzeźby takich artystów jak Xawery Dunikowski, Tadeusz Stryjeński czy Bronisław Chromy. Ogromna wartość historyczna i zabytkowa cmentarza spowodowała, że w 1976 roku został on wpisany do rejestru zabytków. Od 1981 roku ratowaniem rakowickich zabytkowych grobowców zajmuje się komisja ds. Ratowania Cmentarzy Krakowa i Ziemi Krakowskiej, działająca przy Obywatelskim Komitecie Ratowania Krakowa. Środki na prace konserwacyjne i renowacyjne pochodzą między innymi z dorocznych kwest, które - podobnie jak na warszawskich cmentarzach - odbywają się z udziałem znanych artystów, polityków czy samorządowców. Wśród wolontariuszy znaleźli się m. in. Anna Dymna, Jerzy Fedorowicz oraz Zbigniew Wodecki. W tym roku na cmentarzu Rakowickim zebrano blisko 48 tysięcy złotych.

Obecnie na cmentarzu Rakowickim odbywają się przede wszystkim pochówki w istniejących grobach rodzinnych oraz pogrzeby osób zasłużonych dla Krakowa. Przeprowadzane są także licytacje piwnic grobowych, utworzonych w miejscu grobów ziemnych, za które nikt nie wnosił opłat.