Anläggandet av Kvibergs kyrkogård går tillbaka till 1914 då en motion i Göteborgs stadsfullmäktige tog upp behovet av att utvidga Östra Kyrkogården. En utredning tillsattes för att undersöka en eventuell utvidgning alternativt anläggandet av en ny kyrkogård. Flera olika markområden runt Göteborg undersöktes. Området mellan Lärjeholm och Kvibergs exercisfält identifierades som lämpligt efter att områden på Hisingen blivit för dyra att lösa in från markägarna medan marken i Kviberg redan var i stadens ägo. 1925 beslutade kyrkofullmäktige om att begära tillstånd för att bygga Kvibergs kyrkogård och stadsfullmäktige biföll begäran 1926.
En arkitekttävling utlystes där Gunnar Asplund, Sigurd Lewerentz och Harald Wadsjö blev särskilt inbjudna. En nämnd för tävlingen utsågs där stadsplanechefen Albert Lilienberg ingick. Gunnar Asplund i samarbete med Sven Ivar Lind vann tävlingen om begravningsplatsens utformning som ordnades 1927.
Kyrkogården projekterades av Gunnar Asplund och invigdes den 27 oktober 1935 av biskopen i Göteborgs stift Carl Block. Här finns kapell, krematorium och minneslund. Helga korsets kapell uppfördes 1935, arkitekt var Ragnar Ossian Swensson.
S:t Olofs kapell invigdes 23 september 1951, med Gunnar Asplund som arkitekt. Namnet S.t Olof fick kapellet dock först 1957 i samband med en utbyggnad söderut då ett nya kapell, S.t Sigfrid, skapades. Kapellet byggdes om 1985, då bland annat kapellsalen gjordes mindre. I S:t Olofs kapell finns en glasmosaik av Uno Lindberg kallad ”Människans väg”.
S:t Sigfrids kapell invigdes 1957, ritat av Sven Ivar Lind och med plats för 25 personer. Det är byggt som en förlängning söderut av S.t Olofs kapell. I S:t Sigfrids kapell är altarväggen i trä och textil, symboliserande treenigheten, utförd av Rastis Vilim, Carl Ackers och Elsa Agélii. Kvibergs krematorium som ritats av Peter Erséus mottog pris ur Per och Alma Olssons fond för god byggnadskonst 2018.
De tyska och brittiska krigsgravarna tillkom 1961 då kyrkogårdsförvaltningen sammanförde dessa länders omkomna från båda världskrigen på två särskilda gravfält inom kyrkogården. De är upplåtna för all framtid och sköts av Volksbund Deutsche Kriegsgräberfürsorge respektive Commonwealth War Graves Commission.
Det finns numera även områden tillägnade bland annat svenska sjömän, letter och muslimer. Området med svenska sjömän sköts av Svenska sjöfolksförbundet.
Minneslunden var Göteborgs första när den invigdes 1966. År 1996 lades krematoriet i anslutning till S:t Olofs kapell ner efter en brand och 1999 togs ett nytt i bruk i den byggnad som tidigare var Helga Korsets kapell.
Inom kyrkogårdsområdet ligger också ett litet skolhus av tegel som ägaren till Kvibergs landeri J.J. Ekman lät bygga 1875.