Avusturya'da Polis şefi olan Gustav Schwarzenegger (d.1907-ö.1972) ile Aurelia Jadrny'nin tek çocuğu olarak Avusturya'da, Thal'de, Steiermark'ın başkenti Graz kenti sınırındaki bir köyde doğdu ve Arnold Alois Schwarzenegger olarak vaftiz edildi.Babası gönüllü olarak 1938 yılında Nazi Partisi'ne, 1 Mayıs 1939 tarihinde ise Nazi Partisi'nin paramiliter kanadı Sturmabteilung (SA)'a üye olmak için başvurmuştur ve sonrasında II. Dünya Savaşı'nda görev almıştır. Babası Alman Ordusu'nda Feldgendarmerie'de (Askeri Polis gücü) Hauptfeldwebel (Başçavuş) rütbesiyle görev yaptı. Babası sıtma hastalığına yakalandıktan sonra 1943 yılında taburcu edildi.