Rolihlahla Mandela syntyi Transkein alueella Etelä-Afrikassa 18. heinäkuuta 1918 vaikutusvaltaiseen perheeseen.
Mandelan isällä oli neljä vaimoa ja 13 lasta, yhteensä neljä poikaa ja yhdeksän tyttöä. Mandela oli pojista nuorin, ja hänelle annettiin nimi Rolihlahla – häirikkö.
Mandela näki jo nuorena mallia oman päänsä pitämisestä. Mandelan isä joutui kahnauksiin kotikylänsä tuomareiden kanssa, minkä takia hän menetti koko omaisuutensa ja asemansa heimon keskuudessa. Perhe joutui muuttamaan Qunuun, jossa Mandela kävi peruskoulunsa. Peruskoulun opettajatar oli se, joka antoi koulun tavan mukaan Mandelalle englantilaisen nimen Nelson.
Peruskoulun jälkeen Mandela jatkoi opiskeluaan Fort Haren yliopistossa. Hänen aikansa Fort Haressa kuitenkin loppui lyhyeen: Ensimmäisen vuotensa lopulla Mandela osallistui oppilaskunnan järjestämään boikottiin yliopistoa vastaan. Boikotista syntyi kohu, jonka seurauksena Mandelaa pyydettiin lähtemään yliopistosta.
Paetakseen järjesteillä olevaa avioliittoa Mandela muutti Etelä-Afrikan pääkaupunkiin Johannesburgiin, jossa hän työskenteli toimistoapulaisena lakitoimistossa samalla, kun suoritti loppuun kandidaatin tutkintonsa Etelä-Afrikan yliopistoon.
Lakeja ja normeja vastaan
Rotuerottelujärjestelmään kuuluneet loukkaukset ja nöyryytykset saivat Mandelan liittymään apartheidia vastaan taistelevaan Afrikan kansalliskongressiin vuonna 1942.
Yhteensä kahdenkymmenen vuoden ajan Mandela oli mukana ANC:n johdossa järjestämässä rauhanomaisia ja väkivallattomia kampanjoita Etelä-Afrikan hallitusta ja sen rasistisia käytäntöjä vastaan. 60-luvulla toiminta muuttui tosin aggressiivisemmaksi, ja ANC:lle syntyi sen seurauksena oma aseellinen siipensä, Umkhonto we Sizwe.
Jo poliittisen toimintansa alkuvaiheessa Mandela sai tuntea vastarintansa seuraukset. Vuonna 1952 hänet julistettiin ensimmäisen kerran pannaan, mikä tarkoitti, että hän ei saanut esiintyä julkisesti ja että hänen asumistaan ja liikkumistaan rajoitettiin. Joulukuussa 1956 Mandela pidätettiin yhdessä Afrikan kansalliskongressin johtajan ja 150 muun poliittisen aktivistin kanssa, ja hän sai syytteen maanpetoksesta. Vuosia kestäneen oikeudenkäynnin jälkeen Mandela kuitenkin vapautettiin kaikista syytteistä.