La storia di questo imponente complesso non è chiara, gli archeologi che hanno svolto le ricerche hanno formulato diverse ipotesi ma nessuna è stata comprovata all’unanimità.
 
Si pensa che l’edificazione di Great Zimbabwe sia iniziata in una prima fase tra il X e l’XI secolo, ma non vi sono molte certezze in merito, l’edificazione sembra essere ripresa successivamente tra il XIII e il XV secolo; ma alcuni reperti in legno ritrovati in loco sono stati datati a partire dal VII secolo, probabilmente rappresentano la prova della presenza dell’uomo in questa zona già prima dell’inizio dell’edificazione in pietra.
 
La città raggiunse il suo massimo splendore dal XII al XIV secolo, si stima che in quel periodo la città avesse circa 20.000 abitanti.
 
Tra i reperti rinvenuti ci sono anche diversi oggetti e frammenti di ceramica cinese e persiana, alcune monete arabe e altri manufatti di origini chiaramente non africane; questo fa pensare che la città commerciasse, soprattutto oro, con altre popolazioni e che fosse uno snodo commerciale su scala extra-continentale.
 
E’ stata ritrovata anche la statuetta raffigurante un uccello rapace, probabilmente un falco pellegrino, questa è divenuta l’emblema del paese, della Rhodesia prima e ora dello Zimbabwe ed è raffigurata sulla bandiera.
 
Sicuramente la città è stata costruita da un popolo di origine Bantù anche se non è semplice identificare quale sia questo popolo; molte etnie locali, tra cui gli Shona, i Venda e i Lemba, sostengono di essere i discendenti del popolo che costruì questa meraviglia architettonica.
 
Esiste un clan appartenente al popolo dei Lemba che viene chiamato dagli altri clan “Tovakare Muzimbabwe” ossia “coloro che costruirono Zimbabwe”, ma non vi sono prove di questo; mentre molti archeologi ritengono che sia possibile che l’etnia che abitò la città nel momento del suo massimo splendore possa non essere la stessa che l’abbia costruita.
 
Non è conosciuto il motivo per cui la città ad un certo punto sia stata abbandonata, sono state formulate alcune ipotesi tra cui un periodo prolungato di siccità o una carestia o un’epidemia o magari una crisi economica legata a un probabile crollo del commercio dell’oro; è anche possibile che, nel momento della sua massima dimensione la città non fosse più in grado di provvedere al sostentamento dei suoi abitanti, mentre alcuni ipotizzano che la città sia stata oggetto di migrazioni di popoli provenienti da nord.
 
Anche l’origine esatta del nome non è nota, alcuni ipotizzano che Zimbabwe sia la contrazione di “ziimba remabwe” o “ziimba rebwe” che nella lingua dei Karanga, un dialetto degli Shona, significa “le grandi case costruite con macigni”; altri credono che il nome derivi dalla lingua Zezuru, un altro dialetto Shona, in questo caso deriverebbe da “dzimba woye” che significa “case venerate” espressione che viene utilizzata ancora oggi per indicare le abitazioni o le tombe dei capi.
 
Vi è anche la possibilità che la parola derivi dalla lingua Shona e non da un dialetto, in quest’ultimo caso potrebbe essere la contrazione di “dzimba dza mabwe” che significa “case di pietra”.
 
I portoghesi, nei loro resoconti di viaggio, riportarono che gli abitanti del luogo chiamassero questo luogo “symboa” che significa “corte”, questo fece pensare agli studiosi che il complesso, o parte di esso, fosse abitato da un re; questo è avvalorato anche dal fatto che nella cultura locale i grossi massi venissero utilizzati per le abitazioni dei regnanti e a Great Zimbabwe molti edifici sono stati edificati proprio sopra grandi macigni.
 
Le rovine furono scoperte dai portoghesi nel 1531 quando la città era già stata abbandonata e vennero descritte così da Vicente Pegado, il capitano della guarnigione portoghese:
“Fra le miniere d'oro delle pianure fra i fiumi Limpopo e Zambesi c'è una fortezza fatta di pietre di incredibili dimensioni, e che non sembrano essere unite da malta... L'edificio è circondato da colline, su cui se ne trovano altri, simili al primo per il tipo di pietra e l'assenza di malta; uno di essi è una torre alta più di 12 braccia (22 metri)”
 
Questa descrizione in Europa suscitò curiosità e uno scrittore, Joao de Barros, nel suo libro De Asia, sostenne che le rovine di Great Zimbabwe fossero in realtà quelle della città della Regina di Saba e che le miniere d’oro nei dintorni fossero quelle appartenute al Re Salomone; questa leggenda si diffuse nel continente europeo e venne ritenuta corrispondente alla realtà.
 
Quando Cecil Rhodes giunse in questi territori fondò una società per la ricerca archeologica, la Ancient Ruins Company, ed affidò il lavoro di ricerca a Great Zimbabwe all’archeologo James Theodore Bent.
 
Bent pubblicò l’esito delle sue ricerche nel saggio The Ruined Cities of Mashonaland dove scrisse di aver trovato molti reperti che comprovavano che la città non poteva essere stata edificata da africani e che, molto probabilmente, le sue origini erano da ricondurre ai Fenici o agli arabi.
 
Questa dichiarazione era in realtà in linea con gli interessi di Cecil Rhodes che non avrebbe mai accettato che gli africani potessero aver creato una civiltà come quella che creò Great Zimbabwe.
 
Le stesse affermazioni furono riprese anche da Richard Hall nel suo saggio The Ancient Ruins of Rhodesia nel 1902.
 
In realtà a Great Zimbabwe si trovano elementi provenienti da culture differenti, probabilmente frutto degli scambi commerciali che la città ha avuto nei secoli, ma anche al movimento nel continente africano di diverse popolazioni.
I terrazzamenti trovati nella parte nordorientale del sito fanno pensare a culture provenienti dall’Oceano Indiano o dal Madagascar, altri reperti invece dimostrano che gli abitanti di Great Zimbabwe conoscessero l’estrazione mineraria e l’irrigazione dei campi, elementi che fanno pensare ad un’influenza delle culture più settentrionali, infine alcune vestigia simili a quelle del Mozambico fanno pensare ad una contaminazione e ad una continuità culturale.
 
Oggi comunque si ritiene all’unanimità che la città sia stata fondata e costruita da un popolo appartenente al gruppo etnico Bantù, molto difficile però affermare con certezza la sua identità.
 
A causa della disputa sull’origine africana o non africana di Great Zimbabwe e in seguito alle affermazioni dei coloni bianchi in merito al fatto che i neri non sarebbero stati in grado di dar luogo a una civiltà del genere, questo luogo divenne, per gli indipendentisti della Rhodesia, uno dei simboli dell’affrancamento dal potere dei bianchi e Robert Mugabe, primo presidente nero decise di cambiare il nome del paese in Zimbabwe, per enfatizzare la continuità tra il nuovo stato e la tradizione culturale e politica africana.