Dans l'histoire de la Slovaquie, Nitra joua un rôle très important et lui appartient, à juste titre l'épithète "Mère des villes slovaques". Les début de la colonisation remontent à l'époque de 30000 - 25 000 ans avant J-C.. Les trouvailles archéologiques de la culture gravienne sur le mont de Cerman et dans la grotte du château en donnent de nombreux témoignages.
Dans les sources archéologiques de l'âge de pierre polie (5ème-4ème millénaire avant J-C) dans la partie de la ville Mlynarovce, il y a des traces laissées par les premières colonies de laboureurs. L'élevage du bétail et le traitement des métaux se montrèrent typiques pour la région de Nitra déjà dès le début du 2ème millénaire avant J-C. A l'époque du 1er âge de fer (700-500 avant J-C), il y eut à Zobor un immense site fortifié. De plus petites bâtisses se trouvèrent dans les parties de Lupka et Drazovce. Les demeures et les ateliers au pied du mont Martin et sur le mont de Visok prouvent l'habileté des Celtes (5ème-1er siècle avant J-C).
Le 5ème siècle est caractérisé par l'arrivée progressive des Slaves sur le territoire slovaque. Les artefacts, attestant de la lutte des Slaves contre les Avars et la naissance de l'Empire de Samo, sont modestes. Sur le territoire de Nitra, déjà au 8ème siècle, grandissaient plusieurs demeures et sites fortifiés. On suppose que ces sites fortifiés pouvaient servir de centre administratif au prince Pribina. Le nom original de la ville Nitrava est le plus ancien nom conservé par écrit en Slovaquie. La preuve en est le document "Sur la conversion des Bavarois et des Corinthiens", datant de 871-873, selon lequel l'archevêque Adalram consacra au prince Pribina une église chrétienne dans les années 826-829.
Probablement Vrsok fut un élément fondamental de l'Empire de la Grande Moravie. Le prince morave Mojimir 1er expulsa Pribina et fonda la Grande Moravie, la première formation d'Etat des Slaves occidentaux. Son successeur Ratislav fit venir les apôtres byzantins Cyrille et Méthode. Leur mission en 863 posa les bases du vieux slave, de l'écriture, de la culture, de l'érudition et du christianisme. Bien que forcément interrompue, la succession de cette mission dura des siècles et se transforma en la tradition cyrillo-méthodienne. Nitra de la Grande Moravie connut son plus grand essor durant le règne du prince Svatopluk. A la base de la lettre du pape Jean VIII de 880, Nitra fut nommée diocèse.
Après la fin de la Grande Moravie, Nitra attendit un siècle pour être incorporée dans le premier Etat hongrois. D'importantes données de l'histoire de la ville sont enregistrées dans les actes dits "les actes de Zobor" des années 1111 et 1113, qui comptent parmi les documents originaux les plus anciens et les plus précieux de Slovaquie.
Au début du 12ème siècle, le diocèse Nitra fut renouvelé et au pied du mont Zobor fut fondé le plus ancien monastère et la plus ancienne école de Slovaquie - le monastère bénédictain Saint Hyppolyte. A cette époque, la position du château et de la ville fut renforcée. Belo IV pour témoigner sa reconnaissance pour le secours dans la lutte offensive avec les Tatares, accorda à Nitra les privilèges municipaux le 2 septembre 1248. Mais bientôt elle perdit ses privilèges de ville royale libre. Les années suivantes le développement de la ville, par suite de luttes de force et la dévastation militaire fut arrêté. A travers les siècles, les Turcs, les troupes gouvernementales impériales, les révoltés contre-habsbourgeois pillairent Nitra et au début du 18ème siècle les horreurs furent achevées par les épidémies de peste.
A partir de la deuxième moitié du 18ème siècle, le relèvement et le développement de la ville et du château détruits commencèrent. Un accroissement fut visible dans la sphère intellectuelle et culturelle, grâce à la fondation du collège piariste, du Lycée, de la Haute école théologique et du séminaire presbytérial.
Le 19ème siècle apporte la stabilisation et le développemnt social, économique et culturel de la ville. Les habitants de Nitra et de ses environs étaient le plus souvent agriculteurs. Le développement de l'industrie et l'apparition des entreprises étaient orientés à la production agricole. En 1863, fut construit un moulin à vapeur, en 1887 furent construits une brasserie et une malterie, plus tard, une sucrerie, des usines pour la fabrication de charcuterie, de spiritueux, de vinaigre, de cigarettes et d'autres marchandises. On a construit à Nitra une usine à gaz, une fonderie, une briqueterie, une usine de machines industrielles, une usine pour le traitement de l'ardoise et de l'amiante.
Au 20ème siécle, les deux guerres mondiales marquèrent négativement le développement de la ville. Après 1945 un essor impétueux de Nitra a commencé. On y a construit de nombreuses écoles et institutions scientifiques et culturelles. Nitra est devenue un centre économique, instructif, culturel et aussi un grand centre d'expositions en Slovaquie.