Rimljani osvajaju Sirmijum krajem I veka stare ere. Grad raste vrtoglavom brzinom i u I veku nove ere stiče najviši gradski rang – postao je Colonia Flavia Sirniensium i dobija izuzetan vojnički i strateški značaj. U njemu se pripremaju ratne ekspedicije careva Trajana, Marka Aurelija i Klaudija II Gotskog. Od sredine III veka Sirmijum je postao ekonomsko središte čitave Panonije, te je dao Imperiji nekoliko velikih ljudi. U njemu ili u okolini rođeni su carevi Decije Trajan, Aurelijan, Prob i Maksimilijan, svi romanizovani Iliri-domoroci.

Potvrdu svog izuzetnog položaja u okviru Rimske imperije Sirmijum dobija u vreme tetrarhije kada postaje jedna od četiri prestonice carstva, grad sa carskom palatom, hipodromom, kovnicom novca, amfiteatrom, pozorištem, mnogobrojnim radionicama, javnim kupatilima, hramovima, kao i mnoštvom javnih palata i raskošnih vila.

Od 313. godine hrišćanska crkva u Sirmijumu igra veliku ulogu kao sedište episkopije. Gotovo jedan vek trajale su ogorčene verske borbe oko različitih učenja i jeresi. U gradu je održano pet crkvenih sabora. Poznate “sirmijske formule” rešavale su dogmatska pitanja značajna za čitav hrišćanski svet. U V veku razvoj grada je prekinut hunskim razaranjima. Gradom su naizmeničn ogospodarili Istočni Goti i Gepidi, sve dok ga Justin II nije priključio Istočnoj rimskoj državi. Polovinom VI veka u Srem su prodrli Avari sa prvim slovenskim grupama i 582. godine definitivno zauzeli i razorili Sirmijum.

U IX veku Srem se nalazi u sastavu Bugarske i uloga Sirmijuma raste, jer je u njemu, pošto su Bugari primili hrišćanstvo, osnovana episkopija. Smatra se da je slovenski prosvetitelj Metodije, pre nego što je otišao u Moravsku, bio episkop Sirmijuma. Dolaskom Mađara Sirmijumom naizmenično gospodare Vizantinci i Mađari, sve do 1180. godine kad vizantijska vlast zauvek nestaje s ovog tla, a od nekad slavnog grada ostaju samo ruševine. Jedino je još ostao obnovljeni manastir sv. Dimitrija s tvrđavom. Novo naselje, izraslo kraj zidina, dobija u XIII veku po manastiru svoje današnje ime Dmitrovica (latinski “Civitas Sancti Demetri”, mađarski “Szava Szent-Demeter”).

Pred turskom najezdom mađarsko stanovništvo se povlači ka svojoj matici, a Srbi se sve više doseljavaju, tako da je Srem tokom jednog veka postao srpska oblast, a despot Stevan Lazarević, među ostalim posedima, dobija i Mitrovicu. Posle 1529. godine Srem je konačno u sastavu turskog carstva. Za nekoliko decenija Mitrovica se od opustošenog mesta pretvorila u Šeher-Dimitrovice, grad orijentalnog tipa sa velikom čaršijom, koji je postao privredni i administrativni centar Srema. Mirom u Požarevcu grad je oslobođen od Turaka i pripojen Habzburškoj monarhiji. Sredinom XVIII veka osnovan je Deveti petrovaradinski graničarski puk sa sedištem u Mitrovici. Graničarska komanda podiže oko trideset zgrada, kao vojno središte puka.

Još je Bonfinius, istoričar na dvoru Matije Korvina, pisao da je Sirmijum dobio ime po vođi ilirskog plemena Tribala, Siru, čije je ime latinizovano u Sirmus. Tako se ime naselja javlja već u 4. veku p. n. e. Po drugom mišljenju, ime dolazi od vođe keltskog plemena Tauriska, takođe iz 4. veka p. n. e.

Izgleda da koren reči vodi poreklo od sanskritske reči „sru” koja znači strujanje, u ovom slučaju „vodeni tok”, „tečenje”, slično koreno reči „ser”, koja u staroindijskom obliku znači kapljati, od čega i dolazi latinski oblik serum. Ilirska reč „sir”, verovatno je redukovani stepen iste reči, iz čega je latinizacijom nastalo Sir-m-ium. Datovanje ovog, latinizovanog imena, vezuje se u svakom slučaju za sam početak 1. veka nove ere i dolazak Rimljana u malo i prosperitetno naselje Ilira i Kelta na obali Save. Naziv Sirmijum je u neposrednoj vezi sa rekom Savom, latinski Savum. U to doba ostalo je zapisano i još nekoliko varijacija osnovnog imena i to: Civitas Sirmiensium et Amantinorum (Plinije, početak 1. veka) i Colonia Flavia Sirmium (79. godina). U svakom slučaju i poreklo imena i naseljavanje Sirmijuma imali su viševekovnu tradiciju i pre dolaska Rimljana. Glavni uzrok tome je povoljan geografski položaj u plodnom međurečju Save i Dunava, što je pogodovalo razvoju trgovine između helenističkog (grčkog) i zapadnog sveta, u kojoj je Sirmijum još u staroj eri imao veliki značaj.

Varijanta imena Sirmium, Sirmio (Sirmij), predstavlja direktan kontinuitet tradicije latinskog naziva za naselje i kao takvo opstaje uprkos propasti rimske carevine i čestim osvajanjima, rušenjima i spaljivanjima, prvo od strane Istočnih Gota, zatim Xuna (441), Gepida i Avara (582). Ime je preživelo i period 8—11. veka i smenu prvo franačke, potom bugarske i konačno vizantijske vlasti.

Godine 1180, Vizantija predaje grad Kraljevini Ugarskoj, koja podiže nov srednjovekovni grad na temeljima srušenog i nekada velelepnog Sirmijuma. Grad dobija ime Civitas Sancti Demetrii (Grad Svetog Dimitrija), po gradskom patronu i u Sirmijumu pogubljenom hrišćanskom mučeniku Svetom Dimitriju. Mađari od tad grad nazivaju i Szávaszentdemeter, a Srbi — D(i)mitrovica.

Godine 1526. grad pada pod osmansku vlast. Tada je počeo razvoj Mitrovice kao turske kasabe. Grad je bio poznat kao Šeher-Mitrovica ili turski Dimitrofçe.

Požarevačkim mirom 1718. Mitrovica postaje deo Xabzburške monarhije u kojoj Srbi dobijaju određene privilegije, kao što je i upotreba sopstvenog jezika. U tim godinama se i prvi put javlja modifikovano srpsko ime za grad (bez prvog slova ”D”) — Mitrovica. Do 1881. godine i ukidanja Vojne granice i direktne austrijske uprave, grad je poznat pod nemačkim službenim imenom Mitrovitz, da bi od iste godine, dobijanjem statusa slobodnog kraljevskog grada, službeno ime naselja bilo na srpskom, odnosno hrvatskom jeziku — Mitrovica/Mitrovica. Ovo ime održava se oko 40 godina, sve do propasti Austrougarske i stvaranja nove zajedničke države Srba, Xrvata i Slovenaca, kada je u prvim godinama posle 1918. službeno pridodat geografski prefiks Sremska. Jedan od razloga promene bila je i potreba za formalnim razlikovanjem Mitrovice od istoimenog grada na Kosovu, sa kojim se prestonica Srema po prvi put našla u istoj državi.

Sledeću promenu imena izvršile su ustaške okupacione vlasti, po priključenju Srema NDX 1941. godine. Tada je ime grada promenjeno u Hrvatska Mitrovica, da bi po oslobođenju 1944. bilo vraćeno u Sremska Mitrovica, ime koje grad i danas nosi.

Od ostalih imena na jezicima mitrovačkih nacionalnih manjina izdvajaju se i rusinsko Srimska Mitrovica i hrvatsko Srijemska Mitrovica. Nazive Srijem, Srijemska Mitrovica ili Srijemski Karlovci su ranije koristili i Srbi ijekavci, ali su ti oblici ostali danas samo kod katolika našeg jezika.

Sirmijum se zvao na vulgarnolatinskom Sermi. U Muzeju Vojvodine u Sremskoj Mitrovici je izložen podatak da je stariji oblik imena grada glasio Sermi. U zborniku „Vojvodina“ (knjiga I, Novi Sad, (1939). str. 109.), u delu o toponomastici piše da je Sirmijum bilo samo ime grada, nikako teritorije. Dalje u fusnoti 11 pomenute knjige stoji da je oblik sa E mesto I (sermenses) potvrđen natpisima („članak u Zeitschrift fur roman Philologie, sv. XLVI. str. 386, delo Pojave vulgarnolatinskog jezika pp. 24, 26, 31, 65.“).

Miroslava Mirković u knjizi „Sirmium — Istorija rimskog grada od I do kraja IV veka“, na strani 110. piše da se na natpisima iz VI veka iz Salone spominju dve ličnosti za koje se može pretpostaviti da su izbegle iz Sirmiuma posle pada grada u ruke Avara. Jedna od njih je abatisa (opatica), Johana, koja se spominje na sledećem vulgarnolatinskom natpisu: „Ovde počiva u miru sveta opatica Johana sirmijumska građanka, koja požive…“ (Na latinskom: „…abatissa Johanna civis SERMENSES qui bixit…“).

Prošlost Sremske Mitrovice i njene bliže okoline, koja u istorijskoj epohi dostiže starost od oko dva milenijuma, ima svoje dublje korene u materijalnoj kulturi praistorijskih populacija i doseže do prvih početaka ljudskog života u regionu Srema i Panonije, ili oko 7000 godina pre naše ere.

Za najstariju epohu ljudskog društva starije kameno doba (paleolit) ne postoje arheološki dokazi koji bi potvrđivali njenu prisutnost na terenu današnje Mitrovice. Jedino fosili mamuta (Elephas primigenius), džinovskog jelena (Cervus megaceros) i divljeg govečeta (Bos primigenius), koji delimično predstavljaju faunu ovog perioda, a nađeni u mulju Save, ukazuju na mogućnosti postojanja privremenih staništa paleolitskih ljudi, čije je osnovno zanimanje lovačko-sakupljačka privreda.

Danas se eksponati pronađenih praistorijskih nalaza ravničarske faune nalaze u okviru stalne postavke Muzeja Srema.

Posmatrajući Frušku goru kao ”ostrvo” u nepreglednoj panonskoj ravnici, nije teško zaključiti da je praistorijski lovac često napuštao svoje tamošnje sigurno stanište i pravio duže (ribo)lovačke ekspedicije do Save, tu boravio i po više meseci u novim privremenim staništima, sagrađenim za te prilike. Mlađe kameno doba (neolit) karakterišu i na ovom prostoru pojava zemljoradnje, pripitomljavanja životinja, kao i stvaranje novih naseobina — grupacija zemunica, najčešće pored reka i drugih vodenih prostranstava. Takav je slučaj bio i sa malim zemljoradničkim i ribolovačkim naseljem na Savi na mestu današnje Sremske Mitrovice.

Starija faza neolita poznata je u arheologiji naših prostora i kao starčevačka i kereška civilizacija. Materijalni ostaci starčevačke kulture konstatovani su na lokalitetu Kalvarija, tzv. nultoj tački i centru razvoja budućeg naselja u praistoriji i starom veku, malom i skoro neprimetnom brežuljku u istočnom delu današnjeg grada, predmetu mistike i priča otkad je Mitrovice i Mitrovčana. Uzvišenje Kalvarija, (danas sa malom katoličkom kapelom-kriptom podignutom 1921. i grobljem iz 19. veka) potkovičastog je oblika i visine oko 12m i jedino je prirodno uzvišenje vidljivo iz bliže i dalje okoline Sremske Mitrovice. Pored njega, sa zapadne strane, protiče potok Čikas, koji dolazi sa Fruške gore i uliva se u Savu. Veoma povoljan položaj, blizina pitke vode i Save, koju su starčevci koristili za ribolov, a verovatno i kao saobraćajnicu, bili su idealni uslovi za početak masovnijeg naseljavanja. Tzv. Vinčanska kultura, koja na ovom prostoru nasleđuje starčevačku, proširuje prvobitno stanište (Kalvariju) na još dve lokacije neposredno uz reku, danas na gradskim obodima: Leget na istočnoj, i Varda, ili Mala strana na zapadnoj periferiji današnjeg grada. Završetak mlađeg kamenog doba obeležava sopotsko-lenđerska kulturna grupa koja u nekadašnje naselje starčevaca i vinčanaca emigrira iz zapadnijih krajeva Srema i Slavonije. U bakarnom dobu (eneolitu) koje dolazi posle mlađeg kamenog, Srem i današnji prostor Mitrovice naseljavaju nove etničke grupe sa severa i zapada (bodrog-keresturska, badenska i vučedolska), koje već koriste metal i zahvaljujući tome pokoravaju domoroce. Iz ovog perioda karakteristični su nalazi tzv. višeslojnih stambenih naselja kao i prilično umešnih dostignuća primitivne metalurgije — lepezastih oruđa od bakra koji je na ovo područje uistinu mogao stizati samo trgovinom (nalazi sa lokaliteta Leget).

Razvijeno metalno doba, koje na ovom prostoru počinje sa srednjim bronzanim dobom, obeleženo je počecima plužne zemljoradnje i razvijene obrade metala. U tom periodu ovaj prostor naseljen je pretežno stanovništvom iz vatinske i dubovačko-žutobrdske grupe. Posebna vrednost bronze, kao specifičnog materijala za ravničarsko područje, vidi se pre svega u otkrićima ostava bronzanih predmeta u kojima je stanovništvo čuvalo svoje najveće dragocenosti u periodu pred najezdu novih civilizacija koje su već posedovale gvožđe. Jedna takva, tzv. trako-kimerska civilizacija, obeležava početak gvozdenog doba (halštata) i na sremskom prostoru. Arheologija i istorija ni do danas nisu u mogućnosti da saopšte preciznije podatke o etničkoj pripadnosti stanovništva praistorijske Mitrovice iz gvozdenog doba. Neki antički izvori, kao moguće stanovnike tog doba na ovom prostoru, pominju plemena iz reda raznolike ilirske grupe — Amantine, dok arheološka iskopavanja daju i mogućnost postojanja naselja plemena Panona.

Dolaskom Kelta Srem ulazi u protoistorijsku epohu, poznatu u istoriji i kao mlađe gvozdeno doba (laten). U Srem i na područje današnje Mitrovice ovo odlično organizovano ratničko pleme dolazi posle smrti Aleksandra Makedonskog, krajem 4. veka p. n. e. Njihovo pleme, ili savez plemena, poznati kao Skordisci, naseljava šire područje donjeg toka Save i ušća u Dunav i obrazuju prvu zajednicu na ovim prostorima sa odlikama primitivne države. Na lokaciji Kalvarija otkriveno je naselje Kelta (Skordiska), kasnije u velikoj meri devastirano novim rimskim ukopavanjima. Na prostor kalvarijskog naselja Kelti donose upotrebu gvožđa kao glavnog materijala, početke grnčarstva i kovanje novca, kao preduslova za ozbiljniji razvoj trgovine i klicu nove robno-novčane privrede koja ubrzano smenjuje dotadašnju primitivnu naturalnu. Na kraju halštata intenzivni su i dolasci grčkih trgovaca (uglavnom brodovima, Savom), koji donose pre svega zanatske i kovane proizvode, što potvrđuju i brojni arheološki nalazi grčkog nakita i drugih predmeta na širokom području grada i okoline. U svakom slučaju keltski opidium (utvrđenje) predstavlja klicu praistorijskog Sirmijuma, koji su kolonizatori Rimljani po svom dolasku u jeku antičke ere (1. vek) zatekli i u prvo vreme koristili.

Tako kontinuitet života praistorijskog doba Sremske Mitrovice traje od mlađeg kamenog doba do dolaska Rimljana, sa manjim prekidima u ranom bronzanom dobu.

Osnovavši grad na obali Save, Rimljani su omogućili njegov razvitak. Grad raste vrtoglavom brzinom i u 1. veku nove ere stiče najviši gradski rang — postao je Kolonija rimskih građana i dobija izuzetan vojnički i strateški značaj. U njemu se pripremaju ratne ekspedicije careva Trajana, Marka Aurelija, Klaudija II. Od sredine trećeg veka Sirmijum je postao ekonomsko središte čitave Panonije, te je dao Carstvu nekoliko velikih ljudi. U njemu ili okolini rođeni su carevi Decije Trajan, Aurelijan, Prob i Maksimijan, svi romanizovani Iliri-domoroci.

Sirmijum je bio za vlade Rimljana i jedna je od četiri prestonice carstva (Augusta Treverorum — Mediolanum — Nikomedija — Sirmijum). Najpoznatiji istoričar IV veka, Amijan Marcelin, nazvao je Sirmijum „slavnom i mnogoljudnom majkom gradova“. Grad je bio metropola Panonije i Ilirika, ranohrišćanski centar sa brojnim episkopima i mučenicima. U doba najvećeg procvata Sirmijuma, u III i IV veku, ovde je postojala velika kovnica zlatnog i ostalog novca, raskošna carska palata, sa vodovodom i termama, hipodromom, pozorištem i amfiteatrom, forumom i drugim važnim građevinama. Do sada je otkriveno osam ranohrišćanskih hramova, od kojih su najpoznatiji oni posvećeni Sv. Irineju, Sv. Dimitriju i Sv. Sinerotu. U doba najvećeg progona Xrišćana, na Uskrs 6. maja 304. godine, na jednom od savskih mostova pogubljen je prvi episkop Sirmijuma Irinej, a tri dana kasnije i njegov đakon Dimitrije. Posle 313., Sirmijum postaje važan crkveni hrišćanski centar. Tokom IV veka ovde je održano nekoliko opšterimskih crkvenih sabora, na kojima su donošene poznate sirmiumske formule, potvrđivano a zatim osuđivano tzv. arijansko učenje.

Krajem 4. veka grad je došao pod vlast Istočnih Gota, da bi 441. godine praktično nestao u hunskom pokolju i velikom požaru. Zahvaljujući hunskom pustošenju Sirmijuma je kult Svetog Dimitrija prenet iz Sirmijuma u Solun. U Sirmijumu su se potom smenjivali razni vladari, da bi se 582. godine predao Avarima, a preživeli stanovnici emigrirali u Dalmaciju. Tokom ovog perioda osvajanje Sirmijuma bilo je ključno za držanje kontrole nad južnom Panonijom.

1688. godine austrijska vojska je ušla u Srem i posle velikih razaranja Požarevačkim mirom grad, u međuvremenu potpuno razoren, ulazi u sastav ugarskog dela Xabzburške monarhije. Sremska Mitrovica se u ovo doba javlja kao pogranični grad u okviru Xabzburške monarhije. Budući da je reka Sava bila granica prema zaostalom Osmanskom carstvu grad je postao deo Vojne krajine, sektor Petrovaradinska regimenta. Ovo je u velikome odredilo razvoj grada tokom ovog razdoblja. Položaj Sremske Mitrovice u krajnjem delu Xabzburške monarhije prema nerazvijenom susedu, kakvo je bilo Osmansko carstvo, uticao je da u periodu opšteg preporoda severnijih krajeva i gradova (Sombor, Novi Sad, Zrenjanin) grad stagnira i u odnosu na prethodni, turski period, izgubi na značaju i važnosti.

I pored ovako nepovoljnog položaja grad se razvijao i širio ka severu. Međutim, ove promene nisu mnogo zahvatile postojeću gradsku strukturu oko današnjeg Žitnog trga, tako da je ovaj deo grada ostao pretežno srpski sa naglašenom trgovinsko-zanatskom delatnošću. Čak je i danas ovaj deo grada prepoznatljiv po još uvek očuvanim ostacima turskog urbanizma, poput trougaonog Žitnog trga i krivudavih i uskih ulica oko njega. Takođe, tu se danas nalaze obe gradske pravoslavne crkve, stara i nova.

Uskoro po pripajanju u grad su se počeli doseljavati novi narodi: Nemci, Mađari, Rusini, Xrvati. Središte njihovog naseljavanja bio je severni, manje močvarni deo grada, danas Trg sv. Trojstva, gde su i sada Rimokatolička i Grkokatolička („Rusinska“) crkva. Ovaj deo grada je odmah postao upravno središte grada, a između njega i srpskog dela izgrađen je deo sa vojnim objektima, koji će biti u ovoj nameni sve do dobijanja statusa slobodnog kraljevskog grada 1881. godine. Ovaj slučaj sa dva središta bio je jedinstven među važnijim gradovima Vojvodine.

Krajem 19. veka došlo je do smirivanja granice na Savi, a novi sused je bila mala i nerazvijena Srbija. Ovo je uticalo na ukidanje Vojne krajine i vladavine gradom od strane vojnih vlasti i dobijanja statusa slobodnog kraljevskog grada 1881. godine. Prvi gradonačelnik je bio Ćira Pl. Milekić. Sa ovom novinom došlo je i do naglog uspona grada, posebno na polju privrede. Prevoz Savom dobio je na značaju, pa se grad sve više razvija u njenom priobalju, gde se uređuju nove ulice i podižu prve male fabrike. Tada je oblikovana i Parobrodska ulica (Sremska Mitrovica), u kojoj se naseljavaju najbogatije gradske porodice. Prolazak železnice 2 km severno od središta grada uticao je na drugi pravac širenja ka severu, gde se takođe javlja prva industrija, vezana za kompleks železničke stanice. U središtu grada najveća promena bilo stvaranje gradskog parka na mestu vojnog vežbališta, oko koga su se ubrzo izgradile najprestižnije privatne i javne građevine: nova Pravoslavna crkva sv. Stefana, zdanje Srpskog Doma, zgrada „Magištrata“ (danas Uprava policije), zdanje „Sudbenog stola“ (zgrada gradske galerije), kao i kuće najbogatijih gradskih trgovaca. Time su nekadašnja dva središta grada — Žitni trg i Trg sv. Trojstva povezana trgom, koji se danas zove Trg sv. Dimitrija (trivijalno „Majmunac“).

Grad je na prelazu u 20. vek prešao cifru od 10 hiljada stanovnika. To, međutim, nije nadoknadilo ‘jaz’ u odnosu na druge značajnije gradove Vojvodine.

Sremska Mitrovica je 1918. godine priključena Kraljevini Srba, Xrvata i Slovenaca, kasnije Kraljevina Jugoslavija. Grad se ovom promenom našao u mnogo boljem položaju, budući da se našao u sredini države, na putu između njegova dva glavna središta — Beograda i Zagreba. I pored toga u periodu između dva svetska rata grad se sporo razvijao zbog nerazvijenog tržišta, koje je uticalo na koncentrisanje privrede u velikim gradovima.

U Drugom svetskom ratu Sremska Mitrovica se nalazila u sastavu Nezavisne Države Xrvatske (NDX) i u periodu 1941—1944. grad je nosio ime Xrvatska Mitrovica. Samo u nekoliko nedelja u avgustu i septembru 1942, zločinci ustaške policijsko-kaznene ekspedicije pod komandom Viktora Tomića su pored gradskog pravoslavnog groblja, na radinačkim poljima i na savskom nasipu ubile više od 400 ljudi, dok se ukupne žrtve Tomićeve kaznene ekspedicije na području Srema procenjuju na preko 6.000 nevino ubijenih ljudi (mahom Srba, ali i Jevreja i Roma) i preko 10.000 poslatih u logore. Iz same Mitrovice ubijena su tada najmanje 404 lica.

Grad su (u toku operacije probijanja Sremskog fronta), nakon petodnevnih borbi, od fašističkih vlasti oslobodile 16. vojvođanska i 11. krajiška divizija NOV i POJ, kao i 4 artiljerijska puka i 87. oklopno-motorizovani puk kaćuša sovjetske Crvene armije 1. novembra 1944. godine. Neprijateljske snage brojale su oko 30.000 vojnika: Nemaca, ustaša, kao i manji broj odbeglih pripadnika Nedićeve žandarmerije i SDS. Nemačke snage grupisale su se oko 13. SS „Xandžar“ divizije i obuhvatale su i nekoliko pešadijskih i motorizovanih jedinica iz redovnog sastava (Vermaht) kao i nekoliko desetina protivoklopnih i protivavionskih baterija. Ustaške snage u gradu brojale su, po podacima sa početka 1945. godine, 5.417 vojnika udruženih ustaško-domobranskih jedinica (Mitrovica je bila sedište vojnog okruga i komandni centar tzv. 13. stajaćeg djelatnog sdruga ustaške vojnice, podeljenog u 5 jedinica).

Četvorogodišnja okupacija ostavila je duboke ožiljke na stanovništvu i gradu. Godine 1938. Mitrovica je imala 16.199 stanovnika, a decembra 1944. svega 9.292. Najveći gubitak, pored masovnog razaranja i raseljavanja, bile su svakako ljudske žrtve. Od strane okupatora život su izgubila najmanje 662 Mitrovčana. Od tog broja 95 kao partizani, 284 su streljana, 208 je umrlo u logorima, 77 je stradalo na drugi način. 222 Mitrovčana dočekala su kraj rata kao trajni invalidi. S druge strane, oko 500 stanovnika Sremske Mitrovice izginuli su kao pripadnici nemačkih i ustaških snaga, ili su streljani po završetku rata zbog saradnje sa okupatorom. Tako je 1946. godine, između ostalih, posle zarobljavanja, osuđen na smrt i streljan i dr Petar Gvozdić, predratni predsednik mitrovačkog krila Xrvatske seljačke stranke i prvi tzv. gradski ustaški štabnik.

Datum 1. novembar 1944. uzima se kao početak razvoja grada u savremenom dobu. Više od 50 godina ovaj datum proslavljan je kao Dan grada. Danas se oslobođenje grada u dva svetska rata obeležava u okviru gradskih Novembarskih svečanosti.

Posle rata grad je izmenio etničku strukturu. Jevrejsko stanovništvo je nestalo u vihoru rata, a na mesto mesnih Nemaca, veoma značajnih pre rata (oko 20% stanovništva), koji su iseljeni u maticu, došli su Srbi doseljenici iz okolnih sela i drugih delova zemlje. Grad je postao središte Sremskog sreza, kasnije preimenovanog u Sremski okrug. Grad je doživeo nagli razvoj u decenijama nakon rata zahvaljujući položaju na najvažnijem saobraćajnom pravcu tadašnje SFRJ, putu „Bratstvo-Jedinstvo“. Podignuti su mnogi novi objekti industrije, uprave, obrazovanja i zdravstva. Izgrađeno je i više stambenih naselja. Zbog toga je grad za samo četiri decenije utrostručio broj stanovnika, sa 13.000 posle Drugog svetskog rata na gotovo 40.000 početkom devedesetih godina. U toku ovog perioda izvedeni su i najveći graditeljski poduhvati u gradu — veoma savremen nasip i dva mosta preko Save (drumski i pešački). Drumski most kod Sremske Mitrovice predstavlja ključnu saobraćajnu vezu Srema i Bačke sa jedne i Mačve sa druge strane. Otvoren je za saobraćaj 19. novembra 1977. godine i zamenio je jedini dotadašnji — stari pontonski sa jednom kolovoznom trakom, izgrađen 1951. Most sv. Irineja, otvoren 1994. godine, sa rasponom od 262,5m, povezuje centar Sremske i Mačvanske Mitrovice.