Сремска Митровица је град с веома дугим континуитетом живота у којем је неколико пута из основа мењала не само своје име, већ и своју физиономију: испрва дрвено илирско-келтско насеље, затим антички град и престоница, средњовековна варош са много господара, оријентална паланка с минаретима, пуковско граничарско место, занатско-трговачки центар у доба грађанског просперитета и, најзад, савремен индустријски град у пуном напону једне нове историје.
Римљани освајају Сирмијум крајем I века старе ере. Град расте вртоглавом брзином и у I веку нове ере стиче највиши градски ранг – постао је Цолониа Флавиа Сирниенсиум и добија изузетан војнички и стратешки значај. У њему се припремају ратне експедиције царева Трајана, Марка Аурелија и Клаудија II Готског. Од средине III века Сирмијум је постао економско средиште читаве Паноније, те је дао Империји неколико великих људи. У њему или у околини рођени су цареви Деције Трајан, Аурелијан, Проб и Максимилијан, сви романизовани Илири-домороци.
Потврду свог изузетног положаја у оквиру Римске империје Сирмијум добија у време тетрархије када постаје једна од четири престонице царства, град са царском палатом, хиподромом, ковницом новца, амфитеатром, позориштем, многобројним радионицама, јавним купатилима, храмовима, као и мноштвом јавних палата и раскошних вила.
Од 313. године хришћанска црква у Сирмијуму игра велику улогу као седиште епископије. Готово један век трајале су огорчене верске борбе око различитих учења и јереси. У граду је одржано пет црквених сабора. Познате “сирмијске формуле” решавале су догматска питања значајна за читав хришћански свет. У В веку развој града је прекинут хунским разарањима. Градом су наизменичн огосподарили Источни Готи и Гепиди, све док га Јустин II није прикључио Источној римској држави. Половином VI века у Срем су продрли Авари са првим словенским групама и 582. године дефинитивно заузели и разорили Сирмијум.
У IX веку Срем се налази у саставу Бугарске и улога Сирмијума расте, јер је у њему, пошто су Бугари примили хришћанство, основана епископија. Сматра се да је словенски просветитељ Методије, пре него што је отишао у Моравску, био епископ Сирмијума. Доласком Мађара Сирмијумом наизменично господаре Византинци и Мађари, све до 1180. године кад византијска власт заувек нестаје с овог тла, а од некад славног града остају само рушевине. Једино је још остао обновљени манастир св. Димитрија с тврђавом. Ново насеље, израсло крај зидина, добија у XIII веку по манастиру своје данашње име Дмитровица (латински “Цивитас Санцти Деметри”, мађарски “Сзава Сзент-Деметер”).
Пред турском најездом мађарско становништво се повлачи ка својој матици, а Срби се све више досељавају, тако да је Срем током једног века постао српска област, а деспот Стеван Лазаревић, међу осталим поседима, добија и Митровицу. После 1529. године Срем је коначно у саставу турског царства. За неколико деценија Митровица се од опустошеног места претворила у Шехер-Димитровице, град оријенталног типа са великом чаршијом, који је постао привредни и административни центар Срема. Миром у Пожаревцу град је ослобођен од Турака и припојен Хабзбуршкој монархији. Средином XVIII века основан је Девети петроварадински граничарски пук са седиштем у Митровици. Граничарска команда подиже око тридесет зграда, као војно средиште пука.