Zilupes pilsēta sāka veidoties 1900. gadā uz barona Rozena zemes pie Rivcānu sādžas Pasienes pagastā sakarā ar dzelzceļa līnijas Ventspils—Maskava būvniecību. Pie Rozenovas stacijasZilupes upes kreisajā krastā sāka apmesties uz dzīvi dzelzceļa strādnieki, kalpotāji, tirgotāji un citi. 1908. gadā Zilupē jau bija zemstes priekšnieks, policijas pristavs, darbojās pasts, skola, kā arī daudzi tirdzniecības uzņēmumi, kas apkalpoja plašu apkārtni.
Pirmais pasaules karš pārtrauca Zilupes attīstību, 1918. gadā tika uzspridzināts dzelzceļa tilts, izjauktas pārbrauktuves un pārtraukta satiksme ar tālāko apkārtni. No 1918. gada novembra līdz 1920. gada janvārim Zilupē pastāvēja lielinieku vara. Latvijas Brīvības cīņu laikā 1920. gada 26. janvārī Kurzemes divīzija gar dzelzceļa līniju uzsāka uzbrukumu ar uzdevumu sasniegt Zilupes līniju un Osvejas ezeru.
1920. gada 1. maijā Zilupes apkārtnē Opuļu sādžā (4 km uz ZA no Zilupes dzelzceļa stacijas) notika Latvijas armijas 1. Liepājas kājnieku pulka kapteiņa H. Helmaņa vadītās 80 vīru grupas izlūkgājieni lielinieku frontes dziļā aizmugurē.
Pēc Latvijas valsts nodibināšanas Zilupē sākās jauns uzplaukums — pierobežā nodibināja maiņas punktus, kas iemainīja no Krievijas ievestos dārgmetālus (zeltu, sudrabu) un caur Zilupi tos sūtīja tālāk uz Rīgu. 1924. gadā pēc maiņas punktu slēgšanas Zilupes saimnieciskā darbība stipri samazinājās. Tomēr šī rosība sekmēja Zilupes un apkārtnes saimniecisko attīstību un tā kļuva par nacionālās idejas paudēju valsts pierobežā. 1925. gadā Zilupei piešķīra biezi apdzīvotas vietas statusu, bet 1931. gadā — pilsētas tiesības. Galvenā iedzīvotāju nodarbošanās bija tirdzniecība, lauksaimniecība un sīkā amatniecība. Darbojās a/s "Grauds" ūdensdzirnavas ar elektrisko spēkstaciju, zāģu gateris, 1934. gadā bijušās cementa ražošanas telpās iekārtoja lopkautuvi, darbojās linu pieņemšanas punkts, aptieka (dibināta 1901. gadā), ārsta T. Rihtera slimnīca un 120 dažādu tirgotavu. Pilsētā darbojās Zilupes iecirkņa miertiesnesis un tiesu izpildītājs, Ludzas apriņķa policijas 3. iecirknis, Zilupes virsmežniecība, Zilupes rajona agronoms, būvtehniķis un dārzkopības instruktors, kā arī Zilupes muitnīca.
1940. gada jūnijā Zilupē ienāca Sarkanā armija, kas aizsāka padomju okupāciju. 1941. gada jūlija sākumā Zilupi un pārējo Latviju iekaroja Vērmahts, kas aizsāka vācu okupāciju. 1944. gada 17. jūlijā Zilupi atkaroja Sarkanā armija. PSRS varas iestāžu rīkotajās deportācijās un arestos cieta arī Zilupes iedzīvotāji. No 1949. līdz 1959. gadam pilsēta bija Zilupes rajona centrs. Pēc Otrā pasaules kara Zilupē darbojās rūpnīcas "Metālists" cehs (ražoja bērnu ragaviņas u.c. plaša patēriņa preces), Ludzas rajona sadzīves pakalpojumu kombināta trikotāžas un adīšanas darbnīcas, maizes ceptuve.
Šobrīd Zilupē atrodas skola, bērnudārzs, "Top" veikals, kā arī katoliskā un pareizticīgā baznīcas.