Упершыню згадваецца ў 1171 годзе ў Наўгародскім летапісе. У пачатку XIII стагоддзя вядома як сяло Нарвія. У 1220—1346 гадах Нарва належала Даніі, а затым (да 1558 года) — Лівонскаму ордэну. У час Лівонскай вайны 1558—1583 гадоў была ўзята рускімі войскамі (11 мая 1558 года), а ў 1581 годзе захоплена Швецыяй. У пачатку Паўночнай вайны 1700—1721 гадоў руская армія аблажыла Нарву, але 19 лістапада ў Нарвскай бітве была разбіта шведскімі войскамі. 9 жніўня 1704 года рускія войскі ўзялі Нарву. Пасля заснавання крэпасцей Кранштат і Свеаборг Нарва страціла сваё стратэгічнае значэнне. У 1704—1722 гадах павятовы (пазней заштатны) горад Пецярбургскай губерні. Да сярэдзіны XIX стагоддзя ‒ буйны цэнтр тэкстыльнай прамысловасці. У лютым — сакавіку 1918 года атрады Чырвонай Арміі спынілі пад Нарвай наступ кайзераўскіх войскаў, якія акупавалі горад з 4 сакавіка па 28 лістапада 1918 года. 29 лістапада ў Нарве абвешчана Эстонская савецкая рэспубліка. З студзеня 1919 года ў складзе Эстоніі. З 21 ліпеня 1940 года горад Эстонскай ССР, якая ўвайшла 6 жніўня 1940 года ў склад СССР. З 17 жніўня 1941 года па 25 ліпеня 1944 года Нарва была акупаваная нацысцкімі войскамі.