Nagymaros területén belül és környékén többfelé találtak leleteket a kőkortól kezdve, ami bizonyítja, hogy a terület azóta folyamatosan lakott volt.

A középkorban alapított települést 1257-ben említik elsőként írásban, akkor Morus néven. Története szorosan összekapcsolódik Visegrádéval. A korábban a Rosd nemzetség birtokaihoz tartozó Marost 1285-ben IV. László király a visegrádi várhoz csatolta. A viszonylag sík területen elhelyezkedő település alkalmas helyszíne volt a lovagi játékoknak, amelyek főként Mátyás király idejében voltak népszerűek.

Azok az előkelőségek, akiknek Visegrádon, a királyi székhelyen már nem jutott hely, Maroson építtették fel palotájukat. Az Anjou királyok uralkodásának idején a település már az ország nevezetesebb városai között szerepelt.

Az Árpád-ház kihaltát követő trónviszályok idején Károly Róbertnek 1316-ban sikerült elfoglalnia Visegrádot. 1324-ben Maros lakóit Buda város kiváltságaival ruházta fel, és Marost Visegrád ikervárosának nevezte ki. Ekkor írásba is foglalta Maros kiváltságait, amelyek szerint a Dunán Győrtől Visegrádig és onnan Dunaföldvárig vámmentességet élveztek. Emellett szabad halászati jogot kaptak és egyéb engedményeket és mentességeket. Ám a lakosságot kötelezték a dunai viza halfaj halászatából egy negyed részt a királynak ajándékozni és évente három alkalommal az uralkodónak hozzá méltó ajándékkal kedveskedni. Az egyháznak pedig tizedet kellett szolgáltatni a megtermelt gabonából és borból. A királyon kívül vizafogásra kötelezte a várost a királyi birtok kezelője, a Pozsonyi Kamara is.

Károly Róbert király uralkodása alatt a település élete gyors fejlődésnek indult, mezőgazdasága virágzott. Uralkodása után utódai sorra megerősítették Marost a kiváltságokban, egészen a XV. század végéig.

A tizenöt éves háború idején és az azt követő néhány évtizedben a marosiak hol benyújtották, hol visszakérték kiváltságaikat a pozsonyi Kamarától, akik több alkalommal kevesellték Maros ajándékait vagy azt, hogy a többi dunai halászó településhez képest ők csak a vizából szolgáltatják be a részüket, míg a többi település esetében a többi halból is részesültek.

A török hódoltság nem érintette jelentősen Nagymaros lakosságszámát, de a felszabadító harcok során a seregek a területen vonultak át, ami a XVII. század végére a város a hadak áldozatául esett. A város lakossága elmenekült, csak 1688-ban, a török kiűzése után tért vissza.

1700 nyarán I. Lipót király Konzin Valkard grófnak adományozta a visegrádi Fellegvárat, Nagymarost, Szentendrét valamint Kisoroszit. 1713-ban Valkard gróf meghalt, ekkor adományként gróf Stahremberg Tamás kapta meg a birtokokat. Azonban mint később kiderült, az adományozás mindkét esetben jogtalan volt. Az említett területek ugyanis koronabirtokok voltak, amelyeket még maga a király sem adományozhatott vagy adhatott el. A jogtalanul odaajándékozott Marost a Kamara vissza is váltotta a Stahrembergektől 1737-ben.

A török hódoltság kora, a Rákóczi-szabadságharc és az 1709-ben dúló pestisjárvány után jelentősen megfogyatkozott a lakosság, ezért 1715-1735 között katolikus vallású németeket telepítettek Nagymarosra.

A XVIII. század végétől Nagymaros ismét fejlődésnek indult, jelentős volt ebben az időben a vízi kereskedelme Budapesttel és Béccsel. A vasútvonal megépülését követően vonattal is elérhetővé vált a főváros, Nagymaros pedig egyre népszerűbbé vált a nyaralók és túrázók körében.

A II. világháborúban a legtöbb német lakost kitelepítették, helyükre felvidéki magyarok költöztek.

A Dunakanyar szemet gyönyörködtető vonulatai a művészeket is vonzották. 1956-ban művésztelepet nyitott a kor néhány neves festője, köztük Vörös Géza, nagydobronyi festőművész. Több kiváló festő megfordult a művésztelepen, az itt készült alkotásokból rendszeres kiállításokat rendeztek. A művésztelep a Nagymaros-Bős vízerőmű építési munkálatainak megkezdésekor zárt be.

Magyarország és Szlovákia közös projektjének indult a komplex vízlépcső megépítése, amely elősegítette volna a Duna jobb hajózhatóságát, energiát termelt volna a két országnak és az árvízvédelemben is hasznos lett volna. Az építmény együttes részei lettek volna a Dunakilitinél épült mederzáró duzzasztómű, a Csallóközön végighúzódó üzemvízcsatorna, aminek a közepén lett volna a bősi erőmű és végül a nagymarosi vízlépcső. Az építkezést eredetileg 1990-re tervezték befejezni, ám végül sosem készült el. Eleinte mind a két ország gazdasági nehézségekbe ütközött, így nem tudták elkezdeni az építkezéseket. 1989-ben pedig környezetvédők és civilek tiltakozására a magyar kormány leállíttatta az építkezéseket, 3 évvel később pedig felbontotta a szerződést az akkor még csehszlovák másik féllel. Az egykori partnerek ezt követően 1992 végén a bősi erőmű csatornájába, vagyis szlovák területre terelte a Duna vizének közel 83%-át. Az ügy megoldására a két ország a hágai Nemzetközi Bírósághoz fordult, de az 5 évvel később kötelezte a feleket a fennálló probléma államközi rendezésére, ez azonban azóta sem történt meg. Ezzel a Nemzetközi Bíróság által a fennállása óta vizsgált 151 eset közül a bős-nagymarosi a leghosszabb ideje rendezetlenül maradt ügy.

Nagymaros 1996-ban kapott városi rangot.