A mai Moszkva területén már a neolitikumban is éltek, az első települések mintegy háromezer évvel ezelőtt jelentek meg itt. I. sz. az első évezred második felében szláv törzsek foglalták el a területet. A várost név szerint 1147-ben említik először, 1156-banJurij Dolgorukij fejedelem cölöpökkel és vizesárokkal vette körül. 1237-38-ban a tatárok földig rombolták. Ezután újra felépült, és egy független fejedelemség fővárosa lett.

1300-ban Moszkva fejedelme Danyiil Alekszandrovics volt, Alekszandr Nyevszkij fia, a Rurik-dinasztia tagja. A város gyorsan nőtt, köszönhetően annak az előnynek, hogy közel feküdt a Volga folyóhoz. 1304-ben Danyiil fia, az Arany Horda támogatásával uralkodó Jurij Danyiilovics, valamint öccse és utóda, I. Iván (Kalita) győztes háborúinak köszönhetően bővítették a Moszkvához tartozó területeket. 1480-ban III. Ivánnak sikerült megszabadulnia a tatár befolyástól, és Moszkva egy egyre növekvő birodalom fővárosa lett.

A későbbi cárok, például Rettegett Iván uralkodása alatt a birodalom, bár növekedett, lassan hanyatlásnak indult. 1571-ben a krími tatárok elfoglalták és felégették Moszkvát. 1610 és 1612 között a lengyel-litván seregek elfoglalták a várost, 1612-benNyizsnij Novgorod és más orosz városok népe fellázadt a lengyel hódítók ellen, elfoglalták a Kremlt és megölték a hódítókat. 1613-ban egy gyűlésen I. Mihályt választották cárrá. Vele kezdetét vette a Romanov-dinasztia uralma, ami több, mint háromszáz éven át tartott.

1703-ban, mikor Nagy Péter megalapította Szentpétervárt, Moszkva megszűnt főváros lenni, ám fejlődése nem állt meg. Mikor I. Napóleon császár seregei 1812-ben Moszkva felé közeledtek, nem messze tőle zajlott a borogyinói csata. A városlakókszeptember 14-én kiürítették és felégették a várost. Napóleon seregét annyira megviselte a hideg és az éhség, hogy vissza kellett vonulniuk. A város felszabadítása után elkezdődött az újjáépítés, ekkor épült például a Bolsoj és a Malij Színház, a Sándor-kert és az első moszkvai kórház.

1905 januárjában Alekszandr Adrianovot nevezték ki Moszkva első polgármesterévé. Az 1917-es forradalom után Lenin az esetleges idegen megszállástól tartva Szentpétervár helyett újra a határtól távolabb eső Moszkvát tette meg fővárosnak (1918.március 5.).Vasúti csomópontként Moszkva – Leningráddal és Kijevvel együtt – a német offenzíva egyik stratégiai célpontja volt a második világháború alatt.

A Szovjetunió első éveiben a jobb megélhetés reményében számos paraszt vándorolt a falvakból Moszkvába, ahol szakképzetlen munkaerőként gyárakban és építkezéseken dolgoztak - ez megváltoztatta a város addigi polgári arculatát és Moszkva munkásvárossá vált.

Az ezredfordulót követően, a második csecsen háború idején Moszkva a csecsen terroristák célpontjává vált. 2004. február 6-ánegy metróállomáson bomba ölt meg legalább 40 embert, 2002 októberében pedig a Dubrovka színházban elkövetett merénylet következtében halt meg száznál is több ember.