A geografia da Mongólia é variada com o deserto de Gobi ao sul e regiões frias e montanhosas ao norte e oeste. O terreno é composto de montanhas e planaltos, com um relevo elevado. De modo geral, o terreno desce das altas montanhas do Altai a oeste e norte para alcançar as planícies e depressões a leste e sul.

O Monte Khuiten (às vezes chamado Nairamdal, significando amizade em mongol) atinge 4.373 metros de altitude e fica localizado no extremo oeste do país, onde as fronteiras da Mongólia, China e Rússia se encontram.

O ponto mais baixo fica a 560 metros de altitude na planície da Mongólia oriental. O país possui uma altitude média de 1.580 metros.

O país contém um dos maiores lagos de água doce da Ásia (Lago Khuvsgul), numerosos lagos salgados, pântanos, dunas de areia, pastagens ondulantes, florestas alpinas e a presença permanente de geleiras de montanha.

O norte e oeste da Mongólia são zonas de forte atividade sísmica, com terremotos frequentes, muitas fontes termais e vulcões extintos.

A Mongólia possui três grandes cadeias montanhosas. A mais maciça é o Altai, que se estende pelo oeste e regiões sudoeste do país em um eixo noroeste/sudeste. A cadeia do Khangai também se estende em um eixo que vai de noroeste para sudeste. Ela ocupa grande parte do centro e centro-norte da Mongólia. Esta cadeia é mais antiga, as montanhas menos elevadas e mais erodidas, com muitas florestas e pastagens alpinas. A cadeia do Khentii é composta de montanhas ao longo da fronteira com a Rússia a nordeste de Ulan Bator, sendo ainda menos elevada.

Grande parte da Mongólia oriental é ocupada por uma vasta planície, cuja parte menos elevada consiste em uma depressão que vai de sudoeste a nordeste, do Gobi até a fronteira com a China a leste.

As águas se drenam em três direções: norte em direção ao oceano Ártico, leste em direção ao Pacífico, ou sul para os desertos e depressões da Ásia central. Os rios estão mais presentes no norte, e o principal sistema fluvial do país é composto pelos rios Selenge e Moron, que fluem para o lago Baikal. Alguns afluentes do rio Ienissei na Sibéria também têm sua origem nas montanhas do noroeste da Mongólia. Os rios do norte da Mongólia fluem para o Pacífico através dos rios Argon e Amur, enquanto outros cursos d'água do sul e sudoeste da Mongólia não atingem o mar, mas se drenam para lagos salgados ou se perdem no deserto.

O nome «Gobi» é um termo mongol para caracterizar a estepe desértica, que geralmente se refere a uma zona árida com vegetação insuficiente para alimentar marmotas, mas com grama suficiente para camelos. Os mongóis distinguem o Gobi do deserto propriamente dito, embora a distinção nem sempre seja óbvia para estrangeiros pouco familiarizados com as paisagens mongóis. O ecossistema do Gobi é frágil e é facilmente destruído pelo sobrepastoreio, o que resulta em um aumento do deserto verdadeiro, um deserto rochoso onde os camelos de Bactria nem mesmo conseguem sobreviver. O Gobi se estende por mais de 1.600 km de sudoeste a nordeste e por 800 km de norte a sul, compartilhado entre a Mongólia e a Rússia. Ele ocupa um arco de terras de 1.300.000 km² de superfície, o que o torna um dos maiores desertos do mundo.

Contrariamente às imagens frequentemente associadas ao deserto, grande parte do Gobi não é composta de areia, mas coberta de rochas.