Die Zwergmaus bevorzugt feuchte Gebiete mit hohen Gras- oder Schilfbeständen von über 50 cm Höhe. Eher selten findet man das kleinste einheimische Nagetier auch in Waldlichtungen, an Waldrändern oder in Getreidefeldern. Das Verbreitungsgebiet ist trotzdem weitläufig: Zwergmäuse finden sich in ganz Eurasien bis hin nach Japan.

In der Schweiz findet sich die Zwergmaus rund um den Neuenburger See sowie am Genfer See.