Sandgråmose vokser på næringsfattig sandholdig mark, eller på steinflater i lyse grønne til gulgrønne matter. Bladene er karakteristisk kort og bredt avsmalnende til en forholdsvis lang fargeløs hårspiss.
