Das Tier ist sehr sozial und bildet hierarchisch strukturierte Clans, die aus 2 bis 50 Individuen bestehen. Diese Clans setzen sich aus 2 bis 3 Familiengruppen zusammen. Eine Familie besteht aus einem fortpflanzungsfähigen Paar und deren Nachkommen. Innerhalb eines Clans haben Männchen und Weibchen jeweils ihre eigene Hierarchie mit einem dominanten Männchen und Weibchen. In der Regel bildet es ein Paar, das das exklusive Fortpflanzungsrecht besitzt. Ihr Platz in der Hierarchie wird durch ihr Alter bestimmt, wobei die Ältesten in der Hierarchie höher stehen. In anderen Fällen kann ein Weibchen einen hohen Rang erwerben, indem es den sozialen Platz seiner Mutter übernimmt, siegreich aus heftigen Konkurrenzkämpfen hervorgeht oder sich einer Gruppe von Männchen anschließt, die ihre Geburtsgruppe verlassen haben.
Da sie in trockenen Lebensräumen leben, graben Erdmännchen unterirdische Tunnel mit mehreren Gängen und Kammern. Es kommt vor, dass von anderen Arten verlassene Baue übernommen werden, aber auch dass Tiere aus ihren Bauen vertrieben werden, um diesen zu übernehmen. So können sie sich, wenn es zu heiß oder zu kalt ist, in diesen Bau zurückziehen, in dem die Temperatur konstant und angenehm bleibt.
Das von den Erdmännchen angelegte Tunnelsystem besteht aus mehreren Ebenen von Gängen, die die verschiedenen Kammern miteinander verbinden. Letztere können 30 cm hoch und 15 bis 45 cm lang sein.
Sie graben bis zu 5 Baue in ihrem Revier, die jeweils 50 bis 100 m voneinander entfernt sind. Das bietet mehr Möglichkeiten, sich im Falle einer Gefahr in Sicherheit zu bringen.
Ihren Spitznamen „Wächter“ verdanken sie ihrer Haltung, die es ihnen ermöglicht, ihre Fressfeinde zu entdecken. Tatsächlich stellen sich abwechselnd die Mitglieder einer Gruppe aufrecht auf die Hinterbeine, um die Umgebung zu überwachen. Sobald der „Wächter“ einen Feind entdeckt, gibt er einen Laut von sich, der sich unterscheidet, je nachdem ob der Feind aus der Luft oder vom Boden kommt und je nachdem, ob er sich nahe oder entfernt von der Gruppe befindet. Da das Erdmännchen hauptsächlich gräbt, ist es oft mit der Schnauze zum Boden gerichtet und dadurch verwundbar.
Zum Ausruhen nimmt das Erdmännchen verschiedene Haltungen ein. Eine davon besteht darin, sich hinzusetzen, den Rücken zu wölben und den Kopf zwischen die Beine zu legen, um möglichst viel Körperwärme zu speichern. Wenn es zu heiß ist, streckt es sich zum Abkühlen im Schatten auf den Bauch. Umgekehrt legt es sich zum Aufwärmen auf den Rücken oder auf die Seite in die Sonne.