Ich habe ein formicarium 60x30 cm ,und ich wollte fragen ob ich auch ein quadratisches glas 30x30 als Nest benutzen kann ich fülle es mit eienr sand lehm mischung und wie dünn sollte die erdschicht der arena sein

Klar kannst du auch ein Erdnest mit quadratischer Grundfläche nehmen. Die Ameisen werden dann allerdings nur mit geringer Wahrscheinlichkeit an der Scheibe bauen - warum sollten sie - und du hast keinerlei Nesteinblick. Wenn dich das nicht stört, ist das kein Problem.

aber was wenn ich das nest abdunkle so das die ameisenm auch an der scheibe nisten können

Die Frage ist, wenn sie 30cm Platz haben, warum sollten sie sich ausgerechnet an die Scheibe quetschen?
Selbst wenn du abdunkelst, in der Mitte des Kastens ist es durch den ganzen Sand drum herum durch die natürlichen Gegebenheiten dunkel, da kommt kein Licht hin.
Wenn du die Wand 100% dunkel kriegst ist die Wand nicht mehr oder weniger attraktiv als die Mitte des Backens, wenn du es nicht schaffst das Licht komplett abzuschirmen ist die Mitte sogar noch etwas attraktiver als die Wand.

Selbst bei Farmen mit vielleicht 2cm Platz kann es (je nach Art und deren Größe) vorkommen, dass sie kaum an der Scheibe bauen und man gerade so Tunnelansätze sieht, weil se genau zwischen den 2cm sitzen (also 1cm nach links und 1cm nach rechts Platz haben).
Der Grundgedanke eine Farm ist ein Kompromiss, man macht den Platz so groß, dass die Ameisen sich noch gut bewegen können (variiert nach Artgröße) aber so klein, dass sie kaum eine andere Möglichkeit haben als an einer der Wände zu sitzen. Und selbst das führt eben zu Einschränkungen in der Einsicht, nur kleiner kann man schlecht werden, weil die Ameisen sich dann nicht mehr vernünftig bewegen können.