Hi
Siddl. Deine Frage ist relativ einfach zu beantworten: du kannst Infrarot-kameras benutzen. Die sind mittlerweile auch privat erschwinglich. Manche Kameras haben auch schon eine Nachtsichtoption im Menue! Es empfiehlt sich das Handbuch zu oeffnen.
Zu Ameisen: du koenntest sie auch im Rotlichtbereich filmen, weil sie dieses nicht wahrnehmen. (Es gibt zwar manchmal gegenlaeufige Ansichten, aber das kann auch CO2-austoß, Erschuetterung, oder ein Luftzug gewesen sein, der in diesem Moment gestoert hat.) Ich kann dir leider nicht den genauen Schwellenwert der Rotlichtgrenze sagen.
Wir selbst koennen wiederum kein UV-licht mehr sehen, die Insekten hingegen schon. Hier flix ein Spektrum zur Veranschaulichung angehangen

Merke: Das Wort "Licht" kennzeichnet also nur den fuer Menschen sichtbaren Wellenbereich.
Eine weitere Methode koennten fuer dich Waermebildgeraete sein, die allerdings erheblich teurer sind. (1000-6000 Euro)
Zudem vermute ich, daß der Waerme-Kontrast von Nest zu Ameise nicht allzu hoch sein wird.
Edit: viele Kameras haben auch einen Rotlichtausgleich das hilft auch schon in den meisten Faellen.