Für Mac: Ist schon von Haus aus dabei (ab OSX 10.6 glaub ich). Einfach Quicktime starten und dann Ablage > Neue Bildschirmaufnahme wählen.
Für Windows: camstudio.org/

Kommt drauf an, was genau du damit machen willst.

Für Spiele und dergleichen mit Direct3D oder OpenGL Anwendungen eignet sich am ehesten kostenpflichtige Programme wie Fraps oder DxTory. Die 30-40€ sind da bestens angelegt.

Camstudio dürfte kostenlos das am ehesten geeignete sein, auch wenn kostenlos in dem Bereich nicht gerade zu empfehlen ist. Aber für Bildschirmaufnahmen, wenn du zB. ein Tutorial machen willst, reicht es aus und ist auf jedenfall sinnvoller als ein 300€ teures Camtasia Studio, was ja leider sehr populär ist. Heutzutage gibt es einfach alles gecract und fast jeder nutzt das aus.

Hmm mal überlegen.
Ich glaube Hypercam gibt es noch kostenlos. Die Qualität ist zwar nicht so toll wie bei Fraps oder sonstigem aber dennoch toll.
Hier hab sogar den Link gefunden chip.de/downloads/HyperCam_12994368.html

Für Linux gibt es recordmydesktop bzw. gtk-recordmydesktop (wahrscheinlich schon in den Paketquellen verzeichnet).