Per fraps devi giocare sugli fps, cambia il valore finché non ti registrerà in modo fluido. In alternativa c'è CamStudio