Вы видимо как-то неправильно искали,
тут статья трехлетней давности, открывшаяся по второй ссылке из "гугла" по запросу "запись видео с экрана"
AutoIT довольно обширный язык программирования, такой проект мне кажется возможен, но это не продуктивно, так как очень сложен в исполнении.
хватать видео и звук, при этом не сильно нагружать систему, затем надо еще найти формат в котором всю захваченную инфу сохранять, для последующего сжатия или сжимать на лету.
помимо всего работа над таким проектом займет очень приличное время, что опять возникает вопрос о целесообразности.
как проект саморазвития да, время не в пустую, а как замена бесплатному инструменту, сомнительно...