Хендл, который возвращает функция OpenProcess() или GetCurrentProcess() для текущего процесса. А что не устраеват в ProcessExists()?
ProcessExists() делает снимок посредством CreateToolhelp32Snapshot() и ищет указанный процесс с помощью функций Process32First() и Process32Next(). Если процесс найден, то возвращает PID из структуры PROCESSENTRY32, в противном случае 0. Если задан PID, то возвращает его же.