Неуверен что это возможно реализовать на AutoIt (он для автоматизации, а не для таких вещей). Нужна шустрая работа кода и поддержка многопоточности, а так же, вложенные списки структур, иначе реализация будет оставлять лучшего.
Но попробуйте. Вот спецификация
торрент-протокола на русском. Там же нейдете исходники торрент-клиента (не AutoIt). Можете пообщаться с его автором. Возможно что-то посоветует вам.