Посоветуйте, пожалуйста, алгоритм поиска дублирования файлов.

Mercury
Идешь по списку файлов и сравниваешь каждый файл со всеми предыдущими. Сначала сравниваешь размер, потом хэш, потом содержимое.