Копіювання файлів - швидке багатопотокове parsyncfp

Що таке багатопоточність? 

У програмуванні багатопоточність дає змогу виконувати кілька завдань одночасно. Таким чином, можна підвищити швидкість роботи і швидкість відгуку додатків. Давайте визначимо, що таке багатопоточність і як вона працює. Багатопоточність - це одночасна робота кількох потоків в одній програмі. Потоки працюють незалежно один від одного і мають свій контекст виконання. Багатозадачність підвищує продуктивність і швидкість відгуку додатків завдяки паралельному виконанню безлічі завдань.

Що таке parsyncfp?

Parsyncfp - збирає файли за розміром або кількістю в чанкфайли, які можуть бути передані в rsync за принципом фрагмент за фрагментом.

Parsyncfp додає кілька додаткових можливостей до parsync, як-от можливість пропускати файли за їхнім розміром або кількістю, а також можливість призупиняти та відновлювати передачу.

Також додано підтримку складніших опцій, таких як віддзеркалення дерева каталогів або резервне копіювання на локальний жорсткий диск. Таким чином, pfp може передавати файли до завершення повного рекурсивного спуску по вихідному каталогу. Під час роботи з дуже великими деревами каталогів ця функція може виявитися дуже корисною.

Крім того, pfp дає змогу відновити передачу з того місця, де її було закінчено, що особливо корисно в разі збою системи. pfp також пропонує можливість призупиняти і відновлювати процес передачі, що дозволяє користувачеві налаштувати процес передачі відповідно до своїх уподобань.

Покрокове керівництво для швидкої багатопоточності parsyncfp

1. Зберігаємо в джерелі файлів - pfp потрібно встановлювати тільки на ДЖЕРЕЛО

wget https://raw.githubusercontent....
chmod +x parsyncfp

2. Копіюємо ключ на віддалену машину (можливо спершу треба буде зробити ssh-keygen)

ssh-keygen
ssh-copy-id 1.1.1.1

3. далi потрiбно встановити

apt-get install fpart

4. якщо немає в пакетах, то можна знайти тут https://github.com/martymac/fp...

i запуск

./parsyncfp --NP=10 --altcache=/dir/local/tmp --startdir='/dir/local/' www 192.168.67.1:/var/dir/

Деякі ключові терміни

altcache - мicце, де будуть зберігатися проміжні файли. Цей параметр не є обов'язковим.

NP - вказує кількість потоків.

www - папка, яку буде скопійовано з /dir/local/ до /var/dir/ - можна вказати декілька папок через пробіл.

Джерело Інформації

https://github.com/hjmangalam/parsyncfp