Kopieren von Dateien mit schnellem Multithreading parsyncfp

Einführung

In der heutigen Welt der Informatik ist Multitasking zu einer wesentlichen Anforderung geworden. Um die verfügbaren Ressourcen effizient zu nutzen und die Leistung unserer Anwendungen zu verbessern, greifen wir häufig auf Multithreading zurück. In dieser Schritt-für-Schritt-Anleitung werden wir Sie durch den Prozess des schnellen Multithreading mit der parsyncfp-Bibliothek führen.

Was ist Multithreading?

In der Programmierung ermöglicht Multithreading die gleichzeitige Ausführung mehrerer Aufgaben. Auf diese Weise können Sie Ihre Anwendungen schneller und reaktionsschneller machen.

Lassen Sie uns Multithreading definieren und wie es funktioniert.

Multithreading bedeutet, dass mehrere Threads gleichzeitig in einem Programm ausgeführt werden. Die Threads laufen unabhängig voneinander und haben ihren eigenen Ausführungskontext. Multitasking verbessert die Leistung und Reaktionsfähigkeit Ihrer Anwendungen, indem zahlreiche Aufgaben parallel ausgeführt werden.

Was ist parsyncfp?

Parsyncfp sammelt Dateien anhand ihrer Größe oder Anzahl in Chunkdateien, die chunkweise an rsync übergeben werden können.

Parsyncfp fügt parsync einige zusätzliche Funktionen hinzu, z. B. die Möglichkeit, Dateien auf der Grundlage ihrer Größe oder Anzahl zu überspringen, sowie die Möglichkeit, die Übertragung anzuhalten und fortzusetzen. Außerdem unterstützt es erweiterte Optionen wie das Spiegeln eines Verzeichnisbaums oder das Sichern auf einer lokalen Festplatte. Auf diese Weise kann pfp Dateien übertragen, bevor der komplette rekursive Abstieg des Quellverzeichnisses abgeschlossen ist. Beim Umgang mit sehr großen Verzeichnisbäumen kann diese Funktion sehr nützlich sein.

Zusätzlich bietet pfp die Möglichkeit, Übertragungen an der Stelle fortzusetzen, an der sie unterbrochen wurden, was besonders im Falle eines Systemabsturzes nützlich ist. pfp bietet auch die Möglichkeit, den Übertragungsprozess anzuhalten und fortzusetzen, was es dem Benutzer ermöglicht, den Übertragungsprozess an seine Vorlieben anzupassen.

Die ~/.parsyncfp-Dateien

Standardmäßig enthält das Cache-Verzeichnis das Verzeichnis fpcache, das das fpart-Protokoll, alle PID-Dateien und die Chunk-Dateien enthält. Da fpart chunking so schnell ist, bietet parsyncfp keine Cache-Wiederverwendung mehr. Die Protokolldateien sind mit einem Datumsstempel versehen und werden nicht überschrieben. Sie können nicht nur alternative Speicherorte für den Cache angeben, sondern auch Speicherorte für mehrere Instanzen, so dass mehrere parsyncfp gleichzeitig laufen können. Sie werden jedoch beim Starten feststellen, dass die fparts der anderen Instanzen laufen und diese Situation in Frage stellen. In der Multi-Host-Version werden Sie auf rsyncs aufmerksam gemacht, die auf den SEND-Hosts laufen.

Kopieren von Dateien mit schnellem Multithreading Parsyncfp & Schritt-für-Schritt-Anleitung

Schritt 1: Speichern auf der Dateiquelle - pfp muss nur auf der SOURCE installiert werden

Schritt 2: Kopieren Sie den Schlüssel auf den entfernten Rechner (es kann notwendig sein, zuerst einen ssh-keygen zu erstellen)

ssh-keygen
ssh-copy-id 1.1.1.1

Schritt 3. Dann müssen Sie installieren

apt-get install fpart

Schritt 4: Wenn es nicht in den Paketen enthalten ist, können Sie es unter https://github.com/martymac/fp...running finden.

./parsyncfp --NP=10 --altcache=/dir/local/tmp --startdir='/dir/local/' www 192.168.67.1:/var/dir/

Einige Schlüsselbegriffe

  • altcache - wo die Zwischendateien gespeichert werden. Diese Option ist nicht erforderlich.
  • NP - gibt die Anzahl der Threads an.
  • www - dies ist der Ordner, der von /dir/local/ nach /var/dir/ kopiert wird - Sie können mehrere Ordner durch ein Leerzeichen getrennt angeben.

Quelle: https://github.com/hjmangalam/parsyncfp