W dzisiejszym szybkim świecie sztuczna inteligencja napędza innowacje w różnych branżach, a sukces projektów AI zależy od solidnej i wydajnej infrastruktury. Zespół deweloperów z Danii potrzebował platformy sprzętowej zdolnej wspierać aplikacje analityki AI oparte na sieci neuronowej YOLO.
Doceniając duży potencjał biznesowy projektu, zespół INTROSERV szybko przystąpił do projektowania, konfiguracji i optymalizacji platformy zgodnie z wymaganiami technicznymi klienta. Rezultatem było w pełni kontrolowane, bezpieczne i wydajne środowisko, które pozwala zespołowi skoncentrować się na efektywnym tworzeniu nowoczesnych rozwiązań AI.
Cele:
Przygotowanie platformy serwerowej do tworzenia oprogramowania opartego na YOLO
- Wybór odpowiedniej platformy: Dobór konfiguracji serwera z GPU w akceptowalnym budżecie, umożliwiającej pracę z siecią neuronową YOLO.
- Platforma wirtualizacyjna: Tworzenie oprogramowania wymagało wykorzystania wielu maszyn wirtualnych dla różnych działów zespołu.
- Bezpieczne połączenie między centrum danych a biurem deweloperskim: Aby chronić informacje poufne, konieczne było w pełni zaszyfrowane połączenie danych.
- Redundancja podsystemu dyskowego: Chociaż projekt nie wymagał rozpoznawania obiektów w czasie rzeczywistym, długotrwałe przestoje spowodowane reinstalacją lub rekonfiguracją hosta były niepożądane.
- Kopie zapasowe i szybkie przywracanie po awarii: Projekt obejmował wiele konfiguracji maszyn wirtualnych, dlatego niezawodne źródło odzyskiwania było niezbędne do szybkiego przywrócenia platformy.
- Stabilne połączenie sieciowe:
- Źródłem danych do tworzenia aplikacji były wideo i duże ilości zdjęć. Kluczowe było wsparcie wielu równoległych strumieni wideo przy zachowaniu odpowiedniego pasma dla płynnej pracy zdalnej.
Rezultaty:
Wdrożenie serwera GPU z Proxmox VE i bezpiecznego środowiska deweloperskiego
- Wybór platformy: Zainstalowano dedykowany serwer z dwoma GPU NVIDIA RTX 2080Ti, zapewniający wystarczającą wydajność do przetwarzania wideo i obrazów przy użyciu sieci YOLO.
- Wirtualizacja z Proxmox VE: Wdrożono otwartoźródłowy hypervisor do zarządzania maszynami wirtualnymi, umożliwiający passthrough GPU.
- Konfiguracja serwera VPN i tunelu: Cały ruch między serwerem a biurem deweloperskim przebiega wyłącznie przez tunel VPN WireGuard.
- Konfiguracja RAID1 dla wszystkich grup dyskowych: Zminimalizowano punkty pojedynczej awarii w przypadku uszkodzenia dysku. Włączono proaktywne monitorowanie z alertami o anomaliach.
- Usługa kopii zapasowych dla szybkiego przywracania: Skonfigurowano regularne kopie zapasowe wszystkich maszyn wirtualnych za pomocą Proxmox Backup Server.
- Stabilne połączenie sieciowe:
- Wybrano plan z rozszerzoną przepustowością, aby zapewnić płynny transfer danych i nieprzerwaną pracę zdalną.
Kontekst:
Jak Computer Vision i sieć neuronowa YOLO wspierają rozwój nowych aplikacji
Zespół deweloperów specjalizujących się w rozwiązaniach AI dla biznesu zwrócił się do INTROSERV z prośbą o infrastrukturę zdolną do wykonywania inferencji sieci neuronowych, w tym modeli Ultralytics YOLO.
Celem było wykorzystanie sieci neuronowych w zadaniach komputerowego rozpoznawania obrazu do tworzenia aplikacji analitycznych dla biznesu. Wśród obecnych projektów klienta kilka wyróżnia się praktyczną użytecznością:
- Kompaktowy system monitoringu bezpieczeństwa
- System śledzenia sprzętu na placu budowy
- Zautomatyzowany moduł inwentaryzacji magazynu
Klient planował stworzyć elastyczną i wygodną platformę deweloperską, którą można było dostosowywać do wymagań każdego nowego projektu, przy oczekiwaniu wsparcia ekspertów w zakresie administracji serwerem w razie problemów z instalacją komponentów oprogramowania. Prywatność i ochrona danych były kluczowe, dlatego wybrano hosting dedykowany zamiast współdzielonego lub w chmurze.
Wyzwanie:
Integracja sieci neuronowych z oprogramowaniem automatyzującym procesy biznesowe
Głównym wyzwaniem było opracowanie oprogramowania analitycznego i płynna integracja z sieciami neuronowymi. Dodatkową trudność stanowiło trenowanie modeli YOLO na konkretnych zbiorach danych w celu zwiększenia dokładności w zadaniach liczenia i rozpoznawania. Za ten aspekt odpowiadał zespół deweloperski klienta.
Przygotowanie infrastruktury zostało natomiast powierzone nam. Projekt od samego początku wzbudził zainteresowanie specjalistów technicznych INTROSERV. Dzięki jasno określonym celom, precyzyjnej specyfikacji technicznej i dostępności odpowiedniej konfiguracji sprzętowej szybko znaleźliśmy optymalne rozwiązanie. Wiedzieliśmy dokładnie, jak bezpiecznie przesyłać duże strumienie wideo w wysokiej rozdzielczości do centrum danych.
Rozwiązanie:
Dedykowane serwery GPU z Proxmox dla analityki opartej na YOLO
Zespół INTROSERV zaprojektował i wdrożył rozwiązanie wieloskładnikowe wykorzystujące dwa serwery dedykowane, korzystając z platformy wirtualizacji Proxmox VE oraz Proxmox Backup Server. To umożliwiło efektywne przydzielanie zasobów, izolację zadań oraz bezpieczną ochronę danych dzięki pełnym kopiom zapasowym maszyn wirtualnych.
Cała infrastruktura została zbudowana na wielu maszynach wirtualnych:
Maszyna wirtualna #1: Brama sieciowa oparta na pFSense
- Cel: Ustanowienie bezpiecznego kanału komunikacyjnego oraz kontrola dostępu do infrastruktury serwerowej.
- Implementacja: Administratorzy systemów INTROSERV wdrożyli na tej maszynie wirtualnej router programowy pFSense i skonfigurowali serwer VPN WireGuard. Serwer VPN połączył wewnętrzną sieć biura z serwerem w centrum danych przez bezpieczny tunel. Cały ruch w tunelu VPN jest szyfrowany, co zapewnia poufność i ochronę danych podczas transmisji.
Maszyna wirtualna #2: „AI Hub” systemu (Sieć neuronowa YOLO + GPU)
- Cel: Dostosowanie modelu za pomocą klatek referencyjnych z systemu monitoringu wideo dla każdej lokalizacji oraz wykonywanie rozpoznawania obiektów w przesyłanych strumieniach wideo i obrazach.
- Implementacja: Jest to kluczowa maszyna wirtualna. Dzięki technologii PCI Passthrough w Proxmox VE, karta graficzna NVIDIA GeForce RTX 2080 Ti została przypisana bezpośrednio do tej VM. Zapewniło to niemal natywną wydajność potrzebną do dwóch głównych zadań:
1. Trenowanie modelu: Dostosowywanie modelu YOLO na podstawie klatek z kamer monitoringu i archiwów zdjęć w celu poprawy dokładności
2. Rozpoznawanie: Ciągłe przetwarzanie strumieni wideo, wykrywanie obiektów, liczenie i grupowanie zgodnie z wymaganiami aplikacji.
Dwie takie maszyny wirtualne zostały skonfigurowane w celu ułatwienia równoległego rozwoju i zwiększenia wydajności pracy zespołu deweloperskiego.
Maszyna wirtualna #3: Analityka i interfejs użytkownika (UI)
- Zadania: Środowisko testowe do uruchamiania aplikacji na różnych etapach ich rozwoju.
- Implementacja: Na tej VM zainstalowano system Linux i podstawowe zależności określone w specyfikacji technicznej, a także skonfigurowano izolowane połączenie sieciowe z innymi maszynami wirtualnymi.
Proxmox Backup Server (PBS):
- Zadania: Przechowywanie kopii zapasowych maszyn wirtualnych.
- Implementacja: Aby zrealizować to zadanie, specjaliści techniczni INTROSERV wybrali rozwiązanie oparte na Proxmox Backup Server – specjalistyczne narzędzie od twórców Proxmox VE, logicznie uzupełniające ekosystem popularnego rozwiązania wirtualizacyjnego. PBS został zainstalowany na osobnym serwerze połączonym z serwerem głównym przez oddzielny interfejs sieciowy.
Konfiguracje użyte w serwerach dedykowanych
Serwer YOLO
- Platforma: Asus ESC4000 G4
- Lokalizacja: Holandia
- CPU: 2x Intel Xeon Silver 4208, 16 rdzeni, 32 wątki, 2.1/3.0GHz
- Pamięć: 64GB REG ECC DDR4
- Dyski: 2x 500GB SSD RAID 1 sprzętowy, 2x 3.84TB NVMe RAID 1 programowy
- GPU: 2x Gigabyte GeForce RTX 2080 Ti 11GB
- Port/Ruch: 2 Gbit/s – nielimitowany
- VLAN: 10 Gbps
- AntiDDoS: Ochrona DDOS 20 Gbit/s
- System operacyjny: Proxmox VE 8
PBS
- Platforma: Dell PowerEdge R240
- Lokalizacja: Holandia
- CPU: Intel Xeon E-2236, 6 rdzeni, 12 wątków, 3.4/4.8GHz
- Pamięć: 16GB ECC DDR4
- Dyski: 2x 250GB SSD RAID 1 sprzętowy, 4x 16TB SATA RAID 10 sprzętowy
- Port/Ruch: 1 Gbps – 50TB transferu
- VLAN: 10 Gbps
- IP-KVM: iDRAC
- AntiDDoS: Ochrona DDOS 20 Gbit/s
- System operacyjny: Proxmox Backup Server
Partnerstwo z INTROSERV przyspieszające innowacje
Powierzając wszystkie zadania infrastrukturalne INTROSERV, zespół deweloperski mógł w pełni skupić się na tym, co najważniejsze – ulepszaniu modelu AI i pracy z danymi.
Zamiast tracić czas na wybór sprzętu, konfigurację zabezpieczeń i zapewnienie odporności na awarie, klient otrzymał gotowe środowisko sprzętowe, które można stosować przy każdym nowym projekcie. INTROSERV zajęło się całym aspektem technicznym, zapewniając nie tylko sprzęt, ale i solidną podstawę do efektywnej pracy.
W momencie publikacji klient rozpoczął już etap treningu sieci neuronowej i w pierwszych dniach zgłaszał doskonałą wydajność zaproponowanego rozwiązania. Pokazuje to, że INTROSERV to nie tylko dostawca usług, lecz prawdziwy partner technologiczny, zdolny zapewnić sukces w skomplikowanych projektach IT.
W celu uzyskania pomocy w doborze optymalnej infrastruktury dla Twojego projektu, prosimy o kontakt z działem sprzedaży INTROSERV.
