Yapay Zeka Ajanı ve Uygulama Geliştirme Altyapısı: Proxmox VE ile Özel AI Sunucusu Kurulumu
Günümüzün hızlı tempolu dünyasında, yapay zeka sanayilerde inovasyonu yönlendiriyor ve AI projelerinin başarısı, sağlam ve yüksek performanslı altyapıya bağlıdır. Danimarkalı bir geliştirme ekibi, YOLO sinir ağı tarafından desteklenen AI analitiği uygulamalarını çalıştırabilecek bir donanım platformuna ihtiyaç duyuyordu.
Projenin güçlü iş potansiyelini fark eden INTROSERV ekibi, müşterinin teknik gereksinimlerine göre platformu tasarlamak, yapılandırmak ve optimize etmek için hızlıca devreye girdi. Sonuç olarak, ekiplerin yenilikçi AI çözümleri geliştirmeye odaklanabilmesini sağlayan tamamen kontrol edilen, güvenli ve yüksek performanslı bir ortam oluşturuldu.
Hedefler:
YOLO Tabanlı Yazılım Geliştirme için Sunucu Platformu Hazırlığı
- Uygun platform seçimi: YOLO sinir ağı ile etkileşimi destekleyecek, bütçe dahilinde GPU’lu sunucu yapılandırması seçildi.
- Sanallaştırma platformu: Yazılım geliştirme, farklı ekip bölümleri için birden fazla sanal makine gerektiriyordu.
- Veri merkezi ile ofis arasında güvenli bağlantı: Gizli bilgileri korumak için tamamen şifrelenmiş bir veri kanalı gerekiyordu.
- Disk alt sistemi yedekliliği: Proje gerçek zamanlı nesne tanıma gerektirmese de, ana bilgisayarın yeniden kurulumu veya yeniden yapılandırılması nedeniyle uzun süreli kesintiler kabul edilemezdi.
- Yedekleme ve hızlı kurtarma: Proje çok sayıda VM yapılandırması içeriyordu, bu nedenle hızlı platform kurtarma için güvenilir bir yedek kaynağı gerekliydi.
- Kararlı ağ bağlantısı: Uygulama geliştirme için veri kaynağı video ve büyük fotoğraf hacimlerinden oluşuyordu. Birden fazla paralel video akışını desteklemek ve kesintisiz uzaktan çalışma için yeterli bant genişliği sağlamak kritik öneme sahipti.
Sonuçlar:
GPU sunucu ve Proxmox VE ile güvenli geliştirme ortamı kurulumu
- Platform seçimi: İki NVIDIA RTX 2080Ti GPU’ya sahip özel bir sunucu kuruldu; YOLO sinir ağıyla video ve görüntü işleme için yeterli performans sağlandı.
- Proxmox VE ile sanallaştırma: Açık kaynaklı bir hipervizör kuruldu ve GPU passthrough ile sanal makineler yönetildi.
- VPN sunucusu ve tünel kurulumu: Sunucu ile geliştirme ofisi arasındaki tüm trafik yalnızca WireGuard VPN tüneli üzerinden yönlendirildi.
- Tüm depolama grupları için RAID1 yapılandırması: Disk arızalarından kaynaklanan tek hata noktaları azaltıldı. Anomali uyarılarıyla proaktif izleme uygulandı.
- Hızlı kurtarma için yedekleme servisi: Tüm sanal makinelerin düzenli yedekleri Proxmox Backup Server kullanılarak yapılandırıldı.
- Kararlı ağ bağlantısı: Kesintisiz veri aktarımı ve sorunsuz uzaktan çalışma için yükseltilmiş bant genişliği planı seçildi.
Bağlam
Bilgisayarlı Görü ve YOLO Sinir Ağı ile Yeni Yazılım Geliştirme Destekleniyor
Yapay zekâ destekli iş çözümleri geliştiren bir ekip, Ultralytics YOLO modelleri dahil olmak üzere bilgisayarlı görü görevleri için sinir ağı çıkarımı çalıştırabilecek bir altyapı talebiyle INTROSERV’e başvurdu.
Amaçları, bilgisayarlı görü sinir ağlarını kullanarak iş analitiği uygulamaları geliştirmekti. Mevcut geliştirmeleri arasında pratik değeri yüksek birkaç proje öne çıkıyordu:
- Kompakt bir güvenlik izleme sistemi
- İnşaat alanı ekipman takip sistemi
- Otomatik depo envanter modülü
Müşteri, her yeni projenin gereksinimlerine göre ayarlanabilecek esnek ve kullanışlı bir geliştirme platformu kurmayı planladı. Ayrıca yazılım bileşeni kurulumu sırasında sorun yaşanması durumunda sunucu yönetimi konusunda uzman desteği beklediler.
Gizlilik ve veri koruma öncelikliydi, bu nedenle paylaşılan veya bulut tabanlı alternatifler yerine özel barındırmayı tercih ettiler. Bu proje sadece “kiralık bir sunucu” değil, beklenen iş yüklerini yönetmek için tasarlanmış özel ve güvenli bir ortam gerektiriyordu.
Zorluk
Sinir Ağlarını İş Süreçleri Otomasyon Yazılımı ile Entegre Etmek
Ana zorluk, analitik yazılım geliştirmek ve bunu sinir ağlarıyla sorunsuz bir şekilde entegre etmekti.
Ek bir karmaşıklık, yazılımın sayma ve tanıma görevlerinde doğruluğunu artırmak için YOLO modellerinin özel veri setleri üzerinde eğitilmesinden kaynaklandı. Bu sorumluluk, müşterinin geliştirme ekibine aitti.
Altyapı hazırlığı ise bize devredildi. Proje başından itibaren INTROSERV’in teknik uzmanlarının ilgisini çekti. Net hedefler, iyi tanımlanmış teknik spesifikasyon ve doğru donanım yapılandırmasının bulunabilirliği sayesinde hızlıca optimal bir çözüm bulduk.
Büyük veri transferlerini, yüksek çözünürlüklü test video akışlarını %100 güvenlik ile veri merkezine nasıl aktaracağımızı tam olarak biliyorduk.
Çözüm
YOLO Tabanlı Analitik için Proxmox ile Özel GPU Sunucular
INTROSERV ekibi, Proxmox VE sanallaştırma platformu ve Proxmox Backup Server kullanarak iki özel sunucu ile çok bileşenli bir çözüm tasarladı ve uyguladı. Bu kurulum, kaynakların verimli tahsisini, görev izolasyonunu ve tam VM yedeklemeleri aracılığıyla güvenli veri korumasını mümkün kıldı.
Projeniz için en uygun altyapıyı seçmek için lütfen INTROSERV'in satış departmanı ile iletişime geçin.
Tüm altyapı birden fazla sanal makine üzerine inşa edildi:
Sanal Makine #1: pFSense Tabanlı Ağ Geçidi
- Amaç: Güvenli bir iletişim kanalı oluşturmak ve sunucu altyapısına erişimi kontrol etmek.
- Uygulama: INTROSERV sistem yöneticileri bu VM üzerine bir pFSense yazılım yönlendiricisi kurdu ve bir WireGuard VPN sunucusu yapılandırdı. VPN sunucusu, ofis iç ağını veri merkezi sunucusuna güvenli bir tünel üzerinden bağladı. VPN tüneli içindeki tüm trafik şifrelenmiş olup, iletim sırasında gizlilik ve veri koruması sağlanmaktadır.
Sanal Makine #2: Sistem “AI Hub” (YOLO Sinir Ağı + GPU)
- Amaç: Her bir sahaya ait video gözetim sistemi referans kareleri ile modeli ince ayar yapmak ve gelen video akışları ile görüntüler üzerinde nesne tanıma gerçekleştirmek.
- Uygulama: Bu sanal makine, anahtar görevleri yürütmektedir. Proxmox VE’de PCI Passthrough teknolojisi kullanılarak NVIDIA GeForce RTX 2080 Ti GPU doğrudan bu VM’e tahsis edildi. Bu, iki temel görev için neredeyse yerel performans sağladı:
1. Model Eğitimi: YOLO modelinin gözetim kameralarından ve fotoğraf arşivlerinden alınan referans karelerde ince ayar yapılması, doğruluğun artırılması.
2. Tanıma: Video akışlarının sürekli işlenmesi, nesne tespiti, sayma ve uygulama gereksinimlerine göre gruplayarak işleme.
Paralel geliştirmeyi kolaylaştırmak ve geliştirici ekibin iş akışını artırmak için iki adet bu tür VM kuruldu.
Sanal Makine #3: Analitik ve Kullanıcı Arayüzü (UI)
- Görevler: Uygulamaların geliştirme aşamalarında test ortamı sağlamak.
- Uygulama: Bu VM üzerine Linux işletim sistemi kuruldu ve teknik şartnamede belirtilen temel bağımlılıklar yüklendi; diğer VM’lerle izole bir ağ bağlantısı yapılandırıldı.
Proxmox Backup Server (PBS):
- Görevler: Sanal makine yedeklerinin depolanması.
- Uygulama: INTROSERV teknik uzmanları, bu görev için Proxmox Backup Server tabanlı bir çözüm seçti. Proxmox VE geliştiricileri tarafından sunulan ve popüler sanallaştırma ekosistemini mantıksal olarak tamamlayan özel bir çözüm. PBS, ana sunucuya ayrı bir ağ arayüzü üzerinden bağlı ayrı bir sunucuya kuruldu.
Özel Sunucular için Kullanılan Konfigürasyonlar
YOLO Sunucusu
- Platform: Asus ESC4000 G4
- Konum: Hollanda
- CPU: 2x Intel Xeon Silver 4208, 16 Çekirdek, 32 İş Parçacığı, 2.1/3.0GHz
- Bellek: 64GB REG ECC DDR4
- Disk: 2x 500GB SSD Donanım RAID 1
- Disk: 2x 3.84TB NVMe Yazılım RAID 1
- GPU: 2x Gigabyte GeForce RTX 2080 Ti 11GB
- Port/Trafik: 2 Gbit/s – Sınırsız
- VLAN: 10 Gbps VLAN
- AntiDDoS: DDOS 20Gbit/s koruma
- İşletim Sistemi: Proxmox VE 8
PBS Sunucusu
- Platform: Dell PowerEdge R240
- Konum: Hollanda
- CPU: Intel Xeon E-2236, 6 Çekirdek, 12 İş Parçacığı, 3.4/4.8GHz
- Bellek: 16GB ECC DDR4
- Disk: 2x 250GB SSD Donanım RAID 1
- Disk: 4x 16TB SATA Donanım RAID 10
- Port/Trafik: 1 Gbps – 50TB Trafik
- VLAN: 10 Gbps VLAN
- IP-KVM: iDRAC
- AntiDDoS: DDOS 20Gbit/s koruma
- İşletim Sistemi: Proxmox Backup Server
INTROSERV ile Ortaklık: Yeniliği Hızlandırmak
Tüm altyapı görevlerini INTROSERV’e devrederek, geliştirme ekibi en önemli konuya odaklanabildi – AI modellerini geliştirmek ve veri ile çalışmak.
Donanım seçmek, güvenliği yapılandırmak ve hata toleransını sağlamak yerine, müşteri her yeni projede tekrar kullanılabilecek hazır bir donanım ortamı aldı. INTROSERV, sadece ekipman değil, üretken çalışma için güvenilir bir temel sağladı. Yayın tarihinde, müşteri sinir ağı eğitim aşamasına başlamış ve önerilen çözümün ilk birkaç gün içinde mükemmel performans gösterdiğini bildirmişti.
Bu durum, INTROSERV’in sadece bir hizmet sağlayıcı değil, karmaşık BT projelerinde başarıyı garanti edebilen gerçek bir teknoloji ortağı olduğunu gösteriyor.
Projeniz için en uygun altyapıyı seçme konusunda yardım almak için lütfen INTROSERV satış departmanı ile iletişime geçin.
