Robotlar, ağıllı kameralar və sənaye görmə terminalları da daxil olmaqla bir çox daxili cihazlar artıq süni intellekt görmə alqoritmlərini işlətmək üçün NPU-lardan istifadə edir. NPU, süni intellekt nəticəsinə həsr olunmuş çip daxilindəki aparat vahididir.
Çip seçərkən bir çox komanda əvvəlcə onun NPU TOPS reytinqinə baxır və daha yüksək rəqəmin daha güclü çip olduğunu düşünür. Praktikada məhsul inkişafı iki tipik problemlə qarşılaşır:
Birincisi, hesablama qabiliyyətinin qeyri-kafi olmasıdır. Cihaz aşağı kadr tezliyində işləyir, videolar kəsilir, birdən çox kamera eyni vaxtda işlədikdə kadrlar sıradan çıxır və süni intellekt tanıma qabiliyyəti uğursuz ola bilər.
İkincisi, həddindən artıq tutumdur. Çip bahadır, daha çox enerji sərf edir və xeyli istilik yaradır. İstifadə olunmamış hesablama tutumu mənfəət marjasını azaldır.
Əsas mühəndislik mülahizələrindən biri odur ki, bir çox inteqrasiya olunmuş görmə layihələrində performans NPU hesablama gücü ilə deyil, görüntü ötürülməsi, yaddaş bant genişliyi və ya CPU əsaslı emal ilə məhdudlaşır.
Hesablama planlaşdırması uzun texniki terminlər siyahısı tələb etmir. İki əsas anlayışı ayırd etmək çip spesifikasiyalarının yanlış olmasının qarşısını almağa kömək edir.
Çip satıcıları tərəfindən reklam edilən TOPS rəqəmi nəzəri olaraq ən yüksək hesablama performansıdır: ideal laboratoriya şəraitində NPU-nun tam yükdə əldə edə biləcəyi maksimum emal qabiliyyəti. Məhsul dizaynlarında boşluq tələb olunur, buna görə də ən yüksək performans birbaşa ölçü üçün istifadə edilə bilməz.
Süni intellekt modelinin hesablama iş yükünü qiymətləndirmək üçün GMAC-dan istifadə edirik. MAC əsas vurma-yığım əməliyyatıdır və GMAC bir milyard belə əməliyyatı təmsil edir. Modeldəki hesablama miqdarını ölçür. Qeyd edək ki, GMAC iş yükünü ölçür, GMAC/s isə məhsuldarlığı ölçür. Daha böyük modellərin GMAC dəyərləri daha yüksəkdir.
NPU istifadəsi sabit bir sabit deyil. Bu, effektiv hesablama üçün istifadə olunan NPU tutumunun nisbətini təmsil edir. VIO ön ucları və ya yüngül aşkarlama modelləri kimi sadə konvolyusiya şəbəkələri üçün sadə operatorlar və hərtərəfli çip optimallaşdırması 60%–80% istifadəyə səbəb ola bilər. Mürəkkəb transformasiyalar və ya Transformator blokları olan modellər təkrarlanan kafelləmə icrasını tələb edə bilər ki, bu da istifadəni 20%-ə və ya daha da azaldır.
40% sabit istifadə nisbətinin tətbiqi qeyri-dəqiq qiymətləndirmələrin əsas səbəbidir. Çözünürlük həmçinin iş yükünə birbaşa təsir göstərir: giriş təsvirinin həm eninin, həm də hündürlüyünün ikiqat artırılması onun sahəsini dörd dəfə, eyni model üçün isə hesablamanı isə təxminən dörd dəfə artırır.
TOPS yalnız aparat tavanıdır. Modelin GMAC iş yükü ilə qiymətləndirmələri hesablamağa başlayın və onları inkişaf lövhəsindəki ölçmələrə uyğun olaraq kalibrləyin. Çipi yalnız nəzəri pik performansına görə seçməyin.
Hesablama tələblərini qiymətləndirməzdən əvvəl, məhsulun iş yükünü xəritələşdirin. Əsas fərq, birdən çox kameranın paralel nəticə çıxarmasından, yoxsa zamanla paylaşılan, dairəvi nəticə çıxarmasından istifadə etməsidir, çünki bu, onların hesablama tələblərinin necə birləşdirildiyini müəyyən edir.
Paralel rejim: Bütün kameralar eyni anda süni intellekt çıxarışını işə salır, buna görə də onların hesablama tələbləri birbaşa əlavə olunur. Məsələn, hər kanalda saniyədə 30 kadr sürətlə real vaxt obyekt aşkarlamasını həyata keçirən dörd kameralı təhlükəsizlik cihazı bütün dörd kanalın yükünü birləşdirir.
Vaxt paylaşımı rejimi: NPU, kamera görüntülərini ardıcıl olaraq emal edən, kanallar növbə ilə növbələşdikcə bir kanalı idarə edən ortaq bir aparat resursudur. Rockchip RK platformalarındakı bir çox çoxkameralı görmə tətbiqləri bu yanaşmadan istifadə edir.
İş yükünü təyin edərkən aşağıdakı məlumatları toplayın:
Hər kamera üçün qətnamə və kadr tezliyi.
Süni intellekt modellərinin siyahısı: hansı modellər NPU-da, hansıları isə prosessorda işləyir.
Kvantlama dəqiqliyi: INT8, daha yüksək nəticə çıxarma səmərəliliyinə görə inteqrasiya olunmuş cihazlar üçün əsas seçimdir.
Tetikləmə metodu: hər kadrda davamlı süni intellekt emalı və ya mürəkkəb alqoritmlərin yalnız tetikləmə şərti yerinə yetirildikdə başladığı hadisə ilə tetiklenen əməliyyat.
Vacibdir: Təcrübədən qiymətləndirmək əvəzinə, RKNN və ya ONNX Runtime kimi alətlərdən istifadə edərək GMAC modelini ixrac edin. Yüngül VIO şəbəkəsini ölçmək üçün böyük YOLO modelinin iş yükündən istifadə etmək hesablama tələblərini həddindən artıq qiymətləndirə bilər.
Bizim MV11, yüksək performanslı Rockchip RK3576 prosessoruna əsaslanan dörd kameralı aparatla sinxronlaşdırılmış görmə və ətalət-naviqasiya birləşmə hesablama platformasıdır. O, 6 TOPS NPU və 4 GB LPDDR4 yaddaşını ehtiva edir və dörd kamera arasında mikrosaniyə səviyyəli sinxronizasiyanı dəstəkləyir. Uyğun tətbiqlərə robot tanıma və aşkarlama, VIO, SLAM və çoxkameralı EGO məlumat toplama daxildir. Yuxarıda təsvir edilən lövhə səviyyəli hesablama, bant genişliyi və çoxkanallı planlaşdırma testləri üçün aparat platforması kimi xidmət edə bilər. Nümunələr erkən layihə qiymətləndirməsi üçün mövcuddur və tam görmə həlləri yerləşdirməni dəstəkləmək üçün fərdiləşdirilə bilər. Bizimlə [email protected] ünvanı vasitəsilə əlaqə saxlayın.
Bir çox layihə seçim zamanı yalnız NPU TOPS-larına diqqət yetirir, sonra isə idarəetmə zamanı NPU tutumunun yarıdan çoxu mövcud olsa da, sistemin buna davam gətirə bilmədiyini aşkar edir. Aşağıdakı məhdudiyyətlər inteqrasiya olunmuş görmə qabiliyyətindəki ümumi maneələrdir.
Süni intellekt çıxarışı zamanı NPU yaddaşdan şəkilləri və model çəkilərini davamlı olaraq oxuyur və aralıq xüsusiyyət xəritələrini yaddaşa geri yazır. DDR bant genişliyi bu ötürmələrin sürətini müəyyən edir. Bant genişliyi qeyri-kafi olduqda, hətta geniş hesablama tutumuna malik NPU belə məlumatları gözləməli olur ki, bu da kadr sürətinin yaxşılaşmasının qarşısını alır. RK platformalarındakı əksər çoxkameralı layihələrdə bant genişliyi doyur, NPU tutumunun yalnız kiçik bir hissəsi istifadə olunur.
Təsvir buferləri, süni intellekt model çəkiləri və aralıq xüsusiyyət xəritələri hamısı yaddaşı istehlak edir. Birdən çox kanal eyni anda işlədikdə yaddaş istifadəsi əhəmiyyətli dərəcədə artır. Yaddaşın kifayət qədər olmaması tətbiqi sıradan çıxara bilər. Daxili cihazlarda ümumiyyətlə virtual yaddaş olmur, buna görə də yaddaşın tükənməsi (OOM) vəziyyəti cihazın dayanmasına səbəb ola bilər.
Kameralar tərəfindən çəkilən xam şəkillər kəsmə, miqyaslama və rəng məkanının çevrilməsini tələb edir. Bəzi əvvəlcədən emal İSP avadanlığı tərəfindən həyata keçirilir, bəziləri isə CPU resurslarından istifadə edir. Çoxkameralı əldə etmə əvvəlcədən emal tələbini artırır və NPU boş olduqda belə boru kəməri boyunca gecikmə yarada bilər.
Çipin reklam edilən pik TOPS-u pik enerji istehlakına uyğundur. Daxili cihazların əksəriyyəti ventilyatorsuzdur və uzun müddət ərzində tam NPU yükünə tab gətirə bilmir. Nəzəri hesablama gücü yüksək olduqda belə, istilik şəraiti davamlı işləmə üçün mövcud olan gücü məhdudlaşdırır.
Əgər süni intellekt modelində NPU-nun sürətləndirə bilmədiyi xüsusi operatorlar varsa, onlar CPU-nun icrasına qayıdırlar. CPU-da süni intellekt emalı yavaşdır və NPU tutumu kifayət qədər olsa belə, boru kəmərini ciddi şəkildə dayandıra bilər. Platformanı seçməzdən əvvəl operatorun sürətləndirmə dəstəyini yoxlayın.
1. İş yükünün əsasını və iş rejimini müəyyənləşdirin. Süni intellekt kanalını təyin edin: qətnamə, kadr tezliyi, kanal sayı, tetikleme strategiyası (davamlı və ya hadisəyə əsaslanan), paralel və ya vaxt paylaşımı ilə icra, model siyahısı və yerləşdirmə dəqiqliyi. Birdən çox kanalın necə planlaşdırıldığına xüsusi diqqət yetirin.
2. Model iş yüklərini kəmiyyətləşdirin və GMAC/s ixrac edin. NPU ilə sürətləndirilmiş hesablamanı CPU-nun sonrakı emalından ayıraraq hər bir model üçün GMAC/s ixrac etmək üçün alətlərdən istifadə edin.
3. İcra səmərəliliyini müəyyən etmək üçün hədəf lövhəsində ölçün. Modelləri RK3576 və ya RK3588 kimi namizəd SoC-lərdə platforma formatına çevirin. Həmin NPU-da həmin modelin faktiki ötürmə qabiliyyətini müəyyən etmək üçün kadr başına çıxarma müddətini ölçün. Bu, kağız qiymətləndirmələrindəki uyğunsuzluqları aradan qaldırmaq üçün ən vacib addımdır: bütün qiymətləndirmələr ümumi düsturlar əvəzinə lövhə səviyyəli ölçmələrə əsasən kalibrlənməlidir.
4. Çoxkanallı iş yükünü birləşdirin və sistemdəki maneələri qiymətləndirin. Həm normal sabit vəziyyətdə işləməyi, həm də bütün kanallar eyni vaxtda işə düşdükdə ən pis pik həddini qiymətləndirin. DDR bant genişliyini və yaddaş istifadəsini eyni vaxtda yoxlayın. Bir çox RK çoxkameralı layihələr hesablama gücü mövcud qalarkən bant genişliyini tükəndirir.
5. Müvafiq ehtiyat yerini ayırın və limitlər təyin edin. Əsasən sabit alqoritmləri olan qısamüddətli məhsullar üçün 1,1–1,2, model yeniləmələrini alması gözlənilən məhsullar üçün isə 1,3–1,4 marjasından istifadə edin. Əsas yer özbaşına həddindən artıq təminat əvəzinə, modelin təkamülünü, pik ssenarilərini və əlavə xərclərin planlaşdırılmasını əhatə etməlidir. Eyni zamanda BOM dəyəri və güc limitlərini təyin edin.
6.1 Yalnız Çip TOPS-larından və Sabit İstifadə Dərəcəsindən İstifadə
Reklam edilən TOPS-lara sabit 40% istifadə nisbətinin tətbiqi hesablama tələblərini bir neçə dəfə şişirtməyə və real mühəndislik şərtlərindən əhəmiyyətli dərəcədə fərqlənməyə səbəb ola bilər. İstifadə modellər və NPU arxitekturaları arasında əhəmiyyətli dərəcədə dəyişir.
6.2 Kanal Sayına görə Vurma və Vaxt Paylaşımını İmtina Etmə
Vaxt paylaşımı əməliyyatında NPU kanalları növbə ilə emal edir və onun hesablama tutumu təkrar istifadə olunur. Kanal sayını tək kanallı hesablama tələbinə vurmaq tələbləri ciddi şəkildə şişirtməyə səbəb ola bilər və bu da həddindən artıq güclü və lazımsız dərəcədə baha başa gələn çipə səbəb ola bilər.
6.3 NPU Hesablamasının Qiymətləndirilməsi, lakin DDR Bant Genişliyinin Nəzərə Alınmaması
Çoxkameralı görüntü layihələrində bant genişliyi ilə bağlı problemlər hesablama ilə bağlı problemlərdən daha çox rast gəlinir. NPU-nun qalan tutumu xeyli ola bilər, lakin məlumat ötürülməsi buna davam gətirə bilmir və bu da kadr sürətini məhdudlaşdırır. Çoxkameralı layihələrdə əvvəlcə bant genişliyi qiymətləndirilməlidir.
6.4 Orta Yükün Nəzərə Alınması, Lakin Keçici Piklərin Nəzərə Alınmaması
Məhsul əksər vaxt aşağı yükdə işləyə bilər, lakin bütün kameralar eyni vaxtda süni intellekt işlədikdə keçici piklər yaşaya bilər. Dizayn bu pikləri nəzərə almalıdır, lakin tapşırıq növbəsi keçici tələbi hamarlaşdıra bilər, buna görə də çipin mütləq pik hesablama tələbinə uyğun olaraq birbaşa ölçülməsinə ehtiyac yoxdur.
6.5 Yalnız Sayma Modelinin Hesablanması və Sistem Xərclərinin Nəzərə Alınmaması
Bir çox qiymətləndirmələr yalnız süni intellekt magistralının GMAC-ını nəzərə alır və internet provayderinin əvvəlcədən işlənməsini, təsvirin surətini çıxarmasını və prosessorun sonrakı işlənməsini nəzərə almır. Kifayət qədər NPU tutumu olsa belə, bu əlavə xərclər başdan-başa gecikməni artırır və gözlənilən kadr sürətinin əldə edilməsinə mane olur.
Bütün kamera parametrlərini sadalayın: qətnamə, kadr tezliyi və kanal sayı. Kanalların paralel və ya vaxt paylaşımı ilə planlaşdırma istifadə etdiyini təsdiqləyin.
Hər bir model üçün GMAC ixrac edin və NPU hesablamasını CPU sonrası emaldan fərqləndirin.
Həqiqi icra səmərəliliyini müəyyən etmək üçün namizəd platformalarında tək model nəticə çıxarma müddətini ölçün.
Çoxkanallı iş yüklərini birləşdirin və sabit və pik şəraitdə NPU hesablama istifadəsini qiymətləndirin.
Bant genişliyinin maneə olub olmadığını müəyyən etmək üçün DDR bant genişliyini və yaddaş istifadəsini ölçün.
CPU-nun geriləməsinin qarşısını almaq üçün model operatorlarını təsdiqləyin və NPU aparat sürətləndirmə dəstəyini təsdiqləyin.
Məhsulun yenilənməsi yol xəritəsinə uyğun olaraq hesablama yerini ehtiyatda saxlayın və BOM dəyəri və güc limitlərini təyin edin.
Eyni vaxtda çoxkanallı tetikleyicilərlə genişləndirilmiş stress testlərini işə salın. Yaddaş tükənməsindən qaynaqlanan kadr tezliyi dəyişikliyini və qəzaları yoxlayın.
Daxili görmə üçün NPU tutumunun ölçülməsi TOPS düsturunun tətbiqində sadə riyazi bir çalışma deyil. Kağız qiymətləndirmələri yalnız erkən planlaşdırma istinadını təmin edir. Son yoxlama hədəf çipinin inkişaf lövhəsində aparılmalıdır.
Tam qiymətləndirmə bu ardıcıllıqla aparılır: hesablamanın maneə olub olmadığını müəyyən etmək → paralel və ya vaxt paylaşımı ilə planlaşdırmanı təsdiqləmək → GMAC modelini ölçmək → DDR bant genişliyi qiymətləndirməsinə prioritet vermək → lövhə səviyyəsində sınaqdan keçirməklə kalibrləmək → müvafiq hesablama yerini ehtiyatda saxlamaq.
Məqsəd performans, enerji istehlakı və dəyəri balanslaşdırmaqdır. Daha yüksək pik NPU ZOPS-larının ardınca getmək əvəzinə, tapşırıq üçün kifayət qədər tutum seçin.
Bizim MV11, yüksək performanslı Rockchip RK3576 prosessoruna əsaslanan dörd kameralı aparatla sinxronlaşdırılmış görmə və ətalət-naviqasiya birləşmə hesablama platformasıdır. O, 6 TOPS NPU və 4 GB LPDDR4 yaddaşını ehtiva edir və dörd kamera arasında mikrosaniyə səviyyəli sinxronizasiyanı dəstəkləyir. Uyğun tətbiqlərə robot tanıma və aşkarlama, VIO, SLAM və çoxkameralı EGO məlumat toplama daxildir. Yuxarıda təsvir edilən lövhə səviyyəli hesablama, bant genişliyi və çoxkanallı planlaşdırma testləri üçün aparat platforması kimi xidmət edə bilər. Nümunələr erkən layihə qiymətləndirməsi üçün mövcuddur və tam görmə həlləri yerləşdirməni dəstəkləmək üçün fərdiləşdirilə bilər. Bizimlə [email protected] ünvanı vasitəsilə əlaqə saxlayın.
Son xəbərlər2026-10-24
2026-10-23
2026-10-20
2026-10-19
2026-10-16
2026-10-12
EN
