Embedded Vision ထုတ်ကုန်များအတွက် NPU Compute Capacity ကို မည်သို့အရွယ်အစားသတ်မှတ်ရမည်နည်း

၁။ NPU စွမ်းရည်စီမံကိန်းရေးဆွဲခြင်းက ဖြေရှင်းပေးသည့်ပြဿနာကို နားလည်ခြင်း

ရိုဘော့များ၊ စမတ်ကင်မရာများနှင့် စက်မှုလုပ်ငန်းသုံး အမြင်အာရုံ တာမီနယ်များ အပါအဝင် embedded စက်ပစ္စည်းများစွာသည် AI အမြင်အာရုံ အယ်လဂိုရီသမ်များကို လည်ပတ်ရန် NPU များကို အသုံးပြုကြသည်။ NPU ဆိုသည်မှာ AI ကောက်ချက်ချရန်အတွက် ရည်စူးထားသော ချစ်ပ်တစ်ခုအတွင်းရှိ ဟာ့ဒ်ဝဲယူနစ်တစ်ခုဖြစ်သည်။

ချစ်ပ်တစ်ခုကို ရွေးချယ်သောအခါ အဖွဲ့များစွာသည် ၎င်း၏ NPU TOPS အဆင့်သတ်မှတ်ချက်ကို ဦးစွာကြည့်ရှုပြီး ကိန်းဂဏန်းမြင့်မားလေ ပိုမိုအစွမ်းထက်လေဟု ယူဆကြသည်။ လက်တွေ့တွင် ထုတ်ကုန်ဖွံ့ဖြိုးတိုးတက်ရေးသည် ပုံမှန်ပြဿနာနှစ်ခုနှင့် ကြုံတွေ့ရလေ့ရှိသည်-

ပထမအချက်ကတော့ compute capacity မလုံလောက်တာပါပဲ။ device က frame rate နိမ့်ပြီး run တဲ့အခါ video တုံ့ဆိုင်းတာတွေ၊ camera အများကြီး တစ်ပြိုင်နက် run တဲ့အခါ frame တွေ ပျက်သွားတာတွေနဲ့ AI recognition တွေ ချို့ယွင်းတာတွေ ဖြစ်နိုင်ပါတယ်။

ဒုတိယအချက်ကတော့ စွမ်းရည်လွန်ကဲမှုပါ။ ချစ်ပ်က ဈေးကြီးပြီး ပါဝါပိုသုံးကာ အပူများစွာထုတ်လွှတ်ပါတယ်။ အသုံးမပြုတဲ့ တွက်ချက်မှုစွမ်းရည်က အမြတ်အစွန်းကို လျော့ကျစေပါတယ်။

အဓိက အင်ဂျင်နီယာပိုင်းဆိုင်ရာ ထည့်သွင်းစဉ်းစားရမည့်အချက်မှာ embedded vision ပရောဂျက်များစွာတွင် စွမ်းဆောင်ရည်ကို NPU တွက်ချက်မှုစွမ်းရည်ထက် image transfer များ၊ memory bandwidth သို့မဟုတ် CPU-based downstream processing များဖြင့် ကန့်သတ်ထားခြင်းဖြစ်သည်။

၂။ အခြေခံသဘောတရားများနှင့် အဓိက မက်ထရစ်နှစ်ခု

ကွန်ပျူတာစီမံကိန်းရေးဆွဲခြင်းသည် နည်းပညာဆိုင်ရာအသုံးအနှုန်းများစွာ မလိုအပ်ပါ။ အဓိကသဘောတရားနှစ်ခုကို ခွဲခြားသိမြင်ခြင်းဖြင့် ချစ်ပ်သတ်မှတ်ချက်များသည် မှားယွင်းစွာထင်မြင်ယူဆခြင်းမဖြစ်အောင် ကာကွယ်ပေးပါသည်။

ချစ်ပ်ရောင်းချသူများ ကြော်ငြာထားသော TOPS ကိန်းဂဏန်းသည် သီအိုရီအရ အမြင့်ဆုံးတွက်ချက်မှုစွမ်းဆောင်ရည်ဖြစ်သည်- အကောင်းဆုံးဓာတ်ခွဲခန်းအခြေအနေများအောက်တွင် NPU သည် အပြည့်အဝဝန်တင်ခြင်းဖြင့် ရရှိနိုင်သော အမြင့်ဆုံးလုပ်ဆောင်နိုင်စွမ်း။ ထုတ်ကုန်ဒီဇိုင်းများသည် headroom လိုအပ်သောကြောင့် အမြင့်ဆုံးစွမ်းဆောင်ရည်ကို အရွယ်အစားအတွက် တိုက်ရိုက်အသုံးမပြုနိုင်ပါ။

AI မော်ဒယ်တစ်ခု၏ တွက်ချက်မှုဆိုင်ရာ workload ကို အကဲဖြတ်ရန် GMAC ကို အသုံးပြုပါသည်။ MAC သည် အခြေခံ multiply-accumulate operation တစ်ခုဖြစ်ပြီး GMAC သည် ထိုကဲ့သို့သော operation တစ်ဘီလီယံကို ကိုယ်စားပြုသည်။ ၎င်းသည် မော်ဒယ်တစ်ခုရှိ တွက်ချက်မှုပမာဏကို တိုင်းတာသည်။ GMAC သည် workload ကို တိုင်းတာပြီး GMAC/s သည် throughput ကို တိုင်းတာကြောင်း သတိပြုပါ။ ပိုကြီးသော မော်ဒယ်များတွင် GMAC တန်ဖိုးများ ပိုမိုမြင့်မားသည်။

NPU အသုံးပြုမှုသည် ပုံသေကိန်းသေမဟုတ်ပါ။ ၎င်းသည် ထိရောက်သောတွက်ချက်မှုအတွက် အသုံးပြုသော NPU စွမ်းရည်အချိုးအစားကို ကိုယ်စားပြုသည်။ VIO ရှေ့ပိုင်းများ သို့မဟုတ် အလေးချိန်ပေါ့ပါးသော ထောက်လှမ်းမှုမော်ဒယ်များကဲ့သို့သော ရိုးရှင်းသော convolutional ကွန်ရက်များအတွက် ရိုးရှင်းသော အော်ပရေတာများနှင့် သေချာသော ချစ်ပ်အကောင်းဆုံးဖြစ်အောင်ပြုလုပ်ခြင်းတို့သည် အသုံးချမှုကို 60%–80% ရရှိစေနိုင်သည်။ ရှုပ်ထွေးသော အသွင်ပြောင်းမှုများ သို့မဟုတ် Transformer blocks များပါ၀င်သည့် မော်ဒယ်များသည် ထပ်ခါတလဲလဲ tiled execution လိုအပ်နိုင်ပြီး အသုံးချမှုကို 20% သို့မဟုတ် ထို့ထက်နည်းအောင် လျှော့ချနိုင်သည်။

၄၀% ပုံသေအသုံးပြုမှုနှုန်းကို အသုံးပြုခြင်းသည် မတိကျသောခန့်မှန်းချက်များ၏ အဓိကအကြောင်းရင်းတစ်ခုဖြစ်သည်။ resolution သည် workload ကိုလည်း တိုက်ရိုက်သက်ရောက်မှုရှိသည်- input image ၏ width နှင့် height နှစ်ခုလုံးကို နှစ်ဆတိုးစေခြင်းသည် ၎င်း၏ဧရိယာကို လေးဆတိုးစေပြီး တူညီသော model အတွက် တွက်ချက်မှုကို ခန့်မှန်းခြေအားဖြင့် လေးဆတိုးစေသည်။

TOPS သည် ဟာ့ဒ်ဝဲ အမြင့်ဆုံးအဆင့်သာဖြစ်သည်။ မော်ဒယ်၏ GMAC workload ဖြင့် compute estimates များကို စတင်ပြီး development board ရှိ တိုင်းတာမှုများနှင့် ချိန်ညှိပါ။ ချစ်ပ်ကို ၎င်း၏ သီအိုရီအရ အမြင့်ဆုံးစွမ်းဆောင်ရည်မှသာ ရွေးချယ်ပါ။

၃။ အဓိပ္ပာယ်ဖွင့်ဆိုပါ အသုံးပြုမှု လိုအပ်ချက်များနှင့် ကင်မရာများစွာဖြင့် အချိန်ဇယားဆွဲခြင်း

ကွန်ပျူတာလိုအပ်ချက်များကို ခန့်မှန်းခြင်းမပြုမီ ထုတ်ကုန်၏ workload ကို မြေပုံဆွဲပါ။ အရေးကြီးသော ခြားနားချက်မှာ ကင်မရာများစွာသည် parallel inference သို့မဟုတ် time-shared, round-robin inference ကို အသုံးပြုသည်ဖြစ်စေ ရှိမရှိဖြစ်သည်၊ အဘယ်ကြောင့်ဆိုသော် ၎င်းသည် ၎င်းတို့၏ ကွန်ပျူတာလိုအပ်ချက်များကို မည်သို့ပေါင်းစပ်သည်ကို ဆုံးဖြတ်ပေးသောကြောင့်ဖြစ်သည်။

Parallel mode: ကင်မရာအားလုံးသည် AI inference ကို တစ်ပြိုင်နက်တည်း လုပ်ဆောင်သောကြောင့် ၎င်းတို့၏ compute လိုအပ်ချက်များကို တိုက်ရိုက်ထည့်သွင်းထားသည်။ ဥပမာအားဖြင့်၊ channel တစ်ခုစီတွင် တစ်စက္ကန့်လျှင် frame 30 ဖြင့် real-time object detection လုပ်ဆောင်သည့် ကင်မရာလေးလုံးပါသည့် security device တစ်ခုသည် channel လေးခုလုံး၏ load ကို ပေါင်းစပ်ပေးသည်။

အချိန်မျှဝေမုဒ်- NPU သည် ကင်မရာပုံရိပ်များကို အစဉ်လိုက်လုပ်ဆောင်ပေးပြီး ချန်နယ်များသည် တန်းစီနေစဉ်တွင် အလှည့်ကျပေါ်လာသည်နှင့်အမျှ တစ်ကြိမ်လျှင် ချန်နယ်တစ်ခုကို ကိုင်တွယ်ပေးသည့် မျှဝေထားသော ဟာ့ဒ်ဝဲအရင်းအမြစ်တစ်ခုဖြစ်သည်။ Rockchip RK ပလက်ဖောင်းများရှိ multi-camera vision အကောင်အထည်ဖော်မှုများစွာသည် ဤချဉ်းကပ်မှုကို အသုံးပြုကြသည်။

အလုပ်ပမာဏကို သတ်မှတ်သည့်အခါ အောက်ပါအချက်အလက်များကို စုဆောင်းပါ-

ကင်မရာတစ်ခုချင်းစီအတွက် Resolution နှင့် frame rate။

AI မော်ဒယ်စာရင်း- မည်သည့်မော်ဒယ်များသည် NPU တွင်အလုပ်လုပ်ပြီး မည်သည့် post-processing task များသည် CPU တွင်အလုပ်လုပ်သည်။

Quantization တိကျမှု- INT8 သည် ၎င်း၏ ပိုမိုမြင့်မားသော inference efficiency ကြောင့် embedded devices များအတွက် mainstream ရွေးချယ်မှုတစ်ခုဖြစ်သည်။

Triggering နည်းလမ်း- frame တိုင်းတွင် စဉ်ဆက်မပြတ် AI processing သို့မဟုတ် trigger condition ကိုက်ညီမှသာ ရှုပ်ထွေးသော algorithms များစတင်သည့် event-triggered operation။

အရေးကြီးသည်- အတွေ့အကြုံမှ ခန့်မှန်းမည့်အစား RKNN သို့မဟုတ် ONNX Runtime ကဲ့သို့သောကိရိယာများကို အသုံးပြု၍ GMAC မော်ဒယ်ကို ထုတ်ယူပါ။ အလေးချိန်ပေါ့ပါးသော VIO ကွန်ရက်ကို အရွယ်အစားသတ်မှတ်ရန် YOLO မော်ဒယ်ကြီး၏ workload ကို အသုံးပြုခြင်းသည် တွက်ချက်မှုလိုအပ်ချက်များကို အလွန်အမင်း လွန်ကဲစွာ ခန့်မှန်းမိစေနိုင်သည်။

ကျွန်ုပ်တို့၏ MV11 သည် စွမ်းဆောင်ရည်မြင့် Rockchip RK3576 ပရိုဆက်ဆာကို အခြေခံထားသော ကင်မရာလေးလုံးပါ hardware-synchronized vision နှင့် inertial-navigation fusion computing platform တစ်ခုဖြစ်သည်။ ၎င်းတွင် 6 TOPS NPU နှင့် 4 GB LPDDR4 မှတ်ဉာဏ်ပါဝင်ပြီး ကင်မရာလေးလုံးတွင် microsecond-level synchronization ကို ပံ့ပိုးပေးသည်။ သင့်လျော်သော application များတွင် robotic recognition and detection၊ VIO၊ SLAM နှင့် multi-camera EGO data collection တို့ ပါဝင်သည်။ အထက်တွင်ဖော်ပြထားသော board-level compute၊ bandwidth နှင့် multi-channel scheduling tests များအတွက် hardware platform အဖြစ် ဆောင်ရွက်နိုင်သည်။ နမူနာများကို အစောပိုင်း project evaluation အတွက် ရရှိနိုင်ပြီး vision solution အပြည့်အစုံကို deployment ကို ပံ့ပိုးရန် စိတ်ကြိုက်ပြင်ဆင်နိုင်ပါသည်။ [email protected] တွင် ကျွန်ုပ်တို့ထံ ဆက်သွယ်ပါ။

၄။ NPU တွက်ချက်မှုမပြုလုပ်မီ စွမ်းဆောင်ရည်ကို မကြာခဏ ကန့်သတ်လေ့ရှိသော ကန့်သတ်ချက်များ

ပရောဂျက်အများစုသည် ရွေးချယ်စဉ်အတွင်း NPU TOPS ကိုသာ အာရုံစိုက်ပြီးနောက် board ပေါ်တင်သည့်အခါ NPU စွမ်းရည်၏ ထက်ဝက်ကျော်ကို ရရှိနိုင်ဆဲဖြစ်သော်လည်း စနစ်သည် ဆက်လက်လုပ်ဆောင်နိုင်ခြင်းမရှိကြောင်း တွေ့ရှိရသည်။ အောက်ပါကန့်သတ်ချက်များသည် embedded vision တွင် အဖြစ်များသော အတားအဆီးများဖြစ်သည်။

၄.၁ DDR မှတ်ဉာဏ် bandwidth

AI ကောက်ချက်ချစဉ်အတွင်း NPU သည် မှတ်ဉာဏ်မှ ရုပ်ပုံများနှင့် မော်ဒယ်အလေးချိန်များကို အဆက်မပြတ်ဖတ်ရှုပြီး အလယ်အလတ်အင်္ဂါရပ်မြေပုံများကို မှတ်ဉာဏ်သို့ ပြန်လည်ရေးသားသည်။ DDR bandwidth သည် ဤလွှဲပြောင်းမှုများ၏ အမြန်နှုန်းကို ဆုံးဖြတ်ပေးသည်။ bandwidth မလုံလောက်သောအခါ၊ တွက်ချက်မှုစွမ်းရည် လုံလောက်သော NPU ပင်လျှင် ဒေတာကို စောင့်ဆိုင်းရပြီး frame-rate တိုးတက်မှုများကို တားဆီးပေးသည်။ RK ပလက်ဖောင်းများပေါ်ရှိ multi-camera ပရောဂျက်အများစုတွင် NPU စွမ်းရည်၏ အနည်းငယ်သာ အသုံးပြုသော်လည်း bandwidth ပြည့်ဝလာသည်။

၄.၂ မှတ်ဉာဏ်စွမ်းရည်

Image buffers၊ AI model weights နှင့် intermediate feature map များအားလုံးသည် memory ကို အသုံးပြုပါသည်။ channel များစွာ တစ်ပြိုင်နက်တည်း လည်ပတ်သောအခါ memory အသုံးပြုမှု သိသိသာသာ မြင့်တက်လာပါသည်။ memory မလုံလောက်ခြင်းသည် application ကို crash ဖြစ်စေနိုင်သည်။ embedded devices များတွင် virtual memory ယေဘုယျအားဖြင့် မရှိသောကြောင့် out-of-memory (OOM) အခြေအနေသည် device ကို ရပ်တန့်စေနိုင်သည်။

၄.၃ ISP ရုပ်ပုံကြိုတင်လုပ်ဆောင်ခြင်း

ကင်မရာများဖြင့် ရိုက်ကူးထားသော Raw ပုံများကို ဖြတ်တောက်ခြင်း၊ ချိန်ညှိခြင်းနှင့် color-space ပြောင်းလဲခြင်း လိုအပ်သည်။ အချို့သော preprocessing များကို ISP hardware မှ လုပ်ဆောင်ပြီး အချို့မှာ CPU အရင်းအမြစ်များကို အသုံးပြုသည်။ Multi-camera acquisition သည် preprocessing demand ကို တိုးစေပြီး NPU သည် idle ဖြစ်နေသည့်တိုင် pipeline တစ်လျှောက်တွင် latency ကို ဖြစ်ပေါ်စေနိုင်သည်။

၄.၄ ပါဝါသုံးစွဲမှုနှင့် အပူစီမံခန့်ခွဲမှု

ချစ်ပ်တစ်ခု၏ ကြော်ငြာထားသော အထွတ်အထိပ် TOPS သည် အထွတ်အထိပ်ပါဝါသုံးစွဲမှုနှင့် ကိုက်ညီပါသည်။ embedded device အများစုသည် ပန်ကာမပါသောကြောင့် ကြာရှည်စွာ NPU ဝန်ကို အပြည့်အဝ ထိန်းထားနိုင်မည်မဟုတ်ပါ။ သီအိုရီအရ တွက်ချက်နိုင်စွမ်း မြင့်မားနေချိန်တွင်ပင် အပူအခြေအနေများသည် ရေရှည်လည်ပတ်မှုအတွက် ရရှိနိုင်သော စွမ်းရည်ကို ကန့်သတ်ထားသည်။

၄.၅ အော်ပရေတာ လိုက်ဖက်ညီမှု

AI မော်ဒယ်တွင် NPU အရှိန်မြှင့်၍မရသော အထူးအော်ပရေတာများပါဝင်ပါက ၎င်းတို့သည် CPU လုပ်ဆောင်မှုသို့ ပြန်လည်ရောက်ရှိသွားပါသည်။ CPU ရှိ AI လုပ်ဆောင်မှုသည် နှေးကွေးပြီး NPU စွမ်းရည် လုံလောက်သည့်တိုင် pipeline ကို ပြင်းထန်စွာ ရပ်တန့်စေနိုင်သည်။ ပလက်ဖောင်းကို မရွေးချယ်မီ အော်ပရေတာအရှိန်မြှင့်ပံ့ပိုးမှုကို အတည်ပြုပါ။

၅။ လက်တွေ့ကျသော စီမံကိန်းရေးဆွဲခြင်း လုပ်ငန်းလည်ပတ်မှု

၁။ workload baseline နှင့် operating mode ကို သတ်မှတ်ပါ။ AI pipeline ကို သတ်မှတ်ပါ- resolution၊ frame rate၊ channel count၊ trigger strategy (continuous သို့မဟုတ် event-driven)၊ parallel သို့မဟုတ် time-shared execution၊ model list နှင့် deployment precision။ multiple channels များကို မည်သို့စီစဉ်ထားသည်ကို အထူးဂရုပြုပါ။

၂။ မော်ဒယ် workloads များကို ပမာဏသတ်မှတ်ပြီး GMAC/s များကို ထုတ်ယူပါ။ NPU-accelerated computation နှင့် CPU post-processing ကို ခွဲထုတ်ရန် tools များကို အသုံးပြုပါ။

၃။ အကောင်အထည်ဖော်မှု ထိရောက်မှုကို ဆုံးဖြတ်ရန် target board တွင် တိုင်းတာပါ။ RK3576 သို့မဟုတ် RK3588 ကဲ့သို့သော candidate SoC များပေါ်ရှိ မော်ဒယ်များကို platform format သို့ ပြောင်းလဲပါ။ ထို NPU တွင် ထိုမော်ဒယ်၏ တကယ့် throughput ကို ဆုံးဖြတ်ရန် frame တစ်ခုလျှင် inference time ကို တိုင်းတာပါ။ စက္ကူခန့်မှန်းချက်များတွင် ကွဲလွဲမှုများကို ဖယ်ရှားရန်အတွက် ၎င်းသည် အရေးကြီးဆုံးခြေလှမ်းဖြစ်သည်- ခန့်မှန်းချက်အားလုံးကို generic formula များအစား board-level တိုင်းတာမှုများနှင့် ချိန်ညှိရမည်။

၄။ multi-channel workloads များကို စုစည်းပြီး system bottlenecks များကို အကဲဖြတ်ပါ။ channel အားလုံး တစ်ပြိုင်နက်တည်း trigger လုပ်သည့်အခါ ပုံမှန် steady-state operation နှင့် worst-case peak နှစ်မျိုးလုံးကို အကဲဖြတ်ပါ။ DDR bandwidth နှင့် memory အသုံးပြုမှုတို့ကို တစ်ပြိုင်နက်တည်း စစ်ဆေးပါ။ RK multi-camera အများစုသည် compute capacity ရရှိနိုင်သော်လည်း bandwidth ကို ကုန်ခန်းစေပါသည်။

၅။ သင့်လျော်သော headroom ကို ကြိုတင်စာရင်းသွင်းပြီး ကန့်သတ်ချက်များ သတ်မှတ်ပါ။ အများအားဖြင့် ပုံသေ algorithms များပါသည့် ရေတိုထုတ်ကုန်များအတွက် margin 1.1–1.2 ကို အသုံးပြုပြီး မော်ဒယ် အပ်ဒိတ်များ ရရှိမည်ဟု မျှော်လင့်ရသော ထုတ်ကုန်များအတွက် 1.3–1.4 ကို အသုံးပြုပါ။ Headroom တွင် အလွန်အကျွံ ပံ့ပိုးပေးခြင်းထက် မော်ဒယ် ဆင့်ကဲဖြစ်စဉ်၊ အမြင့်ဆုံး အခြေအနေများနှင့် အချိန်ဇယားဆွဲခြင်း overhead တို့ကို လွှမ်းခြုံထားသင့်သည်။ BOM ကုန်ကျစရိတ်နှင့် ပါဝါကန့်သတ်ချက်များကို တစ်ပြိုင်နက်တည်း သတ်မှတ်ပါ။

၆။ NPU စွမ်းရည်စီမံကိန်းရေးဆွဲခြင်း၏ အဖြစ်များသော အားနည်းချက်ငါးခု

၆.၁ ချစ်ပ် TOPS များကိုသာ အသုံးပြုခြင်းနှင့် ပုံသေအသုံးပြုမှုနှုန်း

ကြော်ငြာထားသော TOPS တွင် ပုံသေအသုံးပြုမှုနှုန်း ၄၀% ကို အသုံးပြုခြင်းသည် တွက်ချက်မှုလိုအပ်ချက်များကို အဆပေါင်းများစွာ လွန်ကဲစွာ ခန့်မှန်းမိစေပြီး တကယ့်အင်ဂျင်နီယာအခြေအနေများနှင့် သိသိသာသာ ကွဲပြားစေနိုင်သည်။ အသုံးပြုမှုသည် မော်ဒယ်များနှင့် NPU ဗိသုကာပုံစံများအလိုက် သိသိသာသာ ကွဲပြားသည်။

၆.၂ ချန်နယ်အရေအတွက်ဖြင့် မြှောက်ခြင်းနှင့် အချိန်မျှဝေခြင်းကို လျစ်လျူရှုခြင်း

အချိန်မျှဝေလုပ်ဆောင်မှုတွင် NPU သည် channel များကို အလှည့်ကျ စီမံဆောင်ရွက်ပြီး ၎င်း၏ compute စွမ်းရည်ကို ပြန်လည်အသုံးပြုသည်။ channel အရေအတွက်ကို single-channel compute demand ဖြင့် မြှောက်လိုက်ခြင်းသည် လိုအပ်ချက်များကို အလွန်အမင်း အလွန်အမင်း ခန့်မှန်းမိစေပြီး မလိုအပ်ဘဲ ကုန်ကျစရိတ်များသော chip ကို ဖြစ်ပေါ်စေနိုင်သည်။

၆.၃ NPU Compute ကို အကဲဖြတ်သော်လည်း DDR Bandwidth ကို လျစ်လျူရှုခြင်း

ကင်မရာများစွာပါဝင်သော ပရောဂျက်များတွင် တွက်ချက်မှုဆိုင်ရာ ပိတ်ဆို့မှုများထက် Bandwidth ပိတ်ဆို့မှုများသည် ပိုမိုအဖြစ်များပါသည်။ NPU တွင် သိသာထင်ရှားသော စွမ်းရည်ကျန်ရှိနေနိုင်သော်လည်း ဒေတာလွှဲပြောင်းမှုများကို မလိုက်နိုင်သဖြင့် frame rate ကို ကန့်သတ်ထားသည်။ ကင်မရာများစွာပါဝင်သော ပရောဂျက်များတွင် Bandwidth ကို ဦးစွာအကဲဖြတ်ရပါမည်။

၆.၄ ပျမ်းမျှဝန်ကို ထည့်သွင်းစဉ်းစားသော်လည်း ယာယီထိပ်များကို လျစ်လျူရှုခြင်း

ထုတ်ကုန်တစ်ခုသည် အများစုတွင် ဝန်နည်းနည်းဖြင့် လည်ပတ်နိုင်သော်လည်း ကင်မရာအားလုံးက AI ကို တစ်ပြိုင်နက်တည်း လှုံ့ဆော်ပေးသည့်အခါ ယာယီအမြင့်ဆုံးအဆင့်များကို ကြုံတွေ့ရလေ့ရှိသည်။ ဒီဇိုင်းသည် ဤအမြင့်ဆုံးအဆင့်များကို လိုက်လျောညီထွေဖြစ်စေရမည်၊ သို့သော် task queue သည် ယာယီလိုအပ်ချက်ကို ချောမွေ့စေနိုင်သောကြောင့် ချစ်ပ်ကို အမြင့်ဆုံးတွက်ချက်မှုလိုအပ်ချက်နှင့် တိုက်ရိုက်အရွယ်အစားသတ်မှတ်ရန် မလိုအပ်ပါ။

၆.၅ မော်ဒယ်တွက်ချက်မှုကိုသာ ရေတွက်ခြင်းနှင့် စနစ်အပေါ်ယံကုန်ကျစရိတ်ကို လျစ်လျူရှုခြင်း

ခန့်မှန်းချက်များစွာသည် AI backbone ၏ GMAC ကိုသာ ရေတွက်ပြီး ISP preprocessing၊ image copying နှင့် CPU post-processing တို့ကို လျစ်လျူရှုထားသည်။ လုံလောက်သော NPU စွမ်းရည်ရှိသော်လည်း ဤ overheads များသည် end-to-end latency ကို တိုးစေပြီး မျှော်မှန်းထားသော frame rate ကို မရောက်ရှိစေပါ။

၇။ ပလက်ဖောင်းရွေးချယ်မှုအတွက် အကောင်အထည်ဖော်မှုစစ်ဆေးရမည့်စာရင်း

ကင်မရာ parameter အားလုံးကို စာရင်းပြုစုပါ- resolution၊ frame rate နှင့် channel count။ channel များသည် parallel သို့မဟုတ် timeshared scheduling ကို အသုံးပြုသည်ဖြစ်စေ အတည်ပြုပါ။

မော်ဒယ်တစ်ခုစီအတွက် GMAC ကို ထုတ်ယူပြီး NPU တွက်ချက်မှုနှင့် CPU post-processing ကို ခွဲခြားပါ။

တကယ့် အကောင်အထည်ဖော်မှု ထိရောက်မှုကို ဖော်ထုတ်ရန်အတွက် ကိုယ်စားလှယ်လောင်း ပလက်ဖောင်းများပေါ်တွင် single-model inference time ကို တိုင်းတာပါ။

Multi-channel workloads များကို ပေါင်းစည်းပြီး steady-state နှင့် peak အခြေအနေများအောက်တွင် NPU compute utilization ကို အကဲဖြတ်ပါ။

Bandwidth သည် bottleneck ဖြစ်မဖြစ် ဆုံးဖြတ်ရန် DDR bandwidth နှင့် memory အသုံးပြုမှုကို တိုင်းတာပါ။

CPU fallback ကို ရှောင်ရှားရန် မော်ဒယ်အော်ပရေတာများကို အတည်ပြုပြီး NPU hardware acceleration ပံ့ပိုးမှုကို အတည်ပြုပါ။

ထုတ်ကုန် အပ်ဒိတ်လုပ်ခြင်း လမ်းပြမြေပုံအရ ကွန်ပျူတာ စွမ်းဆောင်ရည်ကို ကြိုတင်မှာယူပြီး BOM ကုန်ကျစရိတ်နှင့် ပါဝါကန့်သတ်ချက်များကို သတ်မှတ်ပါ။

တစ်ပြိုင်နက်တည်း multi-channel triggers များဖြင့် extended stress tests များကို လုပ်ဆောင်ပါ။ memory exhaustion ကြောင့်ဖြစ်ပေါ်လာသော frame-rate variation နှင့် crash များကို စစ်ဆေးပါ။

TOPS ဖော်မြူလာကို အသုံးချရာတွင် ထည့်သွင်းထားသော မြင်ကွင်းအတွက် NPU စွမ်းရည်ကို အရွယ်အစားသတ်မှတ်ခြင်းသည် ရိုးရှင်းသော သင်္ချာလေ့ကျင့်ခန်းတစ်ခု မဟုတ်ပါ။ စက္ကူခန့်မှန်းချက်များသည် အစောပိုင်းစီမံကိန်းရေးဆွဲခြင်းဆိုင်ရာ ရည်ညွှန်းချက်တစ်ခုသာ ပေးပါသည်။ နောက်ဆုံးအတည်ပြုချက်ကို ပစ်မှတ်ချစ်ပ်၏ ဖွံ့ဖြိုးတိုးတက်မှုဘုတ်တွင် ပြုလုပ်ရမည်။

ပြီးပြည့်စုံသော အကဲဖြတ်မှုသည် ဤအစီအစဉ်အတိုင်းဖြစ်သည်- compute သည် bottleneck ဟုတ်မဟုတ် ဆုံးဖြတ်ပါ → parallel သို့မဟုတ် time-shared scheduling ကို အတည်ပြုပါ → GMAC မော်ဒယ်ကို တိုင်းတာပါ → DDR bandwidth အကဲဖြတ်မှုကို ဦးစားပေးပါ → board-level testing မှတစ်ဆင့် ချိန်ညှိပါ → သင့်လျော်သော compute headroom ကို သိမ်းဆည်းပါ။

ရည်မှန်းချက်မှာ စွမ်းဆောင်ရည်၊ ပါဝါသုံးစွဲမှုနှင့် ကုန်ကျစရိတ်ကို ဟန်ချက်ညီစေရန်ဖြစ်သည်။ အမြင့်ဆုံးအဆင့် NPU TOPS များကို လိုက်စားမည့်အစား လုပ်ငန်းအတွက် လုံလောက်သော စွမ်းရည်ကို ရွေးချယ်ပါ။

ကျွန်ုပ်တို့၏ MV11 သည် စွမ်းဆောင်ရည်မြင့် Rockchip RK3576 ပရိုဆက်ဆာကို အခြေခံထားသော ကင်မရာလေးလုံးပါ hardware-synchronized vision နှင့် inertial-navigation fusion computing platform တစ်ခုဖြစ်သည်။ ၎င်းတွင် 6 TOPS NPU နှင့် 4 GB LPDDR4 မှတ်ဉာဏ်ပါဝင်ပြီး ကင်မရာလေးလုံးတွင် microsecond-level synchronization ကို ပံ့ပိုးပေးသည်။ သင့်လျော်သော application များတွင် robotic recognition and detection၊ VIO၊ SLAM နှင့် multi-camera EGO data collection တို့ ပါဝင်သည်။ အထက်တွင်ဖော်ပြထားသော board-level compute၊ bandwidth နှင့် multi-channel scheduling tests များအတွက် hardware platform အဖြစ် ဆောင်ရွက်နိုင်သည်။ နမူနာများကို အစောပိုင်း project evaluation အတွက် ရရှိနိုင်ပြီး vision solution အပြည့်အစုံကို deployment ကို ပံ့ပိုးရန် စိတ်ကြိုက်ပြင်ဆင်နိုင်ပါသည်။ [email protected] တွင် ကျွန်ုပ်တို့ထံ ဆက်သွယ်ပါ။