ວິທີການປັບຂະໜາດຄວາມຈຸການຄຳນວນ NPU ສຳລັບຜະລິດຕະພັນວິໄສທັດທີ່ຝັງຢູ່

1. ການເຂົ້າໃຈບັນຫາທີ່ການວາງແຜນຄວາມອາດສາມາດຂອງ NPU ແກ້ໄຂໄດ້

ອຸປະກອນຝັງຢູ່ຫຼາຍຊະນິດ, ລວມທັງຫຸ່ນຍົນ, ກ້ອງຖ່າຍຮູບອັດສະລິຍະ ແລະ ອຸປະກອນວິໄສທັດອຸດສາຫະກຳ, ປະຈຸບັນໃຊ້ NPU ເພື່ອດໍາເນີນການອັລກໍຣິທຶມວິໄສທັດ AI. NPU ແມ່ນຫົວໜ່ວຍຮາດແວພາຍໃນຊິບທີ່ອຸທິດໃຫ້ແກ່ການອະນຸມານ AI.

ເມື່ອເລືອກຊິບ, ຫຼາຍໆທີມຈະພິຈາລະນາຄະແນນ NPU TOPS ກ່ອນ ແລະ ສົມມຸດວ່າຕົວເລກທີ່ສູງກວ່າໝາຍເຖິງຊິບທີ່ມີປະສິດທິພາບຫຼາຍກວ່າ. ໃນທາງປະຕິບັດ, ການພັດທະນາຜະລິດຕະພັນພົບບັນຫາທົ່ວໄປສອງຢ່າງຄື:

ບັນຫາທຳອິດແມ່ນຄວາມສາມາດໃນການຄິດໄລ່ບໍ່ພຽງພໍ. ອຸປະກອນເຮັດວຽກໃນອັດຕາເຟຣມຕໍ່າ, ວິດີໂອຕິດຂັດ, ເຟຣມຫຼຸດລົງເມື່ອກ້ອງຫຼາຍໜ່ວຍເຮັດວຽກພ້ອມໆກັນ, ແລະ ການຮັບຮູ້ AI ອາດຈະລົ້ມເຫຼວ.

ອັນທີສອງແມ່ນຄວາມຈຸຫຼາຍເກີນໄປ. ຊິບມີລາຄາແພງ, ໃຊ້ພະລັງງານຫຼາຍກວ່າ ແລະ ສ້າງຄວາມຮ້ອນຫຼາຍ. ຄວາມຈຸການປະມວນຜົນທີ່ບໍ່ໄດ້ໃຊ້ຈະເຮັດໃຫ້ກຳໄລຫຼຸດລົງ.

ການພິຈາລະນາດ້ານວິສະວະກຳທີ່ສຳຄັນແມ່ນວ່າ, ໃນໂຄງການວິໄສທັດທີ່ຝັງຢູ່ຫຼາຍໆໂຄງການ, ປະສິດທິພາບແມ່ນຖືກຈຳກັດໂດຍການໂອນຮູບພາບ, ແບນວິດໜ່ວຍຄວາມຈຳ ຫຼື ການປະມວນຜົນແບບ downstream ທີ່ອີງໃສ່ CPU ແທນທີ່ຈະເປັນຄວາມສາມາດໃນການຄິດໄລ່ຂອງ NPU.

2. ແນວຄວາມຄິດພື້ນຖານ ແລະ ສອງຕົວຊີ້ວັດຫຼັກ

ການວາງແຜນການຄິດໄລ່ບໍ່ຈຳເປັນຕ້ອງມີບັນຊີລາຍຊື່ຍາວຂອງຄຳສັບທາງວິຊາການ. ການຈຳແນກສອງແນວຄວາມຄິດຫຼັກຊ່ວຍປ້ອງກັນບໍ່ໃຫ້ລາຍລະອຽດຂອງຊິບເຮັດໃຫ້ເຂົ້າໃຈຜິດ.

ຕົວເລກ TOPS ທີ່ໂຄສະນາໂດຍຜູ້ຂາຍຊິບແມ່ນປະສິດທິພາບການຄຳນວນສູງສຸດທາງທິດສະດີ: ຄວາມສາມາດໃນການປະມວນຜົນສູງສຸດທີ່ NPU ສາມາດບັນລຸໄດ້ໃນການໂຫຼດເຕັມທີ່ພາຍໃຕ້ເງື່ອນໄຂຫ້ອງທົດລອງທີ່ເໝາະສົມ. ການອອກແບບຜະລິດຕະພັນຕ້ອງການພື້ນທີ່ຫວ່າງ, ສະນັ້ນປະສິດທິພາບສູງສຸດບໍ່ສາມາດນຳໃຊ້ໂດຍກົງສຳລັບການປັບຂະໜາດ.

ພວກເຮົາໃຊ້ GMAC ເພື່ອປະເມີນປະລິມານວຽກຄອມພິວເຕີຂອງຮູບແບບ AI. MAC ແມ່ນການດຳເນີນງານຄູນ-ສະສົມພື້ນຖານ, ແລະ GMAC ເປັນຕົວແທນໃຫ້ແກ່ການດຳເນີນງານດັ່ງກ່າວໜຶ່ງພັນລ້ານຄັ້ງ. ມັນວັດແທກປະລິມານການຄຳນວນໃນຮູບແບບ. ໃຫ້ສັງເກດວ່າ GMAC ວັດແທກປະລິມານວຽກ, ໃນຂະນະທີ່ GMAC/s ວັດແທກປະລິມານການຜະລິດ. ຮູບແບບຂະໜາດໃຫຍ່ກວ່າມີຄ່າ GMAC ສູງກວ່າ.

ການນຳໃຊ້ NPU ບໍ່ແມ່ນຄ່າຄົງທີ່ທີ່ກຳນົດໄວ້. ມັນສະແດງເຖິງສັດສ່ວນຂອງຄວາມອາດສາມາດຂອງ NPU ທີ່ໃຊ້ສຳລັບການຄິດໄລ່ທີ່ມີປະສິດທິພາບ. ສຳລັບເຄືອຂ່າຍ convolutional ງ່າຍໆ, ເຊັ່ນ: VIO front ends ຫຼືຮູບແບບການກວດຈັບນ້ຳໜັກເບົາ, ຕົວປະຕິບັດການງ່າຍໆ ແລະ ການເພີ່ມປະສິດທິພາບຂອງຊິບຢ່າງລະອຽດສາມາດໃຫ້ຜົນການນຳໃຊ້ໄດ້ 60%–80%. ຮູບແບບທີ່ມີການຫັນປ່ຽນທີ່ສັບສົນ ຫຼື ບລັອກ Transformer ອາດຈະຕ້ອງການການປະຕິບັດແບບ tile ຊ້ຳໆ, ຫຼຸດຜ່ອນການນຳໃຊ້ລົງເປັນ 20% ຫຼື ໜ້ອຍກວ່ານັ້ນ.

ການນຳໃຊ້ອັດຕາການນຳໃຊ້ຄົງທີ່ 40% ແມ່ນສາເຫດຫຼັກຂອງການຄາດຄະເນທີ່ບໍ່ຖືກຕ້ອງ. ຄວາມລະອຽດຍັງສົ່ງຜົນກະທົບໂດຍກົງຕໍ່ປະລິມານວຽກ: ການເພີ່ມຂື້ນສອງເທົ່າຂອງທັງຄວາມກວ້າງ ແລະ ຄວາມສູງຂອງຮູບພາບທີ່ປ້ອນເຂົ້າຈະເຮັດໃຫ້ພື້ນທີ່ຂອງມັນເພີ່ມຂຶ້ນສີ່ເທົ່າ ແລະ ປະມານສີ່ເທົ່າຂອງການຄິດໄລ່ສຳລັບຮູບແບບດຽວກັນ.

TOPS ເປັນພຽງເພດານຮາດແວເທົ່ານັ້ນ. ເລີ່ມຕົ້ນການຄາດຄະເນການຄິດໄລ່ດ້ວຍປະລິມານວຽກ GMAC ຂອງໂມເດວ, ແລະປັບທຽບພວກມັນກັບການວັດແທກໃນກະດານພັດທະນາ. ຢ່າເລືອກຊິບຈາກປະສິດທິພາບສູງສຸດທາງທິດສະດີເທົ່ານັ້ນ.

3. ກຳນົດ ການນຳໃຊ້ ຂໍ້ກຳນົດ ແລະ ການກຳນົດເວລາກ້ອງຫຼາຍຕົວ

ກ່ອນທີ່ຈະປະເມີນຄວາມຕ້ອງການຂອງການຄຳນວນ, ໃຫ້ວາງແຜນປະລິມານວຽກຂອງຜະລິດຕະພັນ. ຄວາມແຕກຕ່າງທີ່ສຳຄັນແມ່ນວ່າກ້ອງຖ່າຍຮູບຫຼາຍໜ່ວຍໃຊ້ການອະນຸມານແບບຂະໜານ ຫຼື ການອະນຸມານແບບແບ່ງປັນເວລາ, ເພາະວ່າສິ່ງນີ້ຈະກຳນົດວ່າຄວາມຕ້ອງການການຄຳນວນຂອງພວກມັນຖືກລວມເຂົ້າກັນແນວໃດ.

ໂໝດຂະໜານ: ກ້ອງຖ່າຍຮູບທັງໝົດໃຊ້ AI inference ໃນເວລາດຽວກັນ, ດັ່ງນັ້ນຄວາມຕ້ອງການດ້ານການຄິດໄລ່ຂອງພວກມັນຈຶ່ງຖືກເພີ່ມໂດຍກົງ. ຕົວຢ່າງ, ອຸປະກອນຄວາມປອດໄພທີ່ມີກ້ອງຖ່າຍຮູບສີ່ຕົວທີ່ປະຕິບັດການກວດຈັບວັດຖຸໃນເວລາຈິງທີ່ 30 ເຟຣມຕໍ່ວິນາທີໃນແຕ່ລະຊ່ອງທາງລວມການໂຫຼດຂອງທັງສີ່ຊ່ອງທາງເຂົ້າກັນ.

ໂໝດແບ່ງປັນເວລາ: NPU ແມ່ນຊັບພະຍາກອນຮາດແວທີ່ໃຊ້ຮ່ວມກັນທີ່ປະມວນຜົນຮູບພາບກ້ອງຖ່າຍຮູບຕາມລຳດັບ, ໂດຍຈັດການຊ່ອງທາງໜຶ່ງໃນແຕ່ລະຄັ້ງຍ້ອນວ່າຊ່ອງທາງຕ່າງໆຜັດປ່ຽນກັນຢູ່ໃນຄິວ. ການປະຕິບັດວິໄສທັດຫຼາຍກ້ອງຖ່າຍຮູບຫຼາຍອັນໃນແພລດຟອມ Rockchip RK ໃຊ້ວິທີການນີ້.

ເກັບກຳຂໍ້ມູນຕໍ່ໄປນີ້ເມື່ອກຳນົດປະລິມານວຽກ:

ຄວາມລະອຽດ ແລະ ອັດຕາເຟຣມສຳລັບແຕ່ລະກ້ອງ.

ລາຍຊື່ຮູບແບບ AI: ຮູບແບບໃດເຮັດວຽກຢູ່ໃນ NPU ແລະ ໜ້າວຽກຫຼັງການປະມວນຜົນໃດເຮັດວຽກຢູ່ໃນ CPU.

ຄວາມແມ່ນຍຳຂອງການວັດແທກປະລິມານ: INT8 ເປັນທາງເລືອກຫຼັກສຳລັບອຸປະກອນທີ່ຝັງຢູ່ເນື່ອງຈາກປະສິດທິພາບການອະນຸມານທີ່ສູງກວ່າ.

ວິທີການກະຕຸ້ນ: ການປະມວນຜົນ AI ຢ່າງຕໍ່ເນື່ອງໃນທຸກໆເຟຣມ, ຫຼື ການດຳເນີນງານທີ່ເກີດຈາກເຫດການ ເຊິ່ງອັລກໍຣິທຶມທີ່ສັບສົນຈະເລີ່ມຕົ້ນພຽງແຕ່ເມື່ອເງື່ອນໄຂການກະຕຸ້ນຖືກຕອບສະໜອງ.

ສຳຄັນ: ສົ່ງອອກຮູບແບບ GMAC ໂດຍໃຊ້ເຄື່ອງມືເຊັ່ນ RKNN ຫຼື ONNX Runtime ແທນທີ່ຈະປະເມີນມັນຈາກປະສົບການ. ການໃຊ້ປະລິມານວຽກຂອງຮູບແບບ YOLO ຂະໜາດໃຫຍ່ເພື່ອປັບຂະໜາດເຄືອຂ່າຍ VIO ນ້ຳໜັກເບົາສາມາດປະເມີນຄວາມຕ້ອງການການຄຳນວນສູງເກີນໄປ.

MV11 ຂອງພວກເຮົາແມ່ນແພລດຟອມຄອມພິວເຕີຟິວຊັນວິໄສທັດ ແລະ ການນຳທາງແບບ inertial-navigation ທີ່ມີຮາດແວສີ່ກ້ອງ ໂດຍອີງໃສ່ໂປເຊດເຊີ Rockchip RK3576 ປະສິດທິພາບສູງ. ມັນປະກອບມີ 6 TOPS NPU ແລະ ໜ່ວຍຄວາມຈຳ LPDDR4 4 GB ແລະ ຮອງຮັບການຊິ້ງໂຄຣໄນລະດັບໄມໂຄຣວິນາທີໃນກ້ອງສີ່ຕົວ. ແອັບພລິເຄຊັນທີ່ເໝາະສົມລວມມີການຮັບຮູ້ ແລະ ການກວດຈັບຫຸ່ນຍົນ, VIO, SLAM ແລະ ການເກັບກຳຂໍ້ມູນ EGO ຫຼາຍກ້ອງ. ມັນສາມາດເປັນແພລດຟອມຮາດແວສຳລັບການປະມວນຜົນລະດັບກະດານ, ແບນວິດ ແລະ ການທົດສອບການກຳນົດເວລາຫຼາຍຊ່ອງທາງທີ່ໄດ້ອະທິບາຍຂ້າງເທິງ. ຕົວຢ່າງແມ່ນມີໃຫ້ສຳລັບການປະເມີນໂຄງການໃນໄລຍະຕົ້ນ, ແລະ ວິທີແກ້ໄຂວິໄສທັດທີ່ສົມບູນສາມາດປັບແຕ່ງເພື່ອສະໜັບສະໜູນການນຳໃຊ້. ຕິດຕໍ່ພວກເຮົາທີ່ [email protected].

4. ຂໍ້ຈຳກັດທີ່ມັກຈຳກັດປະສິດທິພາບກ່ອນທີ່ NPU ຈະຄິດໄລ່

ໂຄງການຫຼາຍໆໂຄງການສຸມໃສ່ພຽງແຕ່ NPU TOPS ໃນລະຫວ່າງການຄັດເລືອກ, ຈາກນັ້ນກໍ່ຄົ້ນພົບໃນລະຫວ່າງການນຳເອົາກະດານຂຶ້ນມາວ່າລະບົບບໍ່ສາມາດຮັກສາໄວ້ໄດ້ເຖິງແມ່ນວ່າຄວາມຈຸຂອງ NPU ຫຼາຍກວ່າເຄິ່ງໜຶ່ງຍັງຄົງມີຢູ່. ຂໍ້ຈຳກັດຕໍ່ໄປນີ້ແມ່ນບັນຫາທີ່ພົບເລື້ອຍໃນວິໄສທັດທີ່ຝັງຢູ່.

4.1 ແບນວິດໜ່ວຍຄວາມຈຳ DDR

ໃນລະຫວ່າງການອະນຸມານ AI, NPU ຈະອ່ານຮູບພາບ ແລະ ນ້ຳໜັກຂອງຮູບແບບຢ່າງຕໍ່ເນື່ອງຈາກໜ່ວຍຄວາມຈຳ ແລະ ຂຽນແຜນທີ່ຄຸນສົມບັດລະດັບກາງກັບຄືນໄປຫາໜ່ວຍຄວາມຈຳ. ແບນວິດ DDR ກຳນົດຄວາມໄວຂອງການໂອນຍ້າຍເຫຼົ່ານີ້. ເມື່ອແບນວິດບໍ່ພຽງພໍ, ເຖິງແມ່ນວ່າ NPU ທີ່ມີຄວາມສາມາດໃນການຄິດໄລ່ພຽງພໍກໍ່ຕ້ອງລໍຖ້າຂໍ້ມູນ, ເຊິ່ງປ້ອງກັນການປັບປຸງອັດຕາເຟຣມ. ໃນໂຄງການກ້ອງຫຼາຍຕົວສ່ວນໃຫຍ່ໃນແພລດຟອມ RK, ແບນວິດຈະອີ່ມຕົວໃນຂະນະທີ່ໃຊ້ພຽງແຕ່ສ່ວນນ້ອຍໆຂອງຄວາມຈຸຂອງ NPU.

4.2 ຄວາມຈຸໜ່ວຍຄວາມຈຳ

ບັຟເຟີຮູບພາບ, ນ້ຳໜັກຂອງຮູບແບບ AI ແລະແຜນທີ່ຄຸນສົມບັດລະດັບກາງລ້ວນແຕ່ໃຊ້ໜ່ວຍຄວາມຈຳ. ການໃຊ້ໜ່ວຍຄວາມຈຳເພີ່ມຂຶ້ນຢ່າງຫຼວງຫຼາຍເມື່ອຫຼາຍຊ່ອງທາງເຮັດວຽກພ້ອມໆກັນ. ໜ່ວຍຄວາມຈຳບໍ່ພຽງພໍສາມາດເຮັດໃຫ້ແອັບພລິເຄຊັນເຮັດວຽກຜິດພາດໄດ້. ອຸປະກອນທີ່ຝັງຢູ່ໂດຍທົ່ວໄປແລ້ວຈະຂາດໜ່ວຍຄວາມຈຳເສມືນ, ດັ່ງນັ້ນສະພາບການໝົດໜ່ວຍຄວາມຈຳ (OOM) ສາມາດເຮັດໃຫ້ອຸປະກອນຢຸດເຮັດວຽກໄດ້.

4.3 ການປະມວນຜົນຮູບພາບລ່ວງໜ້າຂອງ ISP

ຮູບພາບດິບທີ່ຖ່າຍໂດຍກ້ອງຖ່າຍຮູບຕ້ອງການການຕັດ, ການຂະຫຍາຍ ແລະ ການປ່ຽນພື້ນທີ່ສີ. ການປະມວນຜົນລ່ວງໜ້າບາງຢ່າງແມ່ນປະຕິບັດໂດຍຮາດແວ ISP, ໃນຂະນະທີ່ບາງອັນໃຊ້ຊັບພະຍາກອນ CPU. ການໄດ້ມາຂອງກ້ອງຖ່າຍຮູບຫຼາຍຕົວເພີ່ມຄວາມຕ້ອງການການປະມວນຜົນລ່ວງໜ້າ ແລະ ສາມາດເຮັດໃຫ້ເກີດຄວາມຊັກຊ້າໃນທົ່ວຂັ້ນຕອນການເຮັດວຽກເຖິງແມ່ນວ່າ NPU ຈະບໍ່ໄດ້ໃຊ້ງານກໍຕາມ.

4.4 ການໃຊ້ພະລັງງານ ແລະ ການຄຸ້ມຄອງຄວາມຮ້ອນ

ຈຸດສູງສຸດທີ່ໂຄສະນາຂອງຊິບສອດຄ່ອງກັບການໃຊ້ພະລັງງານສູງສຸດ. ອຸປະກອນທີ່ຝັງຢູ່ສ່ວນໃຫຍ່ແມ່ນບໍ່ມີພັດລົມ ແລະ ບໍ່ສາມາດຮັບການໂຫຼດ NPU ໄດ້ເຕັມທີ່ໃນໄລຍະເວລາດົນ. ເຖິງແມ່ນວ່າຄວາມສາມາດໃນການຄິດໄລ່ທາງທິດສະດີຈະສູງ, ແຕ່ເງື່ອນໄຂຄວາມຮ້ອນກໍ່ຈຳກັດຄວາມສາມາດໃນການໃຊ້ງານທີ່ຍືນຍົງ.

4.5 ຄວາມເຂົ້າກັນໄດ້ຂອງຜູ້ປະກອບການ

ຖ້າຮູບແບບ AI ມີຕົວປະຕິບັດການພິເສດທີ່ NPU ບໍ່ສາມາດເລັ່ງໄດ້, ພວກມັນຈະກັບຄືນໄປໃຊ້ການປະຕິບັດຂອງ CPU. ການປະມວນຜົນ AI ໃນ CPU ແມ່ນຊ້າ ແລະ ສາມາດເຮັດໃຫ້ pipeline ຢຸດຊະງັກໄດ້ຢ່າງຮ້າຍແຮງ ເຖິງແມ່ນວ່າຄວາມຈຸຂອງ NPU ຈະພຽງພໍກໍຕາມ. ກວດສອບການຮອງຮັບການເລັ່ງຂອງຕົວປະຕິບັດການກ່ອນທີ່ຈະເລືອກແພລດຟອມ.

5. ຂັ້ນຕອນການວາງແຜນການປະຕິບັດຕົວຈິງ

1. ສ້າງຕັ້ງພື້ນຖານຂອງວຽກງານ ແລະ ຮູບແບບການເຮັດວຽກ. ກຳນົດທໍ່ສົ່ງ AI: ຄວາມລະອຽດ, ອັດຕາເຟຣມ, ຈຳນວນຊ່ອງທາງ, ກົນລະຍຸດການກະຕຸ້ນ (ຕໍ່ເນື່ອງ ຫຼື ຂັບເຄື່ອນດ້ວຍເຫດການ), ການປະຕິບັດແບບຂະໜານ ຫຼື ການແບ່ງປັນເວລາ, ລາຍຊື່ຮູບແບບ ແລະ ຄວາມແມ່ນຍຳຂອງການນຳໃຊ້. ເອົາໃຈໃສ່ເປັນພິເສດຕໍ່ວິທີການກຳນົດເວລາຫຼາຍຊ່ອງທາງ.

2. ຄິດໄລ່ປະລິມານວຽກງານຂອງຮູບແບບ ແລະ ສົ່ງອອກ GMAC/s. ໃຊ້ເຄື່ອງມືເພື່ອສົ່ງອອກ GMAC/s ສຳລັບແຕ່ລະຮູບແບບ, ໂດຍແຍກການຄິດໄລ່ທີ່ເລັ່ງດ້ວຍ NPU ອອກຈາກການປະມວນຜົນຫຼັງການປະມວນຜົນຂອງ CPU.

3. ວັດແທກໃນກະດານເປົ້າໝາຍເພື່ອກຳນົດປະສິດທິພາບໃນການປະຕິບັດ. ປ່ຽນຮູບແບບເປັນຮູບແບບແພລດຟອມໃນ SoC ຕົວເລືອກເຊັ່ນ RK3576 ຫຼື RK3588. ວັດແທກເວລາອະນຸມານຕໍ່ເຟຣມເພື່ອກຳນົດປະລິມານການຜະລິດຕົວຈິງຂອງຮູບແບບນັ້ນໃນ NPU ນັ້ນ. ນີ້ແມ່ນຂັ້ນຕອນທີ່ສຳຄັນທີ່ສຸດສຳລັບການລົບລ້າງຄວາມແຕກຕ່າງໃນການປະເມີນເຈ້ຍ: ການປະເມີນທັງໝົດຕ້ອງໄດ້ຮັບການປັບທຽບກັບການວັດແທກລະດັບກະດານແທນທີ່ຈະເປັນສູດທົ່ວໄປ.

4. ລວມປະລິມານວຽກຫຼາຍຊ່ອງທາງ ແລະ ປະເມີນບັນຫາທີ່ຕິດຂັດຂອງລະບົບ. ປະເມີນທັງການດຳເນີນງານໃນສະພາບຄົງທີ່ປົກກະຕິ ແລະ ຈຸດສູງສຸດໃນກໍລະນີທີ່ຮ້າຍແຮງທີ່ສຸດເມື່ອທຸກຊ່ອງທາງຖືກກະຕຸ້ນພ້ອມໆກັນ. ກວດສອບແບນວິດ DDR ແລະ ການໃຊ້ໜ່ວຍຄວາມຈຳໃນເວລາດຽວກັນ. ກ້ອງຫຼາຍກ້ອງ RK ຫຼາຍຕົວສະແດງຜົນແບນວິດໝົດໃນຂະນະທີ່ຄວາມສາມາດໃນການຄິດໄລ່ຍັງຄົງມີຢູ່.

5. ສະຫງວນພື້ນທີ່ຫວ່າງທີ່ເໝາະສົມ ແລະ ກຳນົດຂອບເຂດຈຳກັດ. ໃຊ້ຂອບເຂດຈຳກັດ 1.1–1.2 ສຳລັບຜະລິດຕະພັນໄລຍະສັ້ນທີ່ມີອັລກໍຣິທຶມທີ່ຄົງທີ່ສ່ວນໃຫຍ່, ແລະ 1.3–1.4 ສຳລັບຜະລິດຕະພັນທີ່ຄາດວ່າຈະໄດ້ຮັບການອັບເດດຮູບແບບ. ພື້ນທີ່ຫວ່າງຄວນກວມເອົາການພັດທະນາຮູບແບບ, ສະຖານະການສູງສຸດ ແລະ ຄ່າໃຊ້ຈ່າຍໃນການກຳນົດເວລາ ແທນທີ່ຈະຈັດສັນຫຼາຍເກີນໄປໂດຍບໍ່ໄດ້ຕັ້ງໃຈ. ກຳນົດຂອບເຂດຈຳກັດຄ່າໃຊ້ຈ່າຍ BOM ແລະ ພະລັງງານໃນເວລາດຽວກັນ.

6. ຫ້າຂໍ້ບົກຜ່ອງທົ່ວໄປຂອງການວາງແຜນຄວາມອາດສາມາດຂອງ NPU

6.1 ການໃຊ້ພຽງແຕ່ Chip TOPS ແລະອັດຕາການໃຊ້ທີ່ຄົງທີ່

ການນຳໃຊ້ອັດຕາການນຳໃຊ້ຄົງທີ່ 40% ກັບ TOPS ທີ່ໂຄສະນາສາມາດປະເມີນຄວາມຕ້ອງການການຄຳນວນສູງເກີນໄປຫຼາຍເທົ່າ ແລະ ແຕກຕ່າງຈາກເງື່ອນໄຂວິສະວະກຳຕົວຈິງຢ່າງຫຼວງຫຼາຍ. ການນຳໃຊ້ແຕກຕ່າງກັນຢ່າງຫຼວງຫຼາຍໃນທົ່ວຮູບແບບ ແລະ ສະຖາປັດຕະຍະກຳ NPU.

6.2 ການຄູນດ້ວຍຈຳນວນຊ່ອງ ແລະ ບໍ່ສົນໃຈການແບ່ງປັນເວລາ

ໃນການດໍາເນີນງານແບບແບ່ງປັນເວລາ, NPU ຈະປະມວນຜົນຊ່ອງທາງຕ່າງໆ ແລະ ຄວາມສາມາດໃນການຄິດໄລ່ຂອງມັນຈະຖືກນໍາມາໃຊ້ຄືນ. ການຄູນຈໍານວນຊ່ອງທາງດ້ວຍຄວາມຕ້ອງການການຄິດໄລ່ຊ່ອງທາງດຽວສາມາດປະເມີນຄວາມຕ້ອງການສູງເກີນໄປ, ເຊິ່ງສົ່ງຜົນໃຫ້ຊິບມີພະລັງງານຫຼາຍເກີນໄປ ແລະ ມີລາຄາແພງໂດຍບໍ່ຈໍາເປັນ.

6.3 ການປະເມີນ NPU Compute ແຕ່ບໍ່ສົນໃຈແບນວິດ DDR

ບັນຫາຄວາມແອອັດຂອງແບນວິດແມ່ນພົບເລື້ອຍກວ່າບັນຫາຄວາມແອອັດຂອງຄອມພິວເຕີ້ໃນໂຄງການວິໄສທັດຫຼາຍກ້ອງ. NPU ອາດມີຄວາມອາດສາມາດເຫຼືອຢູ່ຫຼາຍ, ແຕ່ການໂອນຍ້າຍຂໍ້ມູນບໍ່ສາມາດຮັກສາໄວ້ໄດ້, ເຊິ່ງຈຳກັດອັດຕາເຟຣມ. ແບນວິດຕ້ອງໄດ້ຮັບການປະເມີນກ່ອນໃນໂຄງການຫຼາຍກ້ອງ.

6.4 ພິຈາລະນາການໂຫຼດໂດຍສະເລ່ຍແຕ່ບໍ່ສົນໃຈຈຸດສູງສຸດຊົ່ວຄາວ

ຜະລິດຕະພັນອາດຈະເຮັດວຽກໃນການໂຫຼດຕໍ່າເປັນສ່ວນໃຫຍ່ ແຕ່ຈະປະສົບກັບຈຸດສູງສຸດຊົ່ວຄາວເມື່ອກ້ອງຖ່າຍຮູບທັງໝົດເປີດໃຊ້ AI ພ້ອມໆກັນ. ການອອກແບບຕ້ອງຮອງຮັບຈຸດສູງສຸດເຫຼົ່ານີ້, ແຕ່ຄິວວຽກງານສາມາດເຮັດໃຫ້ຄວາມຕ້ອງການຊົ່ວຄາວລຽບງ່າຍ, ດັ່ງນັ້ນຊິບຈຶ່ງບໍ່ຈຳເປັນຕ້ອງມີຂະໜາດໂດຍກົງກັບຄວາມຕ້ອງການການຄຳນວນສູງສຸດ.

6.5 ການນັບເທົ່ານັ້ນການຄິດໄລ່ແບບຈຳລອງ ແລະ ການບໍ່ສົນໃຈຄ່າໃຊ້ຈ່າຍຂອງລະບົບ

ການຄາດຄະເນຫຼາຍຢ່າງນັບພຽງແຕ່ GMAC ຂອງ AI backbone ແລະບໍ່ສົນໃຈການປະມວນຜົນລ່ວງໜ້າຂອງ ISP, ການຄັດລອກຮູບພາບ ແລະ ການປະມວນຜົນຫຼັງ CPU. ເຖິງແມ່ນວ່າຈະມີຄວາມຈຸ NPU ພຽງພໍ, ແຕ່ຄ່າໃຊ້ຈ່າຍເຫຼົ່ານີ້ຈະເພີ່ມຄວາມໜ່ວງເວລາຈາກຕົ້ນທາງຫາປາຍທາງ ແລະ ປ້ອງກັນບໍ່ໃຫ້ອັດຕາເຟຣມຕາມທີ່ຄາດໄວ້ບັນລຸໄດ້.

7. ລາຍການກວດສອບການຈັດຕັ້ງປະຕິບັດສຳລັບການເລືອກແພລດຟອມ

ລະບຸພາລາມິເຕີກ້ອງຖ່າຍຮູບທັງໝົດ: ຄວາມລະອຽດ, ອັດຕາເຟຣມ ແລະ ຈຳນວນຊ່ອງ. ຢືນຢັນວ່າຊ່ອງຕ່າງໆໃຊ້ການກຳນົດເວລາແບບຂະໜານ ຫຼື ແບບແບ່ງປັນເວລາ.

ສົ່ງອອກ GMAC ສຳລັບແຕ່ລະຮຸ່ນ ແລະ ຈຳແນກການຄິດໄລ່ NPU ຈາກການປະມວນຜົນຫຼັງການປະມວນຜົນຂອງ CPU.

ວັດແທກເວລາການອະນຸມານແບບຈຳລອງດຽວໃນແພລດຟອມຕົວເລືອກເພື່ອສ້າງປະສິດທິພາບໃນການປະຕິບັດຕົວຈິງ.

ລວມປະລິມານວຽກຫຼາຍຊ່ອງທາງ ແລະ ປະເມີນການນຳໃຊ້ການຄຳນວນ NPU ພາຍໃຕ້ເງື່ອນໄຂທີ່ໝັ້ນຄົງ ແລະ ເງື່ອນໄຂສູງສຸດ.

ວັດແທກແບນວິດ DDR ແລະ ການໃຊ້ໜ່ວຍຄວາມຈຳເພື່ອກຳນົດວ່າແບນວິດແມ່ນຈຸດຄໍຂວດຫຼືບໍ່.

ກວດສອບຄວາມຖືກຕ້ອງຂອງຕົວປະຕິບັດການຮູບແບບ ແລະ ຢືນຢັນການຮອງຮັບການເລັ່ງຮາດແວ NPU ເພື່ອຫຼີກເວັ້ນການຖອຍຫຼັງຂອງ CPU.

ສະຫງວນພື້ນທີ່ຫວ່າງໃນການປະມວນຜົນຕາມແຜນງານການອັບເດດຜະລິດຕະພັນ ແລະ ກຳນົດຂີດຈຳກັດຄ່າໃຊ້ຈ່າຍ BOM ແລະ ພະລັງງານ.

ດຳເນີນການທົດສອບຄວາມຕຶງຄຽດທີ່ຂະຫຍາຍອອກດ້ວຍຕົວກະຕຸ້ນຫຼາຍຊ່ອງທາງພ້ອມໆກັນ. ກວດສອບການປ່ຽນແປງຂອງອັດຕາເຟຣມ ແລະ ການຂັດຂ້ອງທີ່ເກີດຈາກການໝົດໜ່ວຍຄວາມຈຳ.

ການວັດແທກຄວາມຈຸຂອງ NPU ສຳລັບວິໄສທັດທີ່ຝັງຢູ່ບໍ່ແມ່ນການອອກກຳລັງກາຍທາງຄະນິດສາດງ່າຍໆໃນການນຳໃຊ້ສູດ TOPS. ການປະເມີນແບບເຈ້ຍສະໜອງພຽງແຕ່ເອກະສານອ້າງອີງການວາງແຜນໃນໄລຍະຕົ້ນໆເທົ່ານັ້ນ. ການກວດສອບຄວາມຖືກຕ້ອງສຸດທ້າຍຕ້ອງໄດ້ປະຕິບັດຢູ່ໃນກະດານພັດທະນາຂອງຊິບເປົ້າໝາຍ.

ການປະເມີນທີ່ສົມບູນແມ່ນປະຕິບັດຕາມລຳດັບນີ້: ກຳນົດວ່າການປະມວນຜົນແມ່ນຈຸດຄໍຂວດ → ຢືນຢັນການກຳນົດເວລາທີ່ຂະໜານ ຫຼື ການແບ່ງປັນເວລາ → ວັດແທກຮູບແບບ GMAC → ຈັດລຳດັບຄວາມສຳຄັນຂອງການປະເມີນແບນວິດ DDR → ປັບທຽບຜ່ານການທົດສອບລະດັບກະດານ → ສະຫງວນພື້ນທີ່ການປະມວນຜົນທີ່ເໝາະສົມ.

ເປົ້າໝາຍແມ່ນເພື່ອດຸ່ນດ່ຽງປະສິດທິພາບ, ການໃຊ້ພະລັງງານ ແລະ ຕົ້ນທຶນ. ເລືອກຄວາມຈຸທີ່ພຽງພໍສຳລັບໜ້າວຽກແທນທີ່ຈະໄລ່ຕາມ NPU TOPS ທີ່ມີຈຸດສູງສຸດທີ່ສູງຂຶ້ນເລື້ອຍໆ.

MV11 ຂອງພວກເຮົາແມ່ນແພລດຟອມຄອມພິວເຕີຟິວຊັນວິໄສທັດ ແລະ ການນຳທາງແບບ inertial-navigation ທີ່ມີຮາດແວສີ່ກ້ອງ ໂດຍອີງໃສ່ໂປເຊດເຊີ Rockchip RK3576 ປະສິດທິພາບສູງ. ມັນປະກອບມີ 6 TOPS NPU ແລະ ໜ່ວຍຄວາມຈຳ LPDDR4 4 GB ແລະ ຮອງຮັບການຊິ້ງໂຄຣໄນລະດັບໄມໂຄຣວິນາທີໃນກ້ອງສີ່ຕົວ. ແອັບພລິເຄຊັນທີ່ເໝາະສົມລວມມີການຮັບຮູ້ ແລະ ການກວດຈັບຫຸ່ນຍົນ, VIO, SLAM ແລະ ການເກັບກຳຂໍ້ມູນ EGO ຫຼາຍກ້ອງ. ມັນສາມາດເປັນແພລດຟອມຮາດແວສຳລັບການປະມວນຜົນລະດັບກະດານ, ແບນວິດ ແລະ ການທົດສອບການກຳນົດເວລາຫຼາຍຊ່ອງທາງທີ່ໄດ້ອະທິບາຍຂ້າງເທິງ. ຕົວຢ່າງແມ່ນມີໃຫ້ສຳລັບການປະເມີນໂຄງການໃນໄລຍະຕົ້ນ, ແລະ ວິທີແກ້ໄຂວິໄສທັດທີ່ສົມບູນສາມາດປັບແຕ່ງເພື່ອສະໜັບສະໜູນການນຳໃຊ້. ຕິດຕໍ່ພວກເຮົາທີ່ [email protected].