วิธีการกำหนดขนาดความจุการประมวลผลของ NPU สำหรับผลิตภัณฑ์ภาพแบบฝังตัว

1. การเข้าใจปัญหาที่การวางแผนความจุของ NPU แก้ไข

อุปกรณ์แบบฝังตัวหลายชนิด รวมถึงหุ่นยนต์ กล้องอัจฉริยะ และเทอร์มินัลภาพอุตสาหกรรม ตอนนี้ใช้ NPU เพื่อรันอัลกอริทึมการมองเห็นด้วยปัญญาประดิษฐ์ ซึ่ง NPU คือหน่วยฮาร์ดแวร์ภายในชิปที่ออกแบบมาเฉพาะเพื่อการอนุมานด้วยปัญญาประดิษฐ์

เมื่อเลือกชิป ทีมงานจำนวนมากจะพิจารณาค่า TOPS ของ NPU เป็นอันดับแรก และสมมุติว่าค่าที่สูงกว่าหมายถึงชิปที่ทรงพลังกว่า แต่ในทางปฏิบัติ การพัฒนาผลิตภัณฑ์มักประสบปัญหาทั่วไปสองแบบ:

ปัญหาข้อแรกคือความจุการประมวลผลไม่เพียงพอ อุปกรณ์ทำงานที่อัตราเฟรมต่ำ วิดีโอสะดุด เฟรมหายเมื่อใช้กล้องหลายตัวพร้อมกัน และการรู้จำด้วยปัญญาประดิษฐ์อาจล้มเหลว

ประการที่สองคือ กำลังการประมวลผลเกินความจำเป็น ชิปมีราคาสูง ใช้พลังงานมาก และสร้างความร้อนอย่างมาก กำลังการประมวลผลที่ไม่ได้ใช้งานจะลดอัตรากำไร

ข้อพิจารณาด้านวิศวกรรมที่สำคัญประการหนึ่งคือ ในโครงการวิชันแบบฝังตัวจำนวนมาก ประสิทธิภาพมักถูกจำกัดโดยการถ่ายโอนภาพ แบนด์วิดท์ของหน่วยความจำ หรือการประมวลผลขั้นตอนต่อเนื่องบนซีพียู มากกว่าความสามารถในการประมวลผลของหน่วยประมวลผลประสาทเทียม (NPU)

2. แนวคิดพื้นฐานและตัวชี้วัดหลักสองประการ

การวางแผนกำลังการประมวลผลไม่จำเป็นต้องใช้รายการศัพท์เทคนิคยาวเหยียด การแยกแยะแนวคิดหลักสองประการนี้จะช่วยป้องกันไม่ให้ข้อมูลจำเพาะของชิปทำให้เข้าใจผิด

ตัวเลข TOPS ที่ผู้ผลิตชิปโฆษณาไว้คือ สมรรถนะการประมวลผลสูงสุดเชิงทฤษฎี ซึ่งหมายถึง ความสามารถในการประมวลผลสูงสุดที่ NPU สามารถทำได้เมื่อทำงานเต็มกำลังภายใต้เงื่อนไขห้องปฏิบัติการที่สมบูรณ์แบบ อย่างไรก็ตาม การออกแบบผลิตภัณฑ์จำเป็นต้องมีพื้นที่สำรอง ดังนั้น สมรรถนะสูงสุดจึงไม่สามารถนำไปใช้โดยตรงในการคำนวณขนาดระบบได้

เราใช้ GMAC ในการประเมินภาระงานด้านการคำนวณของแบบจำลองปัญญาประดิษฐ์ ซึ่ง MAC คือการดำเนินการพื้นฐานแบบคูณแล้วบวกหนึ่งครั้ง ส่วน GMAC หมายถึงการดำเนินการลักษณะนี้หนึ่งพันล้านครั้ง โดยตัวชี้วัดนี้ใช้วัดปริมาณการคำนวณที่จำเป็นในแบบจำลอง โปรดสังเกตว่า GMAC วัดเฉพาะภาระงาน ขณะที่ GMAC/s วัดอัตราการประมวลผล แบบจำลองที่มีขนาดใหญ่ขึ้นจะให้ค่า GMAC สูงขึ้นตามไปด้วย

ระดับการใช้งาน NPU ไม่ใช่ค่าคงที่ที่แน่นอน แต่แสดงสัดส่วนของศักยภาพ NPU ที่ถูกใช้ไปกับการคำนวณที่มีประสิทธิผล สำหรับเครือข่ายคอนโวลูชันแบบง่าย เช่น ส่วนหน้าของระบบ VIO หรือแบบจำลองตรวจจับที่มีน้ำหนักเบา การใช้โอเปอเรเตอร์แบบง่ายร่วมกับการเพิ่มประสิทธิภาพชิปอย่างละเอียดสามารถทำให้ได้อัตราการใช้งานอยู่ที่ 60%–80% อย่างไรก็ตาม แบบจำลองที่มีการแปลงที่ซับซ้อนหรือประกอบด้วยบล็อกทรานส์ฟอร์เมอร์อาจจำเป็นต้องดำเนินการแบบแบ่งเป็นไทล์ซ้ำ ๆ ส่งผลให้อัตราการใช้งานลดลงเหลือเพียง 20% หรือต่ำกว่านั้น

การใช้อัตราการใช้งานคงที่ที่ร้อยละ 40 เป็นสาเหตุหลักที่ทำให้การประมาณค่าไม่แม่นยำ ความละเอียดของภาพยังส่งผลโดยตรงต่อภาระงานด้วย: หากเพิ่มความกว้างและความสูงของภาพนำเข้าเป็นสองเท่า พื้นที่ภาพจะเพิ่มขึ้นเป็นสี่เท่า และการประมวลผลสำหรับโมเดลเดียวกันก็จะเพิ่มขึ้นประมาณสี่เท่าเช่นกัน

ค่า TOPS แสดงเพียงขีดจำกัดสูงสุดของฮาร์ดแวร์เท่านั้น ควรเริ่มต้นการประมาณค่าการประมวลผลจากภาระงาน GMAC ของโมเดล จากนั้นปรับแต่งค่าที่ได้ให้สอดคล้องกับผลการวัดจริงบนบอร์ดพัฒนา ห้ามเลือกชิปเพียงเพราะประสิทธิภาพสูงสุดเชิงทฤษฎีของมัน

3. กำหนด การใช้งาน ข้อกำหนดและการจัดตารางการทำงานของกล้องหลายตัว

ก่อนประมาณค่าความต้องการด้านการประมวลผล จำเป็นต้องวิเคราะห์ภาระงานของผลิตภัณฑ์อย่างละเอียด ประเด็นสำคัญคือต้องแยกให้ชัดเจนว่า กล้องหลายตัวทำงานแบบอนุมานพร้อมกัน (parallel inference) หรือแบบแบ่งเวลาหมุนเวียน (time-shared, round-robin inference) เนื่องจากวิธีการเหล่านี้ส่งผลต่อวิธีการรวมภาระงานด้านการประมวลผลที่แต่ละกล้องต้องการ

โหมดขนาน: กล้องทั้งหมดทำงานการอนุมานด้วยปัญญาประดิษฐ์ (AI) พร้อมกัน ดังนั้นความต้องการทรัพยากรการประมวลผลจึงรวมกันโดยตรง ตัวอย่างเช่น อุปกรณ์รักษาความปลอดภัยที่มีกล้องสี่ตัว ซึ่งแต่ละตัวทำการตรวจจับวัตถุแบบเรียลไทม์ที่อัตรา 30 เฟรมต่อวินาที จะรวมภาระการประมวลผลจากทั้งสี่ช่องเข้าด้วยกัน

โหมดแบ่งเวลา: หน่วยประมวลผลปัญญาประดิษฐ์ (NPU) เป็นทรัพยากรฮาร์ดแวร์ที่ใช้ร่วมกัน โดยประมวลผลภาพจากกล้องทีละช่องตามลำดับ คือ แต่ละช่องจะสลับกันเข้ามาใช้งานตามคิว หลายระบบการมองเห็นแบบหลายกล้องบนแพลตฟอร์ม Rockchip RK ใช้วิธีนี้

รวบรวมข้อมูลต่อไปนี้เมื่อกำหนดภาระงาน:

ความละเอียดและอัตราเฟรมของแต่ละกล้อง

รายการโมเดลปัญญาประดิษฐ์: โมเดลใดบ้างที่ทำงานบน NPU และงานประมวลผลหลัง (post-processing) ใดบ้างที่ทำงานบน CPU

ระดับความแม่นยำของการทำ quantization: INT8 เป็นตัวเลือกที่นิยมสำหรับอุปกรณ์ฝังตัว เนื่องจากให้ประสิทธิภาพการอนุมานสูงกว่า

วิธีการกระตุ้น: การประมวลผลด้วยปัญญาประดิษฐ์แบบต่อเนื่องในทุกเฟรม หรือการดำเนินการแบบตอบสนองต่อเหตุการณ์ (event-triggered) ซึ่งอัลกอริทึมที่ซับซ้อนจะเริ่มทำงานก็ต่อเมื่อเงื่อนไขการกระตุ้นเกิดขึ้น

สำคัญ: ให้ส่งออกโมเดล GMAC โดยใช้เครื่องมือ เช่น RKNN หรือ ONNX Runtime แทนที่จะประมาณค่าจากประสบการณ์ การใช้ภาระงานของโมเดล YOLO ขนาดใหญ่มาประเมินขนาดของเครือข่าย VIO แบบเบาเป็นพิเศษอาจทำให้ประเมินความต้องการด้านการประมวลผลสูงเกินจริงอย่างรุนแรง

MV11 ของเราคือแพลตฟอร์มการประมวลผลแบบผสานภาพและระบบนำทางเชิงอินเนอร์เชียลที่ซิงค์ฮาร์ดแวร์ได้ทั้งสี่กล้อง ซึ่งสร้างบนโปรเซสเซอร์ Rockchip RK3576 ประสิทธิภาพสูง มี NPU ความเร็ว 6 TOPS และหน่วยความจำ LPDDR4 ขนาด 4 GB รองรับการซิงค์ระหว่างกล้องทั้งสี่ตัวในระดับไมโครวินาที แอปพลิเคชันที่เหมาะสม ได้แก่ การรู้จำและการตรวจจับสำหรับหุ่นยนต์ VIO SLAM และการเก็บรวบรวมข้อมูล EGO แบบหลายกล้อง สามารถใช้เป็นแพลตฟอร์มฮาร์ดแวร์สำหรับการทดสอบการประมวลผลระดับบอร์ด แบนด์วิดธ์ และการจัดตารางงานแบบหลายช่องทางตามที่กล่าวมาข้างต้น มีตัวอย่างสินค้าให้ทดลองใช้ก่อนเริ่มโครงการ และสามารถปรับแต่งโซลูชันภาพแบบครบวงจรเพื่อสนับสนุนการนำไปใช้งานจริง ติดต่อเราได้ที่ [email protected]

4. ข้อจำกัดที่มักจำกัดประสิทธิภาพก่อนที่ NPU จะถึงขีดจำกัดด้านการประมวลผล

โครงการหลายโครงการมุ่งเน้นเพียงค่า NPU TOPS ขณะเลือกชิปเท่านั้น จากนั้นจึงพบระหว่างขั้นตอนการนำบอร์ดขึ้นใช้งานจริงว่า ระบบไม่สามารถรับมือได้แม้ว่าจะยังเหลือความสามารถของ NPU มากกว่าครึ่งหนึ่งก็ตาม ข้อจำกัดต่อไปนี้เป็นคอขวดที่พบบ่อยในระบบการมองเห็นแบบฝังตัว

4.1 แบนด์วิดท์หน่วยความจำ DDR

ระหว่างการประมวลผล AI หน่วย NPU จะอ่านภาพและน้ำหนักโมเดลจากหน่วยความจำอย่างต่อเนื่อง และเขียนแผนที่คุณลักษณะชั่วคราวกลับลงในหน่วยความจำ แบนด์วิดท์ของหน่วยความจำ DDR กำหนดความเร็วของการถ่ายโอนข้อมูลเหล่านี้ เมื่อแบนด์วิดท์ไม่เพียงพอ แม้ NPU จะมีศักยภาพในการประมวลผลสูงเพียงใด ก็ยังต้องรอรับข้อมูล ส่งผลให้ไม่สามารถเพิ่มอัตราเฟรมได้ ในโครงการหลายกล้องส่วนใหญ่ที่ใช้แพลตฟอร์ม RK แบนด์วิดท์มักถูกใช้จนเต็มขณะที่ใช้ศักยภาพของ NPU เพียงส่วนน้อยเท่านั้น

4.2 ความจุหน่วยความจำ

บัฟเฟอร์ภาพ น้ำหนักของโมเดลปัญญาประดิษฐ์ และแผนที่คุณลักษณะระหว่างกลาง ล้วนใช้หน่วยความจำทั้งสิ้น การใช้หน่วยความจำจะเพิ่มขึ้นอย่างมากเมื่อทำงานหลายช่องทางพร้อมกัน หน่วยความจำไม่เพียงพออาจทำให้แอปพลิเคชันหยุดทำงานได้ อุปกรณ์แบบฝังตัวโดยทั่วไปไม่มีหน่วยความจำเสมือน ดังนั้นภาวะหน่วยความจำเกิน (OOM) อาจทำให้อุปกรณ์หยุดทำงานทั้งหมด

4.3 การปรับแต่งภาพเบื้องต้นโดย ISP

ภาพดิบที่กล้องจับภาพมาจำเป็นต้องตัดขอบ ปรับขนาด และแปลงพื้นที่สี บางส่วนของการปรับแต่งเบื้องต้นดำเนินการโดยฮาร์ดแวร์ ISP ในขณะที่บางส่วนใช้ทรัพยากรของ CPU การรับภาพจากกล้องหลายตัวพร้อมกันจะเพิ่มภาระงานของการปรับแต่งเบื้องต้น และอาจก่อให้เกิดความล่าช้าในทั้งระบบแม้หน่วยประมวลผลปัญญาประดิษฐ์ (NPU) จะยังไม่ได้ทำงาน

4.4 การใช้พลังงานและการจัดการความร้อน

ค่า TOPS สูงสุดที่ระบุไว้สำหรับชิปหนึ่งตัวสอดคล้องกับการใช้พลังงานสูงสุด แทบทุกอุปกรณ์แบบฝังตัวไม่มีพัดลมระบายความร้อน จึงไม่สามารถรองรับภาระงานสูงสุดของ NPU ได้เป็นเวลานาน แม้ศักยภาพในการประมวลผลเชิงทฤษฎีจะสูงเพียงใด ภาวะความร้อนก็ยังคงจำกัดความสามารถในการทำงานอย่างต่อเนื่อง

4.5 ความเข้ากันได้ของโอเปอเรเตอร์

หากโมเดล AI มีโอเปอเรเตอร์พิเศษที่ NPU ไม่สามารถเร่งความเร็วได้ โอเปอเรเตอร์เหล่านั้นจะถูกประมวลผลโดย CPU แทน การประมวลผล AI บน CPU มีความช้า และอาจทำให้กระบวนการประมวลผลทั้งหมดหยุดชะงักอย่างรุนแรง แม้ว่าความสามารถของ NPU จะเพียงพอต่อการใช้งานก็ตาม ดังนั้น ควรตรวจสอบให้แน่ใจก่อนว่าโอเปอเรเตอร์แต่ละตัวได้รับการรองรับสำหรับการเร่งความเร็วโดย NPU แล้วจึงเลือกแพลตฟอร์ม

5. ขั้นตอนการวางแผนที่ใช้งานได้จริง

1. กำหนดค่าพื้นฐานของภาระงานและโหมดการดำเนินงาน ระบุโครงสร้างของกระบวนการ AI: ความละเอียด อัตราเฟรม จำนวนช่องสัญญาณ กลยุทธ์การกระตุ้น (แบบต่อเนื่องหรือแบบตอบสนองเหตุการณ์) การประมวลผลแบบขนานหรือแบบแบ่งเวลา รายการโมเดล และระดับความแม่นยำในการปรับใช้ ให้ใส่ใจเป็นพิเศษต่อวิธีการจัดลำดับการทำงานของช่องสัญญาณหลายช่อง

2. วัดปริมาณภาระงานของโมเดลและแสดงค่า GMAC/s ใช้เครื่องมือเพื่อคำนวณและแสดงค่า GMAC/s สำหรับแต่ละโมเดล โดยแยกการคำนวณที่เร่งโดย NPU ออกจากกระบวนการหลังการประมวลผลบน CPU

3. วัดผลบนบอร์ดเป้าหมายเพื่อกำหนดประสิทธิภาพในการดำเนินการ แปลงโมเดลให้อยู่ในรูปแบบที่รองรับแพลตฟอร์มบนชิป SoC ที่กำลังพิจารณา เช่น RK3576 หรือ RK3588 วัดระยะเวลาการอนุมานต่อเฟรมเพื่อกำหนดอัตราผ่านจริงของโมเดลนั้นบน NPU นั้น นี่คือขั้นตอนที่สำคัญที่สุดในการลดความคลาดเคลื่อนจากค่าประมาณในงานวิจัย: ค่าประมาณทั้งหมดต้องได้รับการปรับเทียบกับผลการวัดระดับบอร์ด ไม่ใช่จากสูตรทั่วไป

4. รวมภาระงานจากหลายช่องทางและประเมินจุดคอขวดของระบบ ประเมินทั้งภาวะการทำงานปกติแบบคงที่ และภาวะสูงสุดที่เลวร้ายที่สุดเมื่อช่องทางทั้งหมดทำงานพร้อมกัน ตรวจสอบแบนด์วิดท์ของหน่วยความจำ DDR และการใช้หน่วยความจำพร้อมกัน โครงการหลายกล้องที่ใช้ชิป RK มักใช้แบนด์วิดท์จนเต็ม ขณะที่ศักยภาพการประมวลผลยังเหลืออยู่

5. จัดเตรียมพื้นที่ว่างสำหรับการประมวลผล (headroom) ที่เหมาะสม และกำหนดขีดจำกัดให้ชัดเจน ใช้อัตราส่วน 1.1–1.2 สำหรับผลิตภัณฑ์ระยะสั้นที่มีอัลกอริธึมคงที่เป็นหลัก และใช้อัตราส่วน 1.3–1.4 สำหรับผลิตภัณฑ์ที่คาดว่าจะได้รับการอัปเดตรุ่นโมเดล ปริมาณพื้นที่ว่างควรครอบคลุมการพัฒนาของโมเดล สถานการณ์สูงสุด (peak scenarios) และภาระงานด้านการจัดตารางเวลา (scheduling overhead) มากกว่าการจัดสรรทรัพยากรเกินความจำเป็นแบบไม่มีเหตุผล กำหนดขีดจำกัดต้นทุน BOM และขีดจำกัดกำลังไฟพร้อมกัน

6. ข้อผิดพลาดทั่วไป 5 ประการในการวางแผนความสามารถของ NPU

6.1 การใช้ค่า TOPS ของชิปเพียงอย่างเดียว ร่วมกับอัตราการใช้งานที่คงที่

การใช้อัตราการใช้งานคงที่ที่ 40% กับค่า TOPS ที่โฆษณาไว้ อาจประเมินความต้องการการประมวลผลสูงเกินจริงหลายเท่า และเบี่ยงเบนจากเงื่อนไขวิศวกรรมที่แท้จริงอย่างมาก อัตราการใช้งานเปลี่ยนแปลงอย่างมากขึ้นอยู่กับแต่ละโมเดลและสถาปัตยกรรมของ NPU

6.2 การคูณด้วยจำนวนช่องทาง (channel count) โดยไม่พิจารณาการแบ่งปันเวลา (time sharing)

ในการทำงานแบบแบ่งเวลาใช้งานร่วมกัน หน่วยประมวลผล NPU จะประมวลผลช่องสัญญาณทีละช่องตามลำดับ และใช้กำลังการประมวลผลซ้ำซ้อนกัน ดังนั้น การคูณจำนวนช่องสัญญาณด้วยความต้องการประมวลผลต่อช่องสัญญาณเดียวจึงอาจประเมินความต้องการสูงเกินจริงอย่างรุนแรง ส่งผลให้ชิปมีกำลังประมวลผลมากเกินความจำเป็นและมีราคาแพงโดยไม่จำเป็น

6.3 การประเมินกำลังการประมวลผลของ NPU แต่เพิกเฉยต่อแบนด์วิดท์ของหน่วยความจำ DDR

ปัญหาคอขวดด้านแบนด์วิดท์พบได้บ่อยกว่าปัญหาคอขวดด้านกำลังการประมวลผลในโครงการวิชันระบบกล้องหลายตัว แม้ NPU จะยังมีกำลังการประมวลผลเหลืออยู่มาก แต่การถ่ายโอนข้อมูลอาจไม่ทัน ทำให้อัตราเฟรมลดลง ดังนั้น จึงจำเป็นต้องประเมินแบนด์วิดท์ก่อนเป็นอันดับแรกในโครงการที่ใช้กล้องหลายตัว

6.4 การพิจารณาเฉพาะภาระงานเฉลี่ยแต่เพิกเฉยต่อจุดสูงสุดชั่วคราว

ผลิตภัณฑ์อาจทำงานภายใต้ภาระงานต่ำส่วนใหญ่ แต่เกิดจุดสูงสุดชั่วคราวเมื่อกล้องทั้งหมดเรียกใช้ระบบปัญญาประดิษฐ์พร้อมกัน การออกแบบจึงต้องรองรับจุดสูงสุดเหล่านี้ อย่างไรก็ตาม คิวงานสามารถช่วยปรับสมดุลภาระงานชั่วคราวได้ ดังนั้น ชิปจึงไม่จำเป็นต้องมีขนาดใหญ่พอสำหรับความต้องการประมวลผลสูงสุดโดยตรง

6.5 การนับเฉพาะการคำนวณของโมเดลแต่เพิกเฉยต่อภาระงานระบบ

การประมาณค่าหลายแบบนับเฉพาะ GMAC ของโครงสร้างพื้นฐานปัญญาประดิษฐ์ (AI backbone) เท่านั้น และไม่รวมการประมวลผลล่วงหน้าโดย ISP การคัดลอกภาพ และการประมวลผลหลังจากนั้นโดย CPU แม้จะมีความสามารถในการประมวลผลของ NPU เพียงพอ ภาระงานเพิ่มเติมเหล่านี้ก็ยังทำให้ความหน่วงปลายต่อปลาย (end-to-end latency) เพิ่มขึ้น และทำให้ไม่สามารถบรรลุอัตราเฟรมที่คาดไว้ได้

7. รายการตรวจสอบการดำเนินการสำหรับการเลือกแพลตฟอร์ม

ระบุพารามิเตอร์ของกล้องทั้งหมด ได้แก่ ความละเอียด อัตราเฟรม และจำนวนช่องสัญญาณ ยืนยันว่าช่องสัญญาณใช้การจัดตารางแบบขนาน (parallel) หรือแบบแบ่งเวลา (time-shared)

ส่งออกค่า GMAC สำหรับแต่ละโมเดล และแยกแยะการประมวลผลโดย NPU ออกจากกระบวนการประมวลผลหลังโดย CPU

วัดระยะเวลาการอนุมานแบบโมเดลเดียว (single-model inference time) บนแพลตฟอร์มที่กำลังพิจารณา เพื่อกำหนดประสิทธิภาพการประมวลผลจริง

รวมภาระงานจากหลายช่องสัญญาณ และประเมินการใช้ทรัพยากรการประมวลผลของ NPU ภายใต้สภาวะคงที่ (steady-state) และสภาวะสูงสุด (peak conditions)

วัดความกว้างแถบของหน่วยความจำ DDR (DDR bandwidth) และการใช้หน่วยความจำ เพื่อพิจารณาว่าความกว้างแถบเป็นจุดคอขวดหรือไม่

ตรวจสอบตัวดำเนินการ (operators) ของโมเดล และยืนยันว่าฮาร์ดแวร์ NPU รองรับการเร่งการทำงานหรือไม่ เพื่อหลีกเลี่ยงการเปลี่ยนไปใช้ CPU แทน

สำรองความสามารถในการประมวลผลตามแผนการอัปเดตผลิตภัณฑ์ และกำหนดขีดจำกัดต้นทุน BOM และพลังงาน

ดำเนินการทดสอบความเครียดแบบขยายเวลาโดยใช้ตัวกระตุ้นหลายช่องทางพร้อมกัน ตรวจสอบความแปรผันของอัตราเฟรมและการหยุดทำงานเนื่องจากการใช้หน่วยความจำจนเต็ม

การคำนวณขนาดความจุ NPU สำหรับระบบการมองเห็นแบบฝังตัวไม่ใช่การคำนวณเชิงคณิตศาสตร์ที่ง่ายดายด้วยสูตร TOPS เพียงอย่างเดียว การประมาณค่าจากเอกสารวิชาการให้เพียงข้อมูลอ้างอิงเบื้องต้นสำหรับการวางแผนเท่านั้น การตรวจสอบขั้นสุดท้ายต้องทำบนบอร์ดพัฒนาของชิปเป้าหมาย

การประเมินอย่างครบถ้วนจะดำเนินตามลำดับนี้: ระบุว่าการประมวลผลเป็นคอขวดหรือไม่ → ยืนยันการจัดตารางงานแบบขนานหรือแบบแบ่งใช้เวลา → วัด GMAC ของโมเดล → จัดลำดับความสำคัญของการประเมินแบนด์วิดท์ DDR → ปรับค่าให้แม่นยำผ่านการทดสอบระดับบอร์ด → สำรองความสามารถในการประมวลผลที่เหมาะสม

เป้าหมายคือการสมดุลระหว่างประสิทธิภาพ การใช้พลังงาน และต้นทุน ควรเลือกความจุที่เพียงพอสำหรับงานนั้น ๆ แทนที่จะมุ่งหาค่าพีค NPU TOPS ที่สูงขึ้นเรื่อย ๆ

MV11 ของเราคือแพลตฟอร์มการประมวลผลแบบผสานภาพและระบบนำทางเชิงอินเนอร์เชียลที่ซิงค์ฮาร์ดแวร์ได้ทั้งสี่กล้อง ซึ่งสร้างบนโปรเซสเซอร์ Rockchip RK3576 ประสิทธิภาพสูง มี NPU ความเร็ว 6 TOPS และหน่วยความจำ LPDDR4 ขนาด 4 GB รองรับการซิงค์ระหว่างกล้องทั้งสี่ตัวในระดับไมโครวินาที แอปพลิเคชันที่เหมาะสม ได้แก่ การรู้จำและการตรวจจับสำหรับหุ่นยนต์ VIO SLAM และการเก็บรวบรวมข้อมูล EGO แบบหลายกล้อง สามารถใช้เป็นแพลตฟอร์มฮาร์ดแวร์สำหรับการทดสอบการประมวลผลระดับบอร์ด แบนด์วิดธ์ และการจัดตารางงานแบบหลายช่องทางตามที่กล่าวมาข้างต้น มีตัวอย่างสินค้าให้ทดลองใช้ก่อนเริ่มโครงการ และสามารถปรับแต่งโซลูชันภาพแบบครบวงจรเพื่อสนับสนุนการนำไปใช้งานจริง ติดต่อเราได้ที่ [email protected]