এম্বেডেড ভিশন পণ্যের জন্য এনপিইউ কম্পিউট ক্যাপাসিটি কীভাবে নির্ধারণ করবেন

১. সমস্যাটি বোঝা: এনপিইউ ক্যাপাসিটি প্ল্যানিং যে সমস্যাগুলো সমাধান করে

রোবট, স্মার্ট ক্যামেরা এবং শিল্প ভিশন টার্মিনালসহ অনেকগুলো এম্বেডেড ডিভাইস এখন এআই ভিশন অ্যালগরিদম চালানোর জন্য এনপিইউ ব্যবহার করে। এনপিইউ হলো একটি চিপের মধ্যে অবস্থিত একটি হার্ডওয়্যার ইউনিট যা এআই ইনফারেন্সের জন্য বিশেষভাবে ডিজাইন করা হয়েছে।

চিপ নির্বাচন করার সময়, অনেক দল প্রথমে এর এনপিইউ টপস (TOPS) রেটিং দেখে এবং ধরে নেয় যে উচ্চতর সংখ্যা মানে আরও শক্তিশালী চিপ। ব্যবহারিক পরিস্থিতিতে, পণ্য উন্নয়নে দুটি সাধারণ সমস্যা দেখা যায়:

প্রথমটি হলো অপর্যাপ্ত কম্পিউট ক্যাপাসিটি। ডিভাইসটি কম ফ্রেম রেটে চালিত হয়, ভিডিও থমকে যায়, একাধিক ক্যামেরা একসাথে কাজ করলে ফ্রেম ড্রপ হয় এবং এআই চিহ্নিতকরণ ব্যর্থ হতে পারে।

দ্বিতীয়টি হলো অতিরিক্ত ক্ষমতা। চিপটি ব্যয়বহুল, বেশি শক্তি খরচ করে এবং উল্লেখযোগ্য তাপ উৎপন্ন করে। ব্যবহৃত না হওয়া গণনা ক্ষমতা মুনাফার হার কমিয়ে দেয়।

একটি গুরুত্বপূর্ণ প্রকৌশলগত বিবেচনা হলো যে, অনেক এম্বেডেড ভিশন প্রকল্পে কার্যকারিতা ছবির স্থানান্তর, মেমরি ব্যান্ডউইথ বা সিপিইউ-ভিত্তিক পরবর্তী প্রক্রিয়াকরণ দ্বারা সীমিত হয়, এনপিইউ গণনা ক্ষমতা দ্বারা নয়।

২. মৌলিক ধারণা এবং দুটি মূল মেট্রিক

গণনা পরিকল্পনা করতে তকনিকি শব্দের দীর্ঘ তালিকার প্রয়োজন হয় না। দুটি মূল ধারণা পৃথক করা চিপের স্পেসিফিকেশনকে ভ্রান্তিকর করা থেকে রোধ করতে সাহায্য করে।

চিপ বিক্রেতারা যে টপস (TOPS) সংখ্যা বিজ্ঞাপন করেন, তা হলো তাত্ত্বিক সর্বোচ্চ গণনা কার্যকারিতা: আদর্শ পরীক্ষাগার পরিস্থিতিতে পূর্ণ লোডে এনপিইউ যে সর্বোচ্চ প্রক্রিয়াকরণ ক্ষমতা অর্জন করতে পারে। পণ্য ডিজাইনে অতিরিক্ত ক্ষমতার প্রয়োজন হয়, তাই সরাসরি সাইজিং-এর জন্য সর্বোচ্চ কার্যকারিতা ব্যবহার করা যায় না।

আমরা একটি এআই মডেলের গণনাগত কাজের পরিমাণ মূল্যায়নের জন্য জিএমএসি (GMAC) ব্যবহার করি। একটি এমএসি (MAC) হল একটি মৌলিক গুণ ও যোগ করার অপারেশন, এবং জিএমএসি (GMAC) এক বিলিয়ন এমএসি-এর সমান। এটি কোনো মডেলে কতটুকু গণনা করা হয় তা পরিমাপ করে। দ্রষ্টব্য যে, জিএমএসি (GMAC) কাজের পরিমাণ পরিমাপ করে, অন্যদিকে জিএমএসি/সেকেন্ড (GMAC/s) থ্রুপুট পরিমাপ করে। বড় মডেলগুলির জিএমএসি (GMAC) মান উচ্চতর হয়।

এনপিইউ (NPU) ব্যবহারের হার একটি স্থির ধ্রুবক নয়। এটি এনপিইউ-এর মোট ক্ষমতার মধ্যে কতটুকু অংশ কার্যকরী গণনার জন্য ব্যবহৃত হয় তা নির্দেশ করে। সরল কনভোলিউশনাল নেটওয়ার্কের ক্ষেত্রে—যেমন ভিআইও (VIO) ফ্রন্ট এন্ড বা হালকা ডিটেকশন মডেল—সরল অপারেটর এবং চিপের গভীর অপ্টিমাইজেশনের ফলে ৬০% থেকে ৮০% পর্যন্ত ব্যবহারের হার অর্জন করা সম্ভব। অন্যদিকে, জটিল রূপান্তর বা ট্রান্সফরমার (Transformer) ব্লক সমন্বিত মডেলগুলি পুনরাবৃত্ত টাইলড এক্সিকিউশন প্রয়োজন করে, যার ফলে ব্যবহারের হার ২০% বা তারও কম হয়ে যেতে পারে।

চারশো শতাংশ ব্যবহারের হার প্রয়োগ করা অনিশ্চিত অনুমানের প্রধান কারণ। রেজোলিউশনের পরিবর্তনও সরাসরি কাজের ভারকে প্রভাবিত করে: ইনপুট ছবির প্রস্থ ও উচ্চতা দুটোই দ্বিগুণ করলে এর ক্ষেত্রফল চারগুণ হয় এবং একই মডেলের জন্য প্রায় চারগুণ গণনা করতে হয়।

টিওপিএস (TOPS) শুধুমাত্র হার্ডওয়্যারের সর্বোচ্চ সীমা। গণনা অনুমান শুরু করুন মডেলের জিএমএসি (GMAC) কাজের ভার দিয়ে, এবং এগুলোকে ডেভেলপমেন্ট বোর্ডে করা পরিমাপের সঙ্গে সমন্বয় করুন। কোনো চিপ শুধুমাত্র এর তাত্ত্বিক সর্বোচ্চ কর্মক্ষমতা দেখে নির্বাচন করবেন না।

৩. সংজ্ঞায়িত করুন আবেদন প্রয়োজনীয়তা এবং বহু-ক্যামেরা সময়সূচি

গণনা প্রয়োজনীয়তা অনুমান করার আগে, পণ্যের কাজের ভার চিহ্নিত করুন। এখানে গুরুত্বপূর্ণ পার্থক্য হলো যে একাধিক ক্যামেরা সমান্তরাল অনুমান (প্যারালাল ইনফারেন্স) নাকি সময়-ভাগ করে নেওয়া, রাউন্ড-রবিন অনুমান (টাইম-শেয়ার্ড, রাউন্ড-রবিন ইনফারেন্স) ব্যবহার করছে—কারণ এটি নির্ধারণ করে যে কীভাবে তাদের গণনা প্রয়োজনীয়তা একত্রিত হবে।

সমান্তরাল মোড: সমস্ত ক্যামেরা একই সময়ে কৃত্রিম বুদ্ধিমত্তা অনুমান চালায়, তাই তাদের গণনা প্রয়োজনীয়তা সরাসরি যোগ হয়। উদাহরণস্বরূপ, চারটি ক্যামেরা সমন্বিত একটি নিরাপত্তা ডিভাইস যা প্রতিটি চ্যানেলে প্রতি সেকেন্ডে ৩০ ফ্রেমের হারে বাস্তব-সময় বস্তু সনাক্তকরণ করে, সেখানে চারটি চ্যানেলের লোড একত্রিত হয়।

সময়-ভাগ করা মোড: এনপিইউ একটি শেয়ার করা হার্ডওয়্যার সম্পদ যা ক্যামেরার ছবিগুলি ক্রমিকভাবে প্রক্রিয়া করে, চ্যানেলগুলি একটি কিউতে পালাক্রমে একটি সময়ে একটি চ্যানেল পরিচালনা করে। রকচিপ আরকে প্ল্যাটফর্মে বহু-ক্যামেরা দৃষ্টি বাস্তবায়নের অধিকাংশ ক্ষেত্রে এই পদ্ধতি ব্যবহার করা হয়।

কাজের ভার সংজ্ঞায়িত করার সময় নিম্নলিখিত তথ্যগুলি সংগ্রহ করুন:

প্রতিটি ক্যামেরার রেজোলিউশন এবং ফ্রেম হার।

কৃত্রিম বুদ্ধিমত্তা মডেলের তালিকা: কোন মডেলগুলি এনপিইউ-তে চালানো হয় এবং কোন পোস্ট-প্রসেসিং কাজগুলি সিপিইউ-তে চালানো হয়।

কোয়ান্টাইজেশন প্রেসিশন: এম্বেডেড ডিভাইসগুলির জন্য আইএনটি৮ একটি প্রচলিত পছন্দ, কারণ এটি উচ্চতর অনুমান দক্ষতা প্রদান করে।

ট্রিগারিং পদ্ধতি: প্রতিটি ফ্রেমে অবিরাম কৃত্রিম বুদ্ধিমত্তা প্রক্রিয়াকরণ, অথবা ঘটনা-ট্রিগার্ড অপারেশন যেখানে জটিল অ্যালগরিদমগুলি শুধুমাত্র তখনই শুরু হয় যখন একটি ট্রিগার শর্ত পূরণ হয়।

গুরুত্বপূর্ণ: অভিজ্ঞতা থেকে আনুমানিক গণনা না করে RKNN বা ONNX Runtime-এর মতো সরঞ্জাম ব্যবহার করে GMAC এর মডেল রপ্তানি করুন। একটি বৃহৎ YOLO মডেলের কাজের ভার ব্যবহার করে হালকা VIO নেটওয়ার্কের আকার নির্ধারণ করলে গণনা প্রয়োজনীয়তা অত্যধিক আনুমানিক হয়ে যায়।

আমাদের MV11 হল চারটি ক্যামেরা-সমর্থিত, হার্ডওয়্যার-সিঙ্ক্রোনাইজড দৃষ্টি ও জড়তাগত নেভিগেশন ফিউশন কম্পিউটিং প্ল্যাটফর্ম, যা উচ্চ-কর্মক্ষমতাসম্পন্ন Rockchip RK3576 প্রসেসরের উপর ভিত্তি করে তৈরি। এটিতে ৬ TOPS NPU এবং ৪ GB LPDDR4 মেমরি রয়েছে এবং চারটি ক্যামেরার মধ্যে মাইক্রোসেকেন্ড-স্তরের সিঙ্ক্রোনাইজেশন সমর্থন করে। এটি রোবটিক চিহ্নিতকরণ ও সনাক্তকরণ, VIO, SLAM এবং বহু-ক্যামেরা EGO ডেটা সংগ্রহের মতো অ্যাপ্লিকেশনের জন্য উপযুক্ত। এটি উপরে বর্ণিত বোর্ড-স্তরের কম্পিউট, ব্যান্ডউইথ এবং বহু-চ্যানেল শিডিউলিং পরীক্ষার জন্য হার্ডওয়্যার প্ল্যাটফর্ম হিসেবে কাজ করতে পারে। প্রাথমিক প্রকল্প মূল্যায়নের জন্য নমুনা উপলব্ধ; এছাড়া, প্রয়োগের সমর্থনে সম্পূর্ণ দৃষ্টি সমাধান কাস্টমাইজ করা যায়। আমাদেরকে [email protected]এ যোগাযোগ করুন।

৪. প্রায়শই NPU গণনার আগেই কর্মক্ষমতা সীমিত করে এমন বাধাসমূহ

অনেক প্রকল্প নির্বাচনের সময় শুধুমাত্র এনপিইউ টপস (NPU TOPS) নিয়ে মনোযোগ দেয়, কিন্তু বোর্ড ব্রিং-আপের সময় দেখা যায় যে সিস্টেমটি আর ধরে রাখতে পারছে না, যদিও এনপিইউ ক্ষমতার অর্ধেকের বেশি এখনও অব্যবহৃত রয়েছে। নিম্নলিখিত সীমাবদ্ধতাগুলি এম্বেডেড ভিশনে সাধারণ বাধা হিসেবে কাজ করে।

৪.১ ডিডিআর মেমোরি ব্যান্ডউইথ

এআই ইনফারেন্সের সময়, এনপিইউ ধারাবাহিকভাবে মেমোরি থেকে ছবি ও মডেল ওজনগুলি পড়ে এবং মধ্যবর্তী ফিচার ম্যাপগুলি পুনরায় মেমোরিতে লেখে। ডিডিআর ব্যান্ডউইথ এই সমস্ত স্থানান্তরের গতি নির্ধারণ করে। যখন ব্যান্ডউইথ অপর্যাপ্ত হয়, তখন এমনকি পর্যাপ্ত কম্পিউট ক্ষমতা সম্পন্ন এনপিইউ-কেও ডেটা অপেক্ষা করতে হয়, ফলে ফ্রেম-রেট উন্নতি বাধাগ্রস্ত হয়। আরকে (RK) প্ল্যাটফর্মে বহু-ক্যামেরা প্রকল্পগুলিতে সাধারণত একটি ছোট অংশ এনপিইউ ক্ষমতা ব্যবহার করা হলেও ব্যান্ডউইথ সম্পূর্ণ ভাবে পূর্ণ হয়ে যায়।

৪.২ মেমোরি ক্ষমতা

ছবির বাফার, এআই মডেলের ওজন এবং মধ্যবর্তী বৈশিষ্ট্য ম্যাপগুলি সবগুলোই মেমরি ব্যবহার করে। একাধিক চ্যানেল একসাথে কাজ করলে মেমরি ব্যবহার উল্লেখযোগ্যভাবে বৃদ্ধি পায়। অপর্যাপ্ত মেমরি অ্যাপ্লিকেশনটি ক্র্যাশ করাতে পারে। এম্বেডেড ডিভাইসগুলোতে সাধারণত ভার্চুয়াল মেমরি থাকে না, তাই মেমরি শেষ হয়ে যাওয়ার (ওওএম) অবস্থা ডিভাইসটিকে বন্ধ করে দিতে পারে।

৪.৩ আইএসপি ছবি প্রি-প্রসেসিং

ক্যামেরা দ্বারা ধারণ করা র ছবিগুলোর কাটিং, স্কেলিং এবং রঙের স্পেস রূপান্তর প্রয়োজন। কিছু প্রি-প্রসেসিং আইএসপি হার্ডওয়্যার দ্বারা সম্পন্ন হয়, অন্যদিকে কিছু সিপিইউ সম্পদ ব্যবহার করে। বহু-ক্যামেরা অ্যাকুইজিশন প্রি-প্রসেসিংয়ের চাহিদা বাড়ায় এবং এনপিইউ নিষ্ক্রিয় থাকা সত্ত্বেও পাইপলাইনের মধ্যে বিলম্ব সৃষ্টি করতে পারে।

৪.৪ শক্তি খরচ এবং তাপ ব্যবস্থাপনা

কোনো চিপের বিজ্ঞাপিত শীর্ষ টপস শীর্ষ শক্তি খরচের সমতুল্য। অধিকাংশ এম্বেডেড ডিভাইস ফ্যানহীন এবং দীর্ঘ সময় ধরে পূর্ণ এনপিইউ লোড সহ্য করতে পারে না। তাত্ত্বিক গণনা ক্ষমতা যতই উচ্চ হোক না কেন, তাপীয় অবস্থা স্থায়ী অপারেশনের জন্য উপলব্ধ ক্ষমতা সীমিত করে।

৪.৫ অপারেটর সামঞ্জস্যতা

যদি কোনো এআই মডেলে বিশেষ অপারেটর থাকে যা এনপিইউ ত্বরান্বিত করতে পারে না, তবে সেগুলো সিপিইউ-এ চালানো হয়। সিপিইউ-তে এআই প্রসেসিং ধীরগতির হয় এবং এনপিইউ-এর ক্ষমতা যথেষ্ট থাকা সত্ত্বেও পাইপলাইনকে গুরুতরভাবে বাধাগ্রস্ত করতে পারে। প্ল্যাটফর্ম নির্বাচনের আগে অপারেটর ত্বরান্বিত সমর্থন যাচাই করুন।

৫. একটি ব্যবহারিক পরিকল্পনা কাজের প্রবাহ

১. কাজের ভারসাম্য এবং কাজের মোড প্রতিষ্ঠা করুন। এআই পাইপলাইন সংজ্ঞায়িত করুন: রেজোলিউশন, ফ্রেম রেট, চ্যানেল সংখ্যা, ট্রিগার কৌশল (অবিরাম বা ঘটনা-চালিত), সমান্তরাল বা সময়-ভাগ করা কার্যকরণ, মডেলের তালিকা এবং প্রয়োগের নির্ভুলতা। বিশেষ মনোযোগ দিন কীভাবে একাধিক চ্যানেলকে সময়সূচীবদ্ধ করা হয়।

২. মডেলের কাজের ভার পরিমাপ করুন এবং জিএমএসি/সেকেন্ড হিসাবে রপ্তানি করুন। প্রতিটি মডেলের জন্য জিএমএসি/সেকেন্ড রপ্তানি করতে টুলস ব্যবহার করুন, যেখানে এনপিইউ-ত্বরান্বিত গণনা এবং সিপিইউ-ভিত্তিক পোস্ট-প্রসেসিং আলাদা করা হয়।

৩. কার্যকরী দক্ষতা নির্ধারণের জন্য লক্ষ্য বোর্ডে পরিমাপ করুন। RK3576 অথবা RK3588-এর মতো প্রার্থী SoC-গুলিতে মডেলগুলিকে প্ল্যাটফর্ম ফরম্যাটে রূপান্তর করুন। সেই মডেলটির সেই NPU-তে প্রতি ফ্রেম অনুমান সময় পরিমাপ করে আসল থ্রুপুট নির্ধারণ করুন। এটি গবেষণাপত্রের অনুমানগুলির মধ্যে বৈসাদৃশ্য দূর করার সবচেয়ে গুরুত্বপূর্ণ ধাপ: সমস্ত অনুমানকে সাধারণ সূত্রের চেয়ে বোর্ড-স্তরের পরিমাপের বিরুদ্ধে সমন্বয় করতে হবে।

৪. বহু-চ্যানেল কাজের ভারগুলি একত্রিত করুন এবং সিস্টেমের সংকীর্ণ স্থানগুলি মূল্যায়ন করুন। সাধারণ স্থায়ী অবস্থা অপারেশন এবং সবগুলি চ্যানেল একসাথে ট্রিগার হওয়ার সময় সবচেয়ে খারাপ ক্ষেত্রের উভয়ই মূল্যায়ন করুন। DDR ব্যান্ডউইথ এবং মেমরি ব্যবহার একই সময়ে পরীক্ষা করুন। অনেক RK বহু-ক্যামেরা প্রকল্পে গণনা ক্ষমতা অপরিবর্তিত থাকা সত্ত্বেও ব্যান্ডউইথ শেষ হয়ে যায়।

৫. উপযুক্ত হেডরুম রাখুন এবং সীমা নির্ধারণ করুন। প্রধানত স্থির অ্যালগরিদম বিশিষ্ট স্বল্পমেয়াদী পণ্যগুলির জন্য ১.১–১.২ এবং মডেল আপডেট পাওয়ার প্রত্যাশিত পণ্যগুলির জন্য ১.৩–১.৪ মার্জিন ব্যবহার করুন। হেডরুমটি মডেলের বিকাশ, চূড়ান্ত পরিস্থিতি এবং শিডিউলিংয়ের ওভারহেড কভার করা উচিত—যা ইচ্ছামতো অতিরিক্ত প্রদানের পরিবর্তে হওয়া উচিত। বিওএম খরচ এবং পাওয়ার সীমা একসাথে নির্ধারণ করুন।

৬. এনপিইউ ক্যাপাসিটি প্ল্যানিংয়ের পাঁচটি সাধারণ ভুল

৬.১ শুধুমাত্র চিপের টপস (TOPS) এবং একটি স্থির ব্যবহার হার ব্যবহার করা

বিজ্ঞাপিত টপস-এর উপর স্থির ৪০% ব্যবহার হার প্রয়োগ করা গণনা প্রয়োজনীয়তাকে কয়েকগুণ অতিমূল্যায়ন করতে পারে এবং বাস্তব প্রকৌশল শর্তগুলি থেকে উল্লেখযোগ্যভাবে বিচ্যুত হতে পারে। ব্যবহার হার মডেল এবং এনপিইউ আর্কিটেকচারের মধ্যে উল্লেখযোগ্যভাবে পরিবর্তিত হয়।

৬.২ চ্যানেল সংখ্যা দিয়ে গুণ করা এবং সময় শেয়ারিং উপেক্ষা করা

সময়-ভাগ করে নেওয়া অপারেশনে, এনপিইউ চ্যানেলগুলি পরপর প্রক্রিয়া করে এবং এর কম্পিউটেশন ক্ষমতা পুনরায় ব্যবহার করা হয়। শুধুমাত্র চ্যানেল সংখ্যা দিয়ে একক-চ্যানেল কম্পিউটেশন চাহিদা গুণ করলে প্রয়োজনীয়তা অত্যধিক আকারে অনুমান করা হয়, যার ফলে অতি-শক্তিশালী এবং অপ্রয়োজনীয়ভাবে ব্যয়বহুল চিপ তৈরি হয়।

৬.৩ এনপিইউ কম্পিউটেশন মূল্যায়ন করা হচ্ছে কিন্তু ডিডিআর ব্যান্ডউইডথ উপেক্ষা করা হচ্ছে

বহু-ক্যামেরা ভিশন প্রকল্পে কম্পিউটেশন বাধার তুলনায় ব্যান্ডউইডথ বাধা অনেক বেশি সাধারণ। এনপিইউ-এর এখনও উল্লেখযোগ্য ক্ষমতা অবশিষ্ট থাকতে পারে, কিন্তু ডেটা স্থানান্তর পর্যাপ্ত গতিতে হতে পারছে না, ফলে ফ্রেম রেট সীমিত হয়ে যায়। বহু-ক্যামেরা প্রকল্পে ব্যান্ডউইডথ প্রথমে মূল্যায়ন করা আবশ্যিক।

৬.৪ গড় লোড বিবেচনা করা হচ্ছে কিন্তু ক্ষণস্থায়ী শীর্ষ লোড উপেক্ষা করা হচ্ছে

কোনো পণ্য সাধারণত নিম্ন লোডে কাজ করতে পারে, কিন্তু সমস্ত ক্যামেরা একসাথে কৃত্রিম বুদ্ধিমত্তা সক্রিয় করলে ক্ষণস্থায়ী শীর্ষ লোড দেখা দিতে পারে। ডিজাইনটি এই শীর্ষ লোডগুলির জন্য উপযুক্ত হতে হবে, কিন্তু একটি টাস্ক কিউ ক্ষণস্থায়ী চাহিদা মসৃণ করতে পারে, তাই চিপটিকে অবশ্যই শীর্ষ কম্পিউটেশন চাহিদা অনুযায়ী আকার করা হতে হবে না।

৬.৫ শুধুমাত্র মডেল কম্পিউটেশন গণনা করা হচ্ছে কিন্তু সিস্টেম ওভারহেড উপেক্ষা করা হচ্ছে

অনেক অনুমান শুধুমাত্র এআই ব্যাকবোনের জিএমএসি গণনা করে এবং আইএসপি প্রি-প্রসেসিং, ইমেজ কপি করা এবং সিপিইউ পোস্ট-প্রসেসিং উপেক্ষা করে। এমনকি যথেষ্ট এনপিইউ ক্ষমতা থাকলেও, এই ওভারহেডগুলি এন্ড-টু-এন্ড ল্যাটেন্সি বাড়ায় এবং প্রত্যাশিত ফ্রেম রেট অর্জন করতে বাধা দেয়।

৭. প্ল্যাটফর্ম নির্বাচনের জন্য বাস্তবায়ন চেকলিস্ট

সমস্ত ক্যামেরা প্যারামিটার তালিকাভুক্ত করুন: রেজোলিউশন, ফ্রেম রেট এবং চ্যানেল সংখ্যা। নিশ্চিত করুন যে চ্যানেলগুলি সমান্তরাল নাকি সময়-ভাগ করা শিডিউলিং ব্যবহার করে।

প্রতিটি মডেলের জন্য জিএমএসি এক্সপোর্ট করুন এবং এনপিইউ কম্পিউটেশনকে সিপিইউ পোস্ট-প্রসেসিং থেকে আলাদা করুন।

প্রার্থী প্ল্যাটফর্মগুলিতে একক-মডেল ইনফারেন্স সময় পরিমাপ করে আসল কার্যকরী দক্ষতা স্থাপন করুন।

বহু-চ্যানেল ওয়ার্কলোড সংকলন করুন এবং স্থির-অবস্থা ও চূড়ান্ত অবস্থার অধীনে এনপিইউ কম্পিউট ব্যবহার মূল্যায়ন করুন।

ডিডিআর ব্যান্ডউইথ এবং মেমোরি ব্যবহার পরিমাপ করে নির্ণয় করুন যে ব্যান্ডউইথ কি বাধা হয়ে দাঁড়াচ্ছে।

মডেল অপারেটরগুলি যাচাই করুন এবং এনপিইউ হার্ডওয়্যার অ্যাক্সেলারেশন সমর্থন নিশ্চিত করুন, যাতে সিপিইউ ফলব্যাক এড়ানো যায়।

পণ্য আপডেট রোডম্যাপ অনুযায়ী কম্পিউট হেডরুম সংরক্ষণ করুন এবং বিওএম খরচ ও পাওয়ার সীমা নির্ধারণ করুন।

একসাথে বহু-চ্যানেল ট্রিগার সহ বর্ধিত স্ট্রেস পরীক্ষা চালান। ফ্রেম-রেট পরিবর্তন এবং মেমরি শেষ হওয়ার কারণে ঘটা ক্র্যাশগুলি পরীক্ষা করুন।

এম্বেডেড ভিশনের জন্য এনপিইউ ক্ষমতা নির্ধারণ করা কোনো সাধারণ গাণিতিক কাজ নয় যেখানে কেবলমাত্র টপস সূত্র প্রয়োগ করা হয়। কাগজের অনুমানগুলি শুধুমাত্র প্রাথমিক পরিকল্পনার জন্য নির্দেশিকা প্রদান করে। চূড়ান্ত যাচাইকরণ অবশ্যই লক্ষ্য চিপের ডেভেলপমেন্ট বোর্ডে সম্পাদন করতে হবে।

সম্পূর্ণ মূল্যায়ন নিম্নলিখিত ক্রমে অনুসরণ করে: কম্পিউটের বোটলনেক কিনা তা নির্ধারণ করা → সমান্তরাল বা সময়-ভাগ করা শিডিউলিং নিশ্চিত করা → মডেলের জিম্যাক পরিমাপ করা → ডিডিআর ব্যান্ডউইথ মূল্যায়নকে অগ্রাধিকার দেওয়া → বোর্ড-স্তরের পরীক্ষার মাধ্যমে ক্যালিব্রেশন করা → উপযুক্ত কম্পিউট হেডরুম সংরক্ষণ করা।

লক্ষ্য হলো পারফরম্যান্স, পাওয়ার খরচ এবং খরচের মধ্যে ভারসাম্য বজায় রাখা। চূড়ান্ত এনপিইউ টপস মান যতটা সম্ভব বাড়ানোর পরিবর্তে কাজের জন্য যথেষ্ট ক্ষমতা নির্বাচন করুন।

আমাদের MV11 হল চারটি ক্যামেরা-সমর্থিত, হার্ডওয়্যার-সিঙ্ক্রোনাইজড দৃষ্টি ও জড়তাগত নেভিগেশন ফিউশন কম্পিউটিং প্ল্যাটফর্ম, যা উচ্চ-কর্মক্ষমতাসম্পন্ন Rockchip RK3576 প্রসেসরের উপর ভিত্তি করে তৈরি। এটিতে ৬ TOPS NPU এবং ৪ GB LPDDR4 মেমরি রয়েছে এবং চারটি ক্যামেরার মধ্যে মাইক্রোসেকেন্ড-স্তরের সিঙ্ক্রোনাইজেশন সমর্থন করে। এটি রোবটিক চিহ্নিতকরণ ও সনাক্তকরণ, VIO, SLAM এবং বহু-ক্যামেরা EGO ডেটা সংগ্রহের মতো অ্যাপ্লিকেশনের জন্য উপযুক্ত। এটি উপরে বর্ণিত বোর্ড-স্তরের কম্পিউট, ব্যান্ডউইথ এবং বহু-চ্যানেল শিডিউলিং পরীক্ষার জন্য হার্ডওয়্যার প্ল্যাটফর্ম হিসেবে কাজ করতে পারে। প্রাথমিক প্রকল্প মূল্যায়নের জন্য নমুনা উপলব্ধ; এছাড়া, প্রয়োগের সমর্থনে সম্পূর্ণ দৃষ্টি সমাধান কাস্টমাইজ করা যায়। আমাদেরকে [email protected]এ যোগাযোগ করুন।