একটি বহু-ক্যামেরা এআই ভিশন সিস্টেমের জন্য কতটুকু ডিডিআর মেমরি প্রয়োজন? (আরকে৩৫৭৬ নির্বাচন টেবিলসহ)

এআই ভিশন অ্যাপ্লিকেশনগুলির দ্রুত উন্নতির সাথে সাথে, বহু-ক্যামেরা সমাধানগুলি (স্টেরিও, কোয়াড-ক্যামেরা এবং আরও বেশি ক্যামেরা চ্যানেল) ডেটা সংগ্রহ, নিরাপত্তা তদারকি, শিল্প পরীক্ষা, রোবট পার্সেপশন এবং এজ কম্পিউটিং-এর মতো পরিস্থিতিতে ব্যাপকভাবে গৃহীত হয়েছে। অনেক প্রকল্প হার্ডওয়্যার নির্বাচনের সময় একটি সাধারণ ভুলে পড়ে: শুধুমাত্র চিপের গণনা ক্ষমতার উপর ফোকাস করা হয়, কিন্তু মেমরি কনফিগারেশন উপেক্ষা করা হয়। এর ফলে ফ্রেম হারানো, ধীরগতির এআই ইনফারেন্স এবং সিস্টেম ক্র্যাশ সহ বিভিন্ন সমস্যা দেখা দেয়।

বড় ডিডিআর মেমোরি সবসময় ভালো? হ্যাঁ, কার্যকারিতা এবং স্থিতিশীলতার দৃষ্টিকোণ থেকে। তবে এর অসুবিধা স্পষ্ট—এটি বাজেটের জন্য চাপ সৃষ্টি করে, বিশেষ করে সাম্প্রতিক সময়ে ডিডিআর মূল্যের উল্লেখযোগ্য বৃদ্ধির পরিপ্রেক্ষিতে। সমাধান নির্বাচনের ক্ষেত্রে খরচ এবং প্রকল্পের প্রকৃত প্রয়োজনীয়তার মধ্যে ভারসাম্য বজায় রাখা অত্যন্ত গুরুত্বপূর্ণ হয়ে ওঠে।

চলুন ডিডিআর সাইজিং-এর সবচেয়ে সাধারণ ভুলটি দেখি: সাধারণ অবস্থায় মেমোরি ব্যবহার কম দেখাতে পারে, কিন্তু একাধিক কাজ একসাথে চলার সময় এটি হঠাৎ সর্বোচ্চ মাত্রায় বৃদ্ধি পেতে পারে, যা সরাসরি সিস্টেম ক্র্যাশের কারণ হয়। অনেক দল হার্ডওয়্যার মূল্যায়নের জন্য গড় মেমোরি ব্যবহার ব্যবহার করে। উদাহরণস্বরূপ, ব্যাপকভাবে ব্যবহৃত AR0234 সেন্সরটি নেওয়া যাক: একটি ১০৮০পি ক্যামেরা নিষ্ক্রিয় অবস্থায় তুলনামূলকভাবে কম মেমোরি ব্যবহার করে। তবে, ক্যাপচার-আইএসপি-এআই ইনফারেন্স-এনকোডিং সম্পূর্ণ পাইপলাইন চালানোর সময় প্রতিটি চ্যানেলের সর্বোচ্চ মেমোরি ব্যবহার প্রতি চ্যানেলে দশকয়েক মেগাবাইট পর্যন্ত হতে পারে। একটি ৪কে ক্যামেরার ক্ষেত্রে, প্রতি চ্যানেলের সর্বোচ্চ ব্যবহার ১০০ মেগাবাইটের বেশি হতে পারে। এমনকি একটি সাধারণ HTTP অনুরোধও প্রতি সংযোগে কয়েক মেগাবাইট মেমোরি ব্যবহার করে। এই পৃথক পৃথক ওভারহেডগুলি আলাদা ভাবে ছোট মনে হলেও, একাধিক ক্যামেরা ও কাজ একসাথে সক্রিয় হলে এগুলি দ্রুত যোগ হয়ে যায়। ফলে OOM (আউট-অফ-মেমোরি) ঘটতে পারে, যার ফলে প্রক্রিয়াগুলি বন্ধ হয়ে যায় এবং সিস্টেম ব্যর্থ হয়।

মাল্টি-ক্যামেরা এআই ভিশন সিস্টেমগুলিতে মেমোরি কোথায় ব্যয় হয়?

প্রান্তের দৃষ্টি ডিভাইসগুলিতে মেমরি শুধুমাত্র কৃত্রিম বুদ্ধিমত্তা মডেলগুলির জন্য ব্যবহার করা হয় না। এটি ছবি ধারণ, পূর্ব-প্রক্রিয়াকরণ, কৃত্রিম বুদ্ধিমত্তা অনুমান, সিস্টেম সেবা এবং অ্যাপ্লিকেশন কাজের ভার সহ বিভিন্ন কাজের মধ্যে ভাগ করা হয়। প্রতিটি অতিরিক্ত ক্যামেরা চ্যানেল যোগ করলে মেমরি ওভারহেড বৃদ্ধি পায়।

১. ইমেজ বাফার (ওভারহেডের সবচেয়ে বড় উৎস) প্রতিটি ক্যামেরা থেকে আসা কাঁচা ছবি, YUV ফ্রেম এবং স্কেলড ফ্রেমগুলি মেমরি ব্যবহার করে। AR0234 সেন্সর ১০৮০পি @ ৩০fps-এ চালানো হলে একটি একক YUV ফ্রেম কয়েক মেগাবাইট মেমরি দখল করে। ফ্রেম ড্রপ রোধ করতে সিস্টেমটি বহু-ফ্রেম রিং বাফার বজায় রাখে, যা মেমরি ব্যবহার আরও বাড়ায়। একাধিক ছবির সংস্করণ (মূল, থাম্বনেইল, কাটা ফ্রেম) তৈরি করলে অতিরিক্ত ফ্রেম বাফার প্রয়োজন হয়। একাধিক ক্যামেরা একসাথে স্ট্রিম করলে মেমরি ব্যবহার গুণিত হয়।

২. ISP এবং ছবি পূর্ব-প্রক্রিয়াকরণ ওভারহেড আইএসপি হলো একটি স্বাধীন হার্ডওয়্যার অ্যাক্সেলারেটর যা শব্দ হ্রাস, রং সংশোধন, বিকৃতি সংশোধন, ঘূর্ণন, ক্রপিং এবং ফরম্যাট রূপান্তর করে। আইএসপি-তে শুধুমাত্র সীমিত অন-চিপ ক্যাশে থাকে, বড় ধারণাক্ষমতা বিশিষ্ট ফ্রেম স্টোরেজ নেই। ফলে অনেক অপারেশনের জন্য অস্থায়ী বাফারগুলি ডিডিআর-এ বরাদ্দ করতে হয়। আরও ক্যামেরা চ্যানেল মানে আইএসপি-এর কাজের ভার বেশি হবে এবং ডিডিআর-এর ধারণাক্ষমতা বেশি প্রয়োজন হবে।

৩. এআই মডেল ইনফারেন্সের জন্য মেমরি এআই ইনফারেন্স দুটি অংশে মেমরি ব্যবহার করে। প্রথমটি হলো মডেল ওয়েটস: বড় মডেল প্যারামিটার হলে মেমরি ব্যবহার বেশি হয়। ভাগ্যক্রমে, ওয়েটসগুলি মডেল ইনিশিয়ালাইজেশনের সময় একবার লোড করা হয়; রানটাইমে ক্যামেরা চ্যানেল বা পরিস্থিতির সংখ্যা বাড়ার সাথে সাথে এদের মেমরি ব্যবহার বাড়ে না।

অনুমান চালানোর সময় মেমোরি কি কোনোভাবে প্রভাবিত হয় না? একেবারেই না। এটি আমাদের দ্বিতীয় উপাদানের কথা মনে করিয়ে দেয়: অনুমানের সময় তৈরি হওয়া মধ্যবর্তী বৈশিষ্ট্য বাফারগুলি। প্রতিটি ক্যামেরা চ্যানেলের জন্য নিজস্ব গণনা বাফার প্রয়োজন, যা মোট মেমোরি ব্যবহার বাড়ায়। একাধিক ক্যামেরায় সমন্বিত কৃত্রিম বুদ্ধিমত্তা অনুমান চালানোর জন্য একাধিক স্বাধীন গণনা বাফার প্রয়োজন। তাই, চ্যানেল সংখ্যা বাড়লে অনুমান বাফারের জন্য মেমোরি ওভারহেডও বেড়ে যায়।

৪. সিস্টেম, ড্রাইভার এবং মিডলওয়্যার ওভারহেড আমাদের RK3576 ভিশন সমাধানকে উদাহরণ হিসেবে নিন। লিনাক্স কার্নেল, RK মিডিয়া ড্রাইভার, RKMPP মিডিয়া ফ্রেমওয়ার্ক, NPU ড্রাইভার, সিস্টেম লগ এবং চলমান প্রক্রিয়াগুলি দ্বারা বেস সিস্টেম মেমোরি ব্যবহৃত হয়। বহু-ক্যামেরা প্রয়োগে, মিডিয়া ফ্রেমওয়ার্ক এবং ভিডিও এনকোডিং (H.264 / H.265 রেকর্ডিং) উল্লেখযোগ্য মেমোরি চাপ যোগ করে। বহু-চ্যানেল এনকোডিং এবং রেকর্ডিং সক্রিয় করলে মেমোরি চাপ আরও তীব্রভাবে বৃদ্ধি পায়।

গুরুত্বপূর্ণ তথ্য: এটি কাজের মেমোরি (DDR RAM)-এর কথা বলছে, eMMC স্টোরেজ নয়। eMMC শুধুমাত্র এনকোড করা ভিডিও ফাইলগুলি সংরক্ষণ করে।

5.প্রয়োগ -স্তর ব্যবসায়িক মেমোরি অ্যাপ্লিকেশন লজিক—যার মধ্যে অনুমান ফলাফল বিশ্লেষণ, বহু-বস্তু ট্র্যাকিং, ডেটা রিপোর্টিং, স্থানীয় ক্যাশিং এবং স্ন্যাপশট সংরক্ষণ অন্তর্ভুক্ত—মেমোরি ব্যবহার করে। উদাহরণস্বরূপ, ট্র্যাকিং অ্যালগরিদমগুলি বহু-ফ্রেম লক্ষ্য ডেটা সংরক্ষণ করে। আরও ক্যামেরা এবং ট্র্যাক করা বস্তুগুলি বৃহত্তর ডেটাসেট এবং উচ্চতর অ্যাপ্লিকেশন-স্তরের মেমোরি ব্যবহার তৈরি করে।

আরকে৩৫৭৬ প্ল্যাটফর্মে ব্যবহারিক মেমোরি পারফরম্যান্স

আরকে৩৫৭৬ হল একটি প্রধান দেশীয় এজ এআই প্রসেসর যা ৬ টপস এনপিইউ পারফরম্যান্স প্রদান করে, যা বহু-ক্যামেরা এআই-ভিশন ডিপ্লয়মেন্টের জন্য উপযুক্ত। আমাদের কোম্পানির একাধিক পরিপক্ক বাণিজ্যিক উৎপাদন পণ্য রয়েছে যা ১ থেকে ৬টি ক্যামেরা চ্যানেল সমর্থন করে, যা বিভিন্ন প্রকল্পের প্রয়োজনীয়তা পূরণ করে। ৪ জিবি ডিডিআর হল প্রধান বাণিজ্যিক উৎপাদন কনফিগারেশন, যদিও বিভিন্ন কাজের চাপের জন্য বিকল্প ডিডিআর আকারগুলি সমর্থিত।

নিচের টেবিলটি বাজারে প্রচলিত ১০৮০পি-৪কে ক্যামেরা সেন্সরগুলির জন্য প্রযোজ্য:

যদি আপনি উপযুক্ত মেমোরি কনফিগারেশন নিয়ে অনিশ্চিত হন, তবে দয়া করে [email protected]এ যোগাযোগ করুন। আমরা আপনার ক্যামেরা চ্যানেল সংখ্যা, রেজোলিউশন, ব্যবসায়িক যুক্তি এবং রানটাইম ওয়ার্কলোড অনুযায়ী কাস্টমাইজড সমাধান মূল্যায়ন প্রদান করব।