الذكاء الاصطناعي على الحافة · الرؤية · الاستدلال المحلي

منصات Mini-ITX لحوسبة الذكاء الاصطناعي على الحافة

منصات Mini-ITX المخصصة للاستدلال المحلي، والرؤية الآلية، وتحليل الفيديو، والروبوتات، ومعالجة بيانات أجهزة الاستشعار، مع متطلبات محددة فيما يتعلق بالنموذج، ووقت التشغيل، والمدخلات، والذاكرة، والطاقة، والتبريد، والتخزين، والشبكة.

منصة Mini-ITX للحوسبة الطرفية القائمة على الذكاء الاصطناعي والاستدلال المحلي

النهج القائم على النموذج ومسار البيانات أولاً

تحديد مسار عمل الذكاء الاصطناعي على الحافة

ينبغي اختيار أجهزة الذكاء الاصطناعي الطرفي (Edge AI) بناءً على عوامل تشمل مشغلي النماذج، وتدفقات المدخلات، والمعالجة المسبقة، ومحرك الاستدلال، وحركة مرور البيانات في الذاكرة، والمعالجة اللاحقة، والتخزين، ومخرجات الشبكة، والهدف المحدد لزمن الاستجابة، والحد الأقصى لاستهلاك الطاقة، والهيكل الخارجي.

قياس النموذج الحقيقي

لا تقتصر توقعات TOPS على أداء التطبيق فحسب. فدعم المشغل، والدقة، والتكمية، وعرض النطاق الترددي للذاكرة، ووقت التشغيل، والتجميع، والمعالجة المسبقة، ونقل البيانات، كلها عوامل يمكن أن تؤثر بشكل كبير على زمن الاستجابة ومعدل الإنتاجية.

تتبع كل دفق إدخال

قم بتسجيل عدد الكاميرات أو المستشعرات، والدقة، ومعدل الإطارات، وبرنامج الترميز، والمزامنة، وبنية شبكة USB أو CSI، والاستيراد عبر الشبكة، والتخزين المؤقت، وعمليات الكتابة إلى وحدة التخزين قبل تحديد حجم الموارد الحاسوبية.

التحقق من استمرار التشغيل

قد تخفي الاختبارات القياسية القصيرة حالات تقييد الأداء. قم بقياس معدل الاستدلال، وحمل وحدة المعالجة المركزية (CPU) والمسرع، واستخدام الذاكرة، ودرجة الحرارة، واستهلاك الطاقة، وعمليات الكتابة على وحدة التخزين، وعملية الاستعادة في إطار مسار الإنتاج.

الرؤية · الروبوتات · التحليلات · المراقبة

ملفات تعريف تطبيقات الذكاء الاصطناعي على الحافة

تناولت الصفحة الأصلية فحص عمليات التصنيع، وتحليلات تجارة التجزئة، ومراقبة الزراعة، وأنظمة الفيديو الحضرية. ولا تزال هذه التطبيقات مفيدة حتى بعد حذف النسب المئوية غير المدعومة المتعلقة بالأداء والدقة والتوفير والنتائج.

الفحص باستخدام الرؤية الآلية

معالجة تدفقات الكاميرات بالقرب من معدات الإنتاج. تحديد عدد الكاميرات، وطريقة التشغيل، والتعرض الضوئي، والمعالجة المسبقة، والنموذج، ومعدل الاستدلال، وتوقيت الرفض، والتخزين، والتحكم في الإضاءة، وواجهة الجهاز.

تحليلات الفيديو في قطاع التجزئة

قم بتنفيذ عمليات الكشف المحلي أو العد أو التتبع أو إنشاء البيانات الوصفية عندما تكون متطلبات الخصوصية أو عرض النطاق الترددي أو الاستجابة مواتية للمعالجة الطرفية. تحقق من صحة برامج الترميز والتدفقات والنماذج ومدة الاحتفاظ بالبيانات ومخرجات الشبكة.

الروبوتات والاستقلالية

اجمع بين الكاميرات ومستشعرات العمق وشبكة CAN وواجهة GPIO وأنظمة تحديد الموقع والإدراك والبرامج الإشرافية. احرص على الفصل بين حدود السلامة والتحكم في الحركة ما لم تكن بنية التحكم بأكملها معتمدة.

المراقبة عن بُعد باستخدام الذكاء الاصطناعي

تطبيق الاستدلال المحلي على البيانات البيئية أو الزراعية أو المتعلقة بالبنية التحتية أو المعدات. تحديد مدخلات أجهزة الاستشعار، والوصلة اللاسلكية، والتخزين المؤقت في وضع عدم الاتصال، وطريقة تحديث النموذج، ومصدر الطاقة، وعملية الاستعادة التلقائية.

الطراز · وقت التشغيل · الذاكرة · الحرارة

متطلبات القفل قبل اختيار المنصة

قم بتحديد النموذج، والإطار، وتدفقات البيانات الواردة، والهدف المحدد للزمن الاستجابة أو معدل النقل، والذاكرة، والتخزين، والشبكات، والتوسعة، والطاقة، والتبريد، والهيكل الخارجي، وطريقة التحديث، ودورة الحياة قبل اختيار منصة الإنتاج.

المتطلبات الحدود الهندسية التحقق من الإصدار
النموذج ووقت التشغيل لا يضمن تنسيق النموذج تنفيذ المعالج. المُشغِّلات، الدقة، التكمية، إصدار وقت التشغيل، برامج التشغيل، أشكال التنسور، مسار الاحتياطي، إصدار النموذج، وعملية التحديث.
مسار الإدخال لا تحدد دقة الكاميرا وحدها حجم البيانات التي يتم استيعابها. عدد التدفقات، ومعدل الإطارات، وبرنامج الترميز، والتزامن، وواجهة الالتقاط، ومسار فك الترميز، والمعالجة المسبقة، ونسخ الذاكرة، والتخزين المؤقت.
أداء الاستدلال لا تعني قيمة الذروة في TOPS نفس قيمة معدل نقل البيانات للتطبيق. زمن الاستجابة، وعدد الإطارات في الثانية، وحجم الدفعة، ومعدل استخدام وحدة التسريع، وحمل وحدة المعالجة المركزية، وحركة مرور الذاكرة، والمعالجة اللاحقة، ومدة الاختبار المستمرة.
الطاقة والطاقة الحرارية يمكن أن يؤدي حمل الذكاء الاصطناعي إلى تغيير نطاق استهلاك الطاقة للنظام. وضع المعالج، وحمل المسرع، والتخزين، والكاميرات، والشبكة، وهامش الإمداد، ومبدد الحرارة، وتدفق الهواء، والهيكل الخارجي، ودرجة الحرارة المحيطة، وسلوك التخفيض.
التحكم في النشر يجب أن تظل الأجهزة وبرامج التشغيل والطرازات متوافقة من حيث الإصدارات. مراجعة اللوحة، وBIOS، وBSP، وبرامج التشغيل، وصورة نظام التشغيل، وبيئة التشغيل، والطراز، والبرمجيات الثابتة، والرجوع إلى الإصدار السابق، ووحدة المراقبة، وعملية PCN/EOL، واختبارات التراجع.

مسار بيانات الذكاء الاصطناعي

تتبع البيانات من المدخلات إلى المخرجات

يعتمد أداء الذكاء الاصطناعي على مسار العملية بأكمله. لذا، ينبغي قياس كل من عمليات الاستقبال من الكاميرا أو المستشعر، ونسخ البيانات إلى الذاكرة، والمعالجة المسبقة، والاستدلال، والمعالجة اللاحقة، والتخزين، ومخرجات التحكم، ونقل البيانات عبر الشبكة، بشكل متكامل.

  1. أجهزة الإدخالUSB، CSI، GigE، الكاميرات الصناعية، الميكروفونات، مستشعرات العمق، بيانات الآلات، وأجهزة التقاط البيانات الخارجية
  2. المعالجة المسبقةفك الترميز، وتغيير الحجم، وتحويل الألوان، والتوحيد، ودمج بيانات المستشعرات، والمعالجة المجمعة، والمزامنة، ونقل الذاكرة
  3. محرك الاستدلالوحدة المعالجة المركزية (CPU)، أو بطاقة الرسومات المدمجة، أو وحدة المعالجة العصبية (NPU)، أو وحدة جيتسون (Jetson)، أو وحدة معالجة الرسومات المنفصلة (GPU)، أو أي مُسرِّع آخر يتم اختياره بناءً على الدعم المُقيَّس للنموذج
  4. المعالجة اللاحقةالتتبع، والقواعد، والتصفية، والتصور، وعمليات الكتابة في قاعدة البيانات، ومخرجات الآلة، والإنذارات، وإنشاء البيانات الوصفية
  5. طبقة النشرالتطبيق المحلي، والتخزين، والإخراج عبر الشبكة، والمزامنة السحابية، وتحديثات النماذج، وبرنامج المراقبة، والرجوع إلى الإصدار السابق، والخدمة عن بُعد

الكاميرا · الشبكة · التخزين · التوسعة

التحقق من صحة مسار بيانات الذكاء الاصطناعي بالكامل

قم بإنشاء مصفوفة مسار البيانات تشمل الواجهة، ووحدة التحكم، وعرض النطاق الترددي، ومصدر المسار، وعمليات نسخ الذاكرة، وبرنامج التشغيل، والتزامن، والطاقة، وعمليات الكتابة على وحدة التخزين، وحركة المرور الصادرة، والقيود الميكانيكية، ومالك البرنامج.

كاميرات USB و CSI
تأكد من عدد الكاميرات، وتصميم المسار أو المحور، والدقة، ومعدل الإطارات، والتزامن، والكابل، وعرض النطاق الترددي، وبرنامج التشغيل، وطريقة التشغيل، وعملية الاستعادة بعد انقطاع الاتصال.
GigE والفيديو الشبكي
نمذجة معدل البت الإجمالي، وتوبولوجيا بطاقة الشبكة، وحمل الحزم، ومسار المحول، ومزامنة الوقت، وحركة مرور الوصلة الصاعدة، وعمليات الكتابة على وحدة التخزين، ومخرجات الاستدلال المتزامنة.
NVMe والتخزين المحلي
قياس السعة والقدرة على التحمل استنادًا إلى مجموعات البيانات، والتسجيلات، والسجلات، وملفات النماذج، وحزم التحديثات، وعمليات الكتابة في قاعدة البيانات، وفترة الاحتفاظ بالبيانات، وسلوك النظام عند انقطاع التيار الكهربائي.
مسرعات PCIe
تأكد من جيل PCIe، وعرض المسار، ومصدر المسار، والموارد المشتركة، وأبعاد البطاقة، والطاقة الإضافية، وBIOS، وبرنامج التشغيل، ونظام التبريد، والمسافة الفاصلة بين البطاقة والغلاف.
شبكات الحافة
فصل عمليات استيعاب البيانات من الكاميرات، والتحكم في حركة المرور، والإدارة، والبيانات الأولية عند الحاجة. التحقق من صحة شبكات VLAN، وسعة النقل، وزمن الاستجابة، والتكرار، وسياسة الأمان، وعمليات الاستعادة.
الطاقة الحرارية والكهربائية
قياس أحمال وحدة المعالجة المركزية (CPU) ووحدة المعالجة العصبية (NPU) ووحدة معالجة الرسومات (GPU) والذاكرة ووحدة التخزين والكاميرا والشبكة مجتمعة. والتحقق من هامش التزويد ومسار الحرارة وتدفق الهواء ودرجة الحرارة المحيطة وعمليات خفض الأداء.

دليل اتخاذ القرار بشأن المنصات

اختر «الحساب حسب النموذج والمسار»

اختر بين وحدة المعالجة المركزية (CPU) أو وحدة المعالجة العصبية المدمجة (NPU) أو Jetson أو وحدة معالجة الرسومات المنفصلة (GPU) بعد تقييم توافق النموذج، وحجم الحمل، وحركة مرور البيانات في الذاكرة، وهدف الاستدلال، والاستهلاك الكهربائي، والظروف الحرارية، وإمكانيات التوسع، ودعم البرامج، ودورة الحياة.

النشر نقطة البداية منطق الاختيار
أحمال العمل المدمجة الخاصة بوحدة المعالجة المركزية (CPU) ووحدة معالجة الرسومات (GPU) ووحدة المعالجة العصبية (NPU) منصات إنتل تقييم مدى ملاءمة برامج x86، ومعالجة الوسائط، والتسريع المدمج، ووحدات الإدخال/الإخراج الصناعية، والميكانيكا المدمجة، لمسار العمل المحدد.
تقنيات الرؤية والروبوتات القائمة على منصة «جيتسون» منصات NVIDIA تجميد الوحدة النمطية، وتكوين الكاميرا، ووحدة التخزين، ووضع الطاقة، وJetPack أو BSP، وخريطة الإدخال/الإخراج، والحل الحراري، وطريقة الاستعادة معًا.
الذكاء الاصطناعي المختلط أو المتكامل أو القائم على التوسع المنصات المجهزة لتقنية الذكاء الاصطناعي قارن بين أداء النموذج الفعلي من حيث الدعم، وزمن الاستجابة، وسعة النقل، والذاكرة، واستهلاك الطاقة، ومجموعة البرامج، ومتطلبات PCIe، والهيكل الخارجي، ودورة الحياة، بدلاً من الأرقام القصوى الخاصة بالذكاء الاصطناعي.

مراجعة هندسة الذكاء الاصطناعي على الحافة

تجميد مسار إنتاج الذكاء الاصطناعي

توفير النموذج، والإطار العام، والدقة، وتدفقات البيانات الواردة، والهدف المحدد لزمن الاستجابة، والذاكرة، والتخزين، والشبكة، والمسرع، والطاقة، والهيكل الخارجي، والظروف المحيطة، وصورة نظام التشغيل، وطريقة التحديث، ودورة الحياة، والكمية، ونطاق التحقق من الصحة.

التحقق الهندسي

الأسئلة الشائعة حول تحسين محركات البحث (SEO)

الأسئلة الشائعة حول أجهزة الذكاء الاصطناعي الطرفية

ما هو الذكاء الاصطناعي الطرفي وكيف يعمل؟

تقوم تقنية «Edge AI» بإجراء عمليات الاستدلال بالقرب من الكاميرات أو أجهزة الاستشعار أو الآلات، بدلاً من إرسال كل المدخلات إلى السحابة. ويمكن أن تقلل المعالجة المحلية من حجم حركة المرور الصاعدة، وتقصّر مسارات الاستجابة، وتدعم التشغيل في وضع عدم الاتصال بالإنترنت.

الذكاء الاصطناعي على الحافة مقابل الذكاء الاصطناعي السحابي: ما الفرق بينهما؟

تقوم تقنية الذكاء الاصطناعي على الحافة (Edge AI) بمعالجة البيانات محليًّا، بينما تعتمد تقنية الذكاء الاصطناعي السحابية (Cloud AI) على الحوسبة عن بُعد. وتعتمد البنية المناسبة على زمن الاستجابة، وعرض النطاق الترددي، والخصوصية، والاتصال، وحجم النموذج، وتواتر التحديثات، والتكلفة، واحتياجات الإدارة المركزية.

وحدة معالجة الرسومات (GPU) مقابل وحدة المعالجة العصبية (NPU) في مجال الذكاء الاصطناعي على الحافة: أيهما أفضل؟

توفر وحدات معالجة الرسومات (GPUs) قدرات حسابية متوازية واسعة النطاق وبيئات تشغيل ناضجة. أما وحدات معالجة الشبكات العصبية (NPUs)، فيمكنها تحسين كفاءة النماذج المدعومة. قارن بين الدعم المقدم للمُشغِّلات، والدقة، والذاكرة، وزمن الاستجابة، واستهلاك الطاقة، وبرامج التشغيل، وحجم العمل المستمر قبل اتخاذ قرارك.

كم عدد وحدات TOPS اللازمة لتقنية الذكاء الاصطناعي على الحافة؟

لا يوجد هدف عالمي لـ TOPS. تعتمد القدرات الحاسوبية المطلوبة على بنية النموذج، والدقة، والمشغلات، وعدد التدفقات، والدقة، ومعدل الإطارات، والمعالجة المسبقة، والهدف المحدد لزمن الاستجابة، وحركة مرور البيانات في الذاكرة، ووقت التشغيل، ومعدل استخدام المسرع.

ما هي الأجهزة اللازمة لتقنية الذكاء الاصطناعي في الحافة؟

تحتاج الأنظمة النموذجية إلى قدرات حاسوبية، وذاكرة، وسعة تخزين، وواجهات للكاميرات أو المستشعرات، وشبكات، ومصدر طاقة، ونظام تبريد، ومجموعة برامج مدعومة. كما تتطلب بعض أحمال العمل أيضًا وحدة معالجة عصبية (NPU) أو وحدة «جيتسون» (Jetson) أو وحدة معالجة رسومات (GPU) أو مُسرِّعًا.

ابق في المقدمة مع الذكاء الاصطناعي والرؤى المتطورة

اقرأ المقالات والبرامج التعليمية والأدلة الإرشادية حول الحوسبة المتطورة وتحسين الشبكة العصبية وأجهزة الاستدلال بالذكاء الاصطناعي وأمان الحافة إلى السحابة.