Raspberry Pi Ai to'plamida qanday ishlaydi?
Raspberry Pi Ai Kit M.2 Xat + adapteri orqali malina pi interfeysi orqali ajratilgan neyrachni qayta ishlash birligini ulash orqali ishlaydi. REAL {{7} AI - AI - AI - ati-- atigi 70 dollarni tashkil etadi, bu vaqtni aniqlash, pozit va tasvirni asosiy protsessorga aylantirmasdan. Ushbu to'qnashuv tezlashuv moduli AI-ni arzonlashtiradi.
Bozorni aniqlash ahamiyatlimi. 2024 yillar davomida Raspberry Pi tomonidan 259,5 mln. AQSh va IEB-Lavware-ga yo'naltirilgan 22 ta mahsulotni ishga tushirish uchun 229,5 mln. Ishlab chiqarish AIdagi ishlarni bulutdan qirrali qurilmalar, bu aqlli kita va sanoatni avtomatlashtirish loyihalari ustida ishlovchilar uchun qanday hal qiluvchi bo'lishini tushunish.
Uskuna ichida: Jismoniy arxitektura
Ai Kit birgalikda ishlaydigan uchta integral tarkibiy qismlardan iborat. HAILO - 8L Neron protsessori yadroda o'tiradi - bu haqiqiy AI hisoblash joyi ro'y beradi. Modul M .2 2242 forma faktoridan foydalanadi va M tugmachalarini ulagich orqali standart kompyuter konventsiyalariga amal qiladi.
M.2 shlyapa + Hillo chipi va sizning malina PIN-ning PCie Gen 3 interfeysi o'rtasidagi ko'prik sifatida xizmat qiladi. Buni ikki xil apparat tillari o'rtasida o'zgartiradigan tarjimon deb o'ylang. Erula va shlyapa oralig'ida eng ko'p ishlatiladigan - fosh berish uchun ushbu tafsilotlarni davom ettirish uchun ushbu tafsilotlarni engilroq qilish uchun - temral prokladir.
Ulanish samaralari shunga o'xshash oqadi: malina pi 5 → PCIE FPC kabel → M.M.R XIG + → HAILO-8L chip. Ai Kit birlashtirgan yangi AI shlyapadan farqli o'laroq, Ai Kit ushbu modulli M.M.2 yondashuvidan foydalanib, agar kerak bo'lsa, nvme saqlash uchun moslashuvchanlikni beradi.
Aslida muhim bo'lgan ko'rsatkichlar
Ramps raqamlari to'liq hikoyani aytib bermaydi. HAILO - 8L Samaradorligi uchun 3-4taga, nima uchun 5'ko'proq xarajat bo'lgan tizimlarga nisbatan amalga oshiriladi. Haqiqiy dunyo sinovi ko'proq amaliy tushunchalarni ochib beradi.
Yolov8s Ob'ektini 640x640 pikselli video tasmasi, pi 5-sonli pi 5 ga teng, PCIEE GEN 3 bilan 80 fps 30 fpsga gen 2 rejimini yoqing. Quvvat iste'moli juda past. PI 5 8 "Xaylo" tezlashishi bilan GB tizimi ON telefon zaryadlovchisiga taqqoslanadigan faol AI haqida o'ylash paytida taxminan 10 ni chizadi.
Haroratni boshqarish amaliyotda samarali ekanligini isbotlaydi. Ko'rilgan studiyadagi ko'rsatkich sinovi, - prodmal eritmadan oldingi termal echim tufayli katta seanslar bo'ylab barqaror ishlashni ko'rsatdi. Bu GPU - inferatsiyasidan farqli o'laroq, issiqlik cheklovlari ko'pincha shishadagi o'zgarishlarga aylanadi.
Ma'lumot oqimi: kameradan xulosa chiqarish natijalariga
Sizning PI 5 jarayoni AI to'plam orqali jonli videofilmda bo'lganida aslida nima sodir bo'ladi. Kamera moduli ramkalarni CSI interfeysi orqali Rampberry Pi-ning CPU-ga yuboradi. CPU, odatda, HAILO tezlatgichiga ma'lumotlarni topshirishdan oldin faqat formatlangan {{}} minimal ishlov berish va qarorini o'zgartirish va tartibni o'zgartirish.
PCie Gen 3 avtobus transferi 8 Gt / s gacha tezlikda 8lgacha bo'lgan HAILO - 8L-ga 8L 8L-ga o'tadi. Neyral protsessor, keyin uning ixtisoslashtirilgan arxitekturasi yordamida haqiqiy xulosa chiqaradi. Xaylo-8 arxitekturasi tashqi dram-ni talab qilmasdan o'z-o'zini o'zi qamrab oladi, bu an'anaviy ai tezlatgichlarga nisbatan doimiy ma'lumotlarni doimiy ravishda tizim xotirasidan ajratib turadigan kechikishni keskin kamaytiradi.
Natijalar PCie ulanishidan qaytadi. CPU tarkibiy ma'lumotlar - ob'ekt koordinatalari, tasniflash ishonchini tanlab, pikselni aniqlamaydi. Sizning python skriptingiz ushbu natijalarni tetiklashtiradigan harakatlar uchun izplantiradi: ogohlantirish, yozib olish, motorlarni faollashtirish yoki ma'lumotlar bazasini yangilash yoki yangilash.
Repppam - Ilovalar dasturiy ta'minoti integratsiya qatlamini ta'minlaydi. Hozirgi vaqtda Reppa - Ilovalar - bu chuqur HAILO-integratsiya bilan asosiy dasturiy ta'minot. Bu siz neyron tarmoqlari orqali chakalak kamera kiritish orqali klaviatura orqali neyron tarmoqlari orqali chakalakzorni kiritadigan skriptlarni yozishingiz mumkin.
Haqiqiy - Jahon ijodlari: Smart xavfsizlik kamerasi ishi
Kitning imkoniyatlarini namoyish etadigan aniq misoldan o'ting. "Peeper Pam" kompaniyasi "Peeper Pam" qurildi, bu foydalanuvchilarni mebel va o'simliklarni e'tiborsiz qoldirishda odamni aniqlash uchun Ob'ektlarni aniqlash uchun foydalanuvchilarni aniqlashni ishlatish uchun foydalanuvchini aniqlaydi.
Ularning amalga oshirilishi zarur bo'lgan asosiy tarkibiy qismlar: Ai to'plamiga, kamera moduli, maina pi pi pico w va analog analogli analogli kamera. Tizim, eng katta texnik qiyinchiliklar, PI 5 va Pico va Piko o'rtasidagi samarali aloqa uchun veb-retetlarni amalga oshirmoqda.
Arxitektura aqlli chetida hisoblashni namoyish etadi. PI 5 doimo ani qayta ishlashadi. Engil Pico Viki shunchaki ovoz berish, kuchni tejash va qo'shimcha tarmoqni kamaytirishdan ko'ra signallarni tinglaydi. Analog meter tezkor vizual mulohazalarni taqdim etadi, 0 dan (ma'lum bir odamni aniqladi).
Ushbu loyiha, shu jumladan kamera, shu jumladan kamerada taqqoslanadigan video oqimini talab qiladigan taqqoslanadigan echimlardan ancha kam quvvatni sarf qildi. Mahalliy ishlov berish, shuningdek, maxfiylik bilan bog'liq tashvishlarni yo'q qilmadi, chunki hech qanday durang qurilmani qoldirmaydi.
Bosqich - - Qisqa sozlash jarayoni
AI to'plamini ishga tushirish beshta alohida bosqichlarni o'z ichiga oladi. Har bir bosqichda o'ziga xos talablarga va oldini olish uchun o'ziga xos talablar va aniqliklarga ega.
1-bosqich: apparat yig'ish
Raspberry Pi 5-ni boshlang, eng so'nggi 64 bitli malina pi OS bilan ishlash. M.2 shlyapa + ni halol hizalashni ta'minlash, GPREA sarlavhasiga ilova qiling. PIEI FPC kabelini PI va +- kabelga ulang va u ulagichga majburan ulagichga zarar etkazadi. HAILO-8L modulini o'z ichiga olgan holda m.2 uyasiga mahkamlang.
2-bosqich: PCie Gen 3 ni yoqing
PI 5 standart picie gen 2-ga barqarorlik uchun. Edit /boot/firmware/config.txt and add dtparam=pciex1_gen=3. This single change doubles your inference performance. LSCCI - vV|ni qayta yoqing va tekshiring Gen 3 faolligini tasdiqlash uchun grep "lnksta:".
3-bosqich: Dasturiy ta'minot o'rnatish
HAILO dasturiy ta'minotini o'rnating: Sudo APT yangilanishi va "HAILO - ni o'rnating. Ushbu paketda HAILTOR RAPTIME, REPPIPE - HAILO QURILIShI, masalan, Neakal tarmoq modellari kiradi. O'rnatish taxminan 2GB disk bo'shlig'ini va 10-15 daqiqa odatdagi keng polosali ulanishni talab qiladi.
4-bosqich: Tasdiqlash testi
O'z ichiga olgan ob'ektni aniqlash demo: rappa - - prokesi - prokladir {- Prote {- "/-" /- "/-" Siz haqiqiy - Real - Vaqtni aniqlangan qutilar bilan aniqlangan qutilar bilan aniqlang. 60 FPdan yuqori bo'lgan stavkalarning to'g'ri gen 3 operatsiyasini ko'rsatadi.
5-bosqich: maxsus modelni joylashtirish
O'zingizning o'qitilgan modellaringiz uchun HAILO DATAFLOW kompilyatoridan HILO HEF formatida tensorflow yoki pishli modellarini almashtirish uchun foydalaning. Takrorer avtomatik ravishda ishlov berish va optimallashtirishni avtomatik ravishda ishlov beradi, garchi sizga kalibrlash uchun ma'lumotlar mavjud namunalari kerak bo'ladi. Natijada .hef faylini joylashtiring va uni REPPAM {- ilovalari bilan birlashtiring.
Bozor konteksti: nima uchun ai tezlashishi haqida nima uchun muammolar mavjud
AI Chip bozorining chekkasi portlovchi o'sishni boshdan kechirmoqda. 2024 yilda AI chip bozori 123,16 milliard dollarga etdi va 2029 yilga kelib, 24,4% CAGR da o'sib borishi uchun 311,58 milliard dollarga etdi. Bu shunchaki - kattaroq raqamlar haqida emas, u AI qayta ishlash sodir bo'lgan joyda asosiy o'zgarishlarni anglatadi.
Hailo, tezlashtirish chipining orqasidagi kompaniya jiddiy tekshiruvni ta'minladi. 2024 yil aprel oyida boshlang'ich 120 million dollar yig'di va hozirda avtomobilsozlik, xavfsizlik, chakana va sanoat avtomatika tarmoqlari bo'yicha 300 dan ortiq mijozlarga xizmat ko'rsatadi. Ko'plab AI chip boshlang'ichlari - fokus qilingan echimlarning chekkalari bilan bog'liq bo'lgan bozorda ularning omon qolishlari.
Raqobat manzaralari qiziqarli savdolarni ta'kidlaydi. HAILO-10H int4 startining 40 ta tepaliklarini, Inelning Core Ultra Meteor ko'lining 20 ta tepaliklarini 11taga teng ravishda 11 ta yuqori va AMD-ning 16tadan 17-chi sathida. Biroq, AQShning Chip firmasi 2023 yildagi 2023 yildan boshlab 1,79 milliard dollardan, HAILOning muvaffaqiyatini sezilarli qiladigan qiyin aholiga nisbatan 881 million dollarni tashkil qildi.
Raspberry pi ekotizim uchun maxsus, AI va iot yo'nalishi 20% yil davomida 5% - - - - - ni tashkil qiladi.
Ai to'plam haqida umumiy noto'g'ri tushunchalar
Noto'g'ri tushuntirish: "13ta eng yaxshi, bu har qanday modelni boshqaradi"
Haqiqat muhim nuansni o'z ichiga oladi. Xaylo - Leailo- 8L 8L Conual Deural tarmoqlarida, kompyuterni ko'rish ob'ekti, segmentatsiya, pozital hisoblash uchun 8L Ef-efiri. Bu katta til modellari bilan kurashmoqda, chunki chip LLM haqida ma'lumot olish uchun etarlicha vram yo'q. 13 ta eng kuchli tomonlar Int8 operatsiyalariga nisbatan qo'llaniladi, aksariyat transformator modellari FP16 yoki FP32 aniqligini kutmoqda.
Noto'g'ri tushuntirish: "Bu shunchaki tezroq GPU"
Neyron tezlatgichlaridan tubdan turli me'morchiliklar mavjud. GPUS general {{1} attestativ dizaynni taqqoslab, ularni moslashuvchan, ammo unumdor qiladi. HAILO -} 8-ning DataFlow Arxitekturasi, xususan, tashqi dro drambukga bog'liqligini yo'q qiladi. Ushbu ixtisoslik uchun maxsus vazifalar uchun GPU echimlaridan yuqori quvvat samaradorligini oshiradi, ammo AI ish yuklari uchun kamroq moslashuvchanlikni anglatadi.
Noto'g'ri tushuntirish: "plug - va - hech qanday kamera bilan o'ynang"
Kit bir nechta kameralarni qo'llab-quvvatlaydi, integratsiya maxsus dasturiy ta'minotni talab qiladi. Dastlab, faqat rappam - Ilovalar chuqur hailo integratsiyasini taklif qildi, ammo keyinchalik Picamera2 qo'llab-quvvatlashi kelgan bo'lsa ham. USB veb-kamkamlari ishlaydi, ammo turli xil kod yo'llarini talab qiladi. MIPI CSI kameralari eng qattiq integratsiyani ta'minlaydi, ammo sizning kamerangiz modelingiz bilan moslikni tekshirishingiz kerak.
Noto'g'ri tushuntirish: "Ko'proq partiya hajmi har doim yaxshiroq ishlashiga teng"
Sinov qiziqarli cheklovni ochib beradi. Paketning o'rtacha hajmi bo'yicha popning o'lchamiga qadar 2 (120 FPS) partiya hajmidan 2 (80 FPS), ammo PCIE ning o'tkazish qobiliyati cheklanganligi sababli 5 FPS 1 dan 100 ta FPS-ni yaxshilaydi. Bu PI 5-ning PC 3 X1 interfeysi Neaker protsessorining o'zi emas, balki katthallusli shisha bilan bo'ladi.
Tez-tez beriladigan savollar
Ai to'plam ChatNPTPT yoki shunga o'xshash llMS-ni ishga tushirish mumkinmi?
Uning hozirgi shaklida samarali emas. Xaylo-8L-ning katta til modellari uchun xotira sig'imi yo'q, bu esa faqat model og'irliklari uchun 4-16 Gb ga teng miqdorni talab qiladi. Biroq, 1B parametrlaridagi kichikroq kattaroqli modellar muhim ishlov berish cheklovlari bilan ishlashi mumkin. Tarqatilgan Llama loyihasi 1,6 donadan 4 donadan keyin 1,6 tokenda 1,6 donadan iborat bo'lib, 1,6 ta donadan keyin 1,6 ta donadan iborat bo'lib, bu AI to'plamning tezlashishi mumkin emas.
Ai Kit va Ai shlyapa + orasidagi farq nima?
Ai Kit m.2 shlyapa + adapter taxtasiga ulangan m.2 modulidan foydalanadi. Ai shlyapasi Hilo chipini to'g'ridan-to'g'ri shlyapa taxtasiga birlashtiradi va 13taga (70 dollar) va 26taga ($ 110) variantida keladi. 26 ta eng yaxshi versiya HAILO-8L o'rniga HAILO-8 dan foydalanadi. Ikkalasi ham bir xil dasturiy ta'minot va kutubxonalardan foydalanadilar, shuning uchun ular orasida boshqa maqsadlar uchun m.2 uyasi kerakligiga bog'liq.
Quvvat iste'moli qanday qilib bulut bilan bog'liq?
Keskin pasayadi. Faol AI favqulodda holatlari bilan to'liq pi 5 tizimi 10w atrofida, taxminan 240w atrofida taxminan 240w atrofida taxminan 240w. Bulutning befarqligi doimiy videoriyani talab qiladi (2-4MBPS ni yuklash) Bundan tashqari, API ishlov berishni talab qiladi, odatda ma'lumotlar markazida ko'proq tarmoqli xarajatlar va energiya sarflaydi. 24/7 Xavfsizlik kamerasi uchun ariza uchun mahalliy ishlov berish Chaq'atli va bulutli API to'lovlarida har oyda 20-40 dollarni tejashi mumkin.
Bir necha maina pi pi-da bir nechta tanitlardan foydalanishim mumkinmi?
Faqat bitta PI 5-ga to'g'ridan-to'g'ri bitta PIN-interfeys mavjud emas. Biroq, Jeff Gerling PC va Corceons shtatlaridan foydalanib, ko'p sonli tezlatgichlarni o'rnatib, 51 ta eng ko'p tezkor serharakatlarni amalga oshirdi, ammo ushbu konfiguratsiya rasmiy ravishda qo'llab-quvvatlanmaydi va tashqi quvvat manbalarini talab qiladi.
Haqiqiy - Vaqt dasturlari haqida qanday stavka kutishim kerak?
Bu sizning modelingizning murakkabligi va kirish reyzingizga bog'liq. 640x640 o'lchamdagi Yolov8-lar partiyaning hajmiga qarab 80 - 120 FPSga erishadi. Mobilenet kabi oddiy modellar 200+ fP-ga etib borishi mumkin. Yolov8X kabi og'ir modellar 30-40 fpsga tushishi mumkin. Taqqoslash uchun, insoniy qarashlar 24-30 fpdali harakatni sezmoqda, shuning uchun real vaqtli dasturlar qulay ishxonaga ega.
Shaxsiy modellarni tayyorlash qanchalik qiyin?
O'quv bosqichi stol kompyuteringiz yoki bulut instantsiyasida statsionar inductflow yoki PYTORCH ish jarayoni - HAILO ChIP mashg'ulotlarda qatnashmaydi. Konversiya jarayoni o'quv egri bo'lgan, ammo keng qamrovli hujjatlarni o'z ichiga oladi. Agar siz Neyron tarmog'ini o'qitish bilan tanish bo'lsangiz, birinchi shaxsiy modelingizni ishga tushirish uchun 2-3 kunni kuting. Bir kompilyatorning narxi avtomatik ravishda ishlaydi, ammo sizga vakil kalibrlash ma'lumotlar kerak bo'ladi.
Bu boshqa bitta - forma kompyuterlari bilan ishlaydimi?
Ai to'plamida maina pi 5-sonli PCie interfeysi va forma faktorini nishonga oladi. Biroq, HAILO-8L m.2 modul standart komponent hisoblanadi. M. Preskute studentining repreterining repromers repreterining R1000 uyalari bilan Xillo modulini sig'dira oladi, garchi siz dasturiy ta'minot stekini portlashingiz kerak. Boshqa SBCs m.2 uyalari bilan (5b, to'q sariq pi 5) nazariy ishlarni, ammo sezilarli dasturiy integratsiya harakatlarini talab qilishi mumkin.
Odamlar aslida qaysi loyihalar quradi?
Jamiyat turli xil dasturlarni yaratdi. Loyihalar tarkibiga ob'ektlarni aniqlash, turdagi shaxsni aniqlash va ob'ektlarni hisoblaydigan derali kameralar mavjud. Traydigan mashqlarni kuzatib boradigan va takrorlashni kuzatadigan fitnesni kuzatish dasturlarini kuzatishga imkon beradi. Sifatdan foydalanuvchilar sifat nazorati inspektsiyasi, konveyerlar kamarlari bo'yicha mahsulotlarni hisoblash va real - Vaqtdagi video tasmalarda xavfsizlik qoidalarini aniqlash uchun to'plamni joylashtiradilar.
Qaror qabul qilish: Ai Kit mantiqiy bo'lsa
Raspberry Pi Ai to'plam ma'lum bir stsenariylarda porlaydi. Haqiqiy {{1} real {{1}- batareya quvvati yoki bulutli ulanish ishonchsiz bo'lganligi uchun vaqt kompyuteri yoki o'rnatilgan muhitda juda mos keladi. Aqlli eshik qo'ng'irog'i, sanoat inspektsiyalari va robototexnika dasturlari {{}} Wrive Spell Voqealarni anglatadi {{}} {{}} Tasvirlar va elektr energiyasining talablari va quvvat shartlari bilan doimiy ishlov berishni talab qiladi.
Sizning talablaringiz farq qilganda alternativalarni ko'rib chiqing. Agar siz birinchi navbatda LlMS yoki tabiiy tilni qayta ishlashdan manfaatdor bo'lsangiz, ehtimol -, ehtimol, GPU yoki Cloud API kirishiga kirishingiz kerak. Vaqti-vaqti bilan aylanish vazifasi uchun kechikishlar muhim ahamiyatga ega - -} ning narxi yuqori bo'lishiga qaramay, - yuqori narxni isbotlashi mumkin.
70 dollar narx nuqtasi Kitni eksperimentatsion platforma sifatida pozitsiya qilmoqda, ammo ishlab chiqarish prototiplari uchun etarli darajada kuchli o'rganish uchun etarlicha kuchliroqdir. Raspberry Pi-ning AI qobiliyatiga va 2024 yilda 22 ta mahsulot ishga tushirilishi bilan dasturiy ta'minot ekotizim vaqt o'tishi bilan investitsiyalarni yanada qimmatga soladigan darajada davom ettiradi.
Qo'llab-quvvatlaydigan komponentlar uchun qo'shimcha $ 100-150 AQSh dollari, kamera moduli, salmoqli va etarli tezlik bilan microSD kartasi bilan. Umumiy tizimning umumiy qiymati 200-250 AQSh dollari miqdoridagi qiymati hali ham tijorat AI kamera tizimlarini 50-70% ga to'g'ri keladi va to'liq moslashmaslik erkinligini taklif etadi.
AI bozori traektoriyasi hozirgi vaqtda ushbu vositalar bilan ko'nikmalarni shakllantirish uchun strategik vaqt. Siz martaba varaqasini ishlab chiqaradigan mahsulotlarni yoki sanoatni joylashtirish texnologiyalarini o'rganadigan vositalarni o'rganayotgan bo'lsangiz, - boshlang'ich qurilmalarning navbatdagi o'n yilligini hisoblash tajribasida - o'z tajribasini tushunasiz.