Jak si stojí Raspberry Pi AI Kit

Společnost Raspberry Pi vydala sadu pro jednodeskový počítač AI Kit s funkcemi strojového učení. Možná je to proto, aby podpořila své nedávné uvedení na trh, nicméně údaje o výkonu vypadají, že zaútočí na trh s okrajovými výpočetními systémy AI. Řekl bych že RPI poháněná Hailo, dává 13 TOPS, za přibližně 2000 CZK, to není špatné.

Společnost Raspberry Pi vydala sadu pro jednodeskový počítač AI Kit s funkcemi strojového učení.

Sada AI je poháněna akcelerátorem Hailo-8L a vlastní deskou Raspberry Pi M.2 HAT+. 

Než někdo začne předpokládat nějaké pokročilé důvody AI, uvědomte si, že HAT znamená pouze Hardware Attached on Top. Přepychový způsob, jak říct, deska přišroubovaná přes jinou desku...

V každém případě je tento AI akcelerátor za 70 dolarů opravdu výhodná koupě. A co je ještě důležitější, získáte skvělou nabídku výkonu pro vaši vestavěnou aplikaci, jak je uvedeno v následující části.

O Hailo-8L: Raspberry Pi si jako dodavatele akcelerátoru vybralo společnost Hailo. Hailo-8L je ořezaná verze nedávno oznámeného čipu Hailo-8, který nabízí 26TOPS. Hailo-8L nabízí chvályhodných 13TOPS a přináší Raspberry Pi tolik potřebný výkon v oblasti umělé inteligence.

Hailo AI čip detail

Nedávno se AMD dostalo do čela žebříčku TOPS s 50TOPS, proto se 13TOPS zdá málo.Je třeba vzít v úvahu, že se bude používat ve světě embedded a 13TOPS přinese obrovskou výhodu pro okrajové aplikace typu počítačového vidění. Také notebook s RISC-V Linuxem v době psaní tohoto článku nabízí pouze 2TOPS.

Podle technického ředitele společnosti Hailo Aviho Bauma spotřebuje Hailo-8L na každé tři TOPS přibližně jeden watt energie, což je maximálně zhruba pět wattů. A pro typickou embedded zátěž, jako je zpracování 60 FPS videa v reálném čase, si vezme sotva jeden nebo jen dva watty.

Hailo se speciálně zaměřuje na nízkou spotřebu okrajových aplikací umělé inteligence & pohodlně poráží i NVIDIA. Níže je uveden jejich výkon ve srovnání s Jetson Nano a Xavier NX od společnosti NVIDIA.

Hailo - porovnání výkonu AI
NFC hodnocenky Google

Čip má širokou podporu pro frameworky AI, mezi které patří TensorFlow, TensorFlow Lite, Keras, PyTorch a ONNX. Vzhledem k výše uvedeným číslům a výkonové výhodě vypadá rozhodnutí Raspberry Pi s Hailo jasně.Architektura a design sady Raspberry Pi AI V současné době sada AI podporuje architekturu x86 i Arm Host. Generální ředitel Raspberry Pi, Eben, sdělil, že záměrně plánují samostatnou akcelerační desku, nikoli integrovaný NPU, jako je tomu u SoC Apple & Qualcomm, které byly nedávno uvedeny na trh pro počítače s AI.

Raspberry Pi AI Kit

Raspberry Pi již tuto oddělenou architekturu má, protože používá IO funkce na levném 40nm, zatímco CPU a GPU je na 16nm. I když je jádro na 16nm, přidání NPU k němu bude nákladné, protože se zvětší plocha.

Pokud chce uživatel použít Raspberry Pi 5 pro aplikaci, která není spojena s umělou inteligencí, ano, existují... a musí zbytečně vyhodit další peníze za nechtěné náklady na plochu die NPU. Nyní mají možnost volby & hardwaroví lidé mají rádi volby. I když samotná verze Raspberry Pi 3 byla použita pro AI aplikaci, AI zátěž byla na cloudu. Tento nový Raspberry Pi 5 s Hailo-8L dokáže sám na okraji zastat menší modely & optimalizované LLM.

Současný stav sady Raspberry Pi AI

Tento počítač Raspberry Pi je vybaven rozhraním PCIe 2.0, přes které komunikuje s akcelerátorem Hailo-8L. PCIe 2.0 má pouze verze Raspberry Pi 5. Pokud tedy chcete vyzkoušet funkci AI, musíte vyměnit desku. Nicméně i M.2 HAT+ pro Raspberry Pi 5 stojí jen asi 80 dolarů. 

Souprava je dodávána s předmontovanou tepelnou podložkou pro lepší odvod tepla Hailo-8L, která sice spotřebuje pár wattů, ale bude výrazně teplejší. Raspberry Pi si uvědomuje, že pro mnohé tvůrce je to nový terén. Proto bude poskytovat více demo a softwarových nástrojů na podporu uživatelů vyvíjejících funkce UI.

Raspberry Pi tvrdí, že nastavení a spuštění aplikace AI bude otázkou několika minut. 

Ačkoli hardware funguje tak, jak má, je třeba si uvědomit, že software zatím NENÍ ve skvělé formě. Ale během několika měsíců se vše stane skutečností.

Tým Tom's Hardware dostal k dispozici testovací sadu a narazil na několik problémů. Podle jejich informací brzy přijde aktualizace operačního systému Raspberry Pi, která umožní několik funkcí umělé inteligence, což v současné době omezuje jeho použití. Podařilo se jim však detekovat obrázky včetně medvídka, jak ukazuje obrázek níže. 

Detekce oblyčeje nebo objektu - Díky obrázku z Toms Hardware

V ukázce není provedeno měření rychlosti, ale tým se zmínil, že „cítili“, že jen málo z nich je rychlejších. Tým Tom's hardware také zmínil, že Raspberry Pi odhalil, že v budoucnu můžeme v případě potřeby spustit vlastní modely.

Případy použití

Raspberry Pi & Hailo tvrdí, že výhoda nízké spotřeby je významná pro mnoho hardwaru počítačového vidění, jako je rozpoznávání obrazu v okrajových uzlech. Společnost také říká, že mají různé modely včetně některých vhodných pro přidávání funkcí AI do her.

Hra Lincity-NG , díky obrázku z raspberrytips.com

Vzhledem k tomu, že systém Windows 11 není určen pro Raspberry Pi, říkají, že tato sada není určena pro software Microsoft Copilot. Nevylučují však, že některé funkce budou fungovat. Vzhledem k tomu, že 13TOPS je téměř 1/3 ze 40TOPS předepsaných pro počítače Copilot+, něco skutečně fungovat bude.

Závěr

Obě společnosti očekávají, že komunita tvůrců přijde s nějakým jedinečným případem použití, který vyřeší jejich vlastní problémy. Věřím také, že síla komunity Raspberry Pi, skutečně něco změní. Kromě projektů ve třídách začne nově objevenou schopnost 13TOPS AI využívat i mnoho robotických aplikací.

Musíme počkat na další aktualizace softwaru Raspberry Pi, abychom měli lepší pracovní platformu. Je vzrušující, že generální ředitel Raspberry Pi zmínil, že tímto spojení se společností Hailo nekončí.

překlad článku od Gandhi KT

 

Nové chytré hodinky Watch 4 Pro

Chytré hodinky: Revoluce v měření hladiny krevního cukru?

Chytré hodinky se snad každý rok naučí něco nového. Za poslední roky se kromě měření počtu kroků, tepové frekvence a sledování spánku, hodinky naučily například změřit krevní tlak, tělesný tuk nebo natočit EKG. Letos přichází hodinky Watch 4 Pro s revoluční funkcí: neinvazivním měřením hladiny krevního cukru. Tento článek se zaměřuje na to, jak tato technologie funguje, jaké přínosy přináší uživatelům a jaké další novinky lze očekávat.

Neinvazivní měření krevního cukru

Nejžádanější letošní novinkou je měření glukózy v krvi (glykémie). Tato funkce je obrovským přínosem pro lidi s diabetem, kteří si musí pravidelně měřit hladinu cukru v krvi. Současné glukometry vyžadují kapku krve získanou píchnutím do prstu, což je pro mnoho lidí nepříjemné. Hodinky Watch 4 Pro nabízejí neinvazivní řešení využívající optické senzory, které vyhodnocují hladinu glukózy přes kůži pomocí laserových či infračervených paprsků.

Přesnost a schválení

Výrobce hodinek Watch 4 Pro zdůrazňuje, že technologie prošla rozsáhlým testováním a kalibrací. Ačkoli výsledky nemusí být zcela srovnatelné s tradičními metodami, poskytují dostatečně přesné údaje pro běžné monitorování. V USA je tato funkce čeká na schválení od amerického úřadu FDA, zatímco v Evropě může proces schvalování trvat déle. Je tedy možné, že v některých regionech bude tato funkce dostupná až příští rok.

Kalibrace

Ani uživatelé hodinek se nevyhnou kalibraci, která vyžaduje přesné fyzické měření pomocí tradičních metod. Po úvodní kalibraci však mohou hodinky poskytovat pohodlné a bezbolestné monitorování hladiny krevního cukru.

Samozřejmě většina odborníků tvrdí - a je to na místě, že tato funkce nelze použít pro lékařskou diagnózu a že je velmi nepřesná. Mohu souhlasit a ano jak se zde dočtete, údaje o této experimentální funkci používající Ramanovau spektroskopii jsou pouze orientační a nelze je považovat za stoprocentně spolehlivé. Jde o technologii, která k měření vlnových délek elektronů využívá laserový nebo infračervený paprsek. Pokud opravdu glykemií trpíte vždy spoléhejte na váš certifikovaný glukometr a názor vašeho lékaře!

Základní princip Ramanovy spektroskopie je měření rozdílu energií tzv. vibračních hladin molekuly. Molekuly mohou vibrovat - to znamená, že se mění délka a úhel chemických vazeb mezi jednotlivými atomy. Tyto vibrace jsou kvantovány, takže různé molekulové vibrace mají přiřazenou právě jednu hodnotu energie. Molekuly v klidu se nachází na tzv. základní vibrační hladině a jejich energie je rovna energii nulových kmitů.

Samotné hodinky mají pouhých 65 gramů. Navíc vývoj dosáhl tak daleko, že hodinky jsou vodotěsné a prachotěsné, baterie vydrží při běžném nošení týden. Nabíjí se bezdrátově a bezkontaktně přiloženou magnetickou indukční anténou a jsou plně nabité během půl hodiny.

Jaké jsou hodnoty cukrovky

  GLYKEMIE V NORMĚ ZVÝŠENÉ RIZIKO CUKROVKY
Hladina glykemie nalačno do 5,5 mmol/l od 5,6 do 7,0 mmol/l
Hladina glykemie po jídle do 7,5 mmol/l od 7,6 do 11,0 mmol/l

Další zdravotní funkce

Kromě měření krevního cukru nabízejí hodinky Watch 4 Pro další zdravotní funkce, jako je měření tělesné teploty. Tato funkce není úplnou novinkou, jelikož ji již některé modely jako Huawei Watch GT 3 nabízejí. Nové modely od Applu a Samsungu se také zaměří na měření tělesné teploty s cílem poskytnout přesnější údaje.

Vývoj a budoucnost

Vývoj v oblasti nositelností neustále pokračuje. Očekává se, že měření glykémie bude letos nasazeno u Samsung Galaxy Watch5 a Apple Watch Series 8. Oba výrobci soutěží o to, kdo bude první, ale schválení funkcí může trvat. Další funkcí, která by se mohla objevit v hodinkách, je měření tělesné teploty, která by měla být přesnější a využitelná i pro plánování těhotenství.

Závěr

Chytré hodinky s měřením hladiny cukru v krvipředstavují významný krok vpřed v oblasti zdravotní péče a monitorování. Díky schopnosti měřit hladinu krevního cukru a další zdravotní funkce by měli poskytnout uživatelům nový nástroj pro správu svého zdraví. Ačkoli tato technologie nenahradí zcela tradiční metody měření, její přínosy v oblasti pohodlí a okamžitého monitorování by byly nepopiratelné. 

Bohužel jak jsme zjistili při novém testování, tato funkce je u většiny zatím nefunkční a spíše se podobá generátoru náhodných čísel. Ještě nemáme připravenou celou studii od odborných testerů, ale již bohužel teď musíme konstantovat, že i když marketing jede naplno, rozhodně to nepracuje, jak by mělo. U námi testovaných kusů, které by mohli fungovat u nekormibidních pacientů (to znamená, že nemají více chronických nemocí najednou a v krvi nekoluje dost léků, které by mohlo výsledek narušit), jsme se s hodinkami nemohli dostat na hodnoty  5.5 mmol/l a při vyvolaném diabetu nebyly naměřeny ani vyšší hodnoty cukru. Když jsem hodinky testoval sám na sobě a to jsem zdravý jedinec, zdálo se měření úspěšné. Měření hladiny cukru v krvi je zatím pouze fake.