Vlákno názorů k článku Rozpoznávání obrázků knihovnou Scikit-learn: první kroky od atarist - Jak je rychlé to zaučení modelu? A jede...

Jak je rychlé to zaučení modelu? A jede to učení na GPU nebo můžu i na CPU? (tedy záleží, jestli je to praktické to valit na CPU).

Obecně na CPU to je dřív nebo později celkem pain, běh modelu už je jiná story, ale Nvidia GPU je takové "must-have"...

Tuším 1060 dnes v bazaru za ~1200 Kč by měla na hrani a začátku nadlouho stačit.

28. 11. 2023, 22:47 editováno autorem komentáře

jasne, lokalne to neni problem. Ja se ptal proto, ze v dnesni cloudove-virtualizacni dobe se muj kod driv ci pozdeji dostane na nejakou virtualku bez GPU (i kdyz Google pronajima i GPU AFAIK).

Asi takhle.
Na ESP32 ...no asi žádný velký model nikdy nenatrénuješ.
Ale ESP32 je dostatečně silná, aby s trochou hraní dokázala i poměrně komplexní modely provozovat (zase si nepředstavuj ChatGPT).

Nikdy jsem se o to nepokoušel, ale znám člověka, co upravil model rozpoznání SPZ na ESP32 a funguje mu to.

https://eloquentarduino.com/esp32-cam-image-recognition/

https://www.youtube.com/watch?v=TQBifiGnPu4

A to má to ESP32 nesrovnatelně pomalejší procesor než nějaká slušná modernější RPI (2-3-4-5) a oproti modernímu procesoru to je vůbec neporovnatelně slabší. U řady aplikací je problém právě v trénování, proto se používá to GPU trénování.