Asi takhle.
Na ESP32 ...no asi žádný velký model nikdy nenatrénuješ.
Ale ESP32 je dostatečně silná, aby s trochou hraní dokázala i poměrně komplexní modely provozovat (zase si nepředstavuj ChatGPT).
Nikdy jsem se o to nepokoušel, ale znám člověka, co upravil model rozpoznání SPZ na ESP32 a funguje mu to.
https://eloquentarduino.com/esp32-cam-image-recognition/
https://www.youtube.com/watch?v=TQBifiGnPu4
A to má to ESP32 nesrovnatelně pomalejší procesor než nějaká slušná modernější RPI (2-3-4-5) a oproti modernímu procesoru to je vůbec neporovnatelně slabší. U řady aplikací je problém právě v trénování, proto se používá to GPU trénování.