Como construir uma roda LiteRT Python para o AXC F2152

No mês passado, o Google anunciou uma mudança de marca/renomeação do TensorFlow Lite para LiteRT (link para o artigo). Agora fará parte de sua tentativa renovada de tentar permanecer relevante no paradigma de computação Edge com o Google AI Edge.

Já havia disponibilizado o TensorFlow Lite (juntamente com numpy e OpenCV) através de um aplicativo para fins educacionais na loja PLCnext (Link para o aplicativo). No entanto, o aplicativo restringe o uso da solução pré-empacotada pelos usuários, mesmo que queiram tentar algo completamente diferente ou incluir outras bibliotecas.

Considerando que atualizei o aplicativo recentemente e precisava refrescar a memória sobre como fazê-lo, decidi criar este post e explicar como fazer a compilação cruzada do TensorFlow Lite Runtime para o AXC F 2152.

O processo de execução na última etapa pode parecer bastante complicado, uma vez que as bibliotecas disponíveis publicamente não oferecem suporte direto para a arquitetura do processador do AXC F 2152 e, portanto, a compilação cruzada é necessária.

NOTA :Este procedimento foi testado em:

• Um terminal UBUNTU 22.04 virtualizado.
• A máquina virtual tem 27 GB de RAM e um arquivo de troca adicional de 16 GB de RAM [altamente relevante para o processo de compilação cruzada] e é executada usando 24 núcleos.
• Uma máquina host com 32 GB de RAM e um processador Core i7-12850HX.

NOTA 2 :A quantidade de RAM permite manter a compilação cruzada estável e rodar o mais rápido possível. Uma configuração com menos RAM pode não conseguir executar o processo de compilação cruzada ou pode demorar muito (até algumas horas na minha própria experiência).

1. Baixe o código-fonte do TensorFLow da versão que deseja compilar. https://github.com/tensorflow/tensorflow/releases/
2. Extraia o conteúdo para uma pasta de sua preferência. Usarei “myfolder” nas próximas entradas abaixo.
3. Navegue até "Makefile " em "/myfolder/tensorflow-2.XX.0/tensorflow/lite/tools/pip_package/Makefile " e modifique a imagem base, a versão python e a versão numpy para corresponder às do seu sistema. Ex.:

1. navegue até "downloadtoolchains.sh " localizado em "/myfolder/tensorflow-2.XX.0/tensorflow/lite/tools/cmake/download_toolchains.sh " e modifique os sinalizadores que vêm por padrão para armh conforme mostrado aqui:

1. 
   Na pasta TensorFlow (/myfolder/tensorflow-2.XX.0), execute o comando:"make -C tensorflow/lite/tools/pip_package docker-build \ TENSORFLOW_TARGET=armhf PYTHON_VERSION=3.10 "
   
2. 
   AVISO:O processo da etapa anterior pode demorar muito, tenha paciência.
   
3. 
   Após a conclusão do processo, pegue a roda Python de "tensorflow-2.XX.0/tensorflow/lite/tools/pip_package/gen/tflite_pip/python3.10/dist " ao seu controlador e instale-o usando pip.
   

AVISO :Na minha experiência, o processo funciona para Python 3.9, 3.10 e 3.11 e para as versões 2.14 até 2.16.2. No entanto, versões acima da versão 2.17 apresentam um bug. Tenho um problema aberto no repositório GitHub do TensorFlow que pode ser acompanhado aqui. Espero que isso possa ser resolvido em futuras versões.

Observação:

O Makers Blog mostra aplicativos e histórias de usuários de membros da comunidade que não foram testados ou revisados pela Phoenix Contact. Use-os por sua própria conta e risco.