IA en el Borde: TinyML con ESP32-S3 y Orquestación en Debian 13


En Itsaslab, la Inteligencia Artificial no es una entelequia en la nube; es una herramienta de supervivencia para nuestros sensores. El despliegue de modelos de IA en entornos marinos enfrenta un desafío crítico: el ancho de banda. No podemos enviar gigabytes de datos crudos por redes LoRa. La solución es procesar la información donde nace: en el Edge.

El Hardware: ESP32-S3 y aceleración vectorial

El ESP32-S3 ha sido nuestra elección estratégica debido a sus instrucciones vectoriales (PIE - Processor Instruction Extensions). Estas permiten acelerar operaciones de álgebra lineal, fundamentales para las Redes Neuronales Convolucionales (CNN) que utilizamos en la detección de microplásticos y análisis de patrones de oleaje.

Flujo de trabajo TinyML en Itsaslab:

  1. Captura y Etiquetado: Recolectamos datos de sensores físico-químicos.
  2. Entrenamiento en Debian 13: Utilizamos la potencia de cálculo de nuestros servidores Debian para entrenar modelos en TensorFlow/Keras.
  3. Cuantización: Transformamos modelos de 32 bits a 8 bits (INT8) para reducir el peso sin perder precisión significativa.
  4. Despliegue: Flasheamos el modelo optimizado en el ESP32-S3 utilizando el componente esp-nn.

El Rol de Debian 13: El Centro de Mando

Mientras el ESP32-S3 ejecuta el modelo (Inferencia), nuestro nodo central con Debian 13 actúa como el cerebro supervisor.

  • Re-entrenamiento Dinámico: Cuando una boya detecta una anomalía que el modelo no sabe clasificar con alta confianza, envía el fragmento de dato a Debian.
  • Gestión de Pesos: Debian almacena las diferentes versiones de los modelos y gestiona las actualizaciones vía OTA (Over-The-Air) cuando detectamos una mejora en la precisión.

Problemas que resolvemos con esta arquitectura

  • Consumo Energético: Ejecutar una inferencia local consume órdenes de magnitud menos energía que mantener una radio encendida transmitiendo datos crudos.
  • Latencia: La detección de un evento crítico (como un vertido o un gradiente de presión anómalo) es instantánea.
  • Privacidad y Autonomía: El sistema es soberano; no depende de APIs externas ni de conexión constante a satélite.

“La verdadera inteligencia es la que sobrevive con 512KB de RAM y una batería solar.” ʕ •ᴥ•ʔ