Desafíos técnicos del uso de LLM on-device en el sector agrícola

Abstract

Este trabajo en curso analiza la viabilidad de ejecutar LLM on-device en el sector agrícola para asistir en la cumplimentación de documentación en contextos de conectividad limitada. Estudiamos cómo la inferencia local en dispositivos móviles puede reducir la dependencia de la nube sin comprometer los resultados, e identificamos retos como la evaluación realista, la integración en el flujo de trabajo y las restricciones de cómputo, memoria y energía.