¿Qué es la IA en el dispositivo (on-device)?
On-device es una expresión en inglés que significa “en el dispositivo”. Se refiere a modelos de IA lo bastante pequeños para ejecutarse dentro de tu propio teléfono, tablet o computador, en vez de hacerlo en un centro de datos lejano.
Es como tener una calculadora en el bolsillo en lugar de llamar a alguien para que haga la cuenta por ti. No necesitas conexión, la respuesta llega más rápido y nadie más ve lo que estás calculando.
Sus principales ventajas son la privacidad, porque tus datos no salen del aparato, y la velocidad. También funciona sin internet. La desventaja es que estos modelos suelen ser menos potentes que los grandes modelos en la nube, porque el dispositivo tiene menos capacidad.
Por ejemplo, algunas funciones de los teléfonos recientes, como resumir notificaciones, transcribir una grabación de voz o mejorar fotos, pueden hacerse directamente en el equipo gracias a chips de IA incorporados.
