Abelardo González
Editor - TechEl auge de la inteligencia artificial ha provocado que muchas personas hayan cambiado su percepción sobre su relación con la tecnología. Tal y como reveló OpenAI, los creadores de ChatGPT, más de 400 millones de personas sacan partido a su chatbot cada semana, una cifra tan gigantesca que solo 2 países del mundo cuentan con más habitantes. Sin embargo, existe un aspecto determinante que podría llegar a estandarizar aún más el uso de la inteligencia artificial: la ejecución de los modelos de IA de forma local y no en la nube.
Como indica TechSpot, modelos de lenguaje pequeños como Phi de Microsoft o Llama 8B de Meta han demostrado ser eficientes a la hora de ejecutarse en dispositivos con memoria y potencia limitadas. De esta forma, ejecutar inteligencia artificial en el dispositivo permite sacar partido a la personalización, la privacidad y el acceso directo tanto a archivos como a datos locales, una serie de aspectos que mejoran la experiencia general del usuario. Por ese motivo, Microsoft ya piensa en lanzar ordenadores con modelos Phi integrados este año, permitiendo generación de texto e imágenes sin conexión a internet.
Computación híbrida, retos de memoria y rendimiento
Una de las claves de este planteamiento es la técnica de destilación de modelos, una práctica que permite condensar modelos grandes en versiones más pequeñas sin perder demasiado rendimiento, facilitando así el uso en el dispositivo. De esta forma, se espera que la combinación entre la IA en la nube y la misma tecnología en dispositivos pueda aprovechar lo mejor de ambas tecnologías. No obstante, ejecutar múltiples modelos en un solo dispositivo requerirá tanto optimización de memoria como nuevos enfoques arquitectónicos, razón por la que estamos ante un reto de memoria y rendimiento.
De esta forma, los dispositivos necesitarán conexiones más estables (véase, por ejemplo, la red 5G) para aprovechar los beneficios de la inteligencia artificial híbrida. Por ello, aunque los NPU están diseñados para la Ia, la variedad de arquitecturas hace que en el corto plazo se use más GPU y CPU para estas tareas. Sea como fuere, la integración de la IA en dispositivos cambiará la forma en la que interactuamos con la tecnología, pero aún requerirá cierto tiempo hasta que los usuarios adopten nuevas formas de uso.
Imagen principal de 3DJuegos
En 3DJuegos | China se inspira en el mito de la Atlántida para una locura submarina que iguala la potencia de 30.000 PC Gaming
Entrar y enviar un comentario