AMD y Unsloth anunciaron que la inferencia local de NPUs ahora está disponible para Unsloth Desktop. Esta actualización comienza con los procesadores AMD Ryzen AI que utilizan la arquitectura XDNA 2 o posterior.
El soporte se extiende específicamente a entornos Linux, permitiendo a los usuarios ejecutar modelos de lenguaje grandes localmente utilizando la potencia del hardware dedicado. Esto representa un avance significativo en la optimización de inferencias AI en el sistema operativo.
La integración permite aprovechar las capacidades de aceleración neuronal sin depender exclusivamente de GPUs tradicionales. Esto abre nuevas posibilidades para el desarrollo de aplicaciones de inteligencia artificial que requieren procesamiento local eficiente.
El anuncio fue confirmado a través de los canales oficiales y reportado por Phoronix, destacando la expansión del ecosistema de software libre en hardware de vanguardia.
Fuente: Phoronix
