
Transformers sada direktno pokreće GGUF kvantizirane modele za lokalnu inferencu na laptopima
Transformers sada direktno podržava GGUF kvantizirane modele, olakšavajući lokalnu inferencu na Apple Silicon laptopima preko poznatog API-ja.

Transformers sada direktno podržava GGUF kvantizirane modele, olakšavajući lokalnu inferencu na Apple Silicon laptopima preko poznatog API-ja.