Supporto e Assistenza
Benvenuto nella pagina di supporto di LocalModel Bridge. Questa applicazione ti consente di eseguire modelli di intelligenza artificiale generativa in modalità completamente offline. Se hai domande sul caricamento dei modelli, sulla configurazione dei comandi rapidi o sull'impostazione del server API locale, siamo qui per aiutarti.
Assistenza
Apri il pannello Impostazioni dell'app e seleziona la scheda Modelli. Fai clic su "+" per creare un profilo. Puoi inserire un ID repository di Hugging Face (es. mlx-community/Qwen2.5-1.5B-Instruct-4bit) o selezionare una cartella locale contenente i pesi sul tuo Mac. Fai clic su "Crea profilo", quindi caricalo dal menu a comparsa della barra dei menu.
LocalModel Bridge funziona al 100% offline. L'accesso alla rete client viene utilizzato solo per interrogare e scaricare i pesi dei modelli dal Hub di Hugging Face. L'accesso alla rete server viene utilizzato solo per ospitare il server HTTP compatibile con OpenAI su una porta locale scelta (es. 8080) sulla tua macchina (localhost).
LocalModel Bridge si integra nativamente con l'app Comandi Rapidi (Shortcuts) di macOS. Apri Comandi Rapidi, crea un nuovo flusso di lavoro e cerca "LocalModelBridge" nella libreria delle azioni. L'azione principale "Interroga modello locale" accetta un prompt e restituisce la risposta testuale generata dal modello in esecuzione.
Nella scheda Generale delle Impostazioni, puoi attivare "Abilita server API HTTP locale". Questo espone un'API di completamento compatibile con OpenAI all'indirizzo http://localhost:8080/v1/chat/completions, consentendo a strumenti di sviluppo di terze parti (come l'editor Cursor) di interrogare i tuoi modelli locali.
I modelli linguistici generativi (LLM) occupano una quantità significativa di RAM. Per evitare rallentamenti del sistema, LocalModel Bridge scarica automaticamente i modelli dalla memoria unificata Apple Silicon dopo un periodo di inattività configurabile e pulisce la cache Metal del sistema.
Se le FAQ non rispondono alla tua domanda, non esitare a inviarci un'e-mail. Ti preghiamo di includere i seguenti dettagli: