L’intelligenza artificiale ha la reputazione di monopolizzare l’energia. Ogni risposta che un LLM ti fornisce dal cloud sta silenziosamente bruciando energia in un data center da qualche parte.
COSÌ eseguire un modello completo sul tuo telefonoin cui tutto il lavoro si concentra su un piccolo chip e una piccola batteria, sembra un modo rapido per ritrovarsi a fissare un telefono scarico entro mezzogiorno.
Questo è quello che mi aspettavo quando ho sostituito Gemini con un modello locale sul mio Samsung Galaxy S24 Ultra. Mi aspettavo che la batteria fosse la prima cosa a cedere, ma alla fine è stata la mia meno preoccupazione.
Ecco cosa è successo.
Impostazione dell’intero test
Modelli, suggerimenti, parametri di misura
Prima di iniziare il test ho installato AI Edge Gallery di Google e scaricato il modello Gemma 4 E2B. Quindi, ho disattivato la luminosità adattiva, ho impostato il display al 50%, ho installato AccuBattery per letture più precise della batteria e ho mappato i test.
In questo caso, ho eseguito un test leggero con 20 domande semplici (matematica veloce, fatti e scrittura breve) e un test pesante con otto attività impegnative come codifica, spiegazioni lunghe e suddivisioni dettagliate.
Da il modello è stato creato per l’utilizzo offlineho eseguito tutti i test con la modalità aereo attivata. Per i Gemelli ho utilizzato la mia connessione Internet mobile.
Ho anche cancellato tutte le app in background e ho eseguito solo gli strumenti AI, AccuBattery e Google Docs secondo le mie istruzioni.
Il consumo della batteria era basso per l’uso quotidiano
E ha senso
Ho iniziato il test con istruzioni luminose, aspettando che il modello completasse ogni attività prima di ridurla a icona, aprire Google Documenti e copiare la richiesta successiva.
Ho annotato gli orari di inizio e fine, le percentuali della batteria e la temperatura del dispositivo.
Ho eseguito la serie di 20 domande due volte per entrambi i modelli e i risultati non sono stati affatto sorprendenti. Mi aspettavo che il consumo della batteria del modello locale fosse vicino a quello di Gemini, e così è stato.
Durante i due test, Gemma ha consumato circa il 2,5% della batteria, con AccuBattery che ne ha attribuito circa 62 mAh all’app, contro il 2% e i 61 mAh di Gemini.
Inizialmente pensavo che il test non fosse abbastanza lungo o complesso per mettere davvero alla prova il modello locale. Quindi sono passato alle prove pesanti.
Gemma sembrava una divoratrice di batterie nei compiti pesanti
O almeno così pensavo, finché non ho guardato i dettagli più fini
Ho iniziato con Gemma e ci sono voluti circa 26 minuti per completare tutte e otto le attività una dopo l’altra. Ho annotato i miei risultati come al solito.
Durante i test pesanti, il telefono si è riscaldato un po’, quindi l’ho lasciato raffreddare fino a una temperatura costante di circa 98°F tra una corsa e l’altra.
Quindi ho utilizzato Gemini (sul modello Flash-Lite predefinito). Ha superato tutti i test a un ritmo vertiginoso. Anche quelli relativi alla codifica sono stati generati quasi istantaneamente.
Quindi, ho deciso di testare il modello creato per compiti analitici complessi: Gemini Pro, con il pensiero esteso selezionato. Questa volta ci è voluto un po’ più di tempo per completare le attività e le risposte erano probabilmente migliori (ma non le ho riviste).
Dopo aver registrato i dati di tutti e tre i modelli nel foglio di test, ho subito notato che Gemma consumava circa 221 mAh, il doppio della batteria di Gemini Pro con pensiero esteso (111) e quasi quattro volte di più di Flash-Lite (59).
Anche il telefono si surriscaldava molto. È diventato chiaro che Gemma scaricava la batteria più velocemente di Gemini nelle attività complesse. Tuttavia, quando ho approfondito l’utilizzo esatto di AccuBattery, ho visto qualcosa di diverso.
Gemma non usava più energia minuto dopo minuto. Sotto carico pesante, ha assorbito circa 759 mA, più o meno la stessa portata di qualsiasi attività telefonica impegnativa. Ma ne consumava di più solo perché impiegava più tempo per completare le stesse attività.
I singoli messaggi pesanti hanno richiesto a Gemma dai tre ai quattro minuti ciascuno, mentre Gemini ha risposto quasi nel momento in cui ho premuto Invio.
Tuttavia, entrambi erano veloci con le semplici istruzioni, quindi l’unica limitazione era la velocità con cui potevo estrarre le istruzioni da Google Documenti e incollarle nella casella di chat dell’IA. Poiché hanno impiegato più o meno lo stesso tempo, hanno consumato quantità simili di carica della batteria.
Il modello locale ha un problema
E non è la batteria
Questo era puramente un test della batteria, quindi non ho assegnato un punteggio alle risposte per la precisione. Tuttavia, alcune cose sono saltate fuori e nessuna aveva a che fare con la batteria. Ero più preoccupato per le risposte.
Durante la mia corsa leggera, ho mescolato diversi tipi di query. Ho iniziato con due domande di calcolo, ma ne avevo un’altra al numero 17: “Quanto fa 144 diviso per 12, poi moltiplicato per 5?”
Ha letto erroneamente il numero più volte come 444, 4444, 44, 14444, 104 e così via, nonostante i ripetuti tentativi di correggerlo. Ho anche riscritto le cifre a parole, ma non è servito a nulla.
Ha funzionato solo quando ho avviato una nuova chat e ho incollato il problema. Quindi, ho iniziato a sospettare che il modello diventi meno affidabile man mano che la chat si allunga.
L’ho confermato dopo aver rieseguito il set di 20 suggerimenti in una nuova chat e il modello non è ancora riuscito a darmi la risposta giusta a quella domanda.
Probabilmente va oltre la matematica, ma non stavo testando la precisione, quindi l’ho lasciato lì. Questo era facile da individuare.
Ho notato anche alcuni strani casi in cui il modello rendeva una o due parole in una lingua straniera, anche se l’intera chat era in inglese.
Non ho nessuna lingua abilitata sulla tastiera, quindi non sono sicuro da dove provengano.
I Gemelli sono stati più utili
Si connette alle tue app
AI Edge Gallery mi ha fornito tutte le risposte nella chat, cosa prevista per un modello locale che viene eseguito nel proprio ambiente.
Tuttavia, Gemini si connette con altre app sul tuo telefono per visualizzare elementi interattivi.
Ad esempio, durante il mio test della luce, ho chiesto a Gemini di convertire una serie di elementi in un elenco di cose da fare e mi ha chiesto di scegliere tra Keep e Samsung Notes. Dopo aver scelto Mantieni, ha creato l’elenco nel mio account.
La stessa cosa è successa con i miei contatti. Quando gli ho chiesto di redigere un messaggio di due righe per dire a un amico che sarei arrivato con 15 minuti di ritardo, è stata visualizzata una scheda di contatto su cui potevo fare clic e trovare la persona a cui volevo inviare il messaggio.
Ha anche creato un’immagine interattiva quando gli ho chiesto di elaborare un piano di lancio di 12 mesi per un’azienda di caffè.
Dovresti fare il cambio?
Per le domande di tutti i giorni, l’utilizzo di Gemma 4 sul mio telefono ha toccato a malapena la batteria, e anche sotto carico pesante il consumo extra è dovuto alla velocità piuttosto che alla potenza pura. Non mi preoccuperei della batteria se dovessi fare il passaggio.
Ci sono cose più importanti da considerare: il modello è più lento, diventa più instabile man mano che dura una chat ed è racchiuso nel proprio ambiente, mentre Gemini può comunicare con altre app sul telefono.
Se il tuo obiettivo è quello tieni l’intelligenza artificiale lontana dal tuo telefonopotrebbe essere meglio disattivare alcune di queste funzionalità.
