Google o tom, co funguje pro AI v zařízení na Androidu

Umělá inteligence na zařízení je pro Android do budoucna velkou prioritou a Google na I/O 2024 sdílel více vývojářských zdrojů.

„Umělá inteligence na zařízení Android pod kapotouRelace I/O 2024 představila „případy dobrého použití“ pro umělou inteligenci generovanou na zařízení:

Konzumovat: Uveďte shrnutí nebo přehled textu
Vytvoří: Navrhujte odpovědi v aplikacích pro zasílání zpráv nebo vytvořte/přeformulujte text
klasifikace: Detekce emocí/nálad v konverzacích nebo textových zprávách

Mezi výhody obecně patří bezpečné místní zpracování, offline dostupnost, snížená latence a žádné další (cloudové) náklady. Omezení jsou nízká velikost parametru na 2-3 miliardy, neboli „téměř menší než jejich cloudové protějšky“. Je zde také menší kontextové okno a jak bude model méně zobecněný. Jako takové je „jemné doladění klíčové pro dosažení dobré přesnosti“.

Gemini Nano je „preferovaný základní režim Androidu pro vytváření klonů GenAI na zařízení“, ale můžete také spustit Gemmu a další otevřené modely.

Zatím tuto funkci využívají pouze aplikace Google – Summarize in Pixel Recorder, Magic Compose ve zprávách Google a Gboard Smart Response –, ale Google „aktivně spolupracuje s vývojáři, kteří mají na zařízení přesvědčivé případy použití Gemini“ prostřednictvím Předčasný přístup k programu. . Očekává se, že budou spuštěny v roce 2024.

Mezitím bude Google brzy používat Gemini Nano pro popisky TalkBack, dynamické návrhy Gemini a upozornění na spam, zatímco Multimodalita bude aktualizována později v tomto roce „počínaje Pixelem“.

Google také zaznamenal stav AGI na zařízení před rokem a jaká vylepšení byla od té doby provedena, jako je hardwarová akcelerace: