Działania Apple zmierzają ku temu, żeby modele językowe działały bezpośrednio na iPhone’ach, jednak z uwagi na liczne procesy część z nich musi odbywać się na serwerach firmy.

Tymczasem najnowsze informacje sugerują, że w przyszłości może to ulec zmianie. Zdaniem redaktorów serwisu The Information przedstawiciele amerykańskiego giganta odbyli spotkania z członkami start-upu PrismML dotyczące technologi pozwalającej na uruchamiania znacznie większych modeli sztucznej inteligencji bezpośrednio na iPhone'ach.

Pracownikom firmy udało się zmniejszyć duży model językowy Qwen 3.6 firmy Alibaba z otwartym kodem źródłowym, aby działał w całości na iPhonie 17 Pro. Model ma 27 miliardów parametrów, czyli jest znacznie większy niż model AFM 3 Core Advanced cechujący się 20 miliardami parametrów i działający bezpośrednio na smartfonie. Co warto podkreślić w przeciwieństwie do AFM 3 Core Advanced, wszystkie parametry Qwen 3.6 mogą być aktywne w tym samym czasie. Dla porównania w modelu Apple jedynie do 4 miliardów parametrów jest aktywnych.

Większe modele działające bezpośrednio na iPhone'ach pozwoliłyby na uruchamianie większej liczby funkcji Apple Intelligence na urządzeniu zamiast na serwerach Apple Private Cloud Compute, co mogłoby zmniejszyć koszty firmy i zwiększyć prywatność użytkowników.

Źródło: MacRumors