Microsoft planuje zapoczątkować znaczącą zmianę w sposobie wykorzystania sztucznej inteligencji (AI) w codziennym użytkowaniu komputerów. Gigant technologiczny ma na celu częściowe przeniesienie funkcjonalności swojego AI Copilota do bezpośredniego działania na komputerach użytkowników, zamiast polegania wyłącznie na przetwarzaniu w chmurze. Ten ruch ma na celu zredefiniowanie doświadczeń użytkownika z asystentami generatywnymi AI, zwiększając efektywność i prywatność.
AI Copilot, generatywny asystent opracowany przez Microsoft, wykorzystuje ten sam model GPT, który napędza ChatGPT od OpenAI. Został zaprojektowany, aby pomagać w różnorodnych codziennych zadaniach, od przeszukiwania e-maili pod kątem akcji do wykonywania, po tworzenie prezentacji PowerPoint. Obecnie te zapytania wymagają przetwarzania w chmurze z powodu rozległej mocy obliczeniowej wymaganej do wnioskowania.
Lokalne wnioskowanie: skok w kierunku efektywności i prywatności
Racjonalne uzasadnienie dla dążenia Microsoftu do działania lokalnego opiera się na kilku czynnikach. Przetwarzanie w chmurze, choć potężne, wymaga znacznego czasu, pojemności sieci i zasobów obliczeniowych centrum danych. Dodatkowo, ta metoda wymaga wysyłania wrażliwych danych do chmury i z powrotem, co budzi obawy dotyczące prywatności użytkowników. Uruchamianie zadań Copilota lokalnie, przynajmniej dla mniej wymagających obliczeniowo operacji, przedstawia rozwiązanie, które łagodzi te problemy, pod warunkiem, że lokalny sprzęt jest wystarczająco wydajny.
Intel ujawnił, że wizja Microsoftu obejmuje minimalne wymagania dotyczące mocy obliczeniowej na poziomie 40 Tera Operacji na Sekundę (TOPS) od Jednostek Przetwarzania Neuronalnego (NPU). Specyfikacja ta znacznie przekracza możliwości obecnych procesorów od Intela i AMD, które osiągają maksymalnie dziesięć i szesnaście TOPS odpowiednio. W związku z tym, dzisiejsze ‘AI-PC’ nie spełniają progu niezbędnego do lokalnego uruchamiania Copilota, opartego na standardach Microsoftu — stanowisko potwierdzone przez analityków branżowych i różnych producentów sprzętu, pomimo własnej niejednoznaczności Microsoftu w tej kwestii.
Przygotowanie sprzętu na przyszłość
Intel zobowiązał się spełnić ten ambitny próg wydajności za pomocą swojej następnej generacji chipów, oczekiwanych na uruchomienie w ciągu roku. Oczekuje się również, że AMD podejmie to wyzwanie, z zainteresowaniem branży oczekującej na postępy, które mogłyby doprowadzić nowe chipy Ryzen do spełnienia minimalnego limitu wydajności Microsoftu.