Apple ogłosiło premierę platformy MLX (ML Explore), przeznaczonej do tworzenia systemów sztucznej inteligencji, które będą działać na komputerach z własnymi procesorami Apple Silicon. Wszystkie niezbędne komponenty są dostępne na GitHubie.
Celem projektu jest ułatwienie naukowcom pracującym na komputerach Apple szkolenia i wdrażania modeli sztucznej inteligencji. Narzędzie jest skierowane nie do konsumenta, ale do programistów, którzy mają teraz potężne środowisko – istnieją podobne do siebie API Pythona i C++ API; Obsługiwana jest pamięć ujednolicona, co oznacza, że tablice danych znajdują się w pamięci współdzielonej, a operacje można wykonywać na procesorze CPU lub GPU bez kopiowania.
Firma Apple udostępniła także zestaw przykładów możliwości platformy MLX:
uczenie modelu językowego – transformatora i konfigurowanie go za pomocą LoRA; generowanie tekstu z wykorzystaniem modeli językowych LLaMA i Mistral; generowanie obrazów przy użyciu Stable Diffusion; rozpoznawanie mowy za pomocą Whisper.
Apple dostrzegł potrzebę otwartych i prostych środowisk programistycznych uczenia maszynowego, aby stymulować dalsze prace w tym obszarze. Co ważne, MLX działa na chipach Apple, które są obecnie stosowane we wszystkich jej produktach, w tym w Macu, iPhonie i iPadzie. Framework wykorzystuje zasoby procesorów centralnych i graficznych, pomagając osiągnąć w miarę wysoką wydajność – być może w przyszłości uda się podłączyć akcelerator AI Neural Engine, który także znajdziemy w tych układach.
