Wraz z najnowszą serią nowych mobilnych platform smartfonów średniej klasy, Qualcomm ogłosił jeszcze większy dzień podczas AI Day w San Francisco. Mobilny gigant chipowy po raz kolejny gra na serwerach, po tym, jak zrezygnował z oferty Centriq w 2018 roku. Tym razem firma wykorzystuje swoje technologie w dziedzinie sztucznej inteligencji, aby dostać się do drzwi chmury obliczeniowej. Pierwszy chip nazwaliśmy platformą Qualcomm Cloud AI 100.

Platforma Cloud AI 100 nie jest mobilnym przepakowywaniem chipów, to naziemna konstrukcja 7 nm dla zadań wnioskowania AI, a nie szkolenia. Oznacza to, że chip będzie chrupał liczby przechodzące przez sieci neuronowe, a nie będzie używany do ich trenowania. Wydaje się, że stawia to Qualcomm w bezpośredniej konkurencji z seriami Tesla T4 Nvidii i układami wnioskowania TPU Google Edge zaprojektowanymi do serwerów i przetwarzania w chmurze. Podobnie jak jego konkurenci, Qualcomm zdał sobie sprawę, że najbardziej wydajne przetwarzanie AI nie jest wykonywane na procesorach, GPU i FGPA, ale wymaga dedykowanego akceleratora AI.

Pod względem wydajności Qualcomm szacuje ponad 50-krotny szczytowy wzrost wydajności AI w porównaniu z możliwościami Snapdragon 855. Snapdragon 855 oferuje około 7TOPS wydajności, co sugeruje, że Cloud AI 100 jest w zakresie 350TOPS. To z pewnością sprawi, że T4 Nvidii ucieknie ze swoich pieniędzy. Qualcomm uważa, że ​​ma także przewagę wydajności na wat, oferując 10-krotną poprawę w porównaniu z najbardziej zaawansowanymi w branży rozwiązaniami do wnioskowania AI. Gdy rozpadasz się z dużymi liczbami, wydajność energetyczna może zaoszczędzić firmom ogromne sumy na rachunkach za prąd. Ponadto Qualcomm chce wykorzystać swoje doświadczenie w przetwarzaniu sygnałów i 5G, aby platforma chmurowa mogła pracować na krawędzi w przyszłych sieciach o bardzo niskim opóźnieniu.

Zapytany Qualcomm nie skomentował, czy architektura zastosowana w chmurze AI 100 jest zastrzeżona lub licencjonowana z innych źródeł. Zastanawiam się, czy jest to pierwsze pojawienie się architektury Arm Trillium AI, która została również zaprojektowana specjalnie do wnioskowania obciążeń przy niskim budżecie mocy. Ale dość spekulacji, Qualcomm mówi, że będzie udostępniać więcej informacji o swojej architekturze AI w przyszłości.

Wreszcie, aby wspierać programistów, Qualcomm Cloud AI 100 współpracuje z większością, jeśli nie ze wszystkimi, wiodącymi w branży stosami oprogramowania. Obsługiwane są środowiska uruchomieniowe Caffe, Keras, mxnet, TensorFlow, PaddlePaddle i Cognitive Toolkit, a także środowiska wykonawcze Glow, OnnX i XLA.

Oczekuje się, że Qualcomm Cloud AI 100 rozpocznie pobieranie próbek od klientów w