Milioane de comenzi, miliarde de imagini: provocarea nevăzută a unei platforme uriașe

Sursǎ foto: Asbis Romania / Intel

Milioane de comenzi, miliarde de imagini: provocarea nevăzută a unei platforme uriașe

China digitală evoluează rapid, iar Meituan este una dintre platformele-cheie care țin pasul cu această transformare. Zilnic, milioane de utilizatori își comandă mâncare, își rezervă camere de hotel sau folosesc servicii de transport, toate printr-o singură aplicație care continuă să se extindă și să influențeze masiv piața.

Platforma gestionează zilnic un volum impresionant de conținut vizual: miliarde de imagini și videoclipuri, de la meniuri de restaurante și fotografii ale camerelor de hotel, până la imagini de produse și alte materiale esențiale care îmbunătățesc considerabil experiența utilizatorilor.

Acest conținut vizual este supus unui proces continuu de analiză și clasificare, realizat prin modele de inteligență artificială pentru procesarea imaginilor, care funcționează constant în fundal. Creșterea rapidă a bazei de utilizatori a generat o presiune exponențială asupra acestor sisteme AI, iar gestionarea costurilor a devenit o prioritate strategică.

În mod tradițional, sarcinile AI se bazează în principal pe GPU-uri, performante în antrenarea modelelor, dar costisitoare și, uneori, excesive pentru multe scenarii de inferență. Inginerii Meituan au identificat oportunitatea de a muta o parte semnificativă din aceste sarcini pe procesoare, astfel încât GPU-urile să poată fi dedicate exclusiv antrenării, iar costurile totale de infrastructură să fie reduse.

Această abordare a fost fezabilă doar dacă procesoarele erau suficient de performante pentru a susține, la scară largă, procesarea complexă a imaginilor, fără a compromite viteza sau acuratețea.

Soluția tehnică pentru scalarea AI-ului la scară largă

Meituan a implementat procesoarele Intel Xeon Scalable de generația a 4-a, echipate cu Intel Advanced Matrix Extensions (AMX), un accelerator integrat care optimizează performanța AI pe CPU.

Cu ajutorul AMX, procesoarele Xeon au preluat sarcinile de recunoaștere și clasificare a imaginilor, anterior gestionate de GPU-uri, reducând semnificativ costurile și consumul energetic.

Fără a modifica fundamental infrastructura, Meituan a integrat aceste procesoare în arhitectura de microservicii existentă și a permis alocarea dinamică a sarcinilor AI între CPU-uri și GPU-uri în funcție de cerere, sporind astfel flexibilitatea și eficiența.

Implementarea a avut un impact imediat. Capacitatea de procesare a AI-ului vizual a crescut între 3,38× și 4,13× comparativ cu versiunile anterioare pe CPU. Eficiența utilizării resurselor online a fost îmbunătățită de peste trei ori, permițând hardware-ului existent să susțină un volum mult mai mare de operațiuni.

Mai mult, costurile operaționale asociate serviciilor AI s-au redus cu aproximativ 70%. Într-un mediu concurențial intens, unde marjele sunt strânse, aceste economii reprezintă un avantaj competitiv semnificativ.

Evoluția procesoarelor Intel Xeon nu s-a oprit la generația a 4-a. Generațiile a 5-a și a 6-a au continuat să ofere performanțe mai mari și o eficiență energetică superioară, permițând companiilor să gestioneze volume tot mai mari de date și sarcini AI complexe fără a crește semnificativ costurile. Această progresie tehnologică consolidează capacitatea platformelor precum Meituan de a livra servicii rapide și fiabile și pregătește terenul pentru creșteri și mai mari în viitor.

Importanța pentru industrie

Experiența Meituan reflectă o tendință mai largă în domeniul implementării AI: utilizarea eficientă și scalabilă a procesoarelor moderne pentru inferență AI.
Pentru companiile care procesează volume mari de inferență AI din retail, logistică, sănătate sau finanțe, alegerea tehnologiei potrivite poate transforma provocările operaționale în oportunități de creștere.

Procesoarele Intel Xeon pot fi achiziționate prin diverse configurații de performanță prin partenerii ASBIS Romania. Mai multe informații despre produsele Intel Xeon aici.

Personalizate pentru tine