Microsoft Foundry integruje modele Hugging Face, oferując zarządzaną platformę dla AI w przedsiębiorstwach

Podczas Microsoft Build 2026 Microsoft ogłosił znaczącą nowość: integrację modeli Hugging Face z platformą Foundry Managed Compute. To rozwiązanie ma na celu ułatwienie przedsiębiorstwom wdrażania i zarządzania otwartymi modelami sztucznej inteligencji, zapewniając jednocześnie wysoki poziom bezpieczeństwa, zarządzania i skalowalności. Modele z ekosystemu Hugging Face, odświeżane co tydzień, są dostępne w wyselekcjonowanym katalogu i mogą być wdrażane jednym kliknięciem na platformie Foundry Managed Compute.

Microsoft Foundry: Kompleksowa Platforma dla AI Agentów

Microsoft Foundry to platforma zaprojektowana do tworzenia i obsługi agentowych aplikacji AI. Wyróżnia się najszerszym wyborem modeli dostępnych w chmurze, obejmującym modele od Microsoftu, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face i innych. Wszystkie te modele są dostępne za pośrednictwem jednego punktu końcowego i spójnego zestawu zestawów SDK dla języków Python, C#, JavaScript i Java.

Na szczycie tej warstwy modelowej znajduje się Foundry Agent Service, oferujący orkiestrację wielu agentów z wbudowaną pamięcią, ugruntowaniem wiedzy poprzez Foundry IQ oraz katalogiem narzędzi, które agenci mogą wykorzystywać do pracy z danymi przedsiębiorstwa. Platforma zapewnia również kompleksowe śledzenie, monitorowanie w czasie rzeczywistym, ciągłe oceny i optymalizator promptów, co gwarantuje wysoką jakość i obserwowalność działania agentów.

Foundry Managed Compute to trzecia opcja wdrożeniowa w Foundry, obok płatności za token i przepustowości. Jest to zarządzana platforma GPU typu „platforma jako usługa” (PaaS) przeznaczona dla modeli open-source i niestandardowych. Umożliwia deweloperom wdrażanie instancji modeli, określając kluczowe parametry, takie jak liczba parametrów, długość kontekstu czy optymalizacja pod kątem opóźnień lub przepustowości. Microsoft automatycznie zarządza topologią GPU, aktualizacjami kontenerów, uaktualnieniami środowisk uruchomieniowych i poprawkami bezpieczeństwa dla obsługiwanych środowisk, takich jak vLLM, SGLang, TensorRT-LLM, NIM, TEI i llama.cpp.

Dlaczego Hugging Face?

Hugging Face jest postrzegany jako „publiczny plac” otwartej sztucznej inteligencji, gromadzący 15 milionów twórców, 400 000 organizacji i ponad 3 miliony opublikowanych modeli. Oferuje on cotygodniowo nowe możliwości, takie jak kodowanie agentowe, segmentacja wideo, przetwarzanie mowy i embeddingi. Modele open-source znacząco zmniejszyły lukę w wydajności w stosunku do modeli własnościowych, oferując jednocześnie elastyczność i kontrolę, której brakuje w zamkniętych ekosystemach.

Wyzwaniem zawsze była warstwa operacyjna: odkrywanie modeli, przegląd licencji, kontrola bezpieczeństwa, wybór środowiska uruchomieniowego, dobór rozmiaru GPU, budowanie obrazów, łatanie luk bezpieczeństwa i uruchamianie modeli w środowisku korporacyjnym. Hugging Face Models on Foundry ma być właśnie tą warstwą operacyjną, zarządzaną przez Microsoft.

Modele Hugging Face na Foundry

Kolekcja Hugging Face wprowadza wyselekcjonowany podzbiór modeli bezpośrednio do Katalogu Modeli Foundry. Modele te przechodzą wieloetapowy proces publikacji, zanim staną się dostępne, zapewniając ich gotowość do środowisk korporacyjnych. Dzięki temu, że wagi modeli są wstępnie przygotowane w Azure Storage, a obrazy środowisk uruchomieniowych znajdują się w rejestrze zarządzanym przez Microsoft, wdrożenia nie wymagają dostępu do sieci zewnętrznej Hugging Face Hub, co umożliwia wdrażanie w sieciach prywatnych.

Modele Hugging Face na Foundry są zasilane przez różnorodne, społecznościowe, otwarte środowiska uruchomieniowe, takie jak:

• vLLM: domyślny silnik do obsługi dużych modeli językowych o wysokiej przepustowości.
• SGLang: silnik do modeli językowych i multimodalnych, z silnym wsparciem dla ustrukturyzowanych danych wyjściowych.
• Text Embeddings Inference (TEI): środowisko uruchomieniowe dla modeli embeddingowych, rerankerów i klasyfikacji sekwencji.
• llama.cpp: ścieżka dla modeli skwantyzowanych GGUF na CPU i małych GPU.
• TensorRT-LLM i NIM: wykorzystywane na sprzęcie NVIDIA dla optymalizacji opóźnień i przepustowości.
• hf-serve: serwer inferencji Hugging Face dla architektur modeli spoza ścieżek LLM i embeddingowych (wizja, audio, segmentacja).

Wdrażanie i punktowanie modeli

Proces wdrażania modelu z kolekcji Hugging Face w Foundry Model Catalog składa się z pięciu kroków. Kluczowym elementem jest szablon wdrożeniowy, który określa środowisko uruchomieniowe, rodzinę i liczbę akceleratorów, długość kontekstu oraz specyficzne dla środowiska uruchomieniowego strojenie. Na przykład, model qwen3-32b dostarczany jest z czterema szablonami, które są wstępnie dostrojone przez Microsoft, uwzględniając ustawienia środowiska uruchomieniowego, parsery wywołań narzędzi, ścieżki punktowania i sondy zdrowia.

Wdrożenie można zautomatyzować za pomocą Python SDK, a punktowanie odbywa się poprzez ujednolicony punkt końcowy Foundry z wykorzystaniem OpenAI SDK. Modele z kolekcji bezproblemowo integrują się z Foundry Agents, co pozwala na ich wykorzystanie w złożonych scenariuszach agentowych.

Obecnie, w ramach podglądu, kolekcja Hugging Face w Microsoft Foundry Model Catalog oferuje tysiące modeli we wszystkich modalnościach, odświeżanych co tydzień. Można je wdrażać na akceleratorach NVIDIA A100, NVIDIA H100 lub AMD MI300X z pełnym wsparciem monitoringu, tagowania rozliczeń i automatycznych aktualizacji. W przyszłości planowane jest rozszerzenie pokrycia ekosystemu Hugging Face, dodanie kolejnych rodzin akceleratorów oraz możliwość wnoszenia własnych wag modeli.

Integracja Hugging Face z Microsoft Foundry stanowi strategiczny krok w kierunku demokratyzacji zaawansowanych modeli AI dla przedsiębiorstw. Łącząc szeroki ekosystem otwartych modeli z solidną, zarządzaną infrastrukturą Microsoftu, platforma ta ma potencjał, aby znacząco przyspieszyć innowacje i wdrożenia AI w skali korporacyjnej, jednocześnie minimalizując złożoność operacyjną i ryzyka związane z bezpieczeństwem.

Źródło: huggingface.co