Cohere prezentuje North Small Translate: model MoE do tłumaczeń w 50 językach

Firma Cohere ogłosiła premierę North Small Translate, modelu typu Mixture-of-Experts (MoE) o otwartej wadze, zaprojektowanego z myślą o tłumaczeniu maszynowym w 50 językach. Nowy model charakteryzuje się imponującą wydajnością, osiągając wynik 83.6 w wewnętrznej ewaluacji WMT26 przeprowadzonej przez Cohere.

Architektura i wydajność

North Small Translate to zaawansowany model, który dysponuje łącznie 218 miliardami parametrów. Co istotne, w trakcie przetwarzania każdego tokenu aktywowanych jest 25 miliardów parametrów. Taka architektura MoE pozwala na efektywne zarządzanie zasobami obliczeniowymi, aktywując tylko niezbędne części modelu dla danego zadania, co może przekładać się na optymalizację wydajności i kosztów.

Wynik 83.6 w ocenie WMT26 (World Machine Translation) firmy Cohere świadczy o wysokiej jakości tłumaczeń oferowanych przez model. WMT to uznany benchmark w dziedzinie tłumaczenia maszynowego, a osiągnięty rezultat plasuje North Small Translate wśród czołowych rozwiązań.

Dostępność i licencjonowanie

Model North Small Translate jest dostępny w dwóch wariantach licencjonowania, co ma na celu zaspokojenie potrzeb zarówno społeczności akademickiej, jak i komercyjnej:

• Użytek niekomercyjny: Wagi modelu są dostępne bezpłatnie, co umożliwia badaczom i deweloperom swobodne eksperymentowanie i rozwijanie własnych projektów.
• Dostęp komercyjny: Firmy i organizacje zainteresowane wykorzystaniem modelu w celach komercyjnych mogą uzyskać dostęp za pośrednictwem platform Cohere Model Vault lub RWS Language Weaver.

Takie podejście do dystrybucji, łączące otwartość dla badań z komercyjnymi kanałami dostępu, ma na celu przyspieszenie innowacji w dziedzinie tłumaczenia maszynowego, jednocześnie zapewniając zrównoważony model rozwoju dla firmy Cohere. Udostępnienie tak zaawansowanego modelu o otwartej wadze może znacząco wpłynąć na rozwój aplikacji wielojęzycznych i dostępność technologii AI dla szerszego grona odbiorców.

Źródło: marktechpost.com