Jev: Nowy model AI od współtwórcy ChatGPT rewolucjonizuje automatyzację bez użycia języka

Diogo Almeida, badacz OpenAI, który przyczynił się do powstania chatbota ChatGPT oraz techniki uczenia wzmacnianego z ludzkiego sprzężenia zwrotnego (RLHF), wprowadził na rynek nowy model sztucznej inteligencji o nazwie Jev. Model ten, opracowany przez jego startup TypeSafe AI, ma na celu rozwiązanie problemu braku użyteczności dużych modeli językowych (LLM) w automatyzacji, generując prawdopodobieństwa zamiast tekstu.

Almeida, pomimo sukcesu ChatGPT, był rozczarowany jego ograniczeniami w zastosowaniach automatyzacyjnych. Jak sam stwierdził: „Mamy błyskawicę w butelce, a jednak nie jest to użyteczne”. Zauważył, że problem leży w optymalizacji modeli pod kątem języka ludzkiego, podczas gdy komputery posługują się innym językiem. Dwa lata temu opuścił OpenAI, aby założyć TypeSafe AI i zająć się tym wyzwaniem.

Jev: Model bez języka dla szybszej i tańszej automatyzacji

Model Jev to transformator, który nie jest dużym modelem językowym (LLM). Zamiast generować tekst, produkuje prawdopodobieństwa, określane przez firmę jako „skalibrowane decyzje”. Rezygnacja z języka przynosi kilka kluczowych korzyści:

• Niska cena i szybkość: Model jest niezwykle tani i szybki w działaniu. Tokeny wyjściowe są bezpłatne, a tokeny wejściowe są rozliczane w miliardach, a nie milionach.
• Brak halucynacji: Ponieważ użytkownicy z góry definiują oczekiwane wyniki, Jev nie może generować fałszywych informacji.

Model Jev okazał się szczególnie użyteczny w automatyzacji oprogramowania. Deweloperzy postrzegają go jako tańszy i bardziej niezawodny sposób na włączenie inteligencji do swojego kodu. Zainteresowanie produktem było tak duże, że firma na krótko straciła możliwość obsługi użytkowników przez swoje API z powodu przeciążenia.

Przykłady zastosowań Jev obejmują:

• Klasyfikacja poleceń bezpieczeństwa: Pranit Sharma, inżynier oprogramowania w firmie Vercel, zastąpił model ChatGPT Luna 5.6 modelem Jev do klasyfikacji poleceń pod kątem bezpieczeństwa. Uzyskał wyniki od 5 do 18 razy szybciej i z większą dokładnością.
• Klasyfikacja e-maili biznesowych: Nikhil Mudholkar, CTO Bryo AI, porównał Jev z modelem Gemini. Choć Gemini był nieco dokładniejszy, Jev okazał się od 10 do 20 razy tańszy. Mudholkara szczególnie zainteresowały wyniki ufności Jev, które przedstawiają rzeczywiste prawdopodobieństwo, idealne do automatyzacji procesów.

Potencjalne zastosowania i filozofia Jev

Oprócz zastępowania LLM w niektórych przypadkach użycia, Jev może również wspomagać ich działanie, pełniąc rolę inteligentnego mechanizmu kontroli. Diogo Almeida sugeruje, że Jev może być wykorzystywany do monitorowania śladów agentów LLM i zapobiegania „jailbreakom” (przełamywaniu zabezpieczeń). Armin Ronacher, CTO Earendil, zauważa, że Jev „deleguje problem halucynacji nieco na użytkownika”, pozwalając mu podjąć decyzję na podstawie przedstawionego prawdopodobieństwa (np. odrzucić wynik z 50% prawdopodobieństwem, ale zaakceptować z 95%).

Innym potencjalnym zastosowaniem jest routing modeli. Przewidywanie, który model jest potrzebny do danego zadania, jest cenne, ale użycie LLM do tego celu byłoby kosztowne. Niska cena i szybkość Jev sprawiają, że takie sortowanie w czasie rzeczywistym staje się możliwe.

Nazwa modelu pochodzi od Williama Stanleya Jevonsa, XIX-wiecznego ekonomisty, którego paradoks opisuje, jak spadek kosztów towaru prowadzi do jego coraz szerszego wykorzystania. Almeida ma nadzieję, że spadek kosztów inteligencji doprowadzi do jej powszechnego wdrożenia, tworząc „inteligentne oprogramowanie wszędzie, w sposób emergentny i rozproszony, bardziej przypominający wczesny internet niż obecne mega-aplikacje”.

Almeida nie ujawnia szczegółów architektury Jev, choć obserwatorzy podejrzewają, że opiera się ona na otwartym modelu LLM. Firma określa Jev jako „model Systemu Pierwszego”, skupiający się na intuicji, a nie na rozumowaniu, i specjalizujący się w konkretnych zadaniach. Jev jest trenowany wyłącznie na danych syntetycznych przy użyciu techniki, którą Almeida nazywa „uczeniem wzmacnianym ze skalibrowanych decyzji”. Uważa on tworzenie własnych danych za jedną z najlepszych decyzji w historii firmy.

Obecnie Jev jest unikalnym modelem, ale Ronacher przewiduje pojawienie się konkurencji, gdy jego użyteczność stanie się bardziej oczywista. TypeSafe AI planuje rozwijać kolejne wersje modelu w nowych modalnościach. Almeida podkreśla, że celem firmy jest dostarczanie inteligencji, a nie wzbudzanie strachu czy szumu, odcinając się od wizerunku „laboratoriów granicznych” skupionych na nieskończonym bogactwie czy budowaniu „boga w centrum danych”.

Model Jev, dzięki swojemu innowacyjnemu podejściu do generowania prawdopodobieństw zamiast tekstu, stanowi znaczący krok w kierunku bardziej efektywnej i ekonomicznej automatyzacji. Jego zdolność do szybkiego i taniego dostarczania skalibrowanych decyzji może fundamentalnie zmienić sposób, w jaki firmy integrują sztuczną inteligencję ze swoimi procesami, otwierając drogę do szerszego zastosowania inteligentnego oprogramowania w różnych sektorach.

Źródło: techcrunch.com