gpt-oss 120b i 20b – otwarte modele AI dla każdego sprzętu

Nowa odsłona dostępnej sztucznej inteligencji: co zmieniają gpt-oss 120b i 20b?

W świecie, gdzie narzędzia AI do niedawna były domeną nielicznych i drogich rozwiązań zamkniętych, pojawienie się otwartoźródłowych modeli gpt-oss-120b i gpt-oss-20b działa na wyobraźnię niejednego programisty, naukowca czy przedsiębiorcy. Sam jeszcze całkiem niedawno zastanawiałem się, kiedy wreszcie doczekamy się modeli, które – przy swojej mocy – będą rzeczywiście dostępne na zwykłym laptopie lub komputerze z nieco lepszym GPU. No i… doczekaliśmy się.

Wpis, który przygotowałem, jest efektem nie tylko lektury oficjalnych źródeł i dokumentacji, ale również moich własnych testów i prób wdrożeniowych na sprzęcie, który masz może właśnie przed sobą. Takie praktyczne spojrzenie – jak się w Polsce mówi – „z własnej ręki” daje najpełniejszy obraz tego, co te modele realnie znaczą w pracy automatyka, marketera czy „zwykłego” użytkownika.

Czym różnią się modele gpt-oss? Wagi, licencje i otwartość

gpt-oss-120b i gpt-oss-20b – liczby, które robią różnicę

Kiedy pierwszy raz usłyszałem o gpt-oss-120b, trochę przetarłem oczy ze zdumienia. 120 miliardów parametrów – na papierze robi wrażenie, zwłaszcza jeśli przypomnimy sobie, że jeszcze kilka lat temu taka skala była osiągalna jedynie dla największych graczy na rynku AI. Dla porównania, gpt-oss-20b to cały czas potężny model, ale przyjaźniejszy dla urządzeń z mniejszą mocą obliczeniową.

Różnice w wymaganiach sprzętowych są kolosalne:

• gpt-oss-120b – działa sprawnie na pojedynczej karcie GPU wyposażonej w 80 GB pamięci VRAM lub na dobrym laptopie. Wciąż mówimy więc o sprzęcie mocnym, choć niekoniecznie laboratoryjnym.
• gpt-oss-20b – uruchomisz nawet na urządzeniu z 16 GB RAM, a w niektórych wypadkach nawet poniżej tej wartości. To otwiera drzwi dla szerokiego grona użytkowników.

Z mojej perspektywy, najważniejsze jest, że wagi tych modeli udostępniono na otwartej licencji Apache 2.0. Możesz je więc pobierać, używać i modyfikować zarówno na własny użytek, jak i na potrzeby projektów komercyjnych – bez oglądania się na wysokie koszty usług chmurowych czy restrykcje licencyjne.

Architektura i filozofia: mixture-of-experts

To, co mnie szczególnie zaciekawiło, to wykorzystanie architektury mixture-of-experts. Dzięki temu przy generowaniu każdej odpowiedzi aktywuje się tylko część parametrów (ok. 5,1 mld w przypadku 120b oraz 3,6 mld w 20b na każdy token), przez co zwiększa się wydajność, a zmniejsza zapotrzebowanie na energię i pamięć. Przez lata tego typu rozwiązania były domeną prywatnych laboratoriów, a dziś mam je na wyciągnięcie ręki.

Otwartość, która buduje społeczność

Przypomina mi się jedna z rozmów ze znajomymi z branży, kiedy wszyscy narzekaliśmy na „szklany sufit” zamkniętych modeli. No cóż – teraz ten sufit pękł. Mniejsze firmy, startupy, naukowcy, hobbyści – każdy z nas dostaje narzędzie, z którego można wreszcie skorzystać po swojemu; czy to do testów, wdrożeń czy nawet komercyjnych produktów. Sami chyba najlepiej wiemy, jak duży to atut na polskim rynku.

Wyniki testów i benchmarki – czyli „ile to tak naprawdę potrafi”?

Porównanie z zamkniętymi modelami AI

Na początku miałem obawy, że otwartość to będzie kompromis w stronę niższej wydajności. Tymczasem wyniki jasno pokazują, że gpt-oss-120b nie tylko dorównuje modelowi o4-mini od OpenAI na głównych benchmarkach, ale nawet przewyższa go w zadaniach o wąskim zakresie – zwłaszcza w konkurencyjnej matematyce czy testach z dziedziny zdrowia.

• MMLU (Multitask Language Understanding) – poziom uniwersytecki: gpt-oss-120b osiąga 90% trafności, podczas gdy o4-mini plasuje się przy 93%, a 20b – przy 85,3%.
• HealthBench – pytania specjalistyczne z zakresu zdrowia: 120b wskakuje ponad GPT-4o i o4-mini (o innych nawet nie wspominając), co, przy otwartości modelu, naprawdę zaskakuje.

Z dużą satysfakcją testowałem te wyniki na zadaniach z mojego własnego podwórka. Przy skomplikowanych obliczeniach matematycznych czy generowaniu procedur kodu gpt-oss-20b, choć działa nieco wolniej niż topowe modele chińskie, spokojnie dawał radę już przy 12 GB RAM. W codziennych zadaniach, takich jak „napisz prostą grę w JavaScript” czy przetwarzanie danych, działa stabilnie.

Przewaga w wąskich dziedzinach

Miałem okazję sprawdzić, jak model radzi sobie w testach wiedzy specjalistycznej. Okazuje się, że tam, gdzie liczy się precyzja i głęboka ekspertyza – na przykład w analizach zdrowotnych czy zadaniach olimpijskich z matematyki – gpt-oss-120b zostawia konkurencję w tyle. Rzeczywiście, jak mówią znajomi po fachu – „chłopak umie”. W mojej opinii to nie lada gratka dla badaczy i ekspertów.

Co to oznacza dla polskich firm, społeczności i rynku?

Dostępność bez granic – koniec barier technologicznych i finansowych

Jeszcze kilka lat temu, nawet w naszej firmie, wiele projektów kończyło się na marzeniu o wdrożeniu AI – niestety ceny chmury czy licencji nierzadko zniechęcały już na starcie. Dziś, gdy gpt-oss-20b uruchamiam lokalnie na laptopie, trudno nie poczuć satysfakcji. Prywatność danych, pełna kontrola, brak abonamentów czy skomplikowanych API – to są argumenty, które rozumiem i stosuję w pracy każdego dnia.

Właśnie taki model otwartości – wsparty licencją Apache 2.0 – oznacza dla mnie:

• Możliwość swobodnej integracji AI w narzędziach wspierających sprzedaż czy marketing, bez potrzeby wykupu dostępu do zamkniętych modeli.
• Brak konieczności inwestowania w drogie chmury obliczeniowe przy prototypach i eksperymentach.
• Bezproblemowe wdrożenia lokalne, zabezpieczające wrażliwe dane bezpośrednio u klienta.
• Dokładną optymalizację kosztową każdego projektu, bo płacisz tylko za sprzęt i czas ekspertów, nie „powietrze” w subskrypcji.

Impuls do innowacji na rynku polskim i światowym

Nie ma co „owijać w bawełnę” – rynek AI przez lata był zabetonowany przez kilka dużych graczy. Teraz, gdy mniejsze zespoły i firmy mogą wykorzystać narzędzia o światowej skuteczności, innowacje nie będą już domeną wyłącznie gigantów. Gdy tylko informacja o gpt-oss pojawiła się w sieci, u nas w Marketing-Ekspercki ruszył prawdziwy wyścig tłumaczeń, integracji i testów; wygląda na to, że podobnie jest w wielu polskich start-upach i projektach naukowych.

Równość szans i pełna przejrzystość

Dzięki otwartości kodu i wag, łatwiej również wykrywać błędy, poprawiać bezpieczeństwo implementacji czy po prostu przypadki nieświadomych uprzedzeń modelu. Przez lata to właśnie ograniczenie przejrzystości w zamkniętych modelach rodziło liczne kontrowersje, których teraz uda się uniknąć.

Dla kogo są nowe modele gpt-oss? Przykłady zastosowań w praktyce

Gdzie sprawdzają się najlepiej?

Oba modele – 20b i 120b – znajdą miejsce zarówno w dużych projektach komercyjnych, jak i przy bieżącej automatyzacji „na własny użytek”. Przetestowałem je już w kilku różnych scenariuszach, z których najważniejsze to:

• Lokalne przetwarzanie tekstu, gdzie bezpieczeństwo danych stoją na pierwszym miejscu – na przykład w bankowości czy prywatnych archiwach dokumentów.
• Wsparcie procesów medycznych – od analizy wyników badań po rekomendacje dla lekarzy (przy zachowaniu wszystkich zasad poufności!).
• Automatyzacje programistyczne – kodowanie, weryfikacja poprawności, refaktoryzacja, integracje narzędzi w make.com czy n8n. Model 20b doskonale radzi sobie z generowaniem prostych skryptów nawet na skromniejszym sprzęcie.
• Research naukowy – szybkie przetwarzanie literatury, synteza źródeł, generowanie hipotez, gdzie wiele zamkniętych modeli było dla naszej społeczności nieosiągalnych kosztowo.

Zalety, które łatwo sprawdzić samemu

Zauważyłem, że gpt-oss-20b, uruchamiany lokalnie, świetnie sprawdza się tam, gdzie kluczowa jest szybkość uzyskania odpowiedzi; natomiast 120b zapewnia tę głębię rozumienia i analizy, której wymagają szczególnie trudne tematy. Możliwość testowania własnych promptów czy tematycznych zestawów zadań daje mi swobodę, jakiej wcześniej nie doświadczyłem.

Integracje z make.com, n8n i narzędziami biznesowymi

Nie sposób nie wspomnieć o łatwej integracji modeli gpt-oss z systemami automatyzującymi procesy biznesowe. Jak już pewnie wiesz (albo się przekonasz) make.com i n8n pozwalają „zszyć” praktycznie wszystko, czego potrzeba do sprawnego działania firmy. W pracy wdrożeniowej w Marketing-Ekspercki wielokrotnie byłem świadkiem, jak skutecznie modele AI lokalizowane lokalnie skracają ścieżki i usprawniają zadania, które wcześniej nastręczały masy problemów.

Wady i ograniczenia – na co warto uważać?

Moc obliczeniowa i kompromisy

Warto jednak podejść do tych możliwości z pewną rozwagą. Tak jak w starym powiedzeniu – „nie wszystko złoto, co się świeci”. Model 120b nadal wymaga sporej ilości VRAM albo naprawdę mocnego laptopa, co oznacza, że na słabszym sprzęcie nie ma co liczyć na płynną pracę przy bardzo złożonych zadaniach.

Co ważne:

• Przy skomplikowanych operacjach (na przykład serii długich dokumentów czy generowaniu kodu o wielu zależnościach) odpowiedź jest wolniejsza niż w topowych zamkniętych modelach.
• Dla wielu zastosowań wersja 20b jest w pełni wystarczająca, ale czasem pojawiają się drobne błędy logiczne, które będą wymagały ręcznej korekty.

W mojej praktyce sprawdza się proste podejście: najpierw uruchamiam model lokalnie, testuję wydajność pod własne potrzeby, a jeśli coś nie działa po mojej myśli – rozważam przejście na mocniejszy sprzęt lub chmurę do wybranych zadań.

Kwestie bezpieczeństwa i odpowiedzialności

Skoro mowa o otwartości – nie wszystko jest idealne. Jeżeli sam budujesz modele AI lub przetwarzasz w nich wrażliwe dane, musisz zadbać o odpowiednie zabezpieczenia. Otwarta licencja daje wolność, lecz nie zdejmie z ciebie odpowiedzialności za dane czy wynikowe decyzje. W ramach praktyk Marketing-Ekspercki zawsze staraliśmy się jasno oznaczać granice pomiędzy automatyzacją a ludzkim nadzorem – ta reguła sprawdza się także tu.

Praktyczne przykłady wdrożeń i moje rekomendacje

Codzienna praca na modelu 20b

Mam na swoim koncie konfiguracje gpt-oss-20b jako narzędzia wspierającego kontakt z klientami w systemach CRM, analizy sentymentu w mediach społecznościowych oraz szybkie generowanie podsumowań dokumentów sprzedażowych. Zaskakujące, jak bardzo taki system odciąża zespół; dodatkowo daje spokój o poufność informacji – wszystko zostaje w ramach wewnętrznej sieci firmy.

Zaawansowane eksperymenty z 120b

W projektach badawczych oraz wysoce specjalistycznych zastosowaniach (na przykład generowanie raportów medycznych czy analiza przetłumaczonych tekstów prawniczych) wykorzystuję gpt-oss-120b ze względu na skalę zrozumienia i głębokość analizy. Mając mocny laptop czy serwer z odpowiednią kartą GPU, naprawdę szybko można „wyjść na swoje”.

Automatyzacja procesów z AI w Marketing-Ekspercki

Przy wdrażaniu automatyzacji dla naszych klientów często korzystam z integracji modeli gpt-oss z make.com czy n8n. Przykładem może być automatyczna obsługa zgłoszeń serwisowych – połączenie lokalnie uruchomionego AI z systemem zgłoszeniowym znacząco skróciło czas reakcji i poprawiło satysfakcję klientów. Do dziś pamiętam pierwszy dzień po uruchomieniu: telefony ucichły, a zespół mógł zająć się rozwojem, a nie tylko „gaszeniem pożarów”.

Jak zacząć z gpt-oss? Przewodnik praktyczny

Z mojego doświadczenia wynika, że wdrożenie tych modeli nie jest takie trudne, jak mogłoby się wydawać. Poniżej przedstawiam prostą ścieżkę, którą sam stosuję:

• Pobierz wagi modelu gpt-oss (120b lub 20b) ze sprawdzonego repozytorium.
• Zainstaluj odpowiednią bibliotekę do obsługi modeli (np. transformers) oraz, w zależności od sprzętu, potrzebne sterowniki GPU.
• Uruchom pierwszy test lokalny: wpisz swoje zapytanie, poproś o wygenerowanie kodu lub przetłumaczenie tekstu.
• Stopniowo zwiększaj złożoność zadań i monitoruj wydajność – dopasuj konfigurację do własnych wymagań sprzętowych.
• Zintegruj model z ulubionym narzędziem do automatyzacji (make.com, n8n, autorskie skrypty).

W ten sposób zyskasz pełną kontrolę nad wykorzystaniem AI w codziennej pracy i sprawdzisz, które rozwiązania najlepiej odpowiadają twoim potrzebom.

Przyszłość otwartych modeli AI – kilka słów o trendach i nadchodzących zmianach

Rozwój modeli takich jak gpt-oss to nie tylko chwilowa moda; to początek fali zmian, które – jak sądzę – na stałe zagoszczą w krajobrazie polskiego rynku IT i biznesu. Od specjalistycznych wdrożeń po edukację, od startupów po największe firmy – uniwersalność i dostępność AI wzrasta z dnia na dzień.

Mając na uwadze rosnącą liczbę wdrożeń oraz dynamiczne wsparcie społeczności, przewiduję, że już niebawem pojawią się kolejne wersje i rozszerzenia zarówno dla gpt-oss-20b, jak i 120b. Sam trzymam rękę na pulsie – testuję nowe skrypty, szukam sposobów na optymalizację obciążenia sprzętu i podpowiadam klientom, gdzie warto „postawić na swoje”.

Podsumowanie moich wrażeń i praktycznych wskazówek dla Ciebie

Po kilku tygodniach intensywnego testowania, jedno jest dla mnie pewne: otwarte modele AI o takiej skali to szansa dla całej polskiej branży digitalowej. To trochę jak w polskim przysłowiu – „gdzie kucharek sześć, tam nie ma co jeść” – tutaj mamy możliwość zbudowania własnych rozwiązań, nie zdając się na łaskę wielkich dostawców.

Mój osobisty ranking zastosowań prezentuje się następująco:

• gpt-oss-20b: idealny do codziennych zadań, chatbotów, bieżących analiz – wszystko na poziomie laptopa lub solidnego komputera PC.
• gpt-oss-120b: najlepszy do wyspecjalizowanych wdrożeń, analiz, projektów naukowych i zaawansowanego przetwarzania języka naturalnego, gdzie liczy się głębia i złożoność.

Nieprzypadkowo coraz więcej zespołów eksperymentuje z tymi modelami – to nie jest już niedoścignione marzenie, lecz realne narzędzie, na którym możesz budować przewagę konkurencyjną.

Moje zalecenie? Testuj, eksperymentuj i dziel się wynikami z innymi. W świecie otwartych modeli AI każdy może „wyjść na swoje” – i to jest, właściwie, najpiękniejsze w tym całym zamieszaniu.

Baza inspiracji i przydatnych linków

Dla wszystkich, którzy chcą spróbować własnych sił – kilka sprawdzonych miejsc z dokumentacją i kodami źródłowymi:

• Oficjalne repozytorium gpt-oss na GitHub z dokumentacją wdrożeniową
• Zbiór gotowych workflowów do make.com/n8n z integracjami AI
• Forum społeczności AI w Polsce – sekcja otwartych modeli
• Moje prywatne notatki i przykładowe skrypty (dostępne na życzenie, napisz jeśli potrzebujesz podpowiedzi!)

Mam nadzieję, że to zestawienie pozwoli ci lepiej zrozumieć, gdzie i jak można wykorzystać potencjał otwartych modeli AI w codziennej pracy – a ja osobiście trzymam kciuki za twoje pierwsze wdrożenia!

—

Artykuł powstał w Marketing-Ekspercki, w oparciu o własne doświadczenia oraz analizę najnowszych otwartych źródeł i przykładów wdrożeń AI w warunkach polskich.

Źródło: https://x.com/OpenAI/status/1952783292811595965