Za kulisami AI. Co naprawdę dzieje się po wpisaniu promptu? [WYWIAD]

• Sztuczna inteligencja - to, czego nie widać, kosztuje najwięcej
• Jeśli nie płacisz pieniędzmi, płacisz czymś innym
• Czy sztuczna inteligencja może być naprawdę darmowa?

Sztuczna inteligencja - to, czego nie widać, kosztuje najwięcej

Dlaczego AI kosztuje tyle, skoro odpowiedź przychodzi w kilka sekund?

Michał Lidzbarski: Najczęściej słyszę to pytanie właśnie tak: „przecież to tylko chwila, co tu może kosztować?". Wyobraźmy sobie restaurację. Talerz przychodzi do stolika w dziesięć minut, ale za tym talerzem stoi kuchnia, dostawy, rachunki za prąd i szef kuchni, który uczył się gotować kilkanaście lat. Płacimy nie za te dziesięć minut. Płacimy za wszystko, co jest za ścianą. Z AI jest tak samo. Te kilka sekund, które widzimy, to ostatni krok. Wcześniej ktoś przez wiele miesięcy „nauczył" model na gigantycznych zbiorach danych, na sprzęcie, który pali prąd jak małe miasto. A potem każde pojedyncze pytanie też coś kosztuje, bo gdzieś w serwerowni realne komputery muszą je policzyć. W skrócie: sekundy są po naszej stronie. Koszt jest po drugiej stronie ściany.

Który etap jest najdroższy: trening, dane czy utrzymanie? Skąd biorą się koszty po wdrożeniu?

Zwykle myślimy, że najdroższy jest trening modelu, ten wielki, jednorazowy wysiłek. I rzeczywiście to najgłośniejszy koszt, taki „zbudowanie fabryki od zera". Ale są dwa mniej widoczne. Pierwszy to dane. Model nie uczy się z chaosu. Ktoś te dane musi zebrać, oczyścić, opisać, sprawdzić pod kątem prawa. To praca ludzi, nie tylko maszyn, i potrafi być kosztowniejsza, niż się wydaje. Drugi to utrzymanie, i tu jest największe zaskoczenie. Po wdrożeniu każde pojedyncze pytanie zużywa prąd i moc obliczeniową. Milion pytań dziennie to milion małych rachunków. Do tego dochodzi pilnowanie bezpieczeństwa, aktualizacje, poprawki, serwery, które muszą działać non stop. Myślę, że trening to jak kupno samochodu. Utrzymanie to paliwo. Auto kupuje się raz, a tankuje codziennie. I to tankowanie potrafi z czasem przebić cenę samego auta.

Myśląc o AI, myślimy o programistach. Kto jeszcze jest potrzebny, żeby model był bezpieczny, użyteczny i zgodny z prawem?

Model AI jest jak nowy pracownik. Sam kod to dopiero szkielet. Żeby ten pracownik był bezpieczny i użyteczny, potrzebny jest cały zespół wokół niego. Są ludzie od danych, którzy decydują, na czym model się uczy. Są ludzie, którzy ręcznie oceniają odpowiedzi, żeby model wiedział, co jest dobre, a co szkodliwe. Są specjaliści od bezpieczeństwa, których zadaniem jest celowo próbować model „złamać", zanim zrobi to ktoś z zewnątrz. Są prawnicy i ludzie od zgodności, bo mamy RODO i nowe przepisy o AI. Są ludzie od etyki, od jakości, od produktu, od infrastruktury. Za każdą odpowiedzią stoi więcej ludzi, niż nam się wydaje. Programista buduje silnik. Ale samochód, którym da się bezpiecznie jechać, robi cała ekipa.

Co się właściwie dzieje, gdy zadajemy AI jedno pytanie?

Wpisujemy zdanie po polsku. Ale komputer nie rozumie zdań tak jak my. Więc pierwsze, co się dzieje, to nasze słowa zamieniają się na liczby. To trochę jak tłumaczenie na język, którym mówi maszyna. Te liczby lecą do serwerowni, czasem na drugim końcu świata. Tam model przepuszcza je przez swoją „wiedzę", czyli miliardy ustawień, które powstały podczas treningu. I teraz najciekawsze: on nie wyjmuje gotowej odpowiedzi z szuflady. On układa ją słowo po słowie, za każdym razem zgadując, co pasuje najlepiej dalej.

Po drodze działają jeszcze filtry bezpieczeństwa, które pilnują, żeby odpowiedź nie była szkodliwa. Na końcu te liczby wracają do nas zamienione z powrotem na zdanie. I to wszystko dzieje się w kilka sekund. Dlatego wygląda jak magia. A pod spodem jest po prostu bardzo dużo liczenia.

Jeśli nie płacisz pieniędzmi, płacisz czymś innym

Wiele narzędzi AI jest za darmo. Na czym to się opiera i kto to finansuje?

Jeśli coś jest za darmo, to znaczy, że ktoś inny za to płaci. Pytanie tylko kto i czym. Są 3 popularne mechanizmy:

• Wersja darmowa ograniczona np. funkcjonalnością, ilością czy czasem. Jej zadanie to zachęcić do wersji lepszej.
• Płacimy uwagą i danymi. Nasze pytania pomagają ulepszać produkt, a czasem po prostu jesteśmy odbiorcą, które można wyświetlić np. reklamy.
• Inwestorzy. Wiele firm AI dziś świadomie dokłada, licząc, że za kilka lat to się zwróci. To strategia długoterminowa, my również taką realizujemy.

Często jest tak, że jeśli nie płacimy za produkt, często produktem jesteśmy my sami.

Czym różnią się wersje darmowe od płatnych: to tylko limity, czy też jakość i szybkość?

Zwykle myślimy, że chodzi wyłącznie o limity. Że w darmowej po prostu „skończą się" pytania. To prawda, ale to tylko czubek góry lodowej. Różnic jest dużo więcej np. w przypadku ChatGPT jest to aplikacja CODEX, Agenty, SKILLS, "use computer", a w przypadku CLAUDE jest to aplikacja COWORK / ClaudeCode / Design. Często w darmowej dostajemy słabszy, starszy model. Odpowiada gorzej, mniej dokładnie, szybciej gubi wątek. Bywa wolniej, zwłaszcza w godzinach szczytu, bo płacący idą przodem w kolejce. Wersja płatna zwykle ma lepszą pamięć rozmowy, dostęp do nowych funkcji, do pracy z plikami, obrazami, dłuższymi dokumentami.

Jest jeszcze rzecz, o której mało kto mówi: nasze dane. W wielu darmowych narzędziach częściej są wykorzystywane do dalszego trenowania. W płatnych, szczególnie firmowych, mamy z tym większy spokój. Więc nie, to nie są „te same odpowiedzi, tylko mniej razy". To często inny silnik, inna prędkość i inne traktowanie naszych danych. Limit widać od razu. Reszty nie widać, a potrafi być ważniejsza.

Czy koszty korzystania z AI będą spadać, czy rosnąć?

Z moich obserwacji wynika, że koszt jednego pytania spada, i to mocno. To, co rok temu było drogie, dziś potrafi być kilkukrotnie tańsze. Technologia dojrzewa, sprzęt jest wydajniejszy. Ale jest druga strona. Im taniej, tym więcej chcemy. Zamiast jednego pytania zadajemy sto. Zamiast krótkiej odpowiedzi puszczamy agenta, który pracuje samodzielnie kilkanaście minut. Modele robią się większe i mądrzejsze, a większy model więcej kosztuje. To jak z prądem i żarówkami. Jedna żarówka pali dziś mniej niż kiedyś. Ale w domu mamy ich dziesięć razy więcej, więc rachunek wcale nie zniknął. W mojej opinii dla nas, zwykłych użytkowników, będzie taniej i lepiej w tej samej cenie. Ale w skali całego świata inwestycje w AI będą rosły, nie malały.

W naszej firmie programiści korzystają z najlepszych modeli na rynku i w tym akurat zakresie widzę wzrost kosztów, jednak w zamian otrzymując szybszy efekt. Często niesamowity - pojawia się nawet "gęsia skórka" ;).

Czy sztuczna inteligencja może być naprawdę darmowa?

Jakie błędne przekonania o kosztach AI spotyka Pan najczęściej? Co powiedzieć komuś, kto uważa, że „AI powinno być za darmo"?

Najczęstszy błąd brzmi tak: „to tylko program, więc nic nie kosztuje". Tymczasem każde pytanie ma realną cenę. Prąd, sprzęt, ludzie, którzy tego pilnują. To nie jest darmowe, to jest ukryte. Drugi mit: „skoro korzystam za darmo, to znaczy, że jest za darmo". Nie jest. Po prostu płacimy inaczej: danymi, uwagą, albo tym, że jesteśmy w drodze do wersji płatnej. A teraz to zdanie: „AI powinno być za darmo". Rozumiem je. Naprawdę. Sam pamiętam, jak osiemnaście lat temu chodziłem od drzwi do drzwi i tłumaczyłem przedsiębiorcom, po co im w ogóle strona internetowa i po co ten cały Google. Wtedy też słyszałem „a po co mi to, przecież internet jest za darmo".

Nie był. Ktoś stawiał te serwery, ktoś je utrzymywał. Po prostu nie widziało się rachunku. Z AI jest identycznie. To narzędzie, które potrafi oddać nam godziny życia tygodniowo. U mnie w firmie ośmioosobowy zespół programistów po przejściu na pracę z AI zaczął działać ponad pięć razy szybciej, bez zwalniania kogokolwiek. Pytanie nie brzmi więc „dlaczego to kosztuje". Pytanie brzmi „ile jest wart czas, który to narzędzie nam zwraca". Dobre narzędzie ma prawo kosztować. Darmowe bywa najdroższe, jeśli płacimy za nie uwagą albo własnymi danymi, nie wiedząc o tym.

Bardzo dziękuję za rozmowę.

Rozmawiała Kinga Olszacka.

Michał Lidzbarski - pomysłodawca i współwłaściciel Web to Learn - wiodącej w Polsce platformy do tworzenia i sprzedaży kursów online, webinarów i e-booków, założyciel Krajowego Centrum Badań Sztucznej Inteligencji, ekspert AI i wykorzystania sztucznej inteligencji w biznesie.