AI Act i sztuczna inteligencja w firmie. Co przedsiębiorca powinien wiedzieć, zanim zacznie rozwijać swój produkt na dużą skalę?

• Najważniejsza zmiana nie dotyczy technologii
• Założyciel firmy nie musi być prawnikiem
• Nie trzeba znać wszystkich przepisów. Trzeba wiedzieć, kiedy należy zadać właściwe pytanie.
• Najtrudniejsza kompetencja? Integracja perspektyw
• Technologia może dziś zdominować rozmowę o produkcie
• Dobry pomysł to dopiero początek
• Dobra decyzja nie wymaga pełnej informacji
• Wartość, jakość, pewność (Value, Quality, Confidence)
• Kompetencje technologiczne nadal są fundamentalne
• Tego trzeba uczyć przyszłych liderów
• Startup przyszłości potrzebuje integratorów

W świecie AI założyciel firmy (ang. founder) i menedżer produktu (ang. product manager, czyli osoba odpowiedzialna za jego rozwój) muszą nauczyć się funkcjonować pomiędzy kilkoma obszarami jednocześnie, czyli: technologią, biznesem, produktem, jakością, ryzykiem, finansami i regulacją (np. unijnym rozporządzeniem o sztucznej inteligencji – AI Act). Nie po to, żeby zostać specjalistami w każdej z tych dziedzin. Po to, żeby potrafić połączyć ich perspektywy w jedną decyzję. Na ten temat wypowiedział się dla infor.pl Rafał Dobrosielski, kierownik studiów podyplomowych „Strategiczne Zarządzanie Startupem i Produktem Innowacyjnym” w Polsko-Japońskiej Akademii Technik Komputerowych.

Najważniejsza zmiana nie dotyczy technologii

Jeszcze kilka lat temu można było w uproszczeniu powiedzieć, że menedżer produktu powinien przede wszystkim rozumieć użytkownika, rynek, technologię i model biznesowy. Dziś, szczególnie w produktach wykorzystujących AI, to już nie wystarcza. Decyzja dotycząca funkcji produktu może mieć jednocześnie konsekwencje technologiczne, jakościowe, regulacyjne i biznesowe. Zmiana sposobu wykorzystania danych może zmienić profil ryzyka. Nowa funkcja, zwiększająca autonomię systemu, może wymagać innego poziomu nadzoru i walidacji (czyli sprawdzenia, czy system działa zgodnie z założeniami).

Zmiana grupy użytkowników może oznaczać konieczność ponownego spojrzenia na jakość działania produktu. Wejście do segmentu dużych klientów korporacyjnych (tzw. enterprise) może oznaczać zupełnie nowy zestaw pytań dotyczących bezpieczeństwa, danych, monitoringu i odpowiedzialności. Dlatego współczesny menedżer produktu coraz częściej nie zarządza wyłącznie listą zadań do wykonania (tzw. backlogiem), a całym systemem decyzji wokół produktu.

Założyciel firmy nie musi być prawnikiem

Na pytanie, czy założyciel firmy powinien znać wszystkie przepisy dotyczące AI, odpowiedź brzmi – niekoniecznie. Tak samo jak nie musi samodzielnie projektować architektury systemu, prowadzić księgowości czy wykonywać testów bezpieczeństwa. Powinien natomiast rozumieć, kiedy decyzja biznesowa wymaga włączenia odpowiedniego eksperta. To zasadnicza różnica. Zakres obowiązków zależy przy tym od przeznaczenia systemu, sposobu jego wykorzystania, klasyfikacji ryzyka oraz roli, jaką organizacja pełni w rozumieniu AI Act (np. dostawcy systemu AI albo podmiotu, który stosuje go w swojej działalności) – nie każdy produkt wykorzystujący AI podlega tym samym wymaganiom.

Nie trzeba znać wszystkich przepisów. Trzeba wiedzieć, kiedy należy zadać właściwe pytanie.

Jeżeli zmiana funkcjonalności, przeznaczenia lub sposobu wykorzystania systemu wpływa na jego profil ryzyka, nie jest to już wyłącznie kwestia produktowa. Jeżeli nowa funkcjonalność zwiększa wpływ systemu na użytkownika, może wymagać innego poziomu walidacji. Jeżeli produkt ma trafić do dużego klienta korporacyjnego, trzeba przewidzieć pytania dotyczące zarządzania, bezpieczeństwa, danych, monitoringu i odpowiedzialności. Założyciel firmy musi więc umieć rozpoznać moment, w którym problem przestaje być „tylko produktowy”.

Najtrudniejsza kompetencja? Integracja perspektyw

W rzeczywistym startupie technologia, produkt, finanse, marketing, jakość i prawo nie funkcjonują osobno. Spotykają się przy tej samej decyzji. Jeżeli zespół chce wprowadzić nową funkcję wykorzystującą AI, powinien równocześnie odpowiedzieć na kilka pytań: Czy użytkownik rzeczywiście jej potrzebuje? Czy potrafimy ją zbudować? Ile będzie kosztować jej utrzymanie? Jakiej jakości potrzebujemy? Jakie ryzyko generujemy? Jak będziemy je monitorować? Jakie dane wykorzystujemy? Jakie wymagania regulacyjne mogą mieć zastosowanie? Czy możemy odpowiedzialnie skalować rozwiązanie?

To nie są osobne problemy. To różne perspektywy na ten sam produkt. Dlatego jedną z najważniejszych kompetencji przyszłości będzie dla mnie integracja perspektyw.

Technologia może dziś zdominować rozmowę o produkcie

To szczególnie ważne w przypadku AI. Możemy stosunkowo łatwo zbudować prototyp wykorzystujący duży model językowy (LLM), system rekomendacyjny (podpowiadający np. produkty lub treści) czy klasyfikator (automatycznie przypisujący dane do kategorii). Wersja demonstracyjna działa. Klient jest zainteresowany. Zespół ma poczucie, że najtrudniejsza część została wykonana. Tymczasem najważniejsze pytania często zaczynają się dopiero później.

Kto rzeczywiście będzie za to płacił? Dlaczego klient będzie chciał zmienić obecny sposób pracy? Jak będziemy mierzyć wartość? Co oznacza błąd systemu w rzeczywistym użyciu? Czy rozwiązanie pozostanie ekonomicznie sensowne przy tysiącach użytkowników? Jak będzie wyglądało utrzymanie? Jakie ograniczenia trzeba będzie komunikować klientowi? Czy potrafimy wykazać, że produkt zachowuje wymagany poziom jakości? To właśnie jest różnica pomiędzy zbudowaniem technologii a zbudowaniem przedsiębiorstwa wokół produktu.

Dobry pomysł to dopiero początek

W środowisku startupowym sam pomysł coraz rzadziej jest najtrudniejszym elementem przedsięwzięcia. Narzędzia AI dodatkowo obniżyły koszt tworzenia prototypów i testowania nowych koncepcji. Znacznie trudniejsze jest odpowiedzenie na pytanie, czy za pomysłem kryje się rzeczywista wartość, dla kogo ją tworzymy i czy można wokół niej zbudować działający produkt oraz skalowalny biznes.

Technologicznie atrakcyjne rozwiązanie może nie rozwiązywać wystarczająco ważnego problemu. Produkt odpowiadający na realną potrzebę może mieć model ekonomiczny, który nie pozwala go skalować (czyli rozwijać na dużą skalę bez proporcjonalnego wzrostu kosztów).

Rozwiązanie, dla którego istnieje rynek i które jest technologicznie wykonalne, może wymagać takiego poziomu jakości, bezpieczeństwa lub zgodności z przepisami, że trzeba inaczej zaprojektować zarówno produkt, jak i sposób jego rozwoju. Dlatego jedną z najważniejszych kompetencji jest umiejętność przechodzenia od pomysłu do decyzji.

Dobra decyzja nie wymaga pełnej informacji

To szczególnie istotne w przypadku produktów AI. Nie da się wszystkiego przewidzieć przed wdrożeniem. Rzeczywiste środowisko użytkowania zawsze może ujawnić zachowania, których nie zobaczyliśmy podczas testów. Mogą zmienić się dane, zachowania użytkowników, model albo sposób wykorzystania produktu.

Nie możemy więc czekać z decyzją do momentu, w którym będziemy wiedzieć wszystko. Musimy nauczyć się podejmować decyzje przy niepełnej informacji. To oznacza umiejętność określenia tego, czego jeszcze nie wiemy, zrozumienia, jakie ryzyko wynika z tej niewiedzy, ustalenia, co powinniśmy zweryfikować i jakich dowodów potrzebujemy, a następnie określenia, jaki poziom pewności jest wystarczający, żeby wykonać kolejny krok.

Nie próbujemy więc wyeliminować całej niepewności. Staramy się ją zrozumieć i kontrolować na tyle, żeby można było podjąć odpowiedzialną decyzję.

Wartość, jakość, pewność (Value, Quality, Confidence)

Właśnie dlatego w myśleniu o produktach AI wracam do trzech pytań.

• Wartość (value): czy budujemy coś, co rzeczywiście ma wartość?
• Jakość (quality): jakiej jakości potrzebujemy w rzeczywistym kontekście użycia?
• Pewność (confidence): jakie dowody dają nam wystarczającą pewność, żeby podjąć decyzję o użyciu lub skalowaniu?

To ważne, ponieważ nie wystarczy wiedzieć, że system działa, trzeba wiedzieć, jak dobrze funkcjonuje, w jakich warunkach, z jakim ryzykiem i na jakiej podstawie możemy uznać jego działanie za wystarczające. W dojrzałym produkcie powinny istnieć zdefiniowane kryteria jakości, odpowiednie dane testowe, wyniki walidacji, znane ograniczenia, ryzyko szczątkowe (ang. residual risk, czyli ryzyko, które pozostaje mimo zastosowanych zabezpieczeń) oraz mechanizmy monitorowania po wdrożeniu.

Kompetencje technologiczne nadal są fundamentalne

Nie oznacza to, że technologia traci znaczenie. Wręcz przeciwnie. Osoby zarządzające produktem AI muszą dobrze rozumieć możliwości i ograniczenia technologii. Bez tego nie będą w stanie podejmować sensownych decyzji. Problem polega na czymś innym: sama technologia coraz rzadziej wystarcza do zbudowania przewagi. Można stworzyć bardzo dobry model i nie mieć produktu, którego ktoś chce używać. Można mieć produkt, którego klienci rzeczywiście chcą używać, i nie być jeszcze gotowym na wymagania dużych klientów korporacyjnych. Można też stworzyć rozwiązanie formalnie zgodne, które nie tworzy wystarczającej wartości biznesowej. Dlatego startup przyszłości będzie potrzebował ludzi, którzy potrafią łączyć technologię z biznesem, produktem, jakością, ryzykiem i prawem.

Tego trzeba uczyć przyszłych liderów

To również powód, dla którego w programie „Strategiczne Zarządzanie Startupem i Produktem Innowacyjnym” na PJATK zależy nam na łączeniu różnych perspektyw. Nie chodzi o to, żeby absolwent został jednocześnie programistą, prawnikiem, finansistą i marketerem. Chodzi o to, żeby potrafił rozpoznać, jakie pytania trzeba zadać, jakich informacji potrzebuje do podjęcia decyzji i kiedy powinien włączyć odpowiedniego eksperta.

W działającym startupie nie ma przecież osobnego świata technologii, osobnego świata biznesu i osobnego świata regulacji. Wszystkie spotykają się przy jednej decyzji. Założyciel firmy może mieć świetny pomysł technologiczny, ale musi znać odpowiedź na pytanie, czy istnieje dla niego rynek. Menedżer produktu może rozumieć potrzebę użytkownika, ale musi wiedzieć, jak zmierzyć jakość rozwiązania. Inżynier może wiedzieć, jak zbudować funkcję, ale powinien rozumieć, jakie ryzyko generuje jej zastosowanie. Prawnik może określić wymagania, ale ktoś musi przełożyć je na decyzję produktową. A założyciel firmy musi na podstawie tych wszystkich informacji podjąć konkretną, wiążącą decyzję biznesową.

Startup przyszłości potrzebuje integratorów

Właśnie dlatego uważam, że jedną z najważniejszych kompetencji przyszłości nie będzie sama znajomość kolejnego narzędzia AI. Będzie nią zdolność łączenia różnych perspektyw.

Nie dlatego, że jedna osoba ma być ekspertem we wszystkich tych dziedzinach. Dlatego, że w coraz większym stopniu będzie musiała rozumieć zależności między nimi. Dobry menedżer produktu nie powinien więc tylko pytać: „Czy możemy to zbudować?”. Powinien również zapytać: Czy powinniśmy to zbudować? Dla kogo? Jakiej jakości potrzebujemy? Jakie ryzyko jesteśmy gotowi zaakceptować? Skąd będziemy wiedzieć, że produkt działa wystarczająco dobrze? Co musi się wydarzyć, żebyśmy mogli go odpowiedzialnie skalować?

To jest już coś więcej niż zarządzanie produktem. To zarządzanie systemem decyzji wokół produktu. I właśnie tej umiejętności – przechodzenia od technologii i pomysłu do świadomej, opartej na dowodach decyzji biznesowej – będziemy potrzebować coraz bardziej.