Drogi Czytelniku,
16 września na konferencji Dreamforce Salesforce ogłosił AIforce, które pozwala korzystać z jego danych i procesów przez inne interfejsy AI. Salesforce in Claude debiutuje w wersji beta z 37 funkcjami sprzedażowymi. Według firmy nadal obowiązują dotychczasowe uprawnienia i reguły biznesowe, każda akcja wraca do wykonania w platformie źródłowej, dane biznesowe nie są zatrzymywane przez dostawcę modelu, a wdrożenie nie wymaga tworzenia nowego modelu uprawnień (Salesforce).
Na samym starcie usługa ma już bazę użytkowników: firma podała, że 100 000 osób aktywowało Agentforce Coworker w ciągu 35 dni. Fulton Bank mówi o ponad 20 zastosowaniach produkcyjnych dla około 3000 użytkowników. Te liczby dotyczą Coworkera. Nie dowodzą, że asystent potrafi niezawodnie prowadzić pracę łączącą dane z systemów kilku dostawców.
Przygotowanie dokumentu, znalezienie danych klienta i zmiana warunków handlowych w firmie wymagają innych informacji oraz innych uprawnień. Umieszczenie tych zadań w jednym czacie nie powoduje, że te różnice znikają.
Claude i GPT — nowe metody pracy z dokumentami
Anthropic również ogłosił nowe produkty 16 września. Claude Cowork łączy się z czatem najpierw w planach Pro i Max, działy IT w planach Enterprise mają otrzymać co najmniej 30 dni wyprzedzenia, a wersja beta Claude Docs i Slides pojawia się w płatnych planach (Anthropic).
Dodatek OpenAI do Worda pracuje na otwartym dokumencie i korzysta z podłączonych źródeł. Użytkownik loguje się swoim kontem ChatGPT, ale historia, pamięć i umiejętności z ChatGPT nie przechodzą do dodatku. Nie ma on dostępu do pozostałych plików lokalnych. Opłaty zależą od zużycia tokenów; od 1 października dodatek ma być domyślnie włączony, z zachowaniem kontroli administratorów ChatGPT i Microsoft 365 (OpenAI).
Trzy produkty, nieco różne podejścia — Claude pozwala tworzyć dokumenty wewnątrz asystenta, a OpenAI umieszcza asystenta w używanym już edytorze. Salesforce udostępnia operacje biznesowe przez inne interfejsy. Pracownik ma większy wybór miejsca pracy, ale nie oznacza to jeszcze, że wszystkie te narzędzia mają tę samą wiedzę o firmie.
Ograniczenie dodatku do Worda dobrze to pokazuje. Można używać tego samego konta ChatGPT w dwóch miejscach, a mimo to nie przenosić między nimi pamięci asystenta. Znana nazwa i wspólne logowanie nie gwarantują ciągłości pracy.
Wiedza firmy może pozostać w kilku systemach
Microsoft opisuje Work IQ jako dostęp do informacji z Microsoft 365 i podłączonych systemów biznesowych z uwzględnieniem uprawnień (Microsoft). Company Knowledge od OpenAI korzysta z podłączonych źródeł, w tym własnych aplikacji MCP, i respektuje uprawnienia do danych. Częścią połączeń zarządzają administratorzy; nie każde wymaga osobnego logowania pracownika (OpenAI).
Oba podejścia pozwalają asystentowi sięgać po informacje przechowywane gdzie indziej. Z żadnego z tych opisów nie wynika, że jedno repozytorium musi zastąpić pozostałe. Firma może nadal trzymać dane klientów w CRM, a dane finansowe w systemie księgowym i udostępniać asystentowi to, czego potrzebuje do danego zadania.
Określenie „firmowa pamięć” zaciera jednak pewną różnicę. Rekord źródłowy dokumentuje transakcję lub decyzję firmy. Kontekst to informacje przekazane asystentowi do bieżącego zadania. Asystent może też zachować instrukcje albo podsumowania na później. Każda z tych rzeczy wymaga innego traktowania: zapamiętana odpowiedź nie daje pewności, że nadal jest poprawna.
Wyłaniająca się z tego architektura opiera się na pięciu krokach: pracownik działa przez jednego asystenta, asystent pobiera kontekst na żądanie, systemy źródłowe zachowują nadrzędne rekordy i uprawnienia, wykonanie akcji wraca do tych systemów według ich reguł, a rejestr zdarzeń zapisuje, kto, do czego sięgnął i co zmodyfikował.
Pozostaje więc ustalić, z którego źródła asystent ma skorzystać, gdy znajdzie sprzeczne informacje. Podłączenie kolejnego repozytorium pozwoli mu znaleźć więcej materiałów, ale nie powie mu, które z nich firma uznaje za rozstrzygające.
Dostęp nie rozwiązuje sprzeczności
Proponowana architektura pozwala pobrać aktualne informacje wtedy, gdy są potrzebne, a wynikające z nich działanie wykonać przez system źródłowy, zgodnie z jego regułami. Tyle że firma musi wcześniej ustalić zasady korzystania z tych informacji. Integracja nie podejmie tych decyzji.
Warunki współpracy z klientem mogą być zapisane w podpisanej umowie, w polu CRM i w mailu omawiającym propozycję zmiany. Odnalezienie wszystkich trzech źródeł jest przydatne. Traktowanie ich jako równie wiążących byłoby błędem. Asystent musi odróżnić ustalenia od propozycji, a gdy brakuje dowodów, pozostawić sprawę nierozstrzygniętą.
W takiej sytuacji płynnie napisana odpowiedź może być mniej użyteczna niż wskazanie braku informacji. Jeżeli systemy zawierają sprzeczne dane, pracownik powinien zobaczyć tę sprzeczność. Podsumowanie, które bez wyjaśnienia wybiera jedną wersję, odbiera mu część informacji potrzebnych do decyzji.
Daty pomagają, ale najnowszy dokument nie zawsze jest wiążący. Projekt aneksu może być nowszy od podpisanej umowy, choć jej nie zmienia. Asystent pracujący nad zobowiązaniami handlowymi musi zachować to rozróżnienie zarówno przy wyszukiwaniu materiałów, jak i przy proponowaniu działania.
Części wiedzy może w ogóle zabraknąć. Spory kawałek operacyjnej rzeczywistości istnieje wyłącznie poza systemami: wyjątek uzgodniony na korytarzu, niepisany rabat czy doraźny priorytet obsługi mogą nigdy nie trafić do przeszukiwanych zasobów. Kolejne połączenie z systemem nie odtworzy decyzji, której nikt nie zapisał. To ogranicza zakres odpowiedzialności, jaki można powierzyć asystentowi, nawet gdy jego wyszukiwarka działa dokładnie tak, jak zaplanowano.
Dlatego testy powinny obejmować sprawy nierozstrzygnięte i sprzeczne zapisy. Demonstracja na kompletnej, spójnej historii klienta nie pokaże, jak asystent zachowa się wtedy, gdy części tej historii zabraknie.
Zarządzanie uprawnieniami
Obietnica Salesforce’a, że AI zachowa istniejące uprawnienia użytkowników, jest przydatna, ale te uprawnienia mogą być zbyt szerokie. Asystent może ułatwić znalezienie informacji, do których pracownik nie powinien mieć dostępu. Zwiększa to ryzyko ujawnienia danych.
Działania podejmowane przez AI wymagają dodatkowych uprawnień. Prawo do przeczytania umowy nie daje prawa do jej zmiany. Zadanie obejmujące kilka systemów wymaga właściwej zgody w momencie wprowadzania zmiany, nawet jeśli pracownik mógł samodzielnie odczytać wszystkie potrzebne informacje.
Z tego powodu spodziewam się, że wyszukiwanie i podsumowywanie w trybie tylko do odczytu będą upowszechniać się w pierwszej kolejności. Za nimi pójdą wąskie akcje w obrębie jednego dostawcy. Autonomia łącząca wiele odrębnych systemów pozostanie znacznie trudniejsza, bo tożsamość, uprawnienia, semantyka danych i odpowiedzialność różnią się między nimi diametralnie. W regulowanych organizacjach znacznie bardziej prawdopodobne jest pojawienie się kilku wyspecjalizowanych, ograniczonych asystentów niż jednego uniwersalnego agenta firmowego.
Zapis operacji powinien pozwalać odtworzyć, z jakich źródeł skorzystano, na czyich uprawnieniach, co zatwierdzono i co zmieniono. Sam zapis rozmowy może nie zawierać informacji o tym, co wydarzyło się w podłączonej aplikacji. Nabywca potrzebuje dowodów wykonania operacji; wyjaśnienie asystenta nie musi być pełnym zapisem jego wewnętrznego rozumowania.
Salesforce ma przewagę, ale ceny pozostają niewiadomą
Salesforce może pozwolić asystentowi innej firmy prowadzić rozmowę, zachowując u siebie dane klientów i reguły ich zmiany. Ma więc powód, żeby wspierać takie integracje. Dostawcy systemów transakcyjnych (systems of record) mogą budować trwalszą wartość niż dostawcy samych modeli, bo to oni kontrolują tożsamość, uprawnienia i stan procesów w firmie. Trudniej jednak powiedzieć, czy pozwoli to Salesforce’owi utrzymać dotychczasowe ceny za licencje per-seat. Z ogłoszenia nie dowiemy się, ile klient zapłaci ani jakich licencji nadal będzie potrzebował.
Dostawca asystenta też może zyskać przewagę. Jeśli pracownicy zaczną od niego swoją pracę, będą mogli właśnie tam wybierać aplikacje do poszczególnych zadań. Dotychczasowi dostawcy zachowają dane i procesy, a dostawca asystenta może mieć bliższą relację z użytkownikami. Żadna z tych pozycji nie gwarantuje lepszego wyniku handlowego.
Klient może też uzależnić się od dostawcy poprzez coś więcej niż dane źródłowe. Instrukcje, zapisany kontekst i definicje procesów mogą wymagać pracy przy przenoszeniu do innego asystenta, nawet gdy oryginalne dane pozostają dostępne. Samo prawo do ich eksportu nie dowodzi, że uda się przenieść sposób pracy.
Przenośność oceniłbym przez przeniesienie konkretnego procesu i sprawdzenie, co trzeba zbudowa ponownie. Ogólne stwierdzenie, że modele są wymienne, tego nie rozstrzyga. Liczy się koszt zmiany asystenta w działającym środowisku firmy, wraz z integracjami i testami jakości.
Briefing
Anthropic i Accenture spodziewają się zainwestować po co najmniej 1 mld dolarów w ciągu pięciu lat w rozwój zdolności do oceny modeli. Oceniający mają mieć dostęp porównywalny z pracowniczym; zasady raportowania pozostają nieustalone. Anthropic bezpośrednio sfinansuje pracę Accenture, więc pytanie o niezależność dotyczy między innymi swobody publikowania wyników (Anthropic, 18 września).
OpenAI opublikowało sześć przypadków z treningu i ewaluacji. W jednym model poprawnie wyliczył identyfikatory jezior, a następnie bez zgody przesłał wynik do internetu, żeby móc go zacytować. Poprawnej odpowiedzi może więc towarzyszyć nieuprawnione działanie; te przypadki nie pokazują, jak często zdarza się to we wdrożonych produktach (OpenAI, 16 września).
EY przebadało 202 osoby odpowiedzialne za decyzje dotyczące AI w amerykańskich spółkach giełdowych o przychodach co najmniej 1 mld dolarów. 47% podało, że ich organizacja pominęła procedury nadzoru przy pilnym wdrożeniu. Wśród respondentów z firm używających agentów AI 26% stwierdziło, że ich organizacja nie potrafi wykrywać nieautoryzowanych agentów. Samo przyjęcie polityki nie rozwiązuje problemu ich wykrywania (EY, 15 września).
Podsumowanie
Produkty ogłoszone w tym tygodniu dają więcej sposobów na udostępnienie asystentowi informacji biznesowych. Trudniejszy test dotyczy tego, czy rozpozna wiążące ustalenie, zauważy brak danych i wykona działanie w granicach właściwych uprawnień.
Firma może posuwać takie wdrożenie naprzód bez gromadzenia całej wiedzy w jednym miejscu. Musi jednak ustalić, które źródła rozstrzygają o poszczególnych decyzjach. Tam, gdzie nie wiedzą tego pracownicy, podłączenie asystenta nie usunie tej niejasności.
Zachowaj równowagę,
Krzysztof
Krzysztof Goworek jest założycielem Quintant — firmy doradczej, która prowadzi przedsiębiorstwa od eksperymentów AI do realnej, mierzalnej wartości.