Private AI - sztuczna inteligencja pracująca tam, gdzie Wasze dane

Wdrażamy AI działające w środowisku Waszej firmy lub w dedykowanej infrastrukturze prywatnej. Korzystacie z asystentów i automatyzacji na dokumentach oraz danych operacyjnych, zachowując kontrolę nad tym, gdzie te dane są przetwarzane.

Umów rozmowę o Waszym środowisku
Problem

Rozmowa o AI kończy się zwykle w tym samym miejscu

W wielu organizacjach rozmowa o AI kończy się w tym samym miejscu: „nie możemy wrzucać naszych dokumentów do narzędzia, które stoi nie wiadomo gdzie”.

I słusznie, bo część danych po prostu nie może opuścić firmy. Umowy, dokumentacja medyczna, dane osobowe, akta spraw, dokumentacja produkcyjna objęta tajemnicą przedsiębiorstwa.

Dla kogo

Gdy charakter danych albo przepisy wykluczają publiczne narzędzia AI

  • Biura rachunkowe i kancelarie

    Dane finansowe klientów, akta spraw, informacje objęte tajemnicą zawodową.

  • Podmioty medyczne

    Dokumentacja pacjentów i dane szczególnej kategorii.

  • Firmy produkcyjne

    Dokumentacja techniczna, receptury, dane o procesach stanowiące przewagę konkurencyjną.

  • Instytucje publiczne i podmioty regulowane

    Wymogi ustawowe i wewnętrzne polityki zakazujące przesyłania danych poza organizację.

  • Firmy z własną polityką bezpieczeństwa

    Gdzie decyzja o miejscu przetwarzania danych zapadła na poziomie zarządu i nie podlega negocjacji per projekt.

  • Nie jesteście pewni?

    Jeśli Wasze zastosowanie nie wymaga zamkniętego środowiska, powiemy to wprost. Private AI kosztuje więcej i nie ma sensu tam, gdzie nie jest potrzebna.

Formy wdrożenia

Nie ma jednego Private AI – są trzy formy

Różnią się tym, gdzie fizycznie przetwarzane są dane i ile trzeba zbudować, żeby to uruchomić. Właściwą wybieramy po audycie, a nie z góry.

  • 01 - najszybsza droga
    W Waszej istniejącej infrastrukturze
    Jeśli macie już środowisko, na którym da się to uruchomić, wdrażamy tam całe rozwiązanie. Dane i przetwarzanie pozostają u Was, bez budowania czegokolwiek nowego.
  • 02 - pełna separacja
    Dedykowane środowisko prywatne
    Środowisko przygotowane wyłącznie dla Waszej organizacji. Zaprojektowane, zbudowane i uruchomione przez nas, wraz z doborem i dostawą potrzebnego sprzętu.
  • 03 - koszt dopasowany do ryzyka
    Rozwiązanie mieszane
    Część działa lokalnie, część w chmurze prywatnej. Podział wynika z tego, które dane wymagają jakiego traktowania.
Zasady doboru

Od czego zależy wybór formy

Formy nie wybieramy z góry ani według cennika. Wynika ona z pięciu rzeczy, które ustalamy w audycie.

Nie robimy z tego automatycznego kalkulatora ani drzewka wyboru. Kombinacje tych pięciu czynników są zbyt różne, żeby uprościć je do schematu bez zafałszowania wyniku.

Architektura

Pięć warstw, z których składa się każde środowisko Private AI

  1. Warstwa modelu. Model językowy uruchomiony wewnątrz Waszego środowiska, plus modele wyspecjalizowane tam, gdzie zadanie tego wymaga: rozpoznawanie tekstu ze skanów, przetwarzanie mowy, klasyfikacja.
  2. Warstwa wiedzy. Indeksowanie i porządkowanie treści, na których AI ma pracować, wraz z mechanizmem odświeżania, gdy źródła się zmieniają.
  3. Warstwa dostępu. Sposób, w jaki użytkownicy korzystają z rozwiązania, oraz reguły określające, kto i do czego ma dostęp.
  4. Warstwa integracji. Połączenia z systemami i repozytoriami, w których Wasze dane już są.
  5. Warstwa nadzoru. Rejestr działań, kontrola jakości odpowiedzi i mechanizmy pozwalające sprawdzić, na jakiej podstawie powstał dany wynik.

Kluczowa decyzja architektoniczna dotyczy zawsze tego samego: gdzie przebiega granica środowiska i co w żadnym momencie jej nie przekracza. Ustalamy ją na początku projektu i zapisujemy.

Sprzęt i moc obliczeniowa

Inny rodzaj obliczeń niż serwer pod bazę danych

Czego nie robimy

Nie podajemy konfiguracji przed audytem i nie przepisujemy cudzych rekomendacji. Zapotrzebowanie zależy od zadań, liczby użytkowników i tego, jak duże modele mają pracować. Te same trzy zmienne dają wyniki różniące się wielokrotnie.

Co robimy

Ustalamy zapotrzebowanie na podstawie realnych zadań, dobieramy sprzęt, prowadzimy dostawę i uruchamiamy środowisko. Jako generalny wykonawca odpowiadamy za całość od zamówienia po działające rozwiązanie.

Sprzęt to inwestycja, nie abonament

Środowisko prywatne wymaga nakładu na starcie, który zwraca się przy odpowiedniej skali użycia. Przy niewielkim wolumenie wariant chmurowy bywa tańszy i mówimy to wprost.

Zapotrzebowanie rośnie wraz z zastosowaniami

Dlatego środowisko projektujemy z zapasem na rozbudowę, zamiast dobierać sprzęt wyłącznie pod pierwszy przypadek użycia.

Inwestycję sprzętową da się objąć finansowaniem zewnętrznym lub przeprowadzić w trybie przetargowym – prowadzimy oba procesy.

Zastosowania

Private AI to forma wdrożenia, nie osobny produkt

W tej formie da się uruchomić to samo, co w wariancie chmurowym. Zakres dobieramy do procesu, a nie odwrotnie.

Asystent na Waszych dokumentach

Pracownik pyta zwykłym językiem, dostaje odpowiedź ze wskazaniem dokumentu źródłowego.

Wyszukiwanie w dokumentacji

Procedury, umowy, dokumentacja techniczna i protokoły jako baza wiedzy z wygodną opcją przeszukiwania.

Przetwarzanie nagrań

Transkrypcja spotkań i materiałów audio bez wysyłania ich na zewnątrz.

Klasyfikacja treści

Porządkowanie dokumentów i zgłoszeń według reguł, które ustalacie Wy.

Szczegółowe opisy tych rozwiązań znajdziecie na stronach GOTOMA Software House. Tutaj pokazujemy, że da się je uruchomić w zamkniętym środowisku.

Integracje

Private AI nie pracuje obok Waszych systemów, tylko na ich danych

Rozwiązanie jest tyle warte, ile warte są dane, do których ma dostęp. Dlatego zakres integracji ustalamy w audycie, zanim powstanie architektura, a nie po uruchomieniu środowiska. Nie budujemy równoległego repozytorium dokumentów i nie wymagamy przenoszenia dokumentacji „do AI”.

Obszar Przykłady
Repozytoria dokumentów SharePoint, dyski sieciowe, NAS, systemy EOD i DMS
Poczta i praca zespołowa Microsoft 365, Google Workspace, serwery pocztowe w Waszej infrastrukturze
Systemy biznesowe ERP, CRM, systemy kadrowe i finansowo-księgowe
Systemy operacyjne i produkcyjne WMS, MES, systemy jakości, dokumentacja techniczna
Obsługa zgłoszeń Helpdesk, systemy ticketowe, skrzynki kontaktowe
Bazy danych i pliki Bazy SQL, eksporty, katalogi plików, skany po OCR
Nagrania Spotkania, rozmowy, materiały audio przetwarzane wewnątrz środowiska
  • Jak podchodzimy do integracji
    • Integrujemy przez API i konektory, jeśli system je udostępnia.
    • Gdy system nie ma API – eksporty, katalogi plików lub baza, z ustalonym harmonogramem odświeżania.
    • Zakres integracji wpływa na koszt i czas wdrożenia.
  • Gdzie powstają indeksy

    Indeksy powstają wewnątrz Waszego środowiska. Kopia treści nie powstaje poza jego granicami.

    W pierwszym etapie wybieramy te źródła, które realnie odpowiadają na pytania zadawane w Waszej organizacji.

    Private AI nie zastępuje systemu źródłowego. Jest warstwą, która czyta, porządkuje i udostępnia to, co już macie.

Dostępy i role

Kto ma widzieć co – decyzja organizacyjna, nie techniczna

Dlatego ustalamy ją z Wami przed wdrożeniem i zapisujemy, zamiast przyjmować ustawienia domyślne.

Uwierzytelnianie opieramy na mechanizmach, z których już korzystacie, zamiast wprowadzać osobne hasła do kolejnego narzędzia.

Zasady dostępu projektujemy razem z architekturą, nie po wdrożeniu. Rozdzielenie zbiorów wiedzy jest znacznie tańsze na etapie projektu niż później.

Odpowiedzialność za wynik

Co robi rozwiązanie, a co zostaje decyzją człowieka

Rozwiązanie przygotowuje materiał roboczy. Nie podejmuje decyzji, za które odpowiada Wasza organizacja.

Model językowy potrafi się pomylić i potrafi pomylić się przekonująco. Traktujemy to jako założenie projektowe, a nie jako wadę do ukrycia. Dlatego odpowiedzi wskazują dokument źródłowy, a proces jest zbudowany tak, żeby pracownik mógł sprawdzić podstawę, zanim wynik pójdzie dalej.

Jak to wygląda w praktyce?

  • Odpowiedź zawiera wskazanie dokumentu i miejsca, z którego pochodzi.
  • Jeśli wdrożenie obejmuje działania w systemach, takie jak wysyłkę do klienta, zmianę danych, zatwierdzenie dokumentu, zamknięcie sprawy, każde wymaga akceptacji pracownika.
  • Zakres samodzielnych działań ustalamy regułami przed wdrożeniem i zapisujemy, kto może go zmienić.
  • Działania rozwiązania są rejestrowane, więc da się odtworzyć, na jakiej podstawie powstał dany wynik.
  • Gdy w dokumentach nie ma podstawy do odpowiedzi, rozwiązanie ma to powiedzieć, a nie uzupełnić lukę.
Bezpieczeństwo

Co mówimy, a czego nie

Nie obiecujemy pełnego bezpieczeństwa ani braku możliwości wycieku. Takich deklaracji nie składa nikt, kto poważnie traktuje ten temat, a sama zamknięta infrastruktura nie czyni rozwiązania bezpiecznym automatycznie.

Rozwiązanie dostarczamy z wdrożeniem bieżących standardów bezpieczeństwa, dobranych do tego, gdzie i w jakiej formie pracuje. Dokumentację potrzebną Wam do wykazania zgodności wobec klientów, audytora lub organu przygotowujemy jako część projektu.

 

Środowisko AI nie jest rozwiązaniem, które uruchamia się raz. Modele się zmieniają, dane rosną, a sposób korzystania po kilku miesiącach wygląda inaczej niż zakładano na starcie.
Monitoring i utrzymanie
  • Ciągłość działania
    Czuwamy nad tym, żeby rozwiązanie było dostępne wtedy, gdy zespół z niego korzysta, i reagujemy, zanim problem stanie się odczuwalny.
  • Aktualizacje
    Zarówno środowiska, jak i modeli. Nowsze bywają lepsze i tańsze w utrzymaniu. Sprawdzamy, czy zmiana ma sens, zamiast aktualizować automatycznie.
  • Jakość odpowiedzi
    Obserwujemy pytania, na które rozwiązanie nie potrafiło odpowiedzieć i uzupełniamy brakujące źródła. To najczęstsza przyczyna spadku użyteczności.
  • Rozbudowa
    Dołączanie kolejnych zastosowań i źródeł w miarę, jak rośnie zaufanie do rozwiązania w organizacji.
Efekt

Co da się zmierzyć po wdrożeniu

Nie podajemy z góry procentów oszczędności, bo zależą od tego, jak wygląda proces przed wdrożeniem. Zamiast tego mierzymy punkt wyjścia w trakcie audytu i wracamy do tych samych liczb po pilotażu. Zwykle wystarczą trzy lub cztery mierniki, liczone na konkretnym zespole i typie spraw, a nie na całej organizacji.

  • Punkt odniesienia

    Ustalamy przed pilotażem na próbce realnych spraw.

  • Zawężony pilotaż

    Jeden zespół i jeden typ dokumentów, żeby wynik dało się przypisać do zmiany, a nie do sezonu.

  • Efekty nieliczbowe

    Zgodność z polityką bezpieczeństwa, praca na danych wcześniej wyłączonych z narzędzi AI, gotowość do wykazania zasad przetwarzania. Nazywamy je wprost, zamiast przeliczać na złotówki.

  • Brak mierników

    Jeśli po pilotażu miernik nie ruszył, mówimy to i proponujemy albo zmianę zakresu, albo rezygnację. Rozbudowa środowiska bez potwierdzonego efektu nie jest w niczyim interesie.

Co i w jakich zastosowaniach można zmierzyć?
  • Wyszukiwanie w dokumentacji. Czas dotarcia do informacji i udział pytań, na które udało się odpowiedzieć bez angażowania specjalisty
  • Asystent na dokumentach. Czas przygotowania odpowiedzi, protokołu lub podsumowania sprawy
  • Przetwarzanie nagrań. Czas od zakończenia spotkania do gotowej notatki i liczba spotkań objętych transkrypcją
  • Klasyfikacja treści. Udział dokumentów przypisanych automatycznie i liczba poprawek wprowadzanych przez pracownika
  • Wszystkie zastosowania. Liczba dokumentów, które trzeba było wysłać do zewnętrznych narzędzi, żeby wykonać zadanie

Odpowiedzialność

Współpraca z GOTOMA Software House

Private AI to forma wdrożenia rozwiązań, które powstają w ramach Grupy Technologicznej GOTOMA. W praktyce oznacza to podział ról, a nie dwie osobne oferty.

  • GOTOMA Software House

    Buduje samo rozwiązanie – asystenta, pracę z dokumentami, automatyzację procesu.

    Zobacz na gotoma.pl ↗ ›
  • GOTOMA GENERAL

    Odpowiada za środowisko, w którym to rozwiązanie pracuje: projekt, sprzęt, uruchomienie, bezpieczeństwo i utrzymanie.

     

Umów rozmowę o Waszym środowisku

Zaczniemy od ustalenia, jakie dane wchodzą w grę i jakie mają ograniczenia, a potem powiemy, w jakiej formie da się to zrobić i czy w ogóle warto.

Skontaktuj się