Strona główna > Infrastruktura dla AI i danych

Infrastruktura dla AI i danych - środowisko, które udźwignie codzienną pracę

Przygotowujemy i uruchamiamy środowisko, w którym AI może pracować na co dzień: na Waszych dokumentach, Waszej wiedzy i danych z Waszych systemów. Odpowiadamy za całość, od ustalenia, czego faktycznie potrzeba, po utrzymanie działającego rozwiązania.

Zamów audyt obecnej infrastruktury
Problem

Wdrożenie AI rzadko przewraca się na modelu. Przewraca się na środowisku

Pilotaż robi się na kilku osobach i wybranym zestawie dokumentów. Działa. Decyzja o produkcji zapada i wtedy okazuje się, że to samo rozwiązanie ma obsłużyć trzydzieści osób w godzinach szczytu, sięgnąć do czterech systemów zamiast jednego i nie przestać działać w tygodniu zamknięcia miesiąca.

W praktyce sprowadza się to do dwóch sytuacji:

Macie infrastrukturę, ale nie pod to

Środowisko serwerowe, które od lat obsługuje ERP, aplikacje i pocztę, nie jest przygotowane do obliczeń, których wymaga AI. To inna kategoria obciążenia, nie „więcej tego samego”.

Nie macie gdzie tego postawić

Decyzja o AI zapadła. Dane nie mogą pójść do publicznych narzędzi, a w organizacji nie ma środowiska, które dałoby się wykorzystać. Trzeba je zbudować od podstaw.

W obu przypadkach problem jest ten sam: nikt nie chce podejmować decyzji inwestycyjnej na podstawie domysłów, ile mocy obliczeniowej będzie potrzebne za rok.

Dla kogo

Cztery sytuacje, w których wchodzimy

Organizacje po pilotażu, idące na produkcję

Rozwiązanie się sprawdziło, teraz ma obsłużyć realną liczbę osób i realne obciążenie.

Działy IT przygotowujące środowisko pod AI

Zespół wie, co ma powstać, ale potrzebuje kogoś, kto dobierze sprzęt, przeprowadzi dostawę i uruchomi całość, zamiast robić to metodą prób przy okazji bieżących obowiązków.

Firmy produkcyjne i organizacje wielooddziałowe

Dane i użytkownicy w kilku lokalizacjach, różne warunki techniczne w każdej z nich, wymóg działania niezależnie od łącza do centrali.

Podmioty regulowane i dane poufne

Środowisko musi spełniać wymagania, które da się wykazać wobec audytora, klienta albo organu.

Jeśli korzystacie z AI okazjonalnie, na niewielką skalę i bez ograniczeń co do miejsca przetwarzania danych, nie potrzebujecie osobnego środowiska. Powiemy to wprost. Budowanie infrastruktury pod kilkanaście zapytań dziennie jest wydatkiem bez uzasadnienia.

Audyt

Audyt obecnej infrastruktury

Każda rekomendacja sprzętowa postawiona przed audytem jest zgadywaniem. Dlatego przed wdrożeniem AI w struktury przedsiębiorstwa sprawdzamy i weryfikujemy Wasze potrzeby operacyjne, biznesowe i procesowe, aby dobrać odpowiednie rozwiązanie i infrastrukturę, która je udźwignie.

Co sprawdzamy
  • Co już macie i co z tego da się wykorzystać – częściej niż rzadziej część zasobów jest w organizacji i nie ma powodu kupować ich drugi raz.
  • Jakie zadania ma realnie wykonywać AI i jak przekłada się to na obciążenie.
  • Ile osób, jak często i kiedy – obciążenie skupione w okresach rozliczeniowych projektuje się inaczej niż równomierne.
  • Gdzie leżą dane, do których AI ma sięgać, i w jakim są stanie.
  • Jakie ograniczenia obowiązują w organizacji – regulacyjne, umowne i wewnętrzne. To trzy różne poziomy rygoru.
  • Warunki, w jakich sprzęt miałby stanąć i co trzeba przygotować, zanim cokolwiek przyjedzie.
Co dostajecie na koniec
  • Opis stanu obecnego z informacją, co jest gotowe, a co wymaga zmiany.
  • Rekomendację formy środowiska wraz z uzasadnieniem i alternatywą, a nie jedną opcję do zaakceptowania.
  • Zakres prac i zależności między nimi, w kolejności, w jakiej mają sens.
  • Informację, czego nie warto robić na tym etapie.

Przy okazji audytu zwykle wychodzi coś jeszcze. Patrzymy na procesy, dokumenty i dane z perspektywy tego, co da się nimi zrobić i zazwyczaj wskazujemy zastosowania, o których nie myśleliście, bo nie wyglądały na temat dla AI. To część audytu, nie osobna usługa.

Od czego zależy dobór środowiska

Formy nie wybieramy z katalogu. Wynika ona z wniosków, które wyciągamy na podstawie audytu i dopiero ich kombinacja daje odpowiedź.

  • Charakter obciążenia

    Czy zapytania przychodzą w ciągu dnia pojedynczo, czy przetwarzacie duże partie naraz. To dwa różne środowiska, mimo tej samej „ilości pracy” w skali miesiąca.

  • Wielkość i rodzaj modeli

    Większy model to lepsza jakość odpowiedzi i wyraźnie wyższe wymagania. Dobór jest kompromisem, który ustalamy świadomie, a nie domyślnie.

  • Tolerancja na przerwę

    Ile czasu proces może być wstrzymany, zanim stanie się to odczuwalne. Środowisko dla zespołu, który poczeka do jutra, projektuje się inaczej niż takie, od którego zależy praca zmianowa.

  • Wymagania wobec danych

    Czy ograniczenie wynika z przepisów, z umowy z klientem, czy z wewnętrznej polityki i czy dotyczy wszystkich danych czy ich części.

  • Perspektywa wzrostu

    Ile zastosowań planujecie uruchomić po pierwszym wdrożeniu i w jakim horyzoncie. Środowisko projektujemy z zapasem, zamiast dobierać je wyłącznie pod pierwszy przypadek użycia.

  • Kto to będzie utrzymywał

    Własny zespół IT, my, czy podział. To zmienia projekt środowiska, nie tylko umowę serwisową.

Warianty

Trzy drogi i co je realnie różni

Środowisko u Was Środowisko w chmurze publicznej Rozwiązanie mieszane
Gdzie pracuje moc obliczeniowa W Waszej lokalizacji U zewnętrznego dostawcy Podzielona między jedno i drugie
Model kosztu Nakład na starcie, potem przewidywalny koszt bieżący Bez nakładu początkowego, koszt rośnie wraz z użyciem Nakład na część zamkniętą, reszta rozliczana z użycia
Czas do uruchomienia Dłuższy: dochodzi dobór, dostawa i przygotowanie miejsca Najkrótszy: środowisko jest dostępne od razu Pośredni, zależny od części zamkniętej
Zmiana skali w górę Wymaga decyzji i rozbudowy Szybka, w granicach oferty dostawcy Zależnie od tego, której części dotyczy
Co zostaje po Waszej stronie Miejsce, warunki techniczne i udział w utrzymaniu Umowa i zarządzanie kosztem Podział ustalony w projekcie
Kiedy ma sens Stałe, wysokie obciążenie; wymóg trzymania danych u siebie Zmienne obciążenie; brak ograniczeń co do miejsca przetwarzania Część danych wymaga zamknięcia, reszta nie

Wybór rzadko jest oczywisty i prawie nigdy nie jest wyłącznie techniczny. Przy niewielkim lub nierównym obciążeniu chmura publiczna bywa wyraźnie tańsza i mówimy to wprost, nawet jeśli oznacza to mniejszy projekt po naszej stronie. Przy stałym, wysokim obciążeniu proporcja odwraca się i to też pokazujemy na Waszych liczbach, nie na przykładowych.

Sprzęt

Sprzęt i moc obliczeniowa

Uruchomienie AI we własnym środowisku wymaga sprzętu przystosowanego do tego rodzaju obliczeń. To inna kategoria niż serwer pod bazę danych czy aplikację firmową i to najczęstsze źródło nieporozumienia przy pierwszej wycenie.

Finansowanie inwestycji AI →
Co robimy jako generalny wykonawca
  • Ustalamy zapotrzebowanie na podstawie realnych zadań, nie na podstawie katalogu.
  • Dobieramy sprzęt i prowadzimy dostawę, łącznie z formalnościami, jeśli zakup idzie trybem przetargowym.
  • Sprawdzamy i przygotowujemy warunki w miejscu, w którym sprzęt ma stanąć. To bywa większą częścią harmonogramu niż sam zakup i najczęściej jest pomijane w planach.
  • Uruchamiamy środowisko i doprowadzamy je do stanu, w którym rozwiązanie na nim działa.
Czego nie robimy

Nie podajemy konfiguracji przed audytem i nie przepisujemy cudzych rekomendacji. Te same trzy zmienne: zadania, liczba użytkowników i wielkość modeli, dają wyniki różniące się wielokrotnie.

Odpowiadamy za całość, od zamówienia po działające środowisko. Jeden wykonawca zamiast trzech, którzy odsyłają się nawzajem, gdy coś nie gra. Inwestycję da się objąć finansowaniem zewnętrznym albo przeprowadzić w trybie przetargowym – prowadzimy oba procesy.

Połączenia

Połączenia i dostęp

Środowisko jest warte tyle, ile dostęp do niego i tyle, ile dane, do których sięga.

Uwierzytelnianie opieramy na mechanizmach, z których już korzystacie, zamiast wprowadzać osobne hasła do kolejnego narzędzia. Zasady dostępu i to, kto widzi które zbiory wiedzy, należą do projektu rozwiązania.

Private AI i lokalne środowiska →
Ciągłość działania

Środowisko produkcyjne różni się od pilotażowego konsekwencją przestoju

Dlatego zamiast zaczynać od tego, co możemy dostarczyć, zaczynamy od ustalenia, co się stanie, kiedy coś przestanie działać.

Odpowiedzi przekładają się bezpośrednio na projekt i na koszt, dlatego ustalamy je na początku, a nie po pierwszym przestoju. Rozwiązanie dostarczamy z wdrożeniem bieżących standardów bezpieczeństwa, dobranych do tego, gdzie i w jakiej formie środowisko pracuje.

Skalowanie

Zapotrzebowanie rzadko zostaje na poziomie z pierwszego miesiąca. Rośnie z trzech powodów i warto je rozróżniać, bo wymagają różnych reakcji.

  • Przybywa użytkowników

    Rozwiązanie sprawdza się w jednym zespole i dostaje go kolejny. Najłatwiejszy do przewidzenia rodzaj wzrostu.

  • Przybywa zastosowań

    Po wyszukiwaniu w dokumentach następuje przetwarzanie nagrań, po nim klasyfikacja. Każde kolejne obciąża środowisko inaczej, a nie bardziej.

  • Zmieniają się modele

    Nowsze bywają lepsze i tańsze w utrzymaniu, ale zdarza się też odwrotnie. Sprawdzamy, czy zmiana ma sens w Waszym zastosowaniu, zamiast aktualizować automatycznie.

Rozbudowa nie dzieje się sama. Środowisko projektujemy z zapasem i z określonym z góry kierunkiem rozbudowy, ale każdy krok zwiększający koszt wymaga Waszej decyzji, a my dostarczamy do niej podstawy: co się zmieniło, co to oznacza i jakie są opcje.

Utrzymanie

Model utrzymania

Środowisko AI nie jest rozwiązaniem, które uruchamia się tylko raz. Dane rosną, sposób korzystania po kilku miesiącach wygląda inaczej niż zakładano, a modele się zmieniają. Zakres obsługi ustalamy indywidualnie, w jednym z trzech układów.

Podział odpowiedzialności zapisujemy przed uruchomieniem, nie po pierwszym zgłoszeniu. To dotyczy również sytuacji, w której część środowiska stoi u zewnętrznego dostawcy.

  • Układ 1
    Utrzymanie po naszej stronie
    Odpowiadamy za dostępność środowiska, aktualizacje i reakcję na zdarzenia. Wariant dla organizacji bez własnego zespołu IT albo z zespołem obciążonym innymi zadaniami.
  • Układ 2
    Utrzymanie po Waszej stronie
    Projektujemy środowisko tak, żeby Wasz zespół mógł je przejąć, przekazujemy dokumentację i wprowadzamy ludzi w jego obsługę. Zostajemy dostępni przy zmianach i rozbudowie.
  • Układ 3
    Układ mieszany
    Bieżąca obsługa u Was, po naszej stronie zdarzenia wymagające specjalistycznej wiedzy i rozwój środowiska. Najczęstszy wybór przy organizacjach z własnym IT.
Kontrola

Decyzje po Waszej stronie

Rekomendujemy i uzasadniamy. Decydujecie Wy. To zasada, według której projektujemy współpracę, a nie funkcja rozwiązania.

Bezpieczeństwo

Bezpieczeństwo – co mówimy, a czego nie

Nie obiecujemy pełnego bezpieczeństwa ani braku możliwości wycieku. Sama zamknięta infrastruktura nie czyni rozwiązania bezpiecznym automatycznie, a deklaracja, która brzmi jak gwarancja, staje się problemem przy pierwszym incydencie.

Środowisko dostarczamy z wdrożeniem bieżących standardów bezpieczeństwa, dobranych do tego, gdzie pracuje. Dokumentację potrzebną do wykazania zgodności wobec klienta, audytora lub organu przygotowujemy jako część projektu.

Bezpieczeństwo i zgodność AI Act →

Mierniki i ich zależności

  • Czas uruchomienia środowiska

    Zależy przede wszystkim od dostępności sprzętu i od tego, co trzeba przygotować w miejscu, w którym ma stanąć. Podanie terminu przed audytem byłoby deklaracją bez pokrycia.

  • Poziom obsługi i czas reakcji

    Ustalamy w umowie, na podstawie tego, jak długo Wasz proces może być wstrzymany. To wynik rozmowy o konsekwencjach przestoju, nie pozycja z cennika.

  • Efekt biznesowy

    Mierzymy na zastosowaniu, które uruchamiacie jako pierwsze. Punkt odniesienia ustalamy przed wdrożeniem i wracamy do tych samych liczb później. Sama infrastruktura nie daje efektu; daje go rozwiązanie, które na niej pracuje.

Przebieg

Jak dochodzimy do rozwiązania

1

Audyt środowiska

Ustalamy, co macie, co ma robić AI, jakie są ograniczenia i jaka jest tolerancja na przerwę. Efektem jest rekomendacja z uzasadnieniem, alternatywą i informacją

2

Projekt i dobór

Architektura środowiska, zapotrzebowanie na moc obliczeniową, zasady połączeń i dostępu, podział odpowiedzialności po obu stronach.

3

Dostawa i uruchomienie

Zakup i dostawa sprzętu, przygotowanie miejsca, uruchomienie środowiska, podłączenie źródeł i systemów, doprowadzenie do gotowości produkcyjnej.

4

Przekazanie i utrzymanie

Dokumentacja, wprowadzenie Waszego zespołu, obsługa w ustalonym układzie i rozbudowa w miarę potrzeb.

1 z 1

Podział ról

Razem z GOTOMA Software House

Środowisko samo w sobie nie rozwiązuje problemu biznesowego. Rozwiązuje go to, co na nim pracuje, dlatego w Grupie Technologicznej GOTOMA dzielimy się rolami zamiast prowadzić dwie osobne oferty. Dla Was to jeden projekt, jeden zespół prowadzący i jeden punkt kontaktu.

Kiedy wystarczy sam Software House? Jeśli macie już środowisko, na którym rozwiązanie może działaći i potrzebujecie wyłącznie uruchomić je u siebie. Wchodzimy wtedy, gdy środowisko trzeba zaprojektować, rozbudować albo zbudować od podstaw.

  • GOTOMA Software House

    Buduje rozwiązanie: asystenta, pracę z dokumentami, automatyzację procesu, integracje z systemami.

    Zobacz więcej ›

  • GOTOMA GENERAL

    Odpowiada za środowisko, w którym to rozwiązanie pracuje: projekt, sprzęt, uruchomienie, ciągłość działania i utrzymanie.

Zobacz też

1 z 1

Zamów audyt obecnej infrastruktury

Zaczniemy od tego, co macie i co ma na tym pracować. Wyjdziecie z rekomendacją, uzasadnieniem i informacją, czego nie warto robić.

Skontaktuj się