Dane
- Odpowiedzialność
- Jakość źródeł, cykl życia danych, uprawnienia i pochodzenie informacji.
- Ryzyko
- Nieaktualny, niepełny lub nieuprawniony kontekst.
- Mechanizm kontroli
- Uzgodnione zasady dla źródeł, ścieżki usuwania danych i wskazany właściciel.
Usługi / Systemy produkcyjne
RSI Tech projektuje i buduje całą usługę wokół modelu: dane, wyszukiwanie, ewaluację, integrację, kontrolę wydań, monitoring, odtwarzanie działania i przekazanie odpowiedzialności.
Punkt wyjścia
Odpowiedź modelu jest tylko jednym krokiem. Usługa musi pobrać dozwolone dane, podjąć decyzję zgodnie z regułami produktu, obsłużyć błąd zależności i zostawić ślad, na podstawie którego operator może działać.
RSI Tech może wejść do istniejącego zespołu albo przejąć odpowiedzialność za uzgodniony zakres. Architektura nie zakłada jednego dostawcy modelu. Przenośność oceniamy razem z kosztem, opóźnieniem i zakresem funkcji, zamiast obiecywać wymienność bez konsekwencji.
Zakres realizacji
Ustalamy właścicieli źródeł, reguły dostępu, świeżość, retencję i usuwanie danych. System musi odróżniać brak danych od braku uprawnień i zapisać pochodzenie materiału użytego do decyzji.
Dobieramy wyszukiwanie, model i ograniczenia do rzeczywistego zadania. Jakość wyszukiwania mierzymy osobno od jakości odpowiedzi, żeby wiadomo było, czy problem powstał przed wywołaniem modelu, czy w jego wyniku.
Przed zwiększeniem skali definiujemy kryteria sukcesu, reprezentatywne przykłady, progi i zasady przeglądu przez człowieka. Zmiana modelu, promptu lub źródła nie trafia do produkcji, jeśli testy wykazują regresję względem ustalonego progu.
Łączymy usługę z tożsamością, stanem produktu i systemami docelowymi. Interfejsy jasno określają zasady ponawiania operacji, idempotencję, częściowe niepowodzenie i moment przekazania sprawy człowiekowi.
Ustalamy limity czasu, działanie w trybie ograniczonym, bezpieczne przerwanie i procedurę przywrócenia usługi. Awaria dostawcy lub zależności ma przewidywalny skutek widoczny dla użytkownika i operatora.
Obserwujemy jakość, opóźnienia, błędy i zużycie zasobów w granicach ustalonego budżetu. Alert prowadzi do konkretnej czynności, a nie tylko do kolejnego wykresu.
Przekazujemy kod, testy, decyzje architektoniczne, procedury operacyjne i wskazane role. Zespół przejmujący system wie, jak go zmienić, zatrzymać i przywrócić po awarii.
Decyzja techniczna
Interpretacja języka, synteza materiałów, ekstrakcja z różnych dokumentów i generowanie według ustalonych reguł mogą uzasadniać użycie modelu, jeśli ewaluacja dotyczy realnego zadania, a wynik można sprawdzić lub skierować do przeglądu.
Autoryzacja, reguły księgowe, dokładne przejścia stanu i deterministyczne wyszukiwanie należą do klasycznego oprogramowania. Model nie powinien zastępować ograniczenia bazy danych ani być jedynym zapisem decyzji biznesowej.
Dowody techniczne
Ekstrakcja strukturalna, powiązanie odpowiedzi ze źródłami, ewaluacja i przegląd przez człowieka w systemie LLM, w którym błędna decyzja ma istotne skutki.
Zobacz dokumentację technicznąPowtarzalne przygotowanie danych, porównanie modeli i proces ewaluacji, który pomaga ograniczyć ryzyko regresji.
Zobacz dokumentację technicznąWyjaśnialne sygnały, progi dostosowywane przez operatora i metodyka pracy z telemetrią systemów przedsiębiorstwa.
Zobacz dokumentację technicznąGranice współpracy
Zespół ma proces o istotnych skutkach biznesowych, dostęp do reprezentatywnych danych i osobę, która może podejmować decyzje produktowe oraz operacyjne. Potrzebuje mierzalnego zachowania i chce przejąć system po wdrożeniu.
Projekt wymaga zagwarantowanego wyniku modelu, nie ma zgodnej z prawem drogi do potrzebnych danych albo traktuje efektowną demonstrację jako zamiennik ewaluacji, integracji i odpowiedzialności operacyjnej.
Ustalenia