Bezpieczeństwo i kontrola asystenta AIKażde działanie asystenta przechodzi przez uprawnienia sprawdzane na serwerze.
Model AI proponuje, co zrobić. O tym, czy wolno to zrobić, decyduje kod po stronie serwera. Opisujemy, jak to działa i co jeszcze trzeba sprawdzić przed produkcją.
Model proponuje. System egzekwuje.
Instrukcja dla AI nie może być jedynym ograniczeniem dostępu. Zakres narzędzi, zatwierdzenie operacji i uprawnienia firmy muszą być kontrolowane po stronie serwera.
Projekt ustawień jest oddzielony od aktywnej wersji asystenta. Publikacja powinna wymagać walidacji, a historia wersji umożliwiać sprawdzenie, jakie zasady obowiązywały podczas rozmowy.
Dane firmy mają własną granicę.
Sesja identyfikuje przestrzeń firmy. Historia, wiedza i ustawienia mają być dostępne tylko w jej zakresie. Klucze dostawców nie powinny trafiać do odpowiedzi API ani kodu przeglądarki.
Przed produkcją wymagane są testy izolacji firm, kontroli dostępu, wygasania sesji i odtwarzania danych z kopii. Dostępność tych zabezpieczeń trzeba potwierdzić dla konkretnego wdrożenia.
Mniej danych. Jasny cel.
Nagrywanie rozmów wymaga odrębnej decyzji i właściwej informacji dla rozmówcy. Czas przechowywania, uprawnienia i sposób usuwania muszą wynikać z rzeczywistego procesu firmy.
Nie wprowadzaj danych wrażliwych do lokalnego demo. Medycyna i płatności przez telefon nie są domyślnym zakresem tej wersji.
Gotowość sprawdzamy w docelowej ścieżce.
Test tekstowy nie potwierdza działania głosu. Test głosu w przeglądarce nie potwierdza połączenia przez operatora. Przed pilotażem trzeba sprawdzić rozmowę, transfer, awarię, koszty i zapis w systemie źródłowym.
Jak przygotować test