Zapewnij bezpieczeństwo dzięki sztucznej inteligencji – ChatGPT w Zscaler

ChatGPT i inna generatywna sztuczna inteligencja są najważniejsze dla wielu klientów z branży finansowej, produkcyjnej, usług IT i innych branż. Oto najważniejsze pytania, jakie są zadawane:

• Jakie mechanizmy kontroli zapewnia Zscaler w celu blokowania ChatGPT?
• Jak mogę bezpiecznie włączyć ChatGPT dla moich pracowników, zamiast całkowicie go blokować?
• Co robią inne organizacje, aby kontrolować sposób, w jaki ich pracownicy korzystają z ChatGPT i generatywnej sztucznej inteligencji?
• Jak zapobiec wyciekom danych z ChatGPT i uniknąć sytuacji, w której niedawno znalazł się Samsung?
• Co robi Zscaler, aby wykorzystać pozytywne przypadki użycia narzędzi AI/ML, takich jak ChatGPT?

Wykorzystanie ChatGPT nabrało tempa w przestrzeni konsumenckiej i korporacyjnej w ciągu ostatnich sześciu miesięcy, ale inne narzędzia AI, takie jak Copymatic, AI21 itp. również zyskują na popularności.

Zachowanie równowagi dzięki inteligentnej kontroli dostępu

Zscaler zidentyfikował setki takich narzędzi i witryn, w tym OpenAI ChatGPT, i stworzył kategorię o nazwie “Aplikacje AI i ML”, za pośrednictwem której klienci mogą podejmować działania w odniesieniu do szerokiej gamy generatywnych narzędzi AI i ML, w tym:

• Blokowanie dostępu
• Dostęp ograniczony
• Izolowanie dostępu (dostęp jest przyznawany tylko poprzez izolację przeglądarki, ale żadne dane wyjściowe z takich narzędzi nie mogą być pobierane, aby zapobiec kwestiom związanym z prawami własności intelektualnej / prawami autorskimi).

Szczegółowa kontrola DLP w ChatGPT

Ponieważ ChatGPT jest najpopularniejszą aplikacją AI, stworzona została wstępnie zdefiniowana aplikacja ChatGPT Cloud, aby zapewnić bardziej prewencyjną kontrolę nad nią. W przypadku wielu organizacji, które nie chcą blokować dostępu do ChatGPT, ale martwią się o wyciek danych i obawiają się rezygnacji z praw własności intelektualnej do treści przesyłanych do ChatGPT, mogą również włączyć kontrolę DLP.
Klienci mogą również skonfigurować rygorystyczne zasady ochrony danych przy użyciu zasad Zscaler DLP. Ponieważ OpenAI jest dostępny przez HTTPS, wbudowane deszyfrowanie SSL firmy Zscaler zapewnia pełną widoczność treści/zapytań, które użytkownicy publikują na stronie ChatGPT oraz pobranych treści.

Wgląd w wykorzystanie ChatGPT i zapytania

Pewnie wiele firm zada pytanie czy: “Jest możliwość zobaczenia jakie zapytania pracownicy publikowali w ChatGPT, niezależnie od tego, czy DLP je uruchamia, czy nie?”. Zscaler pozwala na to dzięki zintegrowanemu odbiornikowi incydentów z politykami DLP firmy Zscaler.

Dzięki skonfigurowaniu reguł DLP w polityce ochrony danych możemy przechwycić każde żądanie HTTP POST wykonane do aplikacji ChatGPT większe niż 0 bajtów i wysłać je do Zscaler Incident Receiver, który z kolei może wysłać każdy przechwycony POST do ChatGPT do narzędzia do zarządzania incydentami w przedsiębiorstwie lub skrzynki pocztowej audytora.

Ta funkcja zapewnia zabezpieczenie i pozwala organizacji bezpiecznie włączyć ChatGPT w swoim środowisku dla pracowników.

Cyberbezpieczeństwo związane z ChatGPT

Chociaż ChatGPT i wiele podobnych narzędzi zostało zbudowanych w celu zapobiegania nadużyciom i tworzenia złośliwego kodu na ich platformie, mogą one zostać oszukane w celu wygenerowania kodu do etycznego hakowania lub testów penetracyjnych, a następnie ten kod może zostać zmodyfikowany w celu stworzenia złośliwego oprogramowania. Publicznie znane przykłady takiego złośliwego oprogramowania mogą jeszcze nie istnieć.
Ponadto wiele produktów zabezpieczających pocztę e-mail wykorzystuje techniki przetwarzania NLP do określania ataków phishingowych lub socjotechnicznych. ChatGPT może pomóc w pisaniu doskonałych angielskich wiadomości e-mail i unikaniu błędów ortograficznych lub gramatycznych, co utrudnia takie kontrole, aby nie były zbyt skuteczne.

A co dalej?

Przyjęcie ChatGPT i generatywnej sztucznej inteligencji zmierza do głównego nurtu i istnieje prawdopodobieństwo, że wkrótce pojawi się “wersja korporacyjna”, która pozwoli organizacjom rozszerzyć istniejące kontrole bezpieczeństwa cybernetycznego i danych, takie jak CASB, skanowanie danych w spoczynku, SSPM itp.

W Zscaler od kilku lat wykorzystywana jest moc sztucznej inteligencji i uczenia maszynowego na całej platformie do rozwiązywania trudnych problemów, od cyberbezpieczeństwa po AIOps. Możliwości uczenia maszynowego klasyfikują nowo odkryte strony internetowe, wykrywają phishing i botnety, wychwytują entropię w ruchu DNS w celu wykrycia złośliwego DNS, a nawet pomagają zautomatyzować analizę przyczyn źródłowych w celu bardziej proaktywnego rozwiązywania problemów z doświadczeniem użytkownika.

Zobacz także:

Zobacz webinar:

Jak łatwo i tanio zrobić nowoczesne Data Center połączone z chmurą Azure. Technologia hiperkonwergencji z zastosowaniem Microsoft Azure Stack HCI oraz rozwiązaniami Lenovo.