• VR PodcastNOWOŚĆ
  • Reklama
  • Personalizacja
  • Zakładki
  • Historia
  • Twój Brandsit
  • MAGAZYN
  • Newsletter
Brandsit
  • Biznes
  • Pieniądze
  • Branża IT
  • Technologia
  • Eco
  • Work&Life
  • Opinie
Czytasz: 6 zagrożeń związanych z ChatGPT
POWIADOMIENIA Pokaż więcej
Aa
BrandsitBrandsit
  • Twoje zakładki
  • Śledź tematy
  • MAGAZYN
Szukaj
  • Biznes
    • Aktualności biznesowe
    • Biznes plan
    • E-commerce
    • Marketing
    • Rozwój
    • Startup
  • Pieniądze
    • Ekonomia
    • Inwestycje
    • Kryptowaluty
    • NFT
    • Podatki i koszty
    • Praca
  • Branża IT
    • Dystrybucja
    • Kanał partnerski
    • Kariera
    • Programowanie
    • Vendor
  • Technologia
    • Automatyzacja
    • Big Data
    • Blockchain
    • Chmura
    • Cyberbezpieczeństwo
    • IoT
    • Komunikacja
    • Rozwiązania
    • Sztuczna inteligencja
    • VR
  • Eco
    • Czysta energia
    • Pogoda i nauka
    • Pojazdy elektryczne
    • Polityka klimatyczna
    • Zrównoważony rozwój
  • Work&Life
    • Ciekawostki
    • Gaming
    • Miasto
    • Moda
    • Rozrywka
    • W pracy
  • Opinie
  • Narzędzia
    • Rynki
    • Giełda kryptowalut
    • Twoje zakładki
    • Śledzenie tematów
    • Newsletter
Follow US
  • Redakcja
  • Regulamin
  • Polityka prywatności
  • Polityka plików cookies
  • Oświadczenie o prywatności
© 2017-2023 Brands Stream Sp. z o.o. All Rights Reserved.
Sztuczna inteligencja

6 zagrożeń związanych z ChatGPT

Izabela Myszkowska
Opublikowano 2023/05/27 at 12:14 AM
Izabela Myszkowska  - Redaktor Brandsit
Udostępnij
5 min czytania
ChatGPT
Udostępnij

Liderzy ds. prawnych i zgodności powinni zająć się narażeniem swojej organizacji na sześć konkretnych zagrożeń związanych z ChatGPT oraz jakie bariery należy ustanowić, aby zapewnić odpowiedzialne korzystanie z generatywnych narzędzi sztucznej inteligencji w przedsiębiorstwie, według firmy Gartner.

- Reklama -

Sześć rodzajów ryzyka ChatGPT, które liderzy ds. prawnych i zgodności powinni ocenić, obejmują:

Ryzyko 1 – sfabrykowane i niedokładne odpowiedzi

Być może najczęstszym problemem związanym z ChatGPT i innymi narzędziami LLM jest tendencja do dostarczania nieprawidłowych – choć pozornie wiarygodnych – informacji.

Dalsza część publikacji pod materiałem wideo.

„ChatGPT jest również podatny na„ halucynacje ”, w tym sfabrykowane odpowiedzi, które są błędne, oraz nieistniejące cytaty prawne lub naukowe” — powiedział Ron Friedmann , starszy analityk w dziale prawnym i zgodności firmy Gartner „Liderzy ds. prawnych i zgodności powinni wydać wytyczne, które wymagają od pracowników przeglądu wszelkich danych wyjściowych generowanych przez ChatGPT pod kątem dokładności, stosowności i faktycznej użyteczności przed ich zaakceptowaniem”.

Ryzyko 2 – Prywatność i poufność danych

Liderzy ds. prawnych i zgodności powinni mieć świadomość, że wszelkie informacje wprowadzane do ChatGPT, jeśli historia czatów nie jest wyłączona , mogą stać się częścią zestawu danych szkoleniowych.

„Wrażliwe, zastrzeżone lub poufne informacje użyte w monitach mogą zostać włączone do odpowiedzi dla użytkowników spoza przedsiębiorstwa” — powiedział Friedmann. „Prawo i zgodność wymagają ustanowienia ram zgodności dla korzystania z ChatGPT i wyraźnego zakazu wprowadzania poufnych danych organizacyjnych lub osobowych do publicznych narzędzi LLM”.

Ryzyko 3 – stronniczość modelu i danych wyjściowych

Pomimo wysiłków OpenAI zmierzających do zminimalizowania stronniczości i dyskryminacji w ChatGPT, znane przypadki tych problemów już wystąpiły i prawdopodobnie będą się utrzymywać pomimo ciągłych, aktywnych wysiłków OpenAI i innych podmiotów mających na celu zminimalizowanie tego ryzyka .

„Całkowite wyeliminowanie stronniczości jest prawdopodobnie niemożliwe, ale przepisy prawne i zgodność muszą być na bieżąco z przepisami regulującymi stronniczość sztucznej inteligencji i upewnić się, że ich wytyczne są zgodne” – powiedział Friedmann. „Może to obejmować współpracę z ekspertami merytorycznymi w celu zapewnienia wiarygodności danych wyjściowych oraz z funkcjami audytowymi i technologicznymi w celu ustalenia kontroli jakości danych”.

Ryzyko 4 – ryzyko związane z własnością intelektualną (IP) i prawami autorskimi

W szczególności ChatGPT jest szkolony w zakresie dużej ilości danych internetowych, które prawdopodobnie zawierają materiały chronione prawem autorskim. W związku z tym jego wyniki mogą potencjalnie naruszać prawa autorskie lub ochronę własności intelektualnej.

„ChatGPT nie oferuje odniesień do źródeł ani wyjaśnień, w jaki sposób generowane są dane wyjściowe” — powiedział Friedmann. „Liderzy ds. prawnych i zgodności powinni bacznie obserwować wszelkie zmiany w prawie autorskim, które mają zastosowanie do danych wyjściowych ChatGPT i wymagać od użytkowników sprawdzania wszelkich danych wyjściowych, które generują, aby upewnić się, że nie naruszają one praw autorskich ani praw własności intelektualnej”.

Ryzyko 5 – ryzyko oszustwa cybernetycznego

Złe podmioty już teraz nadużywają ChatGPT do generowania fałszywych informacji na dużą skalę (np. fałszywych recenzji). Co więcej, aplikacje korzystające z modeli LLM, w tym ChatGPT, są również podatne na szybką iniekcję, technikę hakerską, w której złośliwe monity przeciwnika są wykorzystywane do nakłaniania modelu do wykonywania zadań, do których nie był przeznaczony, takich jak pisanie kodów złośliwego oprogramowania lub opracowywanie phishingu witryny, które przypominają dobrze znane witryny.

„Liderzy ds. prawnych i zgodności powinni koordynować działania z właścicielami zagrożeń cybernetycznych, aby ustalić, czy i kiedy należy wydać notatki służbowe personelowi zajmującemu się cyberbezpieczeństwem firmy w tej sprawie” — powiedział Friedmann. „Powinni również przeprowadzić audyt źródeł due diligence, aby zweryfikować jakość ich informacji”.

Ryzyko 6 – Zagrożenia związane z ochroną konsumentów

Firmy, które nie ujawnią konsumentom korzystania z ChatGPT (np. w formie chatbota obsługi klienta), ryzykują utratę zaufania klientów i oskarżenie o nieuczciwe praktyki na mocy różnych przepisów. Na przykład kalifornijskie prawo dotyczące chatbotów wymaga, aby w niektórych interakcjach z konsumentami organizacje musiały jasno i wyraźnie ujawniać, że konsument komunikuje się z botem.

„Liderzy ds. prawnych i zgodności muszą zapewnić, że wykorzystanie ChatGPT w ich organizacji jest zgodne ze wszystkimi odpowiednimi regulacjami i prawami, a klientom zostały przekazane odpowiednie informacje” — powiedział Friedmann.

Zobacz również

Jak douczyć i dopasować ChatGPT do swoich potrzeb?

CEO OpenAI szantażuje UE? Regulacje sztucznej inteligencji budzą kontrowersje

Rewolucja w Cyberbezpieczeństwie – Jak Sztuczna Inteligencja Zmienia Reguły Gry

Zarabianie z AI – nowy wymiar finansów

Brakuje budżetów na marketing

Źródło Gartner
Skomentuj Skomentuj

Dodaj komentarz Anuluj pisanie odpowiedzi

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Najnowsze

Scanway
Scanway zmierza na NewConnect. Spółka podała szczegóły oferty publicznej
Inwestycje Pieniądze
Kompetencje cyfrowe, praca
Przegląd polskich rozwiązań technologicznych w HR
Startup Biznes
relaks
Kiedy jest najlepszy czas na pracę, ćwiczenia i relaks? Przewodnik po biorytmach dla lepszego zdrowia
Ciekawostki Work&Life
Partnerstwo
Play dąży do dominacji na rynku telekomunikacyjnym. Kolejna akwizycja operatora
Aktualności biznesowe Biznes

Biznes

  • Aktualności biznesowe
  • Biznes plan
  • E-commerce
  • Marketing
  • Rozwój
  • Startup

Pieniądze

  • Ekonomia
  • Inwestycje
  • Kryptowaluty
  • NFT
  • Podatki i koszty
  • Praca

Branża IT

  • Dystrybucja
  • Kanał partnerski
  • Kariera
  • Programowanie
  • Vendor

Technologia

  • Automatyzacja
  • Big Data
  • Blockchain
  • Chmura
  • Cyberbezpieczeństwo
  • IoT
  • Komunikacja
  • Rozwiązania
  • Sztuczna inteligencja
  • VR

Eco

  • Czysta energia
  • Pogoda i nauka
  • Pojazdy elektryczne
  • Polityka klimatyczna
  • Zrównoważony rozwój

Work&Life

  • Ciekawostki
  • Gaming
  • Miasto
  • Moda
  • Rozrywka
  • W pracy

Narzędzia

  • Rynki
  • Giełda kryptowalut
  • Twoje zakładki
  • Śledzenie tematów
  • Newsletter

Social Media

© 2017-2023 Brands Stream Sp. z o.o. All Rights Reserved.
Brandsit
Zarządzaj swoją prywatnością

Żeby zapewnić najlepsze wrażenia, my oraz nasi partnerzy używamy technologii takich jak pliki cookies do przechowywania i/lub uzyskiwania informacji o urządzeniu. Wyrażenie zgody na te technologie pozwoli nam oraz naszym partnerom na przetwarzanie danych osobowych, takich jak zachowanie podczas przeglądania lub unikalny identyfikator ID w tej witrynie. Brak zgody lub jej wycofanie może niekorzystnie wpłynąć na niektóre funkcje.

Kliknij poniżej, aby wyrazić zgodę na powyższe lub dokonać szczegółowych wyborów. Twoje wybory zostaną zastosowane tylko do tej witryny. Możesz zmienić swoje ustawienia w dowolnym momencie, w tym wycofać swoją zgodę, korzystając z przełączników w polityce plików cookie lub klikając przycisk zarządzaj zgodą u dołu ekranu.

Funkcjonalne Zawsze aktywne
Przechowywanie lub dostęp do danych technicznych jest ściśle konieczny do uzasadnionego celu umożliwienia korzystania z konkretnej usługi wyraźnie żądanej przez subskrybenta lub użytkownika, lub wyłącznie w celu przeprowadzenia transmisji komunikatu przez sieć łączności elektronicznej.
Preferencje
Przechowywanie lub dostęp techniczny jest niezbędny do uzasadnionego celu przechowywania preferencji, o które nie prosi subskrybent lub użytkownik.
Statystyka
Przechowywanie techniczne lub dostęp, który jest używany wyłącznie do celów statystycznych. Przechowywanie techniczne lub dostęp, który jest używany wyłącznie do anonimowych celów statystycznych. Bez wezwania do sądu, dobrowolnego podporządkowania się dostawcy usług internetowych lub dodatkowych zapisów od strony trzeciej, informacje przechowywane lub pobierane wyłącznie w tym celu zwykle nie mogą być wykorzystywane do identyfikacji użytkownika.
Marketing
Przechowywanie lub dostęp techniczny jest wymagany do tworzenia profili użytkowników w celu wysyłania reklam lub śledzenia użytkownika na stronie internetowej lub na kilku stronach internetowych w podobnych celach marketingowych.
Statystyka

Marketing

Funkcje
Zawsze aktywne

Zawsze aktywne
Zarządzaj opcjami Zarządzaj serwisami Zarządzaj dostawcami Przeczytaj więcej o tych celach
Zarządzaj opcjami
{title} {title} {title}
adbanner
Wykryto AdBlock
Nasza strona jest stroną wspieraną przez reklamy. Proszę o białą listę, aby wesprzeć naszą stronę.
Okay, I'll Whitelist
Welcome Back!

Sign in to your account

Lost your password?
X