OpenAI, producent popularnego chatbota ChatGPT, zablokował konta użytkowników z Chin i Korei Północnej, które były wykorzystywane do złośliwych celów – w tym do działań związanych z inwigilacją, manipulowaniem opinią publiczną oraz przeprowadzaniem operacji dezinformacyjnych. Jak poinformowała firma w swoim najnowszym raporcie, tego rodzaju nadużycia stanowią sposób, w jaki autorytarne reżimy próbują wykorzystać sztuczną inteligencję przeciwko Stanom Zjednoczonym, a także przeciw własnym obywatelom.
Wśród przykładów nieetycznych działań wymieniono m.in. generowanie fałszywych treści informacyjnych w języku hiszpańskim. Teksty te oczerniały USA, a następnie były publikowane przez znane źródła medialne w Ameryce Łacińskiej, sygnowane przez chińskie podmioty. W innym wykrytym przypadku, cyberprzestępcy – prawdopodobnie powiązani z Koreą Północną – wykorzystywali narzędzia AI od OpenAI do generowania fałszywych życiorysów i profili fikcyjnych osób, które aplikowały do pracy w zachodnich firmach. Ich celem było oszustwo oraz potencjalne szpiegostwo przemysłowe.
Kolejnym niepokojącym zjawiskiem, które ujawniono, były oszustwa finansowe, głównie realizowane z terytorium Kambodży. Tam przestępcy wykorzystywali technologie OpenAI do tłumaczenia oraz tworzenia fałszywych komentarzy publikowanych na platformach społecznościowych, takich jak X (dawniej Twitter) oraz Facebook, by manipulować opinią użytkowników.
Administracja USA nie kryje zaniepokojenia sposobem, w jaki Chiny i inne kraje autorytarne mogą wykorzystywać sztuczną inteligencję do represjonowania własnej ludności, rozpowszechniania fałszywych informacji oraz destabilizowania bezpieczeństwa międzynarodowego.
OpenAI poinformowało, że używa własnych technologii sztucznej inteligencji w celu wykrywania tego rodzaju operacji i reagowania na nie. Firma nie ujawniła jednak, ile dokładnie kont zostało usuniętych ani jak długo trwała cała akcja.
ChatGPT osiągnął tygodniową liczbę aktywnych użytkowników przekraczającą 400 milionów osób, co czyni go najpopularniejszym chatbotem AI na świecie. Obecnie firma prowadzi rozmowy o pozyskaniu inwestycji w wysokości do 40 miliardów dolarów przy wycenie sięgającej 300 miliardów dolarów, co może stanowić rekordową rundę finansowania w sektorze prywatnym
