OpenAI lukker ChatGPT-konti knyttet til russiske og kinesiske cyberoperationer
OpenAI har for nylig lukket en række ChatGPT-konti, der blev brugt af russiske og kinesiske cyberaktører til en bred vifte af skadelige aktiviteter. Ifølge Security Affairs har disse aktører anvendt AI til at udvikle malware, automatisere desinformationskampagner og indsamle information om amerikansk satellitkommunikation.
Rapporten fremhæver, hvordan russiske trusselsaktører, kendt som ScopeCreep, har brugt ChatGPT til at udvikle Windows-malware og etablere en skjult kommandokontrol-infrastruktur. Gruppen har udvist avanceret operationel sikkerhed ved at bruge midlertidige konti til små kodeændringer, hvilket har gjort det vanskeligt at spore deres aktiviteter.
OpenAI’s reaktion og samarbejde med industripartnere har så ført til lukningen af disse konti og fjernelsen af skadelige kode-repositorier, hvilket angiveligt har begrænset den potentielle skade.
Russisk desinformation rettet mod Tyskland
Ud over malwareudvikling har OpenAI også identificeret russiske aktører, der har brugt ChatGPT til politisk påvirkning. Den russiske operation Helgoland Bite har fokuseret på at sprede NATO-kritisk indhold på sociale medier, især rettet mod det tyske valg tidligere i år.
Aktørerne har efter det oplyste brugt AI til at generere tysk-sprogede opslag, der kritiserer USA og NATO. Indholdet er blevet distribueret via Telegram og X og har støttet det højreorienterede parti AfD. Kampagnen har haft en vis rækkevidde med over 27.000 følgere på X.
Kinesisk manipulation af sociale medier
Også kinerserne har været på banen med AI. Her har operationen Sneer Review anvendt AI til masseproduktion af politiske indlæg på TikTok, X, Reddit og Facebook. Disse indlæg har ofte omhandlet Taiwan, USAID og aktivisten Mahrang Baloch og har benyttet falsk engagement for at simulere popularitet.
Kinesiske aktører har brugt ChatGPT til at generere indhold på flere sprog, herunder kinesisk, engelsk og urdu, hvilket har gjort det muligt at henvende sig til forskellige befolkningsgrupper. OpenAI vurderer ifølge Security Affairs, at operationen stadig er i sin tidlige fase, og at rækkevidden indtil videre har været begrænset.