Microsoft och OpenAI har stoppat aktiviteten hos fem hotaktörer anslutna till stater som Kina, Iran, Nordkorea och Ryssland, och stängt sina konton associerade med artificiell intelligens (AI)-verktyg som ChatGPT. Dessa teknikverktyg användes för att förbättra deras cyberattackertekniker. Båda teknikföretagen har varnat för att det har skett en ökning av hastigheten, omfattningen och sofistikeringen av cyberattacker på grund av utvecklingen och införandet av AI. Hotaktörer har missbrukat AI för att utföra sina skadliga attacker.
En studie utförd av Microsoft och OpenAI identifierade de främsta framväxande hoten för närvarande ”i AI:s tidsålder”, med cyberattacker som inkluderar missbruk och bedrägerier med Large Language Model (LLM). Studien fokuserade på nyligen identifierad aktivitet associerad med kända hotaktörer. Som ett resultat av deras undersökning avbröt båda företagen konton relaterade till två aktörer anslutna till Kina, en aktör knuten till Iran, en aktör knuten till Nordkorea och en aktör knuten till Ryssland.
Dessa aktörer använde AI-tjänster för att konsultera information med öppen källkod, översätta, hitta kodningsfel och utföra grundläggande kodningsuppgifter. Hotaktörerna har använt AI-teknik för att utföra olika former av skadliga aktiviteter som att skapa innehåll för social ingenjörskonst, nätfiskekampanjer och undersökningar om olika sätt att undvika upptäckt av deras attacker.
Microsoft och OpenAI arbetar för att säkerställa korrekt användning av AI och för att upptäcka och blockera potentiella hotaktörer som de som nämns ovan. OpenAI förespråkar användningen av AI för att stoppa missbruket av denna teknik och har tillkännagett planer på att investera i teknik och utrustning för att identifiera och störa dessa typer av aktiviteter av cyberbrottslingar. Microsoft har indikerat att de omedelbart meddelar tjänsteleverantören i fråga och delar relevant relaterad data om de upptäcker missbruk av AI av en hotaktör.
Båda företagen arbetar för att skapa allt säkrare AI-system över tid och kommer att fortsätta informera användare och intresserade parter om omfattningen av AI-användning i händerna på illvilliga aktörer. Genom att samarbeta med industripartners och intressenter syftar de till att utbyta information om identifierade fall av missbruk av AI av cyberbrottslingar.
