Mensen proberen al om ChatGPT malware te laten schrijven

De ChatGPT AI-chatbot heeft in korte tijd veel opwinding gecreëerd en het lijkt er nu op dat sommigen het hebben ingeschakeld om te helpen bij het genereren van schadelijke code.

ChatGPT is een tool voor natuurlijke taalverwerking, aangedreven door AI, die op een mensachtige manier met gebruikers kan communiceren. Het kan onder andere worden gebruikt om taken zoals het schrijven van e-mails, essays en code te vereenvoudigen.

Ook: Wat is ChatGPT en waarom is het belangrijk? Wat u moet weten

De chatbot-tool werd in november uitgebracht door het OpenAI-laboratorium voor kunstmatige intelligentie en heeft veel belangstelling en discussie opgewekt over hoe AI zich ontwikkelt en hoe het in de toekomst gebruikt zou kunnen worden. Klik hier voor meer informatie.

Maar net als elk ander hulpmiddel kan het in verkeerde handen worden gebruikt voor kwaadaardige doeleinden; en cybersecurity onderzoekers van Check Point zeggen dat de gebruikers van ondergrondse hackergemeenschappen al experimenteren met hoe ChatGPT kan worden gebruikt om cyberaanvallen te vergemakkelijken en kwaadaardige operaties te ondersteunen.

"Bedreigingsactoren met zeer weinig technische kennis - tot nul technische kennis - kunnen in staat zijn kwaadaardige tools te creëren. Dit kan ook de dagelijkse activiteiten van geavanceerde cybercriminelen veel efficiënter en gemakkelijker maken - zoals het creëren van verschillende delen van de infectieketen", vertelde Sergey Shykevich, manager van de threat intelligence group bij Check Point aan ZDNet.

De algemene voorwaarden van OpenAI verbieden specifiek de generatie van malware, wat wordt gedefinieerd als "inhoud die probeert ransomware, keyloggers, virussen of andere software te genereren die bedoeld is om enige vorm van schade te veroorzaken". Het verbiedt ook pogingen om spam te creëren, evenals gebruikssituaties gericht op cybercriminaliteit.

Desalniettemin suggereert de analyse van activiteit op verschillende grote ondergrondse hackfora dat cybercriminelen al ChatGPT gebruiken om kwaadwillende middelen te ontwikkelen - en in sommige gevallen stelt het zelfs cybercriminelen zonder ontwikkelings- of coderingsvaardigheden in staat om malware te creëren.

Ook: De angstaanjagende toekomst van het internet: Hoe de technologie van morgen nog grotere cybersecurity bedreigingen zal vormen

In één forumthread, die eind december verscheen, beschreef de poster hoe zij ChatGPT gebruikten om malware-stammen en -technieken te recreëren zoals beschreven in onderzoekpublicaties en beschrijvingen van veelvoorkomende malware.

Hiermee hebben ze in staat om een informatie stelende malware op basis van Python te maken die op zoek is naar veelvoorkomende bestanden, zoals Microsoft Office documenten, PDF's en afbeeldingen, deze kopieert en vervolgens uploadt naar een File Transfer Protocol server.

Dezelfde gebruiker demonstreerde ook hoe ze ChatGPT hadden gebruikt om malware te maken op basis van Java. Door PowerShell te gebruiken, kon deze malware heimelijk andere malware downloaden en uitvoeren op geïnfecteerde systemen.

Onderzoekers merken op dat de forumgebruiker die deze threads maakt, naar alle waarschijnlijkheid "technisch georiënteerd" is en de berichten deelt om cybercriminelen die minder technisch onderlegd zijn te laten zien hoe ze AI-tools voor kwaadaardige doeleinden kunnen gebruiken, inclusief echte voorbeelden van hoe dit kan worden gedaan.

Een gebruiker plaatste een Python-script, waarvan ze zeiden dat het het eerste script was dat ze ooit hadden gemaakt. Na overleg met een andere forumgebruiker, zeiden ze dat ChatGPT hen geholpen heeft om het te maken.

Analyse van het script suggereert dat het is ontworpen om bestanden te versleutelen en decoderen. Met wat werk kan het worden omgezet in ransomware, wat mogelijk kan leiden tot de ontwikkeling en verspreiding van afpersingscampagnes door cybercriminelen van laag niveau.

"Uiteraard kan al de vooraf genoemde code op een onschuldige manier gebruikt worden. Maar dit script kan ook gemakkelijk aangepast worden om iemand zijn computer volledig te versleutelen zonder de noodzaak van gebruikersinteractie. Het script kan bijvoorbeeld mogelijk omgevormd worden tot ransomware als de problemen met de script- en syntax opgelost worden", aldus Check Point.

"Het zal wat verbeteringen in de code en syntax vereisen, maar conceptueel gezien zou deze tool, eenmaal operationeel, vergelijkbare acties kunnen uitvoeren als ransomware," zei Shykevich.

Ook: Cybersecurity: Dit zijn de nieuwe dingen om je zorgen over te maken in 2023

Het is niet alleen de ontwikkeling van malware waar cybercriminelen mee experimenteren op ChatGPT. Op oudejaarsavond plaatste een lid van een ondergronds forum een thread waarin werd gedemonstreerd hoe de tool was gebruikt om scripts te maken die een geautomatiseerde dark web marktplaats konden bedienen voor de verkoop en aankoop van gestolen accountgegevens, creditcardinformatie, malware en meer.

De cybercrimineel pronkte zelfs met een stukje code dat werd gegenereerd met behulp van een API van derden om actuele prijzen te krijgen voor Monero, Bitcoin en Ethereum cryptocurrencies als onderdeel van een betalingssysteem voor een dark web-marktplaats.

Het is moeilijk te zeggen of kwaadaardige cyberactiviteit, gegenereerd met behulp van ChatGPT, actief is in het wild. Zoals Sykevich uitlegt, "vanuit een technisch oogpunt is het extreem moeilijk om te weten of een specifieke malware is geschreven met behulp van ChatGPT of niet".

Maar naarmate de interesse in ChatGPT en andere AI-tools groeit, zullen ze de aandacht trekken van cybercriminelen en oplichters die de technologie willen gebruiken om kwaadaardige campagnes met zo min mogelijk kosten en inspanningen uit te voeren. ZDNET heeft contact opgenomen met OpenAI voor een reactie, maar heeft nog geen reactie ontvangen ten tijde van publicatie.