Cybercriminelen zijn zoals altijd alert op de laatste trends en verspreiden kwaadaardige tools die zich voordoen als ChatGPT, Midjourney en andere generatieve AI-assistenten.
Generatieve AI (GenAI) maakt wereldwijd grote indruk. De populariteit en grootschalige toepassing heeft ondertussen ook de aandacht van cybercriminelen getrokken, wat leidt tot verschillende cyberdreigingen. Veel discussies over de dreigingen van tools zoals ChatGPT richten zich op hoe de technologie kan worden misbruikt om overtuigende phishing berichten te maken, kwaadaardige code te produceren of kwetsbaarheden te onderzoeken.
Minder mensen praten echter over het gebruik van AI als verleiding en Trojaans paard om malware te verbergen. Voorbeelden van deze dreiging zijn niet moeilijk te vinden. Vorig jaar schreven we bijvoorbeeld over een campagne die Facebook-gebruikers aanspoorde om de nieuwste versie van Google’s legitieme AI-tool “Bard” te proberen; in plaats daarvan dienden de advertenties een kwaadaardige nep-tool.
Dergelijke campagnes zijn voorbeelden van een zorgwekkende trend, en ze verdwijnen helaas niet. Het is daarom belangrijk om te begrijpen hoe ze werken, de waarschuwingssignalen te herkennen en voorzorgsmaatregelen te nemen zodat je identiteit en financiën niet in gevaar komen.
Hoe gebruiken kwaadwillenden AI als verleidingsmiddel?
Cybercriminelen hebben verschillende manieren om je te misleiden om malware te installeren die vermomd is als AI-apps. Deze omvatten:
Phishing-websites
In de tweede helft van 2023 blokkeerde ESET meer dan 650.000 pogingen om toegang te krijgen tot kwaadaardige domeinen met “chapgpt” of vergelijkbare tekst. Slachtoffers komen daar waarschijnlijk terecht na het klikken op een link op sociale media of via een e-mail/mobiel bericht. Sommige van deze phishingpagina's bevatten mogelijk links om malware te installeren die vermomd is als AI-software.
Webbrowserextensies
Het Threat Report H1 2024 van ESET benoemd ook een campagne waarbij men verleid wordt een kwaadaardige browserextensie te installeren nadat ze door Facebook-advertenties werden gelokt die hen naar de officiële website van OpenAI’s Sora of Google’s Gemini zouden brengen. Hoewel de extensie zich voordoet als Google Translate, is het eigenlijk een infostealer genaamd “Rilide Stealer V4”, die is ontworpen om de Facebook-gegevens van gebruikers te stelen.
Rilide Stealer masquerading as a Chrome browser extension (bron: ESET Threat Report H1 2024)
Nep-apps
Er zijn ook verschillende meldingen geweest van nep-AI-apps die vooral in mobiele app-stores zijn geplaatst, waarbij veel van deze apps malware bevatten. Sommige zijn bijvoorbeeld ontworpen om gevoelige informatie van het apparaat van de gebruiker te stelen. Dit kunnen inloggegevens, persoonlijke identificatiegegevens, financiële informatie of andere gevoelige gegevens zijn.
This fake ChatGPT web app sends OpenAI API keys to its own server (bron: ESET Threat Report H2 2023)
Kwaadaardige advertenties
Kwaadwillenden maken gebruik van de populariteit van AI-tools om gebruikers te misleiden door op kwaadaardige advertenties te klikken. Vooral kwaadaardige Facebook-advertenties zijn veelvoorkomend. Meta waarschuwde vorig jaar dat veel van deze campagnes zijn ontworpen om “bedrijven met toegang tot advertentieaccounts over het internet” te compromitteren.
Splash screen shown by Vidar infostealer installer and impersonating Midjourney (bron: ESET Threat Report H1 2024)
De kunst van het verleiden
Mensen zijn sociale wezens. We willen graag geloven in de verhalen die ons worden verteld. We zijn ook hebzuchtig. We willen de nieuwste gadgets en apps in handen krijgen. Kwaadwillenden maken gebruik van onze hebzucht, onze angst om iets te missen, onze goedgelovigheid en onze nieuwsgierigheid om ons te verleiden om op kwaadaardige links te klikken of apps te downloaden met malware erin verborgen.
Maar om ons die installatieknop te laten indrukken, moet het aanbod behoorlijk aantrekkelijk zijn en - zoals alle beste leugens - moet het gebaseerd zijn op een kern van waarheid. Sociale ingenieurs zijn bijzonder goed in het beheersen van deze slimme technieken - ons overtuigen om te klikken op gewaagde nieuwsverhalen over beroemdheden of actuele gebeurtenissen (herinner je je die verhalen over nep-COVID-19-vaccins?). Soms bieden ze ons iets gratis aan, met een ongelooflijke korting, of voordat iemand anders het krijgt.
Zoals we hier uitlegden, trappen we in deze trucs omdat:
- We haast hebben, vooral als we de inhoud op ons mobiele apparaat bekijken
- Ze goede verhalenvertellers zijn en ze worden steeds vloeiender, gebruikmakend van (ironisch genoeg) AI om hun verhalen naadloos in meerdere talen te vertellen
- We ervan houden om iets voor niets te krijgen, zelfs als het te mooi is om waar te zijn
- De kwaadwillende goed zijn in het delen van kennis over wat wel en niet werkt, terwijl wij minder goed zijn in het zoeken naar of aannemen van advies
- We geprogrammeerd zijn om autoriteit te respecteren, of in ieder geval de legitimiteit van een aanbod, zolang het “officieel” is gebrandmerkt.
Als het gaat om AI worden malwareverspreiders steeds verfijnder. Ze gebruiken meerdere kanalen om hun leugens te verspreiden. En ze vermommen malware als alles van ChatGPT en video-creator Sora AI, tot beeldgenerator Midjourney, DALL-E en foto-editor Evoto. Veel van de versies die ze aanprijzen zijn nog niet beschikbaar, wat het slachtoffer aantrekt: “ChatGPT 5” of “DALL-E 3” bijvoorbeeld.
Ze zorgen ervoor dat malware onder de radar blijft door hun payloads regelmatig aan te passen om detectie door beveiligingstools te vermijden. En ze besteden veel tijd en moeite om ervoor te zorgen dat hun lokmiddelen (zoals Facebook-advertenties) er professioneel uitzien. Als het er niet officieel uitziet, wie gaat het dan downloaden?
Wat kan er op het spel staan?
Dus wat is het ergste dat kan gebeuren? Als je klikt om een nep-AI-app op je mobiel of een website te downloaden en het installeert malware, wat is dan het einddoel voor de kwaadwillende? In veel gevallen is het een infostealer. Deze stukken malware zijn ontworpen om gevoelige informatie te stelen, zoals de naam al suggereert. Dit kunnen inloggegevens voor je online accounts zijn, maar ook zakelijke inloggegevens, opgeslagen creditcards, sessiecookies (om 2FA te omzeilen), activa opgeslagen in cryptowallets, datastromen van instant messaging-apps en nog veel meer.
Het gaat natuurlijk niet alleen om infostealer-malware. Cybercriminelen kunnen in theorie elk type malware verbergen in apps en kwaadaardige links, inclusief ransomware en remote access Trojans (RATs). Voor het slachtoffer kan dit leiden tot:
- Een hacker die volledige controle op afstand over je pc/mobiele telefoon en alles wat erop is opgeslagen verkrijgt. Ze kunnen toegang gebruiken om je meest gevoelige persoonlijke- en financiële informatie te stelen, of je machine om te toveren tot een “zombie”-computer om aanvallen op anderen uit te voeren. In dat geval maakt je computer deel uit van een botnet.
- Ze kunnen je persoonlijke informatie gebruiken voor identiteitsfraude, wat buitengewoon impactvol en stressvol kan zijn, om nog maar te zwijgen van de kosten voor het slachtoffer
- Ze kunnen financiële en identiteitsgegevens gebruiken om nieuwe leningen op jouw naam te verkrijgen, of om crypto-activa te stelen en bankrekeningen leeg te halen.
- Ze kunnen zelfs je werkgegevens gebruiken om een aanval op je werkgever of een partner/leveranciersorganisatie te lanceren. Een recente digitale afpersingscampagne die infostealer-malware gebruikte om toegang te krijgen tot Snowflake-accounts leidde tot de compromittering van tientallen miljoenen klantgegevens
Hoe vermijd je kwaadaardige AI-lokmiddelen?
Enkele beproefde best practices kunnen je helpen om AI-dreigingen te ontlopen en jouw gegevens veiliger te houden. Overweeg het volgende:
Installeer alleen apps uit officiële app-stores
Google Play en de Apple App Store hebben strenge beoordelingsprocessen en regelmatige monitoring om kwaadaardige apps eruit te filteren. Vermijd het downloaden van apps van websites van derden of onofficiële bronnen, omdat deze veel vaker kwaadaardige software bevatten.
Controleer de ontwikkelaars achter apps en eventuele recensies van hun software
Voordat je een app downloadt, verifieer de referenties van de ontwikkelaar en kijk naar andere apps die ze hebben ontwikkeld en lees gebruikersrecensies. Verdachte apps hebben vaak slecht geschreven beschrijvingen, beperkte ontwikkelaarsgeschiedenis en negatieve feedback die problemen benadrukt.
Wees voorzichtig met het klikken op digitale advertenties
Digitale advertenties, vooral op sociale mediaplatforms zoals Facebook, kunnen een veelgebruikte manier zijn voor het verspreiden van kwaadaardige apps. In plaats van op advertenties te klikken, kan je beter direct naar de app of tool zoeken in de officiële app-store van jouw apparaat om ervoor te zorgen dat je de legitieme versie krijgt.
Controleer webbrowserextensies voordat je ze installeert
Webbrowserextensies kunnen je webervaring verbeteren, maar kunnen ook veiligheidsrisico's opleveren. Controleer de achtergrond van de ontwikkelaar en lees recensies voordat je extensies installeert. Blijf bij bekende ontwikkelaars en extensies met hoge beoordelingen en veel gebruikersfeedback.
Gebruik uitgebreide beveiligingssoftware van een gerenommeerde leverancier
Zorg ervoor dat je krachtige beveiligingssoftware van een gerenommeerde leverancier op je pc en alle mobiele apparaten hebt geïnstalleerd. Dit biedt realtime bescherming tegen malware, phishing pogingen en andere online dreigingen.
Wees je bewust van phishing
Phishing blijft een voortdurende dreiging. Wees voorzichtig met ongevraagde berichten die je vragen om op links te klikken of bijlagen te openen. Verifieer de identiteit van de afzender voordat je interactie hebt met een e-mail, tekstbericht of sociaal mediabericht dat verdacht lijkt.
Schakel 2FA in voor al je online accounts
2FA voegt een extra beveiligingslaag toe aan je online accounts door meerdere verificatiemethoden te vereisen. Schakel 2FA waar mogelijk in om je accounts te beschermen, zelfs als je wachtwoord is gecompromitteerd.
Wees waakzaam
Zoals hierboven getoond, kunnen cybercriminelen de opwinding rond nieuwe releases niet weerstaan. Als je een aanbod ziet om een nieuwe versie van een AI-tool te downloaden, verifieer dan de beschikbaarheid via officiële kanalen voordat je verdergaat. Controleer de officiële website of vertrouwde nieuwsbronnen om de release te bevestigen.
AI verandert de wereld om ons heen in een snel tempo. Zorg ervoor dat het de jouwe niet ten slechte verandert.