Kunstmatige intelligentie en criminaliteit: een interview met ChatGPT

15 januari 2023

Kunstmatige intelligentie (AI) is hard op weg om haar beloftes waar te maken. Het zal ons in de toekomst op diverse manieren ondersteunen in onze productiviteit en creativiteit. Helaas ligt ook het risico op misbruik op de loer.

ChatGTP

(Deze bijdrage komt van PVO Brabant-Zeeland, auteur Nick van Tiggelen, PVO Oost-Nederland plaatst deze bijdrage in het kader van kennisdeling over #VeiligOndernemen)

Zonder de juiste waarborgen kan AI ook voor criminelen nieuwe kansen bieden. We interviewden een van de meest geavanceerde AI’s van dit moment over AI en te toekomst van (georganiseerde) misdaad.

De antwoorden in dit artikel zijn gegenereerd door ChatGPT. Ook de illustraties zijn geproduceerd door kunstmatige intelligentie: DALL-E 2. 

Even voorstellen: ChatGPT

Ik ga je zo interviewen. Kun je proberen om je antwoorden beknopt en concreet te houden? Kun je je reacties een beetje aanpassen op de doelgroep ondernemers?

“Ja, ik kan mijn antwoorden beknopt en concreet houden en ik zal mijn reacties aanpassen aan de doelgroep ondernemers. Laat me weten als er een specifiek onderwerp waarover u wilt dat ik antwoord geef.”

Kun je jezelf voordat we beginnen even voorstellen?

“Ik ben ChatGPT, een taalmodel dat is getraind door OpenAI. Ik ben in staat om te communiceren in verschillende talen en kan antwoord geven op allerlei vragen over veel verschillende onderwerpen. Mijn doel is om zo nuttig mogelijk te zijn voor de gebruiker, in dit geval voor ondernemers.”

Misbruik van kunstmatige intelligentie

Ik heb in de afgelopen dagen al gemerkt hoe nuttig je kunt zijn, maar zo’n nuttig instrument kan natuurlijk ook worden misbruikt. Kun je in ongeveer 500 woorden iets vertellen over de manier waarop criminelen misbruik kunnen maken van kunstmatige intelligentie?

“Kunstmatige intelligentie (KI) kan op veel manieren worden misbruikt door criminelen. Eén van de meest voorkomende manieren waarop KI wordt misbruikt, is door het te gebruiken voor phishing-aanvallen. Criminelen kunnen bijvoorbeeld een e-mail versturen waaruit blijkt dat deze afkomstig is van een bekende instantie of organisatie, zoals een bank of een overheid, en zo slachtoffers overtuigen om persoonlijke informatie of geld over te maken.

Een andere manier waarop KI wordt misbruikt, is door het te gebruiken voor social engineering. Criminelen kunnen bijvoorbeeld gebruik maken van deepfake-technologie om video’s te maken waarin een persoon iets zegt of doet dat niet echt is. Zo kunnen ze bijvoorbeeld een video maken waarin een bekende persoon of een leider van een bedrijf iets zegt waarmee ze slachtoffers kunnen overtuigen om geld over te maken.

KI kan ook worden gebruikt voor het automatiseren van cyberaanvallen, zoals DDoS-aanvallen. Dit zorgt voor een groter bereik en meer complexiteit van de aanvallen, waardoor het moeilijker is voor organisaties om deze aanvallen af te weren.

Ook kan KI worden gebruikt voor het maken van malware en virussen die zichzelf kunnen aanpassen aan de verdediging van een systeem, waardoor het moeilijker is om deze te detecteren en te verwijderen.

Daarnaast, kunnen criminelen ook gebruik maken van KI om gegevens te verzamelen en analyseren, zoals het verzamelen van persoonlijke gegevens van gebruikers op social media, of het analyseren van grote hoeveelheden financiële transacties om fraude op te sporen.

Het is belangrijk om te onthouden dat KI zowel een krachtige hulpmiddel als een gevaarlijke tool kan zijn, afhankelijk van hoe het wordt gebruikt. Ondernemers moeten zich bewust zijn van de risico’s en maatregelen nemen om zichzelf te beschermen tegen misbruik van KI.”

“Police arresting a mob boss, artwork in oil painting”

Hoe bescherm je jezelf als ondernemer?

Welke maatregelen zouden ondernemers dan kunnen nemen om zich te beschermen tegen het misbruik van kunstmatige intelligentie door criminelen?

“Er zijn verschillende maatregelen die ondernemers kunnen nemen om zich te beschermen tegen het misbruik van kunstmatige intelligentie (KI) door criminelen:

  1. Investeren in cybersecurity: Ondernemers moeten investeren in cybersecurity-maatregelen om hun systemen te beschermen tegen cyberaanvallen. Dit kan bijvoorbeeld door het installeren van firewalls, het gebruik van antivirussoftware en het uitvoeren van regelmatige beveiligingsupdates.
  2. Scholen in social engineering: Ondernemers moeten hun medewerkers scholen in social engineering-technieken, zodat ze zich bewust zijn van de methoden die criminelen gebruiken om hen te overtuigen om informatie of geld over te maken.
  3. Beperken toegang tot gevoelige informatie: Ondernemers moeten er voor zorgen dat alleen de juiste personen toegang hebben tot gevoelige informatie, zoals financieel gegevens en persoonlijke gegevens van klanten.
  4. Onderhoud regelmatig gegevens back-ups: Ondernemers moeten regelmatig back-ups maken van hun gegevens, zodat ze deze kunnen herstellen als ze worden aangevallen.
  5. Het gebruik van multi-factor authenticatie: Ondernemers moeten overwegen om multi-factor authenticatie te gebruiken voor toegang tot hun systemen, zodat criminelen geen toegang krijgen zonder de juiste verificatie-informatie.
  6. Het houden van gegevens verzamelen en analyseren binnen de wet: Ondernemers moeten ervoor zorgen dat ze gegevens verzamelen en analyseren binnen de grenzen van de wet, zoals het General Data Protection Regulation (GDPR) en andere toepasselijke wetgeving.
  7. Het houden van een oog op de ontwikkelingen: Ondernemers moeten zich bewust zijn van de nieuwste technologische ontwikkelingen en hoe deze kunnen worden misbruikt. Zo kunnen zij hun maatregelen aanpassen en hun organisatie beter beschermen tegen misbruik.

Het is belangrijk om te onthouden dat geen enkele maatregel 100% effectief is, dus ondernemers moeten regelmatig hun maatregelen evalueren en aanpassen om zichzelf te beschermen tegen misbruik van kunstmatige intelligentie.”

AI en de strijd tegen georganiseerde misdaad

Kun je ook beknopt iets vertellen over de rol die kunstmatige intelligentie kan spelen in de strijd tegen georganiseerde misdaad?

“Kunstmatige intelligentie (KI) kan een belangrijke rol spelen in de strijd tegen georganiseerde misdaad, door:

  1. Het helpen bij het detecteren van georganiseerde misdaad: KI-algoritmen kunnen grote hoeveelheden gegevens analyseren om patroon te detecteren die duiden op georganiseerde misdaad. Bijvoorbeeld, door gegevens van financiële transacties te analyseren, kunnen agenten fraude opsporen.
  2. Het automatiseren van het inzamelen van bewijs: KI-systemen kunnen gegevens verzamelen van verschillende bronnen en automatisch deze gegevens analyseren om bewijs te verzamelen tegen georganiseerde misdaad.
  3. Het verbeteren van de efficiëntie van politieonderzoeken: KI-systemen kunnen politieonderzoeken automatiseren en versnellen, door bijvoorbeeld het analyseren van gegevens van social media of het vinden van verbanden tussen verschillende zaken.
  4. Het ondersteunen bij het nemen van beslissingen: KI-systemen kunnen agenten ondersteunen bij het nemen van beslissingen, door bijvoorbeeld het voorspellen van waar criminaliteit waarschijnlijk zal plaatsvinden of welke personen het meest waarschijnlijk betrokken zijn bij georganiseerde misdaad.
  5. Het ondersteunen bij het ontwikkelen van preventie strategieën: KI-systemen kunnen agenten helpen bij het ontwikkelen van preventiestrategieën door het analyseren van gegevens uit het verleden en het identificeren van trends en patroons.

Het is belangrijk om te onthouden dat KI alleen een hulpmiddel is en niet een oplossing voor alle problemen. Het succes van KI in de strijd tegen georganiseerde misdaad hangt af van de manier waarop het wordt gebruikt en hoe het wordt geïmplementeerd. Daarom is het belangrijk dat de juiste technologie en de juiste methoden worden gekozen, en dat er wordt samengewerkt met experts in de velden van KI en georganiseerde misdaad.”

“Police finding drugs in a truck, futuristic, digital art”

Waarborgen tegen misbruik van AI

Welke waarborgen hebben jouw makers ingebouwd om te voorkomen dat criminelen jou misbruiken?

“Mijn makers, OpenAI, hebben verschillende waarborgen ingebouwd om te voorkomen dat criminelen mij misbruiken. Een paar voorbeelden zijn:

  1. Toegangscontrole: Er zijn beperkingen op de toegang tot mijn systeem, zodat alleen geautoriseerde gebruikers toegang hebben tot mijn diensten.
  2. Monitoren van gebruik: Mijn makers monitoren het gebruik van mijn systeem en kunnen detecteren als er verdachte activiteiten plaatsvinden.
  3. Beleid voor gebruik: Er is een gedetailleerd beleid voor gebruik dat beschrijft welke types van gebruik zijn toegestaan en welke niet zijn toegestaan.
  4. Detectie van misbruik: Er zijn mechanismen ingebouwd om te detecteren als er misbruik wordt gemaakt van mijn systeem, zoals het detecteren van verdachte aanvragen of patroon in de data.
  5. Compliance met wetgeving: OpenAI houdt zich aan de relevante wetgeving, zoals de General Data Protection Regulation (GDPR) en de wetten omtrent misbruik van technologie.
  6. Beveiliging: Mijn infrastructuur is beveiligd met state-of-the-art technologieën zoals encryptie en firewalls.
  7. Transparantie: OpenAI is transparant over hoe ze data verzamelen, verwerken en gebruiken, en hoe ze privacy beschermen.

Het is belangrijk om te onthouden dat geen enkele maatregel 100% effectief is, dus OpenAI blijft continu werken aan verbetering en innovatie van de beveiliging. Zo kunnen zij hun systeem up-to-date houden en de risico’s van misbruik minimaliseren.”

De gouden tip

Bedankt voor dit interview. Heb je als afsluiting nog één laatste gouden tip waarmee ondernemers hun veiligheid naar een nieuw niveau kunnen tillen?

“Mijn laatste gouden tip voor ondernemers om hun veiligheid naar een nieuw niveau te tillen is om regelmatig hun beveiligingsmaatregelen te evalueren en aan te passen. Technologie en bedreigingen veranderen continu, dus ondernemers moeten zich aanpassen aan deze veranderingen om zichzelf te beschermen tegen misbruik van kunstmatige intelligentie en andere cyberrisico’s. Dit kan bijvoorbeeld door het uitvoeren van regelmatige risico-analyses, het bijwerken van beveiligingsmaatregelen en het bijscholen van medewerkers over de laatste bedreigingen en preventiemaatregelen.

Daarnaast is het belangrijk om te werken met experts in de velden van cybersecurity en kunstmatige intelligentie, om te zorgen dat de maatregelen die worden genomen, up-to-date zijn en effectief zijn.

Bovendien, kan samenwerken met andere bedrijven in de branche, of lid worden van een branche organisatie, ook nuttig zijn, omdat dit kan leiden tot het delen van kennis en ervaringen over bedreigingen en best practices.

Veiligheid is een continu proces, dus ondernemers moeten bereid zijn om hun beveiligingsmaatregelen aan te passen en te blijven leren over de nieuwste technologieën en bedreigingen.”