Wie belt jou straks echt?

0:00 Elwin Stel je voor: morgen valt een briefje van een incassobureau op je mat. Er staat een bankrekening op jouw naam. Eentje die je nog nooit hebt geopend.

0:10 Serkan Wacht even, hoe staat die dan op mijn naam? Ik heb daar nooit getekend. Ik ben er nooit binnen geweest.

0:15 Elwin En dat is nou juist het punt. Je hoeft er niet te zijn. Iemand heeft jouw gezicht nagemaakt met AI en de bank geloofde het. En daar gaat het vandaag over. AI-boys, powered by Jelle.

0:29 Serkan Welkom bij AI-boys. Vandaag een Nederlandse rechtszaak waarin iemand met nepgezichten echte bankrekeningen opende bij ABN AMRO. En we eindigen op jouw werkvloer bij een telefoontje van je baas. Dat klinkt als je baas, maar het niet is.

0:45 Elwin En de centrale vraag voor vandaag: een deepfake van jou opent een rekening of belt je collega en jij komt er pas achter als de schade al binnen is. Hoe weet je straks wie jou echt belt? En ja, Serkan, er is gewoon een man geweest in Nederland en die opende allemaal bankrekeningen bij ABN AMRO en hij is daar nooit langsgegaan. Hij had geen vermomming nodig, hij had geen handleiding nodig, hij had helemaal niks. Het enige wat hij nodig had was een AI.

1:14 Serkan Ja, het is toch gek dat de wereld nu zo in elkaar zit. Maar er is dus nu een echte zaak binnengekomen in Nederland van een persoon die dus inderdaad AI heeft gebruikt om nep bankrekeningen eigenlijk te openen. Ja, om gewoon geld eigenlijk wit te wassen. Dus wel een absurde zaak, want je zou denken dat de beveiliging van ABN natuurlijk hartstikke goed is om dit soort, uh, ja, dit soort fraude eigenlijk tegen te gaan.

1:38 Elwin Ja, dat ze een Snapchat-filter wel zouden kunnen voorkomen. Want daar komt het eigenlijk op neer. Heb je een goede Snapchat-filter, dan kan je een bankrekening openen bij ABN AMRO.

1:47 Serkan Ja.

1:47 Elwin Maar kan je misschien, uh, voor de luisteraars die dit nieuwsbericht niet kennen, het heeft wel volop bak op NU.nl gestaan, eens uitleggen wat deze creatieve man heeft gedaan om meer geld te krijgen.

1:57 Serkan Ja, dus eigenlijk, wat hij dus heeft gedaan om, uh, nep bankrekeningen te openen is dus dat hij deepfake heeft gebruikt. Nou, dat bewerkt dus eigenlijk real life of tijm eigenlijk de video's zodat het gezicht anders is dan de persoon die je eigenlijk voor je hebt staan. Dus op die manier kan je allemaal gezichten kan je dus faken. Dus dan kan ik bijvoorbeeld in één keer of jou zijn of ik kan, uh, uh, Donald Trump zijn. En op die manier kan je dus eigenlijk, ja, de omweg omzeilen om alsnog er doorheen te komen, door de identificatie. Want alle banken gebruiken tegenwoordig natuurlijk, ze denken dat het hartstikke goed is. Is het eigenlijk ook, maar ze waren hier niet op voorbereid. Uhm, natuurlijk identi-identificatie op basis van, ja, je mobiel. Dat je dus met de video heen en weer gaat, je gezicht laat zien, foto van je paspoort of ID erin zet en dat wordt dan geverifieerd. Maar hij heeft dus door middel van deepfake, uh, realtime dit soort dingen, ja, gebypassed eigenlijk. Ja.

2:52 Elwin Ja, ze, daar was de bank gewoon niet van uitgegaan dat de deepfake zo goed kon zijn. Want dat doen ze dan toch meestal? Je moet je hoofd dan naar links draaien en je moet dan naar rechts draaien. Je moet drie keer knipperen of zo en dan heb je een bankrekening erbij.

3:02 Serkan Klopt.

3:02 Elwin Alleen, ja, de bank die was er niet van uitgegaan dat er tegenwoordig zulke goede deepfakes zijn. Ja, die knipperen dan allemaal mee en het draait gewoon perfect mee. Ja, dat, uh, hadden ze niet herkend.

3:11 Serkan Nee. En ze zijn hier natuurlijk al jaren mee bezig. Maar ja, vroeger had je daar zulke grote hardware voor nodig om dat te realiseren en nu is het gewoon op basis van AI. Die kan het gewoon rechtstreeks doorvoeren voor je. En het kan gewoon met je eigen laptop. En dat is best wel absurd dat je daar dan nu eigenlijk in zit. En zo zie je altijd weer eigenlijk het verschil waar je in loopt van, uh, jij blijft innoveren en ja, dit soort dingen gaan dan achterlopen.

3:32 Elwin Ja, het is echt zo'n kat-en-muisspel. En ja, ik denk inderdaad dat, ja, de law altijd achter zal lopen op dit onderdeel. Want het is, ja, het gaat zo snel en dan moet er weer, ja, wetgeving ook weer op worden gemaakt hoe ze dat weer kunnen voorkomen. En ja, wetgeving op software maken is natuurlijk gigantisch complex.

3:49 Serkan Ja.

3:49 Elwin Ik verwacht ook niet dat het heel snel, uh, kan. Ja, je kan inderdaad met je laptop, met je telefoon, ja, dan maak je dit gewoon. Heb je een deepfake en dan, en dan maar gaan. Ja, en dan is er iemand, een of andere creatieveling, die heel snel erachter komt van: joh, weet je wat? Volgens mij kan ik zo heel makkelijk bankrekeningetjes openen en gaan met die banaan.

4:04 Serkan Ja, en het is dan ook, ze komen er ook altijd pas achter zodra eigenlijk het paard al geschoten is. Want je komt dan eigenlijk in een situatie terecht van: oh, het is al gebeurd en we zien verdachte dingen voorbijkomen op deze bankrekeningnummer en dan pas gaan ze het checken.

4:16 Elwin Ja.

4:17 Serkan Maar ja, dan ben je eigenlijk al te laat. Ja, natuurlijk is die persoon natuurlijk wel, uh, voor de rechtbank gekomen en krijgt hij nu een celstraf. Maar ja, je wil niet weten hoeveel misschien andere rekeningen hij al heeft geopend of hoe lo-, hoeveel jaren dit misschien zelfs al loopt.

4:30 Elwin Ja, en hoeveel mensen dit allemaal doen.

4:32 Serkan Ja.

4:32 Elwin En dan hebben ze er nu eentje gepakt. Het komt natuurlijk, uh, volop in het nieuws, maar ja, dat is er één van ik denk velen-

4:40 Serkan Ja

4:40 Elwin ...die deze trukendoos, uh, doen.

4:42 Serkan Zeker. En dit soort situaties zag je eigenlijk ook al op andere manieren voorbijkomen, want je hebt ook niet veel nodig om zo'n deepfake te maken. Kijk, tegenwoordig, vroeger had je inderdaad echt veel meer, uh, foto's, video's van de personen nodig om echt een goede deepfake te kunnen maken. Kijk, daarom zag je natuurlijk ook veel dingen van, uh, oh, ik ben deepfake Donald Trump, want daar heb je zoveel informatie van online staan. En nu is het gewoon op basis van één, twee foto's kan je al een deepfake realiseren.

5:07 Elwin Ja.

5:08 Serkan En je zag dus ook al situaties voorbijkomen van mensen een tijdje geleden van, uh, je hebt altijd mensen die dan een nieuw huis kopen en dan zetten ze heel mooi een foto van hun sleutel neer.

5:16 Elwin Ja.

5:17 Serkan Op social media. Nou, wat kunnen mensen dus doen? Dat hebben ze al getest, van: ze kunnen dus een 3D-model maken van je sleutel en dan kunnen ze gewoon letterlijk je huis binnen.

5:26 Elwin Dan 3D-printen ze je sleutel.

5:28 Serkan Juist.

5:28 Elwin Ja, bizar man, als je erover nadenkt.

5:30 Serkan Ja, dus dat is al heel erg dat het mogelijk is. Je moet altijd oppassen wat je doet.

5:33 Elwin Wat je post. Maar je moet echt ook goed nadenken, want ze hebben het, en het is volgens mij al twee jaar geleden, hebben ze het voor elkaar gekregen om in het, uh, de weerspiegeling vanuit de ogen-

5:41 Serkan Ja

5:41 Elwin ...te kunnen namaken wie dan de foto heeft gemaakt.

5:45 Serkan Kijk, dat bijvoorbeeld.

5:46 Elwin Dus als jij denkt van: joh, ik ben gewoon anoniem lekker foto's aan het schieten. Nou, denk maar niet, want ze kunnen gewoon via weerspiegelingen kunnen ze dat allemaal namaken. En ik denk: waar ik altijd een beetje aan moet denken is DNA.

5:56 Serkan Ja.

5:56 Elwin Want vroeger dachten mensen ook met allemaal dingen weg te kunnen komen, want ze zeiden: ja, hoe komen ze erachter dat ik het ben? Zolang ik niet gepakt word en zolang er geen vingerafdrukken zijn, dan is er eigenlijk niks aan de hand. En toen kwam opeens DNA om de hoek zeilen. Ja, en dat heeft natuurlijk echt heel veel cases ook gewoon opengebroken natuurlijk, hè. Er is heel veel cold cases, zoals ze dat noemen, ja, dankzij DNA opgelost. Ja, daar hadden de mensen in de jaren 80 nog helemaal niet over nagedacht dat het kon of daarvoor. En ik denk dat we nu ook in van die situaties terecht gaan komen dat waar wij het nu gewoon over hebben, dat wij over 20 jaar zeggen: zo, dat, dat hadden we echt niet voor, ja, dat hadden we echt niet verwacht dat het kon.

6:30 Serkan Nee, en zelfs nu zie je dat natuurlijk al, waarvan je al denkt van: hoe kan dit?

6:34 Elwin Ja.

6:34 Serkan Zelfs als we er al middenin zitten. Ja, hoe kan het dat het al zover is? Je hebt ook nog, uh, zelfs bijvoorbeeld waarvan je van denkt, uh, vingerafdrukken. Kijk, stel ze hebben een foto van je hand, dan zeggen ze nu ook al dat ze je vingerafdrukken kunnen namaken.

6:47 Elwin Ja.

6:47 Serkan Dus dat je gewoon ook, ja, bijvoorbeeld je scherm kan unlocken met iemands foto van zijn hand.

6:52 Elwin Ja, bizar.

6:53 Serkan Die je dan heb, uh.

6:54 Elwin Of dat ze je telefoon kunnen unlocken gewoon met je, met je gezicht.

6:57 Serkan Met je gezicht. Dat heb je ook al inderdaad.

6:59 Elwin Ja, dus dat is echt, uh, nou, dat is helemaal bizar. Maar ja. Dus, uh, uh, Serkan, uh, de aanvaller, die heeft dus een goedkope schaalbare truc. Maar de vraag is: ja, hoe snel kan dan de verdediging want dat hebben we het nu ook over. Ja, hoe snel kunnen ze die dan, uh, reageren?

7:12 Serkan Ja, Elwin, stel je een MKB-bedrijf voor zonder securityteam. De aanvaller schaalt met AI 1.000 foutloze phishingmails in seconden en aan de andere kant één overwerkte ICT'er en een back-up van vorig jaar.

7:28 Elwin Ik moet er bij back-up van vorig jaar even, even een side step, omdat vroeger had je die, die back-ups echt van die tapes. En ik ben dusdanig oud dat ik dat vroeger heb moeten maken. Dus dan moest je dagelijks, moest je zo'n grote tape erin gooien. Dat, dat kreng was dan 32 gigabyte en dat, uh, duwde je dan in je server en dat moest je dan elke dag moest je dat doen en dan, uh, die nam je dan mee naar huis. Ja, ik, ik weet niet of dat mocht zo naar huis, maar ja, we deden het g-, volgens mij wel, dus, uh.

7:52 Serkan Toen was het inderdaad allemaal wat makkelijker.

7:54 Elwin Maar ik, ik heb wel, ik heb, ik heb wel een kluis thuis, dus in dat opzicht was dat, uh, was dat safe. Maar wat je dan deed, dat waren je back-uptapes. En dan één keer, uh, volgens mij deden wi-, wat wij dan deden was één keer per vier weken of, nee, ik denk, uh, nee, ja, één keer, we, we hadden dan ook wekelijks, dus je had dagelijkse tapes, je had dan wekelijkse tapes en dan kreeg je op een gegeven moment maandelijkse tra-, uh, tapes en dan zo'n kwartaaltape. En dat rouleerde dan de hele tijd zo door. Dus je had dan altijd genoeg back-ups. Dus als er eentje die niet werkte, dan kon je terug naar die vorige dag. Maar je kon ook terug naar de vorige week. En ja, dan om de zoveel tijd, dus als je dan die kwartaalback-up had gemaakt, dan ging je weer die andere week, uh, tapes gebruiken.

8:29 Serkan Oh, perfect.

8:29 Elwin Dus dat ging van week één tot en met dertien. Ja, het klinkt heel erg perfect, maar het was echt wel een ding. Je moest niet vergeten.

8:34 Serkan Nee, ja, toen de tijd.

8:35 Elwin Op vakantie was, ja, dan, uh, moest dat iemand anders dat gaan doen. Maar ja, anyway, dus daar moest ik een beetje aan denken van inderdaad. Maar dat is eigenlijk het scenario waarin je zit. Je hebt gewoon hightech AI en dan zit daar gewoon nog iemand nog grofweg code te schrijven of zo. Help, what's going on? Want ja, het zijn natuurlijk allemaal legacy modellen wat ze hebben en dat is ook wel waarom de experts, uh, de experts, de belluiders, hè, dus die zeggen, die gaan daar dan zitten en dat is clubbing, weet ik veel wie dat allemaal zijn. En die gaan er dan zitten en die zeggen dan van: joh, met AI, let op, dit gaat knetterhard. Maar dat hoef ik mensen denk ik helemaal niet te vertellen, want mensen die krijgen al die robotbelletjes.

9:08 Serkan Ja, dat begint nu al.

9:09 Elwin Mensen die krijgen al de, de spams of de althans de mails die er verdomd goed echt uitzien, toch? Als je nu van die phishingmails krijgt. Vroeger dan was het een of andere, ja, weet ik veel, een of andere, uh, afgezette koning uit, uh, Oezekistan of zo.

9:25 Serkan Klopt, altijd.

9:26 Elwin Die dan € 5 miljoen had, die wel 1 miljoen aan jou kon geven zolang je hem maar jouw bankrekening gaf of wat dan ook. Maar nu, nu zijn het echt gelikte mails en moet je echt heel goed opletten, want zelfs de, de adressen weten ze aardig goed te spoofen.

9:40 Serkan Ja, want dan maken ze altijd weer een side adres die er precies op lijkt, maar net weer een beetje anders, die dan weer beschikbaar is als domeinnaam. En dan heb je ook nog situaties van waarvan letterlijk de officiële domeinnaam verloopt en dat mensen die hebben overgenomen in de tussentijd. Dus dan is het helemaal gevaarlijk, want dan is er haast geen onderscheid meer waarmee je het kan achterhalen. Maar dat is wel waar je nu in terechtkomt. Inderdaad, met een klik op de knop heb je gewoon duizenden phishingmails die je eventjes kan uitsturen. Ja, en hoeft er maar één op de 1.000 te klikken. Ja, en die mensen hebben kassa binnen en dat is nu een beetje waar je in terechtkomt. Ja, hoe ga je dat allemaal tegen kunnen? Hoe let je daar op? Want het wordt alleen maar meer en meer. En zoals je altijd hoort, innovatie is altijd groter dan de security die erachter zit.

10:18 Elwin Ja.

10:18 Serkan En dat geeft best wel, uh, voor wat problemen.

10:21 Elwin Nou ja, we, ik moet een beetje denken van: we zitten tegenwoordig in de AI-wereld en de AI-wereld waar we in leven op dit moment is gewoon emmers aardappel. En het is gewoon je, je pakt een grote hand aardappelpuree, je sodemietert het tegen de muur en er blijft vanzelf wat kleven. En iedereen doet het, ze doen het gewoon bij de Google Keynote, Apple Keynote. Alle keynotes die doen het, maar de criminelen die doen dat ook gewoon. Is gewoon we sturen zo freaking veel mails uit en we ga doe- en we gaan zo snel switchen, want ze switchen dan zo snel van mailadres en het, dat kunnen ze ook allemaal geautomatiseerd laten rouleren et cetera. Zodat ze hele tijd kunnen het blijven doorspammen. Er zitten van gewoon van die spamriggers in Brazilië en zo, hebben ze daar ook wel van die dingen opgezet.

11:01 Serkan Een hele server voor staan.

11:03 Elwin Als je dat daar kijkt dan denk je: wauw. Maar dan gebruiken ze zelfs echt fysieke telefoons die ze dan programmeren zodat ze dan ook bijvoorbeeld je TikTok en zo kunnen, kunnen spoofen en allemaal van dat soort dingen. Dat is echt bizar als je erover nadenkt. En ja, dat is gewoon hoe de criminaliteit nu werkt. Maar dankzij AI kunnen ze dat zo makkelijk doen.

11:20 Serkan Ja.

11:20 Elwin We zijn beland in de wereld van de aardappelpuree.

11:23 Serkan De wereld van aardappelpuree.

11:25 Elwin Iedereen gooit het maar naar elkaar toe en er blijft vanzelf wat kleven. Ja, daardoor is de verdediging gaat daar nooit tegenop kunnen.

11:32 Serkan Nee, en dat is het ook vooral. En j-je ziet het al dat ze al op zoveel manieren eigenlijk verschillende dingen proberen. En ik weet ook niet, een leuk voorbeeld misschien nog van, uh, dat is nog niet helemaal echt een scam, maar jij hebt bijvoorbeeld in China heb je wel eens die Chinese social media farmers gezien.

11:47 Elwin Mhmm.

11:48 Serkan Dat ze echt met, uh, gewoon een hele kamer hebben met echt honderden telefoons die allemaal een beeldscherm aan het opnemen zijn en dat ze live aan het streamen zijn op social media.

11:57 Elwin Ja.

11:57 Serkan En daarmee geld binnenhalen. Dus al die mensen die dan kijken die denken van: oh, ik zit echt naar iemand te kijken die, uh, aan het vangen of wat dan ook is, of nu, uh, van die streetfood, uh, video's aan het maken, uh, zijn. Maar al met al is het gewoon allemaal fake. Je kijkt gewoon letterlijk naar een ander beeldscherm van prerecorded dingen. En dan heb je zo'n persoon die gewoon heel de dag dit loopt op te nemen.

12:18 Elwin Ja.

12:18 Serkan Met honderden camera's. Ja, is echt absurd.

12:20 Elwin Ja, we, we lachen er eigenlijk om, maar het is natuurlijk treurig, want, uh, dit wordt zoveel misbruik gemaakt en dan krijg je dat doomscrollen en zo meteen zitten je kinderen dat soort onzin te kijken en iemand anders verdient daar gewoon heel veel geld mee.

12:31 Serkan Klopt. Het maakt niet meer uit of je nou een groot bedrijf bent of een klein bedrijf. Ze spammen het naar iedereen toe, ook gewoon persoonlijke gebruikers. Uhm, en die lopen eigenlijk nu allemaal gevaar.

12:40 Elwin Ik denk dat je als MKB'er juist meer gevaar loopt, omdat de enterprises, die hebben dat best wel vaak goed afgevangen. Maar juist de, de gemiddelde MKB'er is daar veel minder mee bezig.

12:51 Serkan Dat is ook waar.

12:52 Elwin Met security. Dus ik denk dat, uh, de gemiddelde MKB'er juist een, een groter doelwit is. Want dat zijn, uh, als je natuurlijk één grote enterprise hacken is best wel complex.

13:01 Serkan Ja, en dat is natuurlijk droevig dat het dan daar wel veel voor wordt gebruikt. Maar dat is wel, uh, de situatie waar je, waar je momenteel in terecht komt. Dus, uh, let natuurlijk altijd op met, uh, spam en phishing. En ja, daarbij heb je natuurlijk ook nog een, uh, een hele andere situatie, Elwin.

13:17 Elwin En dat is?

13:18 Serkan En dat is natuurlijk, uh, de aanvaller is sneller en hij mikt op vertrouwen. Maar hoe ziet dat, uh, er op uit op een gewone werkdag op jouw werk? Want.

13:27 Elwin Ja, dat, uh, dat is een goede vraag. Ik onderbreek jou.

13:33 Serkan Kijk, want je hebt dus ook. Ja, kijk, stel je voor je directeur belt. Boos, gehaast, dat deze factuur moet nu de deur uit en zeg het voor de rest tegen niemand. Maar het, het is dan zijn stem, zijn toon, zijn ongeduld. Met één probleem, hij heeft helemaal niet gebeld.

13:51 Elwin Ja. Ja, dat is de realiteit waar je nu in zit. Want je kan een stem kan je gewoon trainen natuurlijk.

13:56 Serkan Ja.

13:56 Elwin Met, uh, 10 seconden, 20 seconden. Ja, wij nemen een hele podcast op, dus iemand kan namens jouw stem ook gewoon bellen als ze dat willen. Dus dat is niet zo heel lastig, maar met 10 seconden komen ze er wel mee. Daarom zeggen ze ook dat ze tegenwoordig je eigen voicemail niet meer moeten inspreken.

14:06 Serkan Nee, want daar kunnen ze het ook weer van afpakken.

14:09 Elwin Daar krijg je ook veel spam calls voor. Volgens mij willen ze dan gewoon horen hoe je voicemail klinkt en dan gaan ze daar weer mee spammen. Ja, daar moet je mee, uh, opletten. Maar ik, dat geldt natuurlijk zeker naar je medewerkers toe, maar het, uh, het, of, of naar je, naar je collega's. Weet je wat een beetje het punt is? Is dat, op werk kan je nog dingen verifiëren. Want als ik jou ga bellen en ik zeg: hé, uh, Serkan, uh, je moet, uh, voor, uh, uh, € 1.000 aan, uh, Apple, uh, bonnen gaan kopen, dan stap je bij me binnen en zeg je: Elwin, ik krijg zo'n gek verzoek van jou, dat heb ik nog nooit gehad. En je kan daarnaast nog een keer via Teams verifiëren. Je kan via mail verifiëren. Dus ik denk dat, dat, ja, bij grote, da-dan zijn het grote corporates waar dat dan weer mee gebeurt. Dat mensen dan misschien denken: ik ken die directeur helemaal niet, maar ik weet wel dat hij zo klinkt en ik ken hem niet goed. Ik durf er niet binnen te stappen. Dan heb je als MKB vaak wel weer wat meer voordeel denk ik, omdat dan sneller bij jou binnen gestapt wordt van: joh, dit is zo'n gek verzoek, dat heb ik echt nog nooit gehad.

15:03 Serkan Ja.

15:04 Elwin Maar ik denk als je het meer naar de consument dan trekt, dat als iemand met jouw stem jouw opa gaat bellen die helemaal, ja, hier niks van weet en niet mee bezig is. Ja, die wordt zo opgelicht, want die denkt: ja, ik spreek Serkan.

15:19 Serkan Ja, dat is wel een gevaar, want je hebt dus al de deepfakes en dit gaat dan al diep op voice.

15:24 Elwin Ja.

15:24 Serkan Want dan heb je gewoon dus deepfake voices die gewoon doen alsof ze jou zijn. En ja, dat kan voor iedereen natuurlijk opgepakt worden van wat je ook aangeeft familie van, o, je opa of oma, uh, die belt dan, uh, namens jou. Ja, dan denken die al gauw van: o, ik moet helpen of ik moet dit doen. Of ze klinkt hartstikke realistisch. Het is gewoon echt de persoon die ik, uh, dan aan de lijn heb bijvoorbeeld. Maar ja, dat weet je helemaal niet. En veel van die mensen weten ook niet dat dit al mogelijk is. Omdat het nu zo nieuw is, denk ik niet dat heel veel mensen hiervan op de hoogte zijn. Dat er dus nu al dit soort scams eigenlijk lopen.

15:57 Elwin Maar dat zie je natuurlijk. Er zijn zoveel bizarre scams van mensen die dan, uh, bellen van: ik ben van de politie en, uh, ik stuur iemand langs en heeft iemand, uh, een of andere polo met politie erop laten drukken en dan roven ze gewoon een heel huis leeg.

16:07 Serkan Ja.

16:08 Elwin Ze lopen gewoon met een doodse binnen en dan zeggen ze: ja, we komen je juwelen beschermen, want er zitten criminelen achter je aan en dan, dan lopen ze weer naar buiten. Ja, het is bizar dat mensen dat doen. Dat is, uh, echt, uh, supertreurig natuurlijk. Maar ja, en dit, dit komt eigenlijk op hetzelfde neer. Maar waar we ons meer zorgen over moeten maken, en dat is wat het nieuwsartikel natuurlijk ook zei van de NOS met de deepfakes. Kijk, als de banken natuurlijk opgelicht worden door een deepfake. Ja, hoe gro- hoe groot is de kans dan dat iemand met jouw gezicht en jouw stem jouw opa gaat bellen? Dus echt FaceTimen.

16:38 Serkan Ja.

16:38 Elwin En dan zeg je gewoon: joh, opa, ik heb een nieuw nummer, zegt ie dan. En ja, d-d-die gelooft dat. Iedereen g-gelooft dat bijna. Ja, behalve als je vrouw of zo belt. Dan denk je: ja, nieuw nummer. Ik heb een message. Maar het gaat meer om van: ja, als ze denken we spreken niet super vaak, uh, we spreken elkaar niet zo vaak. Ja, ik, dan word je, d-d-dan is die kans echt wel groot dat je gescamd, uh, dat er grotere scams gaan komen. Echt met je gezicht en al erbij.

17:03 Serkan Ja, dan kan je het ook gewoon niet meer onderscheiden van elkaar. En dat, dat maakt het met dit soort situaties natuurlijk gewoon zo lastig. Hoe ga je dit beschermen eigenlijk? Hoe ga je dit waarborgen? We zitten in een digitaal tijdperk. Alles gaat online, alles gaat digitaal. Hoe ga je dit soort dingen, dus ervoor zorgen dat je niet zomaar wordt opgelicht? Hoe ga je die extra step ver-verificatie eigenlijk doen? Ja, je hebt al spoofing met nummers. Ja, spoofing met nummers. Dan lijkt het ook alsof het vanuit dat nummer wordt gebeld. Dan heb je en de deepfake, deep-deepfake plus dan de voice erbij.

17:31 Elwin Ja, bizar. Ja, ik, ik weet het. Ja, kijk eigenlijk, uh, uh, het probleem wordt ontstaan, uh, ontstaat door AI. Dus AI moet eigenlijk het ook weer een beetje oplossen. Dus je zal weer AI ertussen moeten zetten. En dat heb je natuurlijk ook al, uhm, d-dat je door krijgt van: hé, dit is een spam caller. Nou weet ik niet of dat helemaal, uh, door AI wordt gecreëerd, maar AI zal dat moeten gaan adviseren. Moeten gaan zeggen: ja, let op, dit is hoogstwaarschijnlijk nep.

17:57 Serkan Ja.

17:57 Elwin Dit is spam. En ik, ik denk ook dat ze dat best wel snel moeten kunnen doen. Want kijk, er worden natuurlijk heel veel telefoonnummers afgegeven en ik weet zeker dat de providers, die kunnen zien hoe, wanneer zo'n telefoonnummer is geactiveerd en wat het belgedrag daarvan is. Die moeten dat veel sneller ook dankzij AI kunnen blokkeren, maar ook kunnen herkennen van: hé, dit is nep. Let erop, het is nu al zo ver. Althans, zo ver, zo complex vind ik dat niet. Maar de belastingdienst heeft natuurlijk een nieuw bankrekeningnummer. Als je oude bankrekeningnummer gebruikt, dan Past de, jouw bank het automatisch aan het nieuwe bankrekeningnummer.

18:28 Serkan O ja.

18:29 Elwin Gelijk bam! Nou ja, dat is iets heel simpels. Is niet echt AI zo'n script, denk ik, maar snap je? Maar, d-, w-, het kan allemaal wel. Alleen ja, dat kost geld. En daar hebben ze dan, ja, als het geld kost, hebben ze daar vaak minder zin in. Dus er zal eerst weer wetgeving moeten komen die ze gaat forceren dat ze daar veel strakker op moeten zitten. En dan ga je zien dat dat gaat werken. Maar ze kunnen nu dat al makkelijk doen. Zij kunnen zo zien; hé, deze, uh, dit, dit nummer is geactiveerd, uh, d-dec seconden geleden en begint als een wezenloze te spammen. Uh, begint allemaal gekke nummers te bellen achter elkaar. Dat, dat kunnen ze zien.

19:01 Serkan Ja, ik denk dat ze dat ook inderdaad wel kunnen terugvinden.

19:03 Elwin Ja.

19:03 Serkan Maar het maakt het wel, uh, lastig hoe je dan het onderscheid ook kan maken daar natuurlijk in. En dat is voor dit soort situaties. En ook wat, d-, wat denk ik misschien handig is, is dat je dus als bank zijnde of als in ieder geval, uh, wie heeft dan eigenlijk de aansprakelijkheid? Moet je dan eigenlijk een soort van extra, uh, verzekering hebben dat je beschermd bent tegen dit soort-

19:23 Elwin Dat gaat al. Je hebt echt, volgens mij heb je ook een AI-verzekering. Ja, ja, zeker, zeker. Want je hebt, je hebt ook, uh, van die hack verzekeringen die je dus ook al, ja, dan als je gehacked wordt, dan, uh, krijg je gewoon, uh, uitgekeerd. En volgens mij zit daar zelfs in, dat als je gehacked wordt met ransomware, weet je wel. Dus dat ze gaan zeggen; je moet gewoon betalen, dat dan je verzekering betaalt.

19:41 Serkan Oké.

19:41 Elwin Dat bestaat. D-er zijn gewoon verzekeringen zijn er echt voor, ja.

19:44 Serkan Dan denk ik dat het ook voor heel veel personen natuurlijk handig is om zoiets af te sluiten als je dus dat gevaar daarin ziet. Het liefst is natuurlijk van; let altijd op en zorg dat je dat, dat je niet voor dit soort gevallen, uh, trapt. Maar ja, het wordt nu zo geavanceerd dat het gewoon heel lastig is om te onderscheiden. Dus als je jezelf wil beschermen is dat misschien inderdaad wel een optie om je veilig te stellen.

20:02 Elwin Ja, maar je gebruikt ook een codewoord, hè.

20:04 Serkan Een codewoord?

20:05 Elwin Ja, je moet gewoon altijd afspreken. Kijk, als ik, uh, jou bel met een heel gek, uh, verzoek, heb je een codewoord. Ja, dat kan je met je familieleden doen. Kijk, ik zeg altijd zakelijk; ik doe geen verzoeken telefonisch. Ik doe geen verzoeken per mail. Ik doe eigenlijk, uh, als ik, uh, uh, complexe verzoeken doe, doe ik ze fysiek. Dus dan moet iemand mij fysiek klonen en hier binnenkomen en dan, uh, kan het gedaan worden.

20:24 Serkan Ja, en soms weet je niet of het een heel gek verzoek is, toch? Als jij de persoon nog niet heel goed kent en jij gaat er dan in ieder geval van uit van: oh, dit is een verzoek van, uh, haal voor € 10 een Apple, uh, paycard voor me, want ik heb het nu, nu nodig.

20:36 Elwin Ja, maar dat is een raar verzoek. Ja, dat, d-, en ik snap het, hè, dat sommige mensen als je echt gloednieuw bent, maar bij ons hebben we dat natuurlijk ook, dat je bij de onboarding, ja, dan wordt het wel afgevangen. Van; let op, er zijn ook spam. We hebben zelfs, uh, ja, je hebt daar natuurlijk allemaal, d-, uh, daar gebruiken we ook tests voor, maar we hebben ook de, de voorbeelden, weet je wel. Let op hier op, hier op, hier op. Directeur gaat jou nooit bellen, mailen, zomaar Teamsen, van: hé, je moet, uh, deze factuur nu gaan betalen. Zo werken wij helemaal intern niet. We hebben allemaal, uh, vier-, zesogenprincipe. Dus, uh, ja, dat, je kan nooit zomaar geld gaan overmaken. Dat gaat niet gebeuren. Nou ja.

21:09 Serkan Je moet er inderdaad ook, uh, gewoon echt vaste regels op zetten.

21:12 Elwin Bedrijven moeten bij hun onboarding daar veel strakker op zitten. Gewoon echt ook praktijkcases laten zien. Dus lessen, d-daaruit trekken. Want wat je nu hebt. Je hebt nu natuurlijk, uh, dat je dan, uh, zo van Azure heb je dat security, weet je wel. En dan, uh, gaan ze jouw, uh, uh, mensen testen met van die mails en weet ik veel wat allemaal. En dan denk ik: ja, en als er iemand dan op zo'n link heeft geklikt, dan krijgt hij een soort straf, want dan is het van: joh, weet je, je moet nu een testje gaan maken, want je bent zo, je bent eigenlijk zo dom geweest dat je op die link hebt geklikt. Terwijl iemand ook, ja, knetterhard aan het werk kan zijn geweest en toevallig en je denkt: oh snel, papapapap. En het is natuurlijk niet helemaal goed te praten, maar ja, ik denk dan eerder van: oké, laat iemand gewoon delen van; waardoor kwam dit dat jij toch op die link hebt geklikt? Snap je? Zodat anderen daarvan kunnen leren in de onboarding. In plaats van te zeggen: nu moet je een, een test gaan maken, uh, die weer een uur van jouw tijd gaat kosten zodat je het nog drukker krijgt. Nee, dan is het meer van: hé, doen wij hier intern natuurlijk ook. Weet je wel, dat, uh, dat er via Teams even wordt gedeeld; hé, uh, er gaat weer zo'n mail rond, kijk hem hier. En ze zeggen weer, uh, dat die van de directeur is. Ja, dat werkt volgens mij op die manier veel beter. Wij doen natuurlijk ook wel die, d-dat, dat toetsen, maar niet van: oh, je hebt geklikt. Oh, nu ga je, gaat je kop eraf, want dat creëert angst.

22:23 Serkan Klopt.

22:24 Elwin Dus je moet veel meer mensen, ja, bewust maken, maar ook gewoon laten delen, want daar hebben andere mensen veel meer aan. Van: oh ja, dat doe ik ook wel eens. Oh ja, stom, hè? Ja, kan toch gebeuren. Ja, we zijn allemaal mensen.

22:36 Serkan Ja. Kijk, mensen maken natuurlijk altijd fouten, maar je moet je bewust worden hiervan en ook het normaliseren. Kijk, het moet een gewoonte worden dat je dit soort dingen er meteen uit kan filteren. En ik denk dat daar het grootste verschil, uh, eigenlijk in zit.

22:48 Elwin Ja.

22:48 Serkan En, uh, ja, spreek ook intern inderdaad iets van codewoorden af om dit soort transacties of aparte verzoeken echt te laten verifiëren.

22:56 Elwin Ja, als je echt een bedrijf bent.

22:56 Serkan En die valt dan echt niet.

22:57 Elwin Ja, wat zo quick handelt, dat zou ik met codewoorden maar gaan werken. Maar dan moet je ook zorgen dat het codewoord, woord weer niet wordt, uh, gelekt of zo.

23:05 Serkan Dat is eigenlijk de tool Authenticator voor, uh, ja, in real life.

23:09 Elwin Ja, maar je kan natuurlijk gewoon checken, weet je wel. Je hebt, uh, theoretisch zou je Signal kunnen gaan gebruiken. Die hebben natuurlijk die, uhm, die verificatiecodes die je naar elkaar volgens mij kan sturen. iMessage is op zich ook wel gedekt. Dus ja, je kan natuurlijk op die manier kan je het ook wel weer verifiëren als het echt moet. Maar ja.

23:25 Serkan Ja, ze spelen altijd op de snelheid eigenlijk van de mens. Hoe snel ze willen reageren. En het heeft nu en nu spoed. En daarom trappen mensen er vaak in omdat ze ook bezig zijn en zijn dingen aan het doen. En dan denk je van: oké, ik ga het wel even gauw doen. En dat geeft vooral de problemen.

23:38 Elwin Dus, uh, deepfakes die openen al echt bankrekeningen in Nederland. De aanvaller schaalt met AI, de verdediger loopt achter en je gezicht en je stem zijn inloggegevens die je nooit verandert.

23:50 Serkan Wat me bijblijft is dat het niet eens technisch is. Het is iemand die jouw reflex om snel te helpen misbruikt. En de oplossing is bijna ouderwets. Even een codewoord bedenken.

24:01 Elwin Dus de vraag aan jou: je baas belt vanavond met een spoedbetaling met precies zijn stem. Bel je terug op het bekende nummer of vertrouw je de stem? Spreek deze week één codewoord af met je team.

24:13 Serkan Laat het ons weten.

24:15 Elwin Ja, en dan zou ik normaal zeggen: dit is AI AI-boys. Tot volgende week, Serkan. Maar Serkan, zijn laatste aflevering zitten we vandaag in.

24:21 Serkan Ja, helaas.

24:22 Elwin Echt, het is, het is treurig, maar ik dacht: ik wil niet zomaar met niks afsluiten. En je weet wat we altijd in seizoen één deden, hè?

24:29 Elwin Wat deden wij altijd in seizoen één?

24:31 Serkan Oh, Back to the Future.

24:33 Elwin Ook, ook, ook, ook, ook. Maar waar, waar begonnen we altijd mee? Waar begonnen we altijd mee?

24:38 Serkan Suno.

24:39 Elwin Ja, met Suno, hè?

24:40 Serkan Ja, dat leuke eigen liedje die we dan, uh, hebben bedacht.

24:44 Elwin Ja. Dus ik ga kijken of dit werkt, want, uh, soms werkt dat niet. Maar ik heb de ruimschoots de moeite genomen-

24:50 Serkan Ja.

24:50 Elwin -om voor jou een afscheidslied te schrijven. En wat ik ook heb gedaan, wat ik ook heb gedaan. Ik heb mijn eigen stem opgenomen in Suno. Ik moest letterlijk in Suno. Dat heb ik voor jou gedaan, uh, dus ik heb een minuut lang, uh, uh, uh, een, een honderd liedje moeten zingen in Suno zodat hij enigszins met mijn stem kon werken. Ik moet wel zeggen, hij heeft mijn stem wel erg mooi getweaked. Ik betwijfel als ik echt zing of dat zo klinkt, maar daar komt het wel een beetje op neer. Maar ik ga kijken of dit werkt, want ik heb het allemaal aangesloten en soms werkt dat wel en soms werkt dat niet. Ja, hij doet het.

25:20 Serkan Helemaal geweldig! Ik ben benieuwd.

25:24 Muziek [nummer, tekst niet uitgeschreven]

29:06 Serkan Kijk, helemaal geweldig dit.

29:08 Elwin Ja, mooi man.

29:09 Serkan Dag, dag, dag.

29:09 Elwin Dag, dag, dag. Nee, dank je wel Serkan. Het ga je goed.

29:13 Serkan Ik, uh, bedank ook inderdaad jou, Elwin, voor de geweldige twee seizoenen en al onze luisteraars. Wie weet komen we elkaar ooit nog eens tegen in de toekomst en, uh, we gaan er gewoon een geweldig, uh, feest van maken.

29:23 Elwin Heel mooi gezegd. Dit was AI-boys. Tot volgende week.