Big tech is de pyromaan én de brandweer

0:01 Elwin Stel je voor, je moeder belt. Ze klinkt gestrest. Ze zegt dat ze nu geld nodig heeft. Het is dringend. Je herkent haar stem. Je herkent haar manier van praten. Je maakt het geld over.

0:12 Serkan Alleen was het je moeder niet. Het was een AI die haar stem had gekloond op basis van een voicemail van 30 seconden. En jij hebt net € 1.000 overgemaakt aan iemand die je nog nooit hebt ontmoet.

0:24 Elwin Dit is geen sciencefiction, dit gebeurt nu. En de vraag is niet of AI de werkelijkheid kan namaken. De vraag is: wie beschermt je als je het verschil niet meer kan horen? AI-boys, powered by Jelle. En welkom bij AI-boys, one take no edits. En vandaag AI die de werkelijkheid vervalst. Neppe stemmen, neppe beelden, neppe waarheid. En de vraag wie dat gaat stoppen.

0:50 Serkan We beginnen bij AI-beelden die als waarheid worden gedeeld. Dan techbedrijven die zeggen het op, op te lossen. Vervolgens hoe diezelfde bedrijven stiekem je data gebruiken. En we eindigen bij de vraag of een labeltje op AI-content ook echt genoeg is.

1:05 Elwin En de centrale vraag van vandaag: als AI steeds beter wordt in het namaken van de werkelijkheid, wie bepaalt dan wat echt is? En wie beschermt ons daartegen? Ja, goeie centrale vraag.

1:18 Serkan Dat is een hele goede vraag.

1:19 Elwin Waar ik wel eerst mee begin, wil beginnen is van, de vraag is wie het gaat stoppen, want eigenlijk hebben we een soort Batman nodig of Superman, want dit gaat zo knetterhard. Dus ja, het is bizar, want je hebt nu gewoon AI die oorlogsbeelden namaakt die nooit zijn gebeurd. En miljoenen mensen geloven het.

1:40 Serkan Ja, hoe, hoe kan je daar nog tegenop? Van: het lijkt nu zo realistisch. Alles wat er wordt gecreëerd, de kleinste nieuws, het kan binnen enkele seconden, kan het al gemaakt worden en gepubliceerd worden. Ja, hoe ga je dat ook allemaal factchecken? Eh, er is nu van alles gaande natuurlijk met betrekking, uh, tot de oorlog. Ja, je weet niet wat er gebeurt in dat soort landen. Mensen zijn er benieuwd naar. En als je dan een video voorbij ziet komen, ja, dan geloof je dat al wat sneller dan dat je dat echt helemaal gaat factchecken.

2:11 Elwin Ja, dus eigenlijk hebben we AI-agents nodig die dat factchecken. En dat kan je wel weer via X doen. Dat moet ik dan wel weer terecht geven. Dan kan je natuurlijk @ Grok, dan kan je dus Grok kan je dan taggen en vragen of het echt is en daar krijg je dan over het algemeen een redelijk goed antwoord op.

2:26 Serkan Ja, maar eigenlijk moeten ze het toch wel checken van tevoren voor het wordt gepost, dat soort dingen.

2:30 Elwin Ja, maar daar kom je dus bij in, in, in een spagaat. Van, want dat hebben we, dat probleem hebben we natuurlijk al jaren met social media. Van iedereen die plempet van alles maar online wat facts zijn en heel veel dingen zijn geen facts. Ik zag laatst ook een filmpje van, uh, zo'n, uh, man die zegt dat je gelijk moe-, melk moet drinken, weet je wel. Rauwe koemelk. Je moet geen rauwe koemelk drinken, want anders dan gaan de enzymen kapot als we het pasteuriseren en weet ik veel wat en je vitamines gaan achteruit, dit en dat en dat wordt dan gefactcheckt en er klopt helemaal niks van. Maar ja, het wordt wel gewoon op Instagram geplempt of TikTok en die nemen er ook geen verantwoording over. Die zeggen dan niet van: oh ja, dat, uh, klopt helemaal niet wat deze meneer aan het vertellen is. Maar ja, dat is een of andere man dan die, uh, iets gespierd is of er iets goed uitziet. En dan denkt, uh, denken jonge mensen van: oh nee, die zal, uh, het wel bij het rechte eind hebben en die gaan er dan naar luisteren. Dit is precies hetzelfde.

3:19 Serkan Ja, eigenlijk is het ook niks nieuws. Het is ook gewoon altijd hetzelfde geweest. Alleen het is nu gewoon makkelijker om dit soort content te produceren. En dat is denk ik het gevaar.

3:28 Elwin Ja.

3:28 Serkan Want ja, er kan nu een nieuwsfeitje komen wat dan echt is in dit geval. En mensen kunnen binnen enkele prompts hebben ze al een heel concept of al 10, uh, video's gepost die hier allemaal mee te maken hebben. Dus het is gewoon veel breder geworden. Het is veel meer vergroot en vroeger had je wel heel veel propaganda natuurlijk, wat dan voorbijkwam, maar het was wat minimalistischer en soms duurde het ook enkele dagen of weken voor je echt een realistisch beeld kon faken of met iets origineels had bedacht wat, uh, op dat moment aansloot, aansloot. Ja, nu heb je gewoon, uh, dingen als een OpenAI die de hele dag runt en dit soort dingen voor je kan maken.

4:03 Elwin Ja, het is, uh, Grok als propagandamachine, dat deel ik wel met je.

4:06 Serkan Ja, klopt.

4:07 Elwin En daar wordt gewoon goed gebruik van gemaakt. En het grappige is dus dat, uh, Grok dus nepbeelden maakt, maar dat ook dingen die echt gebeurd zijn, dat ze dan gaan zeggen: ja, dat zal wel AI generated zijn. Om, daar ga je je dan achter verschuilen. Dus ja, daar moet iets voor komen. En dat proberen ze natuurlijk nu ook, hè, met AI generated beelden, dat daar dan een soort tag op komt. Maar ja, daar kan je ook heel makkelijk omheen werken, dus, uh, dat, dat werkt ook niet.

4:29 Serkan Ja, ze proberen het wel natuurlijk met labels en dergelijke, maar, uh, ja, nee, het schiet nog niet helemaal op.

4:34 Elwin Maar dat kan je zo makkelijk omheen werken dat, dat werkt gewoon niet. Dus je zal toch, ja, vergaande AI, AI-agents moeten hebben die factchecken. Maar ja, dat doen ze ook niet met mensen die onzin, uh, uitkramen op TikTok. Dus ja, ik betwijfel dat ze dat nu ook gaan doen.

4:51 Serkan Ja, ik, uh, hoop wel dat je dan uiteindelijk in zo'n situatie inderdaad terecht komt. Want, uh, ja, YouTube had dat natuurlijk al een soort van deels, maar niet helemaal. Uhm, dan hadden ze al, zeg maar, voor je een video uploadt, wordt alles geanalyseerd, wordt het gecheckt of het ook, uh, of je er geld aan mag verdienen, ja of te nee. En dat soort dingen, die moeten wel eigenlijk komen met hele goede modellen die alles analyseren op elk moment voor jij überhaupt iets post. Dus dat je eigenlijk gewoon de laser hebt in je post en dan echt die factchecking gebeurt om echt heel veel dingen al te kunnen uitfilteren waar mogelijk. Dat zou de ideale situatie-

5:25 Elwin Maar theoretisch kan het nu al, weet je wel, want, uh, je, ma-, ze maken er een transcriptie van. Beelden kunnen ook geanalyseerd worden door, door AI. Ja, als je gewoon een goede factcheck AI, AI hebt, dan zou dit nu al moeten kunnen. Maar de big tech companies kiezen ervoor om dat niet te doen. Die zeggen dan van: ja, uh, wij zijn een open platform. Je mag eigenlijk alle onzin uitspuien die je wil, want dat is, uh, vrijheid. Wij, w-wij zijn een vrijheidsplatform. Maar ja, dat betekent dus ook dat elke lampenkap van alles en nog wat kan zeggen wat niet wetenschappelijk onderbouwd is. Maar ja, we leven nu in een, in een realiteit dat een feit een feit niet is. Dus ja, de waarheid, er is geen waarheid meer.

6:02 Serkan Ja, maar wie zou je het ook moeten neerleggen om dit soort factchecks uit te voeren? Want zoals je al zegt van: ja, de bedrijven die, uh, willen eigenlijk alleen maar de engagement hebben. Die zijn er juist blij mee dat er zoveel wordt gepost, zodat ze zoveel mensen hebben die elke dag kunnen kijken en hun daar weer geld aan kunnen verdienen.

6:16 Elwin Ja.

6:17 Serkan Dus waarom zouden we het ook bij die bedrijven neerleggen? Je moet daar weer een onafhankelijke partij van hebben die dat soort integraties zouden doen. Maar zelfs dan is het nog lastig om zo'n samenwerking te realiseren, omdat het, uh, ja, het is tegenstrijdig met elkaar.

6:28 Elwin Ja, maar daarom, je kan niet: wij van WC-Eend adviseren WC-Eend,

6:32 Serkan Ja

6:33 Elwin creëren. En dat is wat ze wel doen. Want je hebt dan natuurlijk, uh, de AI-bedrijven die deze content creëren. Dan heb je de AI-bedrijven die dan ook platformen hebben waar de content op, uh, gezet kan worden. Kijk naar, uh, Meta, kijk naar X, weet je wel. Dus die, ja, dat is voor hun een verdienmodel. Waar verdienen ze aan? Extreme uitlatingen, want dat is toch wat geld verdient? Als jij de maf, als jij maffe dingen zegt, daar krijg je de likes op.

7:00 Serkan Klopt.

7:00 Elwin Ik denk als wij nu in deze podcast hele gekke dingen gaan zeggen en we plempen dat op TikTok, dat je dan in één keer, krijgen we 10 keer of 100 keer meer volgers dan wat we nu hebben.

7:10 Serkan Volgens mij zeggen we elke, in elke aflevering gekke dingen.

7:13 Elwin Nee, maar wij zijn te genuanceerd. Wij zijn helemaal niet interessant voor een X. Wij zijn, wij zijn genuanceerde mensen. Wij geven genuanceerde meningen en dat is niet wat, uh, de, de, de platformen willen. Die willen gekke meningen horen. Dat je direct, uh, van een koe, uh, moet drinken en het liefst, uh, uit het emmertje waar je net in gemolken hebt. En, uh, alles wat je over hebt, daar moet je jezelf mee insmeren en in de zon gaan liggen bakken. Want ja, zonnebrand, daar, daar krijg je ook kanker van, zeggen ze dan. Snap je wat ik bedoel van: je moet gewoon gekke dingen zeggen en daar krijg je likes op. En dat is wat mensen dan gaan doen. En dan gaat de ene, het is altijd de overtreffende trap. Vroeger toch op school, dan had je één vervelend jochie. Er was altijd eentje die, die nog vervelender was.

7:51 Serkan Nog vervelender, ja.

7:51 Elwin Dit is precies hetzelfde. Dus we hebben dan AI-modellen die gerund worden door grote socialmediaplatforms die dit soort content kunnen creëren. Die juist AI, uh, d-die juist die socialmediaplatforms willen gebruiken om meer users naar zich toe te trekken. En dan is ook nog een keer het probleem dat die AI-modellen ook nog een keer samenwerken met legers die dan ook weer dat AI-model gebruiken om daadwerkelijk aanvallen uit te voeren.

8:20 Serkan Ja, dat is toch best erg. Want als je technologie, technologie bouwt die oorlog, uh, kan vervalsen, ben je dan ook medeplichtig als dat daadwerkelijk gebeurt? Dus dan ben je als tech, ben je dan eigenlijk, uh, ben je een developer, nou, of, of überhaupt gewoon een normaal persoon, want iedereen kan het, uh, tegenwoordig doen. Nou, je maakt wel prompts. Nou, ook hele strategieën en dingen uitbedacht. Ben je dan verantwoordelijk als die ook echt worden uitgevoerd? Ik denk dat je zulke situaties nu best wel hebt natuurlijk, uh, met wat er nu allemaal in de wereld loopt. Ik denk dat, uh, Trump best wel wat, uh, dingetjes met AI, uh, van tevoren heeft laten genereren en doen om het allemaal, uh, uit te plannen.

8:55 Elwin Nou ja, ik denk dat AI natuurlijk wel gebruikt wordt door legers. En het Amerikaanse leger zal het zeker gebruiken. Ik denk Europese legers ook. Sowieso voor data-analyse. Nou ja, ik denk als jij, uh, wat ik wel eens vaker heb gezegd van, uh, toen, uh, uh, uh, de Venezolaanse president werd gesnatcht, om het zo maar te zeggen. Ja, daar zal best wel AI, uh, model voor gebruikt, uh, worden van: waar is die meneer en wat zijn een beetje de standaard routes? Da-dat geloof ik wel. Maar ja, het is wel een lastige vraag die je jezelf moet stellen van: ja, wie is waarvoor medeplichtig? Ja, ik, ik weet het niet. Het is een beetje hetzelfde van: ja, als je de, uh, atoombom hebt gebouwd, van, uh, is degene die hem dan heeft ontwikkeld verantwoordelijk? Of degene die hem, ja, dropt. Is die dan verantwoordelijk? Is de president, uh, dus Eisenhower was het, denk ik, zeg ik. Nee, nee, het was niet Eisenhower. Maar anyway, maakt ook niet uit. Uh, is die dan verantwoordelijk? Ik weet het niet. Het, het, het, het zijn lastige, uh, ja, dat zijn bijna filosofische discussies die je moet gaan voeren van: wie is waar voor verantwoordelijk? Ja, ik moet dan wel een beetje denken aan een aflevering of een heel seizoen van The Big Bang Theory. En dan zijn ze aan het werk voor, uhm, de overheid, voor het leger ook, en dan zijn ze van alles en nog wat aan het creëren wat ze supergaaf vinden. En toen, uh, uh, vroeg één persoon aan hem: maar gaat het leger dat dan niet gebruiken om, uh, automatisch mee aan te vallen of et cetera. En toen zaten ze opeens van: ja, theoretisch zou dat kunnen. En dan gingen ze met het leger praten van: gaan jullie dat doen? En dan zeiden ze van: dat gaat je niks aan, vriend. Maar ja, je kan er gewoon van uitgaan dat als jij natuurlijk een deal maakt met Defensie, ja, dat ze daar, uh, dat ze dat gebruiken om overmacht te creëren. Dus ja, dat er dan doden vallen door jouw programmeerskills. Ja. Ja.

10:44 Serkan Ja, is een gevaarlijk, uh, concept natuurlijk. En het is ook, uh, zeker weer een dingetje die moet worden uitgedacht door de AI, uh, minister.

10:52 Elwin Ja, dat is ook weer zo'n ding. Maar ja, dan kom je weer in ethische discussies terecht. Maar ja, de platforms zeggen dus, uh: we gaan dit fixen. Maar ja, de brandweer die komt pas als het huis is afgebrand. Zo laten we het maar even noemen.

11:03 Serkan Ja, ze komen natuurlijk altijd te laat.

11:05 Elwin Ja.

11:05 Serkan En, uh, dat was natuurlijk net ook al een aangave van, uh: gaan de platforms dit ook goed oppakken van: ja, we willen dit fixen, we willen dit tegengaan, maar puntje bij paaltje kunnen ze het niet goed tegengaan, want het gaat ook weer ten koste van hun eigen bedrijf.

11:18 Elwin Daarom. Er zitten gewoon commerciële belangen in en dat is wat we daarnet ook al zeiden. Zijn gewoon commerciële belangen. En YouTube die kan natuurlijk zeggen: ja, we doen deepfake-detectie en daar gaan we dan meldingen van maken. Uh, Meta die heeft een overschrijdpoort hebben ze neergezet. Ja, dan denk ik: ja, dat is wel helemaal, uh, van, uh: wij controleren onszelf wel. Ja, en dan kom je weer bij de vraag van: is de pyroma-pyromaan dan eigenlijk geen brandweerman? Ja, en mijn antwoord is dan gewoon: ja, eigenlijk wel.

11:44 Serkan Ja, als je eigen scheidsrechter zegt dat je vals speelt en je reactie is: we nemen het serieus. Nou, klinkt dat bekend?

11:50 Elwin Ja, mij wel. Want dat is waar, de realiteit waar we nu in leven. Want, uh, wat we daarnet al zeiden: dit gebeurt al jaren. En ja, platforms zijn tegelijkertijd, uh, dus de oorzaak en zouden de oplossing moeten zijn. Maar ja We gaan het, uh, nog gekker maken, want, uh, we gaan even duidelijk maken wat er achter de schermen gebeurt. Althans, wat wij weten wat er achter de schermen gebeurt. Want wij weten heel veel niet.

12:14 Serkan Nee. En natuurlijk, uh, van het slagveld naar je bureau, naar je woonkamer. Want wat daar gebeurt is misschien nog verontrustender.

12:21 Elwin Ja, zeker.

12:22 Serkan Want, uh, heb je dat, uh, gehoord van, uh, Grammarly? Ik weet niet of mensen dat bedrijf kennen. Dat is een, uh, bedrijf die, uh, eigenlijk, uh, AI gebruikt zodat je hele teksten en dingen gelijk kan optimaliseren en schrijven. Dus mensen gebruiken het veel voor CEO, uh, gerelateerde zaken.

12:37 Elwin Ja.

12:38 Serkan Maar, uh, het blijkt dus dat hun een, uhm, ja, een voorwaarde een beetje hebben aangepast, waardoor je dus eigenlijk altijd akkoord gaat met voorwaardes. Dus ze hebben alleen een opt-out functie, dus dat je er alleen uit kan. Maar dan moet je dus wel afmelden. En de meeste personen zijn er dus niet, niet van op de hoogte. Dus eigenlijk alles wat jij schrijft en doet, dat wordt dus eigenlijk allemaal geanalyseerd door Grammarly. Bedrijf die echt wel heel groot is geworden de afgelopen jaren.

13:03 Elwin Ja.

13:04 Serkan Ja, dat is toch wel een beetje een, uh, ja, kwalijke zaak eigenlijk.

13:08 Elwin Ja, uh.

13:08 Serkan Officieel mag dat volgens mij ook niet.

13:10 Elwin In Europa niet. De EU-act, ze, die, ze, die spreekt dit tegen, ja. Dus je hebt opt-out, opt-in en je bent altijd volgens mij standaard in de EU, EU-act opt-out. Dus je bent niet opt-in.

13:22 Serkan Ja.

13:23 Elwin Maar ja, dat is inderdaad waar ze gebruik van maken. En het is een Amerikaans bedrijf en daar kunnen ze, ze, denk ik, op die manier voor kiezen. Ja, dat je gelijk standaard, uh, opt-in bent. Maar we hebben het vaker gezegd van: als iets gratis is, ben jij het product.

13:35 Serkan Klopt.

13:36 Elwin En dat is met dit gewoon hetzelfde. Maar wat ik wel kwalijker vind, is bij Meta. Je hebt natuurlijk die Ray-Ban-brillen.

13:43 Serkan Dat is nog een heel stukje erger, denk ik, dan, uh, Grammarly.

13:45 Elwin En daar betaal je best wel wat geld voor. Maar ja, aan de andere kant denk ik iets van Meta, dus je weet hoe het om en nabij zou werken. Maar wat zij hebben gedaan, dat verbaast mij nog meer. Dat dus echt die beelden die jij denkt die veilig zijn, ja, dat ze die gewoon gebruiken. Maar het is dan niet dat jij echt opdracht hebt gegeven van: hé, je moet nu opnemen. Het is gewoon dat zij zelf dus beelden maken zonder dat jij dat weet en dat naar mensen sturen. W-, ik weet niet welke land het was. Het was, eh, een land in ieder geval in Afrika, waar mensen dus zaten en die hielden dat dan gewoon, die, die reviewde dat dan.

14:20 Serkan Ja.

14:20 Elwin Maar elk beeld, hè, en jij weet helemaal niet dat het beeld daar naartoe is gezonden. Dus theoretisch, als je die Meta-bril op hebt en je gaat even naar het toilet, wat ik je dus adviseer om dat niet te doen, dan kan het gewoon zo zijn dat iemand gewoon even mee heeft gekeken.

14:34 Serkan Ja, dat is toch erg? Ze kijken gewoon eigenlijk mee in je huis als je dus je Meta-bril draagt. Ze zien alles wat je doet, en je weet ook niet op welke momenten dat dan gebeurt en bij wie deze gegevens dan precies terechtkomen. Ja, je zegt dan inderdaad, uh, een land in Afrika is dat gebeurd.

14:47 Elwin Een Keniaans bedrijf volgens mij of zo, maar dat weet ik niet zeker, hoor. Het is een Keniaans bedrijf en die analyseren dan die beelden om het model beter te maken.

14:53 Serkan Ja, dat is toch, uh, absurd? Dan moet je dat wel gelijk kunnen uitschrijven dat het eigenlijk niet kan gebeuren. Ik weet niet of hun dat ook goed in de voorwaarden hebben opgenomen of dat het ook weer standaard als opt-out, uh, staat ingesteld.

15:04 Elwin Het zit er gegarandeerd zit dat er, staat dat er ergens in dat de mogelijkheid er is, maar ik vergelijk het een beetje met een slimme speaker thuis. Ja, die kan meeluisteren. Ja, ik heb ook wel het vermoeden en ja, ik kan dat natuurlijk niet hard maken, dus don't sue me. Maar ja, dat ze af en toe gewoon wel eens meeluisteren.

15:22 Serkan Ja, lig jij in bad op te—

15:22 Elwin Om hun model te trainen. Ja, en, uh, de, ja, en dit is natuurlijk gewoon niet anders. Zij kijken gewoon de hele tijd met jou mee. Ja, jij denkt gewoon: ja, als ik een foto maak. Ja, misschien dat ze die foto zien. Nee, maat, dat is niet het verhaal. Het verhaal gaat zijn dat ze gewoon meekijken wanneer het hun uitkomt en ze luisteren menee, mee wanneer het hun uitkomt. En ik denk dat er dan ook bepaalde, uh, woorden zijn waar die dan op triggert en dat ze dan denken: hé, dat is interessant.

15:47 Serkan Ja, en dan is elke keer als je je, uh, bankpas eruit haalt, dan, uh, gaat hij in één keer meekijken van: oh, wat is dit en dit? Oh, dit is de pincode. Ik heb hem net zien uv-, invullen. Dat is wel heel gevaarlijk qua beveiliging, uh. Is wel een beetje zorgwekkend. Ik, uh, was best wel hyped voor de, voor de brillen die eraan kwamen, maar ik denk dat ik nog heel eventjes wacht, uh.

16:05 Elwin Nou ja, je kan, je kan hetzelfde doen wat mensen dan, uh, een tijd lang deden op hun webcam, is dat ze die gingen afplakken met post-itjes. Maar eigenlijk zijn mensen daar weer helemaal van wegge-, uh, gaan toen Teams, uh, zo groot werd, dat thuiswerken.

16:17 Serkan Ja, maar eigenlijk moet je het nog steeds wel doen.

16:19 Elwin Ja, ik weet niet waarom, maar mensen die vertrouwen dan een soort van erop van: ik zie het lampje wel ernaast branden en dan komt het wel goed. Maar dat werkt niet zo mensen. Dat kan je ook uitzetten. En geloof me, dat doen mensen. Dus, uh, ja, maar ja, het werkt dus wel zo dat ze het eerst uitrollen en daarna als ze gepakt worden zeggen ze: oh, uh, sorry, dat had eigenlijk niet mogen gebeuren.

16:39 Serkan Het komt altijd pas achteraf. Dat, dat is het vooral met dat soort dingen van, uh, we gaan het doen het eerst en daarna: ah, sorry.

16:44 Elwin Ja, het is meer van: worden we gepakt?

16:45 Serkan Bedankt.

16:46 Elwin Het is eigenlijk een soort van als, uh, als, uh, als een dief. Ja, maar dat is toch zo? Van: ja, zolang ik niet gepakt word is er niks aan de hand. En dan word je gepakt en dan is het: heb ik het maar één keer gedaan en dan was je misschien al jaren bezig.

16:57 Serkan Klopt.

16:57 Elwin Daar komt het gewoon op neer. Maar ja, we hebben dus, uh, een oorlog met neppe beelden, platforms die te laat reageren en bedrijven die stiekem meelezen. En wat is daarop het antwoord?

17:08 Serkan Labels?

17:08 Elwin Labels. Nou, dat gaat werken. Labels.

17:12 Serkan Dus Apple komt met een oplossing. Ja, stickertjes op AI-content. Klinkt logisch, maar werkt het ook? Want je zag het al best wel voorbijkomen natuurlijk. Gewoon op video's van, uh, het is AI generated. Het moest al in de reclames en zo gebeuren. Ja, en nu doet, uh, Apple Music, uh, die wil bijvoorbeeld ook AI, uh, labels om het allemaal eerlijker te maken, uhm, dat je het echt goed kan onderscheiden van elkaar. Maar eigenlijk heeft het volgens mij helemaal geen zin.

17:39 Elwin Maar is de vraag: checken ze dat dan zelf? Dus is dan Apple Music dan aan het controleren van: hé, we hebben een AI-model geschreven en wij herkennen AI-muziek en dan zeggen wij: hé, dit is AI generated.

17:52 Serkan Ik denk het wel.

17:53 Elwin Werkt het zo?

17:53 Serkan Ja, ik hoop het. Ik hoop dat eigenlijk wel.

17:55 Elwin Want volgens mij, ik betwijfel dat het zo werkt, want volgens mij werkt het als volgt, is dat jij als bedrijf dan gewoon zegt: dit is AI generated en dan plakken ze dat label erop.

18:07 Serkan Dat zou kunnen

18:07 Elwin Dus dat is volgens mij hoe het werkt. Hij werkt niet andersom

18:10 Serkan Best wel goed kan, uh, onderscheiden van elkaar. Want muziek, uhm, het, het werkt heel goed, zeg maar, muziek generaten met, uh, Suno of noem maar op. Maar je hoort wel altijd dat verschil omdat je altijd een gelijk soort, uh, stem hebt die niet te veel ups en downs gaat. Dus ja.

18:26 Elwin Wist je nog onze eerste seizoen? Toen hebben we de hele tijd dat zitten maken en dan praat ik over maanden geleden en nu zitten we op Suno 5.0 of zo. Nee joh man, je kan echt, uh, wat in elkaar draaien, hoor, dat, dat hoor jij niet. Dat ga jij niet horen.

18:39 Serkan Ik denk dat je— maar je kan het wel analyseren. Kijk, misschien dat ik het zelf niet één, twee, drie kan horen, maar ik denk dat een AI-model daar best wel op kan, uh.

18:45 Elwin Dat geloof ik. Ik denk dat een AI-model dat wel zou kunnen detecteren als je dat goed, uh, traint. En dan vind ik ook dat de bewijslast dan weer moet liggen bij die persoon die het dan heeft opge-, geüpload.

18:56 Serkan Ja.

18:56 Elwin Dus in andere woorden: jij uploadt iets en het AI-model zegt: hé, wij hebben het vermoeden dat het AI generated is. Ja, dan moet jij maar gaan aantonen dat het niet zo is. Maar Apple Music en Spotify, die willen dat niet, want dat kost geld.

19:10 Serkan Ja, dat is natuurlijk ook het probleem. Ze willen— dat is weer eigenlijk, uh, hetzelfde riedeltje als eerder van: waarom zouden we niet dat soort muziek willen aannemen? Want ja, ze verdienen er alleen maar op. Hoe meer luisteraars, hoe beter het is.

19:21 Elwin Ja, dus en dat is wat je krijgt. Nou ja, dan heb je, wie controleert dan ook weer de controleur? Daar kom je dan ook weer in terecht.

19:28 Serkan Ja.

19:29 Elwin En dat gaan ze natuurlijk ook niet openzetten, want ze gaan dan ook niet zeggen van: ja, goh, wij hebben dit, uh, AI, uh, generated, uh, d-, l-label erop geplakt, maar ja, is dat terecht? Klopt dat wel de hele tijd? Ja, ik, ik heb daar weinig vertrouwen in, omdat we het, uh, de social media al hebben gezien. We hebben gewoon gezien hoe dat gaat met social media. We hebben gezien hoe dat gaat bij YouTube. We hebben het allemaal gezien en iedereen die spreekt de schande van en we gaan gewoon door. Nou, en dit is precies hetzelfde.

19:58 Serkan En dat maakt het dus heel gevaarlijk, want je hebt dus eigenlijk AI die niet liegt, maar overtuigt. Want kijk, stel je hebt dat soort nieuwsberichten, net zoals met, uh, met de oorlogen en dingen van: ga gewoon continu beelden posten of continu, uh, eenzelfde meningsuiting, zeg maar, gaan we dan naar voren brengen. En als je dat vaak genoeg ziet, dan ga je dat toch als mens geloven van— als jij elke keer zegt van: ik hou niet van appels. Ja, en je hoort elke dag door: ja, je houdt van appels, je houdt van appels, je houdt van appels. Dit is gezond aan appels. Dat, dat. Als je het de hele dag hoort, dan denk ik dat je daar een paar, uh, weken of een paar maanden in één keer, uh, denkt van: eigenlijk heb ik wel trek in een appel, terwijl je dat normaal gesproken nooit zou doen.

20:36 Elwin Ja.

20:36 Serkan Normaal gesproken nooit zou eten. Ja, dus eigenlijk is het een soort van brainwash wat je dan gaat krijgen met AI, omdat je dan continu content krijgt en dus op die manier meningsuitingen anders worden. Kijk, nu hoor je bijvoorbeeld van Trump doet allemaal, uh, verschillende dingen van dit en dit. Nou, dan over een tijdje, als je dat dan, ja, dan gaat het AI-model gaat het dus brainwashen van in plaats van de slechte dingen die hij dan zou doen, komen er nu alleen maar goede dingen uit. En zo kan je eigenlijk de maatschappij beetje bij beetje brainwashen tot dingen, om ze dingen te laten geloven die in de praktijk misschien niet helemaal waar zijn.

21:08 Elwin Nou ja, ik denk dat we dat al sinds jaar en dag doen, ben ik van mening. De geschiedenisboeken staan er vol mee natuurlijk van hoe hele bevolkingsgroepen werden gebrainwasht door een paar mensen in de top. Alleen het punt is dat het nu veel sneller kan en dat we in een maatschappij leven dat de waarheid de waarheid niet meer is, waardoor het nog sneller gaat.

21:27 Serkan Ja.

21:28 Elwin En dat is gewoon wel een probleem.

21:31 Serkan Dat is ook het gevarenconcept.

21:32 Elwin Ja, en mensen die willen ook niet meer echt nadenken van: uh, klopt dit wel, et cetera. Uh, we, we scrollen, we kijken ergens zes seconden naar. Brainrot, we hebben het er vaker over gehad en mensen die geloven dat gewoon allemaal. En daarnaast creëren bepaalde mensen ook aanzien. En ik vraag me altijd af hoe dat in vredesnaam kan bij sommige mensen dat die dan aanzien krijgen. Maar ja, blijkbaar zien ze er goed uit en hebben ze, zeggen ze de juiste dingen die ik relatief infantiel vind. En, uh, dan, uhm, krijg je een hoop volgers. En als je dan die volgers hebt, dan kan je daar weer gebruik van maken en dan kom je met de gekste dingen weg in het leven.

22:07 Serkan Ja, apart dat het zo loopt, maar dat is wel, uh, waar we nu in staan met de technologie en, uh, hoe het al, uh, ook al jaren loopt, zelfs voor, uh, voor AI.

22:15 Elwin En het zou, AI zou het beter kunnen maken. Maar ja, noem me een pessimist. Noem me een persoon waarvan het golf, uh, uh, sorry, het glas half leeg is. Het, ik zal het zijn, maar ik heb er weinig vertrouwen in dat het veel beter wordt. En ik denk, uh, het enige wat ik onze luisteraars wil meegeven en dat zijn kritische mensen, dat weten we gewoon. Wees nog kritischer.

22:38 Serkan Ja, geloof nooit iets wat je zomaar ergens voorbij ziet komen.

22:42 Elwin Ja, daar moet je heel voorzichtig mee--

22:43 Serkan Ook niet op de Brainrot. Natuurlijk leuk om naar te kijken, maar probeer het niet te geloven. Ook al word je langzamerhand alsnog gebrainwasht door de Brainrot. Maar pas ervoor op, ga nergens van uit.

22:54 Elwin Mensen hebben dat ook helemaal niet nodig, want ze kunnen gewoon naar ons luisteren. We hebben nu zoveel episodes gemaakt. Begin gewoon weer van begin af aan.

23:00 Serkan Ja.

23:00 Elwin En dan, uh, wordt het helemaal geweldig. En, uh, zitten ook nog wat mooie nummertjes van Suno tussen. Let niet altijd op de kwaliteit, want het was echt het begin, hè, het begin van Suno dat het, uh, oké was. En moet je kijken waar we nu staan.

23:11 Serkan Ja, we moeten, uh, nog wel eens een keertje een songetje terugbrengen.

23:14 Elwin Eigenlijk, misschien moeten we een Suno-episode een keer maken en dan gaan we gewoon hier voor de gein even wat, uh, nummers prompten en dan, uh, ja, misschien dat luisteraars kunnen laten weten wat nou gave nummers zijn. Dan zeggen: nou, kan je zo'n type nummer maken. Nou, en dan, uhm, draaien we dat gewoon in elkaar.

23:29 Serkan Kijk, top! Ja, we zullen er wel een AI-label bij zetten.

23:33 Elwin Uh, ja, dan weten ze in ieder geval dat het gewoon AI generated is. Ja, dat zeker. Dat zeker.

23:36 Serkan Dat, uh, doen we dan wel weer.

23:39 Elwin Ja, ja, ja.

23:39 Serkan Oké.

23:40 Elwin Nou ja.

23:41 Serkan Ik denk dat we het daarmee, uh, moeten afsluiten.

23:43 Elwin Ja, dan hebben we altijd een mooie afsluiter. Dus dan, uh, start ik van: want vandaag beginnen we bij een stem die je niet meer kunt vertrouwen. We zagen hoe AI-beelden de waarheid vervormen, hoe platforms te laat reageren op een probleem dat ze zelf hebben gemaakt en hoe diezelfde bedrijven stiekem meelezen in je documenten en meekijken via je bril. En we eindigen bij iets dat misschien nog verontrustender is: AI die niet liegt, maar ons allemaal hetzelfde laat denken.

24:13 Serkan Het gekke is dat er geen slechterik is in dit verhaal. Geen Bondvillain in een stoel die dit heeft bedacht. Het is een systeem dat groeit omdat niemand het stopt. En wij allemaal doen mee. Elke dag, bij elke zoekopdracht.

24:27 Elwin Dus hier is mijn vraag aan jou: de volgende keer dat je moeder belt, de volgende keer dat je een foto ziet, een artikel leest, een mening vormt, stel jezelf dan niet alleen de vraag: is dit echt? Maar ook: waarom geloof ik dit? En wie wil dat ik dit geloof? Dit was AI-boys. Tot volgende week.