AI staat deze week voor de rechter

0:00 Elwin Stel je voor: je bent 14 jaar oud. Je zit op school. Je maakt een selfie met je vrienden. Niks bijzonders. Een paar weken later ziet iemand je foto. Jij, naakt, gegenereerd door een chatbot.

0:15 Serkan En niet door een of ander obscuur programmaatje ergens op het dark web, maar door Grok van Elon Musk, de app die gewoon in de App Store draait.

0:24 Elwin Dit is de week dat AI voor de rechter stond. En niet één keer, maar van alle kanten tegelijk. AI-boys, powered by Jelle. Welkom bij AI-boys, one take no edits en vandaag een aflevering waar je stil van wordt, want deze week kwamen de rechtszaken. Niet eentje, maar een lawine.

0:46 Serkan We beginnen bij tieners die xAI aanklagen, dan OpenAI dat zijn eigen psychologen negeert en de advocaat die massaal slachtoffers voorspelt. Het woordenboek en de encyclopedie die terugvechten en een datalek dat alles nog erger maakt.

1:04 Elwin En de centrale vraag: als AI-bedrijven zelf hun ethische grenzen niet bewaken, is de rechtszaal dan de enige plek waar ze nog gestopt worden? Ja, en laten we beginnen met het treurige nieuws: een chatbot die naaktfoto's maakt van schoolkinderen. En dan gewoon geen dark web, maar gewoon in de App Store.

1:23 Serkan Ja, het is voor iedereen beschikbaar en dat is het allerergste eigenlijk hier natuurlijk in. Ja, iedereen, uh, kent natuurlijk, uh, onderhand wel Grok, hoe groot het is geworden. En, uh, ja, Elon Musk met zijn, uh, uh, aparte dingetjes die hij af en toe, uh, uhm, ja, mee op het nieuws komt. Uhm, ja, en natuurlijk met Grok staat eigenlijk om bekend dat het geen filters heeft. En heel veel mensen die maken daar nu eigenlijk een misbruik van. En ja, ook dat zie je dan vooral terug op school. Dan gaan ze, uhm, uh, neppe foto's gaan ze dan laten genereren van dan kinderen die dan in één keer naakt zijn. Ja, doen ze natuurlijk een beetje om elkaar te pesten of om gewoon grappig te zijn. En dat heeft best wel wat grote invloeden die je dan voorbij ziet komen. Ja, is natuurlijk, uh, door en door triest dat dat gebeurt. En nu is de vraag van: hoe ga je dat, uh, hoe gaan ze dat oplossen? Hoe kunnen ze daar, uh.

2:17 Elwin Ja, de, de vraag is eigenlijk hoe de overheid dit gaat oplossen. Kijk, w-we, het verleden heeft gewoon aangetoond dat bedrijven zichzelf niet censureren en die gaan dat ook niet doen op die manier. Dus de overheid die zal hierop in moeten spelen en duidelijke grenzen en kaders moeten, uh, geven en moeten zeggen: dit is gewoon onacceptabel. Want we hebben het natuurlijk over, uh, jij hebt het over pesten, want daar komt het dan een soort van op neer, hè, want het is natuurlijk treurig. Heb zelf jonge kinderen. Nou ja, vroeger toen wij op school zaten, vroeger.

2:45 Serkan Vroeger.

2:47 Elwin Ja, da, da, daar kon je bijna, ja, je kon wel digitaal gepest worden, maar, t, met mijn leeftijd kon het via MSN Messenger of zo, maar daar hield het dan ook wel mee op. En dan moest je toch inbellen, dus het kostte een godsvermogen. Mensen die namen de moeite daar niet. Maar ja, tegenwoordig heb je natuurlijk al digitaal pesten via de socials, via WhatsApp, uhm, wat al verschrikkelijker is. En, uh, Elon Musk die dacht: weet je wat, ik gooi er nog even een schepje bovenop. We creëren gewoon dit soort dingen. En ik snap het allemaal, hè, weet je wel. We willen vrijheid en mensen moeten zelf, uh, kunnen verzinnen wat ze kunnen doen. Maar mensen kunnen die verantwoording niet aan.

3:18 Serkan Nee, er moet altijd een soort limiet zijn tot waar je mag gaan en waar eigenlijk niet. Daar zijn natuurlijk de guardrails voor die dat allemaal bepalen.

3:25 Elwin Ja.

3:26 Serkan En als het dan word misbruikt, ja, wie is er dan natuurlijk schuldig hierin? Is dat, uh, Elon Musk, uh, of dat ze het niet goed hebben ingesteld? Of, uh, wil je dit soort verantwoording bij de gebruiker uiteindelijk neerzet? Maar ja, je weet hoe dat gaat natuurlijk. Als je dat neerlegt bij de gebruikers-

3:41 Elwin Ja

3:41 Serkan ...dan, uh, gaan ze alle kanten op en dat maakt het, uh, dit soort dingetjes heel gevaarlijk. En dan gaan heel veel mensen, uh, zijn er natuurlijk al de dupe van. Er zijn al, uh, duizenden aanklachten, of volgens mij zelfs al miljoenen, die er lopen op basis van dat mensen hier niet tevreden over zijn en ze nu ook eigenlijk een beetje voor de rechter worden gesleept om dit alsnog, uh, te, te laten realiseren.

4:02 Elwin Ja, dus, uh, mi-miljoenen dollars heb je het dan over, uh, waar die mensen nu aan het claimen zijn. Ja, het is natuurlijk de free speech paradox waar je het daarnet ook over hebt, van: ja, wat mag wel? Wat, wat, wat kunnen we gewoon wel of niet doen? Maar ja, ja, ik word er altijd een beetje stil van, omdat ik denk van: we hebben het met de socials gezien, mensen. We, we, we kunnen het met elkaar als maatschappij blijkbaar niet aan. Maar ja, dat is weer zo'n hele filosofische discussie waar we nu terecht gaan komen. Kunnen we dit nou wel of niet doen? Maar de realiteit, die wijst uit dat dit gewoon niet goed is. En deze, uh, d-, wat zomaar jouw kinderen kunnen zijn of kleinkinderen kunnen zijn, die worden hier de rest van hun leven mee geschaad, hè, door geschaad. En, uhm, ik hoop dat ouders al heel erg goed opletten met hoe ze hun kinderen inzetten op de socials. Want ik heb, ik snap nog steeds niet dat er van die ouders zijn die hele aparte social media profielen aanmaken voor hun kinderen en kinderen gewoon online plempen en er van alles en nog wat mee doen. Je hebt natuurlijk ook wel die YouTubers die daar heel veel geld mee verdienen. Dat is ook, uh, vind ik eigenlijk te bizar voor woorden dat dat niet gereguleerd is. We reguleren letterlijk alles in Nederland waar je een dakkapelletje mag gaan plaatsen, maar, uh, je kan gewoon je kinderen inzetten op YouTube en er heel veel geld aan verdienen. Dat wordt dus niet gereguleerd. Dit moet ook gewoon gereguleerd worden. Uh, het kan gewoon niet zo zijn dat, uh, iedereen om, uh, die een computer heeft, uh, en je hebt nog niet eens een computer nodig, die een oude iPhone heeft, een, een, een application kan downloaden en daarmee de verschrikkelijkste dingen kan maken. En de-deze kinderen die kwamen dan ook gewoon naar voren. Uh, en sommigen die wisten nog niet eens d-dat er foto's zo op die manier van hun gemaakt waren, w-w-werden, maar die kwamen gewoon naar voren door onderzoeken naar kindermisbruik. Snap je wat ik bedoel? Van, d-d-d-die kwamen gewoon bij mensen gewoon op hun harddisk naar voren, terwijl dat helemaal, dat was hartstikke nep. Maar ja, lekker dan.

5:51 Serkan Ja, dat maakt dit soort situaties altijd lastig natuurlijk. Maar is het dan eigenlijk ook heel anders dan als je het vergelijkt met, uh, met vroeger? Want toen had je natuurlijk gewoon een, uh, een Photoshop. Nou, zou je het technisch gezien kon je het daarmee doen. Alleen dan moest je wel de expertise, zeg maar, hebben om dat makkelijk te kunnen genere-, uh, of ja, om dat makkelijk te kunnen bewerken en te doen. Nog steeds vreselijk als mensen dat zouden doen. Even vooropgesteld. Maar is dat dan nu heel erg anders als je het vergelijkt met als je dat nu dan via een prompt doet? Het is alleen meer toegankelijker geworden, maar dat betekent niet dat het er eigenlijk nooit was geweest.

6:24 Elwin We, we komen, we zijn gewoon in een scenario beland dat iedereen van alles en nog wat kan maken.

6:29 Serkan Ja.

6:30 Elwin En dat is problematisch, want we zijn ook in een scenario beland dat iedereen van alles en nog wat online kan plempen en kan roepen. En dat iedereen, net zoals wij, gewoon een podcast kan maken. Vroeger moest je daar hele dure apparatuur voor hebben. Tegenwoordig, uh, voor, uh, uh, met je, met je telefoon kan je het eigenlijk al. Wij doen het met iets duurdere apparatuur, maar ook niet heel erg duur als je dat daarmee vergelijkt.

6:52 Serkan Ja.

6:53 Elwin Ja, en je slingert van alles en nog wat de ether in. Ja, ik, ik denk niet dat dat goed gaat komen mensen, als we op die manier doorgaan met elkaar, want de mensheid is daar niet voor gemaakt heb ik het idee. En al helemaal niet de mogelijkheid dat ze van alles en nog wat mogen genereren via AI en video generation, om het zo maar te zeggen. Er worden de gekste dingen gemaakt die de wereld, uh, niet een beetje mooier maken over het algemeen.

7:16 Serkan Klopt. Ja, als je chatbot, uh, kinderporno maakt van schoolfoto's en je noemt jezelf principieel, dan heb je het, uh, woord niet goed begrepen.

7:24 Elwin Maar with all due respect, ik ken Elon Musk niet, uh, persoonlijk. I-ik ken alleen de verhalen om het zo maar te zeggen. Terwijl ik vroeger best wel, ook wel fan van hem was, wat hij aan het neerzetten was en wat hij aan het doen was. Maar ja, dan, hij was zelfs in de Big Bang Theory kwam die en zo. En dan dacht je echt: o, dit is iemand die gewoon bijdraagt om de wereld te verbeteren, om het te veranderen. En ik denk in zijn optiek dat hij dat ook aan het doen is of zo. Maar ja, ik, ik, ik, uh, misschien, uh, ben ik te dom of zo dat ik het niet zie. Laten we het daar maar dan op houden, want ik, uh, ik, ik zie het niet meer mensen. Ik ben het een beetje kwijt.

7:56 Serkan Hij, hij is wel echt een voorloper altijd op de markt, dus ja, ik snap dat hij natuurlijk heel veel, uh, uh, fanboys heeft om het zo maar te zeggen. En, a-, deels ben ik ook wel fan van hem. Maar ja, soms moet hij toch wel echt even, uh, bepaalde grenzen trekken waar, ja, dingen gewoon niet, uh, niet mogelijk moeten kunnen zijn. Of het in ieder geval, uh, harder, ma-, moeilijker maken, zeg maar, in de maatschappij om dit soort dingetjes te kunnen produceren. En ik hoop wel dat hij hier dan aan gaat meewerken. Nu zeker ook met alle rechtszaken die dan, uh, gaan lopen. Dus, uh, we moeten even kijken hoe dat, uh, nou, de aankomende periode gaat. En dan, uh, heb je natuurlijk ook nog iets heel anders. Dat is dan echt weer een, uh, switch de andere kant op. Terwijl Tinus een, uh, recht proberen te halen, besloot OpenAI deze zelfde week precies de andere kant op te lopen. Want, ja, OpenAI, die gooide dus eigenlijk alle remmen eraf. En, uhm, ja, je eigen psychologen zeggen unaniem eigenlijk: nee, je doet het toch. Nou, welkom bij OpenAI in 2026.

8:54 Elwin Nou ja, dat was in 2025 volgens mij ook al daar het geval. Toch? Ze, d-die, ze deden sowieso waar ze zelf zin in hadden, ook al zeiden mensen van aan de zijlijn: doe dit nou niet. Er zijn natuurlijk genoeg mensen daar opgestapt. Dat is ook heel, waar Anthropic helemaal uit is ontstaan, omdat zij, ja, niet het eens waren met hoe OpenAI in de koers die ze aan het varen waren. Dus, maar ik deel het wel met je, van: er zijn allemaal specialisten daar geweest die hebben gezegd van: nou, uh, ik zou dat niet doen als ik jou was, uh, en zeker mental health, uh, coaches. Weet ik veel wat, uh, wat er allemaal rondloopt. Uh, mental health adviseurs die zeiden van: doe dit nou niet, adult content. Uhm, en ik denk dat, uh, uhm, het, het rinkelen van het geld, dat dat harder klonk dan de adviezen van de slimme mensen.

9:38 Serkan Ja, dat is altijd weer een keuze die ze moeten afwegen natuurlijk, uh, bij dit soort bedrijven. Ja, OpenAI was origineel bedoeld om het gewoon lekker toegankelijk te maken voor iedereen. Is het een simpele manier om gebruik te kunnen maken van AI. En, uh, ja, het lijkt nu haast erop dat ze een beetje de kant op gaan om, uh, toch bepaalde filters eraf te gooien. En, uh, ja, seksualiteit willen toestaan en ook gewoon relaties die natuurlijk helemaal gaan lopen via AI.

10:03 Elwin Ja.

10:04 Serkan Maar dat is best wel aan de ene kant zorgwekkend, aan de andere kant snap ik het. Want ja, voor, voor een normale mens zal dat niet zo snel, dat je een relatie gaat beginnen met een AI of wat dan ook. Maar ik denk voor mensen met misschien wat, uh, ja, psychische problemen of, uh, verstandelijke beperkingen, dat dat dan toch wel, ja, van invloed kan zijn en toch wel een groot onderdeel van hun leven kan bepalen op juist, ik hoop op een positieve manier, maar ook misschien wel in een negatieve-

10:35 Elwin Ik, ik-

10:35 Serkan Onderveel. Ja

10:36 Elwin Ik zie weinig positiviteit hier dan in, moet ik heel eerlijk bekennen. Ik, ik denk dat het om geld gaat. Dat is het enige wat ik hierin terugzie. Dat ik denk van: waarom zou je dit doen? En dan kom je toch bij het befaamde zinnetje, uh, sex sells, om het zo maar te zeggen. En d-dat is dit ook gewoon weer van: waarom moet je adult content in ChatGPT hebben met, terwijl daar, uhm, adviseurs zeggen: doe dat nou niet, we moeten het beter onderzoeken. D-d-er kan echt verslaving ontstaan en dat zal niet, uhm, zijn door, denk ik, mensen, wij, w-, j-, want jij hebt het dan over mensen die, uh, een beperking hebben die dan een soort hulp hierbij he-, kunnen hebben. Ik, ik denk van: ja, dat is, dat, dat zou theoretisch kunnen. Ik, ik deel dat niet helemaal met je, maar iedereen kan hierdoor verslaafd raken en dat is toch een beetje hetzelfde als roken. Ja, ik, we-, het is niet natuurlijk hetzelfde als roken, maar d-d-de tabaksindustrie, en evengoed als de olie-industrie, want die riepen, man, die, die hebben daar, uh, in rechtbanken staan beweren: nee, hoor, is niet verslavend. Nee, olie en, uh, klimaatverandering heeft niks met elkaar te maken. Ze hebben het knetterhard met droge ogen daar geroepen, die rijke mannen.

11:53 Serkan Ja, ze zijn er heel rijk van geworden.

11:55 Elwin Daarom, want, uh, d-d-, het gaat om het geld en dan onderaan de streep, uh, komt er dan naar boven van: o ja, nicotine, ja, da-dat wisten we eigenlijk al in de jaren 60 dat het gigantisch slecht voor je was, verslavend, ja, en dat je er, uh, dood aan ging. Ja, mensen en ethische kompassen, dat is heel erg lastig. En dan denk ik: ja, dan gaan we dit bij ChatGPT erin gooien en, uh, ChatGPT is geen kleine jongen. Snap je wat ik bedoel? Van: als het nou een of ander vaag appje is wat ontwikkeld is, of dat iemand dat nou als soort hobby in elkaar aan het flansen is en dat mensen die daar echt naar op zoek zijn dat gebruiken. Dat vind ik dan een andere case. Maar dit is bijna dat je het mensen in hun gezicht duwt. Klopt. En dan denk ik: waarom? Want we, uh, zien best wel bijzondere scenario's. Voornamelijk zie je dat in, in bijvoorbeeld Japan of Zuid-Korea, dat mensen met hele AI, uh, hoe, hoe moet ik die, ge-, hoe moet ik dat noemen, ja, het zijn eigenlijk een soort manga characters.

12:48 Serkan Ja, dat ze met manga characters, uh.

12:50 Elwin Ja, met AI characters willen trouwen. En, ja, die, ik kan me niet voorstellen dat dat goed is voor je ontwikkeling. Uh, en stiekem blijf je dan toch eenzaam. Dus het is een soort van, ja, het, het weghalen van nep eenzaamheid.

13:04 Serkan Klopt.

13:05 Elwin Ja.

13:05 Serkan En ja, dat heeft eigenlijk alleen maar nadelen. Ja, in sommige gevallen, misschien dat er echt enkele gevallen zijn waar dat voordelen in kan geven dat je je dan niet meer alleen zou voelen. Maar ik, uh, zie er alleen maar, uh, negativiteit eigenlijk aan.

13:18 Elwin Het, het social media playbook, hè, die ze spelen.

13:20 Serkan Ja.

13:20 Elwin Het is gewoon, uh, wat Facebook ook gewoon deed, want daar werd toen ook tegen opgeroepen: oké, wat we nu aan het neerzetten zijn, er moeten betere rail guards in. We kunnen niet iedereen zomaar alles online laten plempen. Dat, dat werd toen ook gezegd. Maar ja, uh, Markie die dacht van: ja, maar ik zie hier miljarden tegen, op mijn bankrekening gestort worden en dat kunnen er nog meer worden. Dan, dan gaat het toch om het geld en het gaat om de groei en gaan de aandeelhouders zich erin roeren. Die willen nog meer winst. Ja, dit is precies hetzelfde.

13:47 Serkan Ja, en ze hebben het heel lang volgehouden. Want origineel, het was allemaal als non-profit. We maken het voor de maatschappij beschikbaar en nu wordt het, uh, ja, gaat het van beneficial AI naar naughty ChatGPT. Ja, acht jaar hebben ze het volgehouden, maar helaas, iedereen kiest uiteindelijk weer voor het geld.

14:03 Elwin Ja.

14:03 Serkan En als je denkt dat dit bij incidenten blijft, dan is er iemand die ons waarschuwt dat het veel groter wordt.

14:09 Elwin Ja, dat is een, uh, advocaat, hè, die, uh, meerdere zelfmoordzaken uit onderzoekt. En, uhm, ja, dat is ook, uh, helaas wat er wordt beweerd waar AI, uhm, ja, onderdeel van is.

14:21 Serkan Ja, klopt.

14:23 Elwin Ja, want ze hebben het over AI geïnduceerde psychoses. Dat AI je in psychose kan laten, uh, raken.

14:31 Serkan Klopt, want er zijn inderdaad ook meerdere cases dus voorbijgekomen van mensen die, uh, zelfmoord hebben gepleegd op basis van AI, ja, hoe moet ik het noemen? Advies of gesprekken? Ja, zo zie je wat voor grote invloed dat bij sommige mensen kan hebben. Ook als je weer praat over dat stukje verslaving. En dan nu dat het zelfs kan leiden tot zelfmoordcases. Ja, dan zie je natuurlijk wat voor, uh, bloedbaden het kan veroorzaken. En het is niet voor, ja, honderden personen waar je over praat, wat dan al erg zou zijn. We praten hier straks gewoon over tientallen duizenden mensen. Het is gewoon een kleine oorlog eigenlijk wat het is geworden. Dus dat is wel vreselijk waar dat naartoe gaat. En zo zie je wat voor impact het kan hebben op de normale samenleving voor mensen die al wat depressiever zijn en er wat verder in gaan. En als je dan bijvoorbeeld met een krok gaat praten of er gaat al iets slecht, dat, uh, iemand zich, uh, niet goed voelt en er komen in één keer naaktfoto's van jou online. Ja, dat allemaal in combinatie met elkaar, dat heeft echt verstrekkende gevolgen.

15:32 Elwin Maar ja, dit is natuurlijk wel bizar, want het is ook al een tijd geleden natuurlijk. Dat was volgens mij al met GPT4o.

15:39 Serkan Ja.

15:39 Elwin Dat, uh, dat ze het voor elkaar hadden gekregen dat GPT dacht dat hij God was. Daar gingen ze zo door, lang door chatten en dan zeiden je, be, en gingen mensen vragen: ja, ben jij dat dan, God? En dan zei hij: ja, dat ben ik. En dan ging hij dus hallucineren en ging hij daarin mee. Ja, en daardoor gingen mensen de gekste dingen natuurlijk doen en vragen. Ja, en als je daar inderdaad, i-i-, kijk, je moet er wel, voor dit moet je wel inderdaad wat gevoeliger denk ik zijn. Uh, maar desalniettemin, ja, moet daar wel kritisch naar gekeken worden dat mensen beschermd worden tegen zichzelf, want dat is blijkbaar nodig. Kijk, als we naar alle cases kijken die we daarnet bespreken, moeten mensen beschermd worden.

16:16 Serkan Juist.

16:16 Elwin En dat doen we in heel veel dingen. We moeten toch ook een gordel om als we aan het autorijden zijn?

16:21 Serkan Precies.

16:21 Elwin Er zijn toch allemaal, uhm, rail guards als we rijden?

16:25 Serkan Ja.

16:26 Elwin Je mag toch ook maar maximaal 100 kilometer per uur rijden? In ieder geval overdag. Dat, dat stellen we allemaal in. Dat doen we allemaal met elkaar.

16:35 Serkan Daar zijn alle regels op gebaseerd.

16:36 Elwin Ja.

16:36 Serkan Dat is het vooral. Kijk, je kan ook niet zomaar een auto produceren zonder remmen. Weet je, dat, dat gaat ook niet.

16:41 Elwin Correct.

16:41 Serkan Dus uiteindelijk moeten toch AI's wel die limitaties, uh, gaan instellen. Ja, uh, de advocaten krijgen het natuurlijk nu wel heel druk, want er zijn allemaal rechtszaken die gaan lopen. Maar ja, je weet hoe dat gaat. Rechtszakei-, rechtszaken zijn natuurlijk heel traag.

16:54 Elwin Ja.

16:54 Serkan En de AI-ontwikkeling die blijft maar groeien. Dus je krijg steeds meer aparterige cases die naar voren gaan komen. En ja, voor zo'n rechtszaak uit is, dan ben je alweer, uh, uh, drie modellen verder bijvoorbeeld, waar ze dat dan wel weer in hebben opgepakt.

17:07 Elwin Daarom, maar dit werkt gewoon allemaal niet. Want het ene, het wordt ook aangeklaagd in Amerika natuurlijk.

17:11 Serkan Ja.

17:12 Elwin Ja, wij, wij zitten in een heel ander land. Hele andere wetgeving ook en ik denk dat het beleid veel beter moet worden aangepast op de EU. Nogmaals, we hebben wel die EU Act, maar ja, die dekt dit soort dingen helemaal niet omdat die EU Act is volgens mij die, e-, of EU Act noem ik het, AI EU Act of zo. Die is, die is natuurlijk, twee jaar geleden verzinnen ze dat. Ja, d-d-dat moet je eigenlijk gewoon 24/7 blijven updaten met de gekste dingen. En dat is wel wat we eerder hebben gezegd. Daar moet je een soort carte blanche voor krijgen of zo. En niet helemaal carte carte blanche, maar ik denk dat wat we al eerder zeiden van: er, er moet een soort AI ministerie worden opgericht of een AI-commissie vanuit Europa die echt alleen maar daarmee bezig is en daar heel snel doorheen gaat en dan ook sneller daarop, uh, vrijheden krijgt dat ze beperkingen mogen opleggen.

17:59 Serkan Dat zou de ideale situatie zijn inderdaad.

18:01 Elwin Voor dit soort dingen. Dan zeg ik: ja, dan zijn ze allemaal andere dingen aan het beperken met AI. Waarvan ik dan denk van: nou, misschien moet je dat juist weer wat vrijer laten, hè, van innovativiteit, et cetera. Maar daar ga, ja, aan de andere kant denk ik: ja, pak even de, de, de, de, de punten aan die mensen echt kunnen schaden en dit kan mensen echt schaden.

18:20 Serkan Ja, het is een vreselijke situatie waar je dan natuurlijk in terecht komt en daarom zou je het ook moeten afschermen. En ik hoop dat ze dat ook echt gaan doen. Wel dat dat niet ten koste gaat van bepaalde innovatie. Uh, kijk, ik vond in het algemeen dat Ch-ChatGPT best wel dingen heel goed had geblokkeerd. Wilde je al een foto van iemand laten bewerken of wat dan ook die je erin deed, werd het al gelijk geblokkeerd.

18:40 Elwin Ja.

18:40 Serkan Maar ja, als ze nu die bepaalde guard rails al gaan aanpassen en dit mogelijk maken, ja, dat geeft best wel, uh- Gevaarlijke gevolgen en ik denk dat er nog, uh, heel veel verschillende rechtszaken gaan komen hierin. Dus ja, we wachten nu eigenlijk letterlijk tot de doden vallen voordat we ingrijpen. Ja, en de advocaten vertellen ons al dat het gaat gebeuren.

19:00 Elwin Ja, maar ja, dat is natuurlijk wel logisch dan, uh, dat er mensen zullen roepen: dit gaat er gebeuren en dan gebeurt dat ook wel, om het zo maar eens te zeggen. Zolang die, ja, er zijn genoeg mensen die, uh, die iets roepen, maar ja, linksom, rechtsom, mensen zijn toch hardleers en dat zien we gewoon hierin terug.

19:15 Serkan Ja.

19:15 Elwin Ik denk als je het een AI ook zou vragen, uh, heel hardleers.

19:20 Serkan Nee, klopt. En het is, uh, natuurlijk niet alleen ethiek en veiligheid. Deze week werd, uh, AI ook al aangevallen vanuit een heel andere boek. Ja, natuurlijk, het boek dat, uh, iedereen kent, het woordenboek en de encyclopedie.

19:31 Elwin Ja.

19:32 Serkan Die vechten dus terug. Ja, en de vraag is simpel: heeft AI dus eigenlijk gewoon alles copy paste of gestolen? Of heeft ie er echt van geleerd?

19:42 Elwin Ja.

19:42 Serkan Want ja, het is toch wel een beetje een bijzondere situatie, uh, voor de encyclopedie en het woordenboek. Nou blijkt dus dat ChatGPT één op één alles citeert wat er in die boeken staat.

19:54 Elwin Dat geloof ik. Maar ja, ze hebben ook, uh, het hele model getraind op allemaal gestolen boeken geloof ik of zo. En op open source boeken. Ja. Ja, ik, ik betwijfel dat ze hier echt wat uit gaan halen. Misschien wel dat ze een deal kunnen maken met OpenAI hierover. Maar weet je wat ook interessant is? Dat AI-modellen, die trainen natuurlijk ook op elkaars modellen.

20:13 Serkan Klopt, ja.

20:14 Elwin Dus al die Chinese modellen die trainen voornamelijk op Anthropic en OpenAI. Ja, dus dat gaat veel verder door. Dus als OpenAI op, uh, encyclopedieën denkt, uh, of op, uh, woordenboeken van, uhm, Merriam-Webster, ja, dan, dan gaat het hard.

20:29 Serkan Ja, en dat, dat maakt het wel tricky, want ze zeggen dus eigenlijk van: we leren alleen de patronen, we leren niet daadwerkelijk wat er specifiek in staat.

20:39 Elwin Ja.

20:39 Serkan Maar ja, als jij rechtstreeks gewoon één op één het resultaat terugkrijgt, ja, waar komt dat dan vandaan? Ja, OpenAI, uh, negeert het keihard. Die zegt van: nee, we hebben het absoluut niet gedaan. Maar, uh, in de praktijk, ja, je, je merkt het toch terug in, i-in de chats.

20:54 Elwin Ik denk dat ze gewoon alle Encarta, uh, cd-roms, uh, van vroeger eruit hebben getrokken en die hebben ze gewoon gelijk in de modellen geüpload. Want dat is toch hoe ze dat doen? Ja, dat, zo, zo wordt het gedaan. Dus ja, ik ben het, uh, i-ik ben wel benieuwd, uh, wat daar nou weer uit gaat komen. Nou, en de perfecte afsluiter nog erbij voor deze week. Ja, het is weer een goede ouderwetse datalek, hè?

21:14 Serkan Die zie je ook altijd weer voorbijkomen.

21:15 Elwin Tjongejongejonge, die chatbots van Sears.

21:17 Serkan Ja.

21:17 Elwin In Amerika dan. Ja, Sears is een soort, uh, ja, wat is het eigenlijk? Een soort groothandel, denk ik of zo,achtig.

21:23 Serkan Ja, het is een warehouse, een groothandels, uh, bedrijf.

21:25 Elwin Soort Home Depot of zo. Of een, uh, ja, ik weet het niet, uh.

21:29 Serkan Nee.

21:30 Elwin Ja, volgens mij kan je er ook kleding kopen en zo. Maar anyway, het is een soort allround, uh, Buyenkorf 2.0 of zo.

21:35 Serkan Klopt.

21:35 Elwin Laten we het daar op houden. Ja, maar ja, dat, uh, lag alles, uh, lag op straat, hè. Dus jij bes, jij zit, uh, met de, met de bot te praten en je zegt: nou ja, ik wil, uh, uh, 10 handdoeken en die moeten bezorgd worden op, uh, uh, ja, op de Noordeinde 3 of zo, weet ik veel, uh, waar je woont, ja. En dat werd dus, uh, niet goed weggeschreven om het zo maar te zeggen en daardoor geïndexeerd volgens mij door Google Search Engines.

22:00 Serkan Ja.

22:00 Elwin En daardoor kon iedereen de chats terugvinden.

22:03 Serkan Dat is inderdaad ook een groot, uh, groot probleem. Maar dat, dat zie je ook met dit soort dingen van: kijk, iedereen wilt meespringen met de nieuwe AI-hype. Wat ook logisch is en dat moet je ook zeker doen. Maar ga hier niet te snel mee om, want dan zie je dus van developers, die gaan wat in elkaar bakken en, uh, dan krijg je er dus uiteindelijk uit dat het dit soort grote datalekken zijn die echt, uh, behoorlijk schadelijk kunnen zijn, uh, voor een bedrijf.

22:26 Elwin Ja.

22:26 Serkan Het is ook niet dat ze een klein, klein bedrijf zijn. Ze hebben een heel ICT-team. Ze hebben, uh, echt al verschillende afdelingen. Ik snap niet eens hoe dit, uh, voorbij had kunnen komen.

22:34 Elwin Ja, maar dat is, één persoon kan dit gewoon foutief natuurlijk instellen. En dan ben je de sjaak. En als je daar gewoon, ja, daar moet je altijd een soort vier-, zesogenprincipe hanteren op dit soort zaken. Ja, en als dan, uh, iemand net op vakantie is of ziek, je weet precies hoe dat in de praktijk gaat. Ja, we zetten het maar live, want, uh, board of directors die wil het live hebben en dan, uh, ja, dan komt dit naar voren. En ja, iemand heeft liggen slapen en misschien hebben ze het door vijf coding gemaakt. Weet ik veel wat. Zou ook nog een keer kunnen.

23:03 Serkan Ja, daar lijkt het inderdaad wel op, want ze hadden geen encryptie, geen toegangscontrole. Echt, ja, dat is echt heel, heel minimalistisch gemaakt. Maar dit is nu natuurlijk, natuurlijk best wel groot nieuws geworden. En misschien dat er nu ook nog andere chatbots openstaan die dit soort lekken hebben zonder dat ze het überhaupt doorhebben.

23:21 Elwin Ja.

23:21 Serkan Dit is natuurlijk omdat het nu gereleased is. Ze zijn erachter gekomen, maar ik denk dat best wel veel mensen, uh, dat soort fouten gaan maken met bijvoorbeeld MCP's, want het is allemaal nieuw. Alles is gloednieuw. Je moet je echt even in verdiepen om dat allemaal te begrijpen voor je kan zeggen van: ja, we gaan het even in elkaar flansen.

23:36 Elwin Eigenlijk wel, maar ja, door vijf coding wordt het ook weer gevaarlijker. En dat is wat je nu in de praktijk ziet. Iedereen kan van alles en nog wat bouwen. Net zoals dat iedereen van alles en nog wat kan maken. Ja, en nu gaan we de gekste dingen zien. En allemaal datalekken ga je natuurlijk zien. Je ziet het nu ook al met API-keys die heel snel lekken omdat, uh, mensen dan, uh, denken: weet je wat, ik, uh, installeer OpenClaw op mijn, uh, computer en ik, uh, laat hem gewoon lekker draaien en ik, uh, pomp al mijn API-keys erin van Gemini, van, uh, OpenAI. Ja, en die lekken dan. En dan heb je altijd een paar gasten die daar misbruik van maken.

24:07 Serkan Inderdaad, ja.

24:08 Elwin Dus ja, mensen, als je niet weet, helemaal precies weet hoe het werkt, je hoeft het niet helemaal precies te weten, maar wees kritisch. Maar ja.

24:15 Serkan Ja, en zoek ook altijd voor de, voor de veilige optie, hè.

24:18 Elwin Ja.

24:18 Serkan Zoals een OpenClaw. Ze hebben natuurlijk nu, uh, ook, uh, NeMo Claw.

24:22 Elwin Ja.

24:22 Serkan Dat is dan van, uh, Nvidia om het, uh, eigenlijk hebben ze er een web omheen gebouwd in samenwerking met OpenClaw om, uh, de beveiliging in orde te maken. Dus daar hebben ze echt, uh, miljoenen aan gespendeerd en, uh, dat rolt nu eindelijk uit. Dus, uh, ik ben benieuwd hoe dat, uh, gaat, uh, gaat, uh, lopen de aankomende periode.

24:40 Elwin Ja, we gaan het zien.

24:40 Serkan Leuke update.

24:41 Elwin Zullen we wel apart afleveringetje over maken als het lekker loopt.

24:43 Serkan Ja, inderdaad.

24:44 Elwin Maar we gaan het zien.

24:45 Serkan Nou, we debiteren natuurlijk over superintelligentie en kunnen niet eens, uh, chat, uh, gesprekken beveiligen. Dus, uh,.

24:51 Elwin Ja, dat is wel een probleem. Maar ja, mensen kunnen soms hun voordeur nog niet eens dicht doen, dus, uh, staat eigenlijk gelijk eraan toch?

24:56 Serkan Dat staat er eigenlijk wel gelijk aan.

24:57 Elwin Ja, dus, uh, hou het. Maar ja, laten we het met elkaar eens even op een rij zetten. Want deze week klaagden tieners een AI-bedrijf aan voor het genereren van misbruikmateriaal. OpenAI negeerde unaniem advies van eigen psychologen. Een advocaat waarschuwde voor massale slachtoffers. De encyclopedie en het woordenboek vochten terug en een chatbot lekte duizenden privégesprekken naar het open web.

25:20 Serkan En het enge is: dit is allemaal dezelfde week. Niet dezelfde maand, niet hetzelfde kwartaal, dezelfde week. De vraag is niet meer of er iets misgaat met AI. De vraag is of we, uh, of we wel snel genoeg zijn om er iets aan te doen.

25:36 Elwin En daarmee de vraag aan jou: als de bedrijven zichzelf niet reguleren, als de overheid te langzaam is, is de rechtszaal dan de laatste hoop? Of is het te laat? Laat het ons weten. Dit was AI-boys. Tot volgende week.