AI verlaat de cloud en kruipt in je broekzak

0:00 Elwin Stel je voor: je laptop staat op zolder. Offline, geen wifi en toch tekent hij een schilderij in 10 seconden. Geen cloud, geen abonnement, geen rekening.

0:13 Serkan Klinkt als vrijheid, maar als er niemand meekijkt, kijkt er ook niemand mee als het fout gaat.

0:18 Elwin Precies dat. De AI verhuist van datacenter naar jouw broekzak en de vraag is: wie vangt je nog op als het misgaat? AI-boys, powered by Jelle.

0:30 Serkan Welkom bij AI-boys. Vandaag verlaat AI de cloud. We beginnen bij een chip die Windows eigenlijk een echt antwoord op de MacBook geeft. En we eindigen bij modellen die offline op je telefoon tekenen. Gratis, zonder dat er nog een rekening binnenkomt.

0:46 Elwin En de centrale vraag voor vandaag: als AI van het datacenter naar jouw eigen apparaat verhuist, wie vangt je dan nog op als het misgaat? En Serkan, vijf jaar lang aanbaden wij allemaal de MacBook. Althans, ik. Ze kwamen met die befaamde M1-chip en M2, M3, M4. We zitten nu op M5. Één chip en een hele dag stroom. Geen fans, weet je wel. Echt gewoon top. En het Windows-kamp, zoals jij, keek jaloers naar zo'n device. Ja, dat is misschien allemaal nu voorbij, hè?

1:21 Serkan Ja, want alles wordt weer omgegooid. Dit, uh, ze zeggen dat het nu zo revolutionair is als de M1-tijd natuurlijk, die Apple, uh, had gereleased in, uh, 2020. Uhm, dus de laptopwereld, die staat nu eigenlijk op zijn kop. Want, uh, er komt dus ook een nieuw, uh, Nvidia Spark. Die wordt dus eigenlijk gereleased.

1:40 Elwin Ze hebben wel net Sparks tegenwoordig, hè?

1:41 Serkan Ja, allemaal sparks.

1:43 Elwin Google had volgens mij ook. Google heeft ook Spark. Meta heeft volgens mij ook Spark. Ik weet niet, uh, allemaal Spark.

1:47 Serkan Maar het grappige is dus, bij ChatGPT kwam ik ook een model tegen. Dat was alleen het max-abonnement en die heet ook Spark, maar die is onbekend.

1:54 Elwin Iedereen sparkt.

1:56 Serkan Ja, dus iedereen, uh, sparkt naar de top.

1:58 Elwin Ja.

1:58 Serkan En, uh, Nvidia wilt hier dan weer echt het verschil maken. Uh, want ze gaan dus nu, uh, wat meer de processoren in.

2:06 Elwin Ja.

2:06 Serkan En daardoor zijn ze dus nu bezig met, uh, de RTX Spark die wordt gereleased. En dat gaat dus, uh, het verschil maken eigenlijk in, uh, consumentenlaptops die worden geleverd.

2:17 Elwin Arme Intel.

2:18 Serkan Arme Intel. Ja, en nu wat beter gingen. Het gaat allemaal weer, uh.

2:23 Elwin Intel ging natuurlijk echt downhill al. Dat ging heel slecht.

2:25 Serkan Heel slecht, ja.

2:26 Elwin En, uh, ik dacht dat het weer iets beter zou gaan, maar, uh, tjongejonge, nu komen ze allemaal met eigen chips uit. Ja, ja. RTX Spark. Hoe verzinnen ze het, hè? Ja, het is weer een aanval. Het is de hardware die ze natuurlijk nodig hebben. Ik denk, Nvidia gaat natuurlijk ook, ik weet niet of ze al laptops hebben, maar dat zal er wat dik aan gaan komen als ze ook die kant op gaan.

2:43 Serkan Ja, daar zijn ze inderdaad nu tuur-, natuurlijk wel mee bezig. Uhm, en daar, daar gaan ze ook gewoon veel, veel verder op ontwikkelen. En ze hadden natuurlijk altijd wel, ze waren al bezig met de hardware, de processoren, de GPU's en nu zijn ze eigenlijk bezig met een, uh, met een switch daarin. En het is natuurlijk nu, ja, we gaan er natuurlijk inhoudelijk gaan we daar gewoon nog wat meer over vertellen. Uh, maar eerst nog even terugkomend op hoe revolutionair dit proces eigenlijk is en wat de mogelijkheden hier eigenlijk van zijn. Uh, want het komt ook niet standaard op de normale manier uit. Het is, uh, wel echt iets wat high-end wordt. Dus je moet wel denken eigenlijk aan een prijsrange van 4.000 tot € 5.000 wat je er straks voor moet neerleggen om deze processor te kunnen bemachtigen. En hij is nu gewoon heel erg gericht op de toekomst. Dus echt, uh, AI first als het ware. Waardoor je dus alles, uh, door middel van, uh, agents, uh, zou kunnen uitvoeren.

3:35 Elwin Ja, allemaal lokaal.

3:36 Serkan Daar is hij helemaal op geschikt.

3:36 Elwin Alles lokaal draaien. Dus ja, we gaan van, uh, off premise weer naar on premise. Dus we gaan weer even 20 jaar terug in de tijd.

3:44 Serkan Daar kom je inderdaad wel.

3:45 Elwin Ja, het, het beginsel wel heel erg duur zijn, ja, dat is, uh, wat ze neer gaan leggen. Dus, uhm, ja, ik denk, uh, dat je het moet vergelijken met de elektrische auto. Die was natuurlijk in het begin ook, uh, sky high en met dit soort dingen ook. Ik ben wel benieuwd, uh, waar dat, uh, naartoe gaat en ik ben ook benieuwd wat de concurrenten daar weer mee gaan doen. Uh, maar ik heb wel het idee, wat ik net al aangaf is, ja, uh, Nvidia is gewoon bezig om te zeggen: weet je wat, we gaan eigenlijk een soort tegenhanger worden van Apple. We gaan zelf chips maken, we, we maken wat GPU's, uh, dus we maken nu ook met een CPU en snap je?

4:15 Serkan Ja, klopt.

4:16 Elwin Die, die kant gaan ze op. En dan, ja, hoe moeilijk wordt het dan om te zeggen: weet je wat, we duwen het in een omhulsel en plakken er een beeldscherm op. Ik denk dat het niet heel lang duurt. Dus die kant gaat op. En het is natuurlijk een heel groot bedrijf en zij zien daar gewoon business in, dus, uh, dat zal er dan wel zijn. Maar ja, ik vind, het is weer een M1-moment, hè, voor, uh, alleen high gebruikers, high-end gebruikers. Dus ja, misschien beetje voor mij om het zo maar te zeggen. Ik vind dat wel leuk, maar ik vind 5000 wel veel ervoor. Ik denk dat ik dat niet waard vind. Nou, het is niet echt een revolutie. Ik, ik zie het toch meer als een marketingtrick.

4:50 Serkan Ja, ik, uh, vind het een, uh, beetje van beide eigenlijk. Ik denk dat het ook inderdaad een, uh, een beetje een marketingstunt is, maar het heeft ook wel echt toegevoegde waarde. Maar ik zou hem niet meteen kopen, want ik denk dat hij over een jaartje, is nog steeds even goed, maar dan zal hij wel de helft van de prijs zijn.

5:05 Elwin Ja, denk je dat? Ja, maar wordt het meer een Apple product of wordt het meer een Android product? Want dat is de vraag. Want Apple blijft toch wel wat langer zijn waarde behouden.

5:12 Serkan Ja.

5:12 Elwin En Android dat halveert geloof ik na zes maanden.

5:15 Serkan Ja, klopt, maar nu is het natuurlijk heel erg schaars op de markt met betrekking tot processoren en daardoor, uh, is het nog de vraag of dat überhaupt omlaag gaat. Uh, ik ben natuurlijk ook altijd voorstander geweest van alle, uh, graphics kaarten die, uh, Nvidia, uh, had uitgebracht.

5:28 Elwin Ja.

5:29 Serkan En die zie je inderdaad met waarde blijft dat nog wel relatief gelijk, ook al zijn je daar, ben je alweer jaren verder daarop.

5:35 Elwin Ja, maar dat komt natuurlijk omdat het tekort is nu.

5:38 Serkan Daarom.

5:38 Elwin En dat zijn ze allemaal aan het inloop-, staan allemaal fabrieken erbij aan het plempen. Dus ik denk op een gegeven moment dat het, dat het wel weer in, uh, in gaat lopen. En dan is de vraag of de waarde vaster blijft, zoals een Apple product of dat we de waarde snel gehalveerd zien worden. En ik denk zelf het laatste, behalve als ze zeggen van: oké, we gaan echt zelf volledig de hardware maken en de software die is daar ook op geënt. Maar ja, dan moeten ze wel echt flinke stappen maken, want nu maken ze het natuurlijk gewoon in een Windows, Windows, uh, omgeving.

6:03 Serkan Ja, klopt.

6:04 Elwin Uhm, ja, dan zouden ze een soort eigen besturingssysteem moeten gaan maken zoals Apple dat ook doet. Nou ja, ik zou dat Makkelijk, makkelijker op een iOS, uh, kunnen draaien. Of, uh, uh, sorry, op een Linux omgeving kunnen draaien. Maar ja, dat ligt een beetje bij hun.

6:19 Serkan Elwin, stel je koopt een nieuwe laptop en er zit gewoon een assistent in die dingen voor je doet. Niet antwoordt, maar handelt. Mails sorteren en reis boeken zonder dat jij klikt.

6:31 Elwin Ja, ik word er wel vrolijk van.

6:36 Serkan Ja.

6:36 Elwin Ja, toch?

6:36 Serkan Dat is, uh, natuurlijk nu precies waar, uh, Nvidia mee bezig is. Met de RTX, uh, Spark. Natuurlijk een, uh, een nieuwe chip die ze dan, uh, in samenwerking met, uh, Windows eigenlijk gaan combineren. En dus dat gaat allemaal op de, zo, eigenlijk op de computers draaien van, uh, van, uh, Microsoft. Ze gaan het ook zelf releasen dan, dus dat is ook wel interessant. Dus, uh, Microsoft, uh, gaat ook echt de laptops verkopen met deze chips erin. En het mooiste is, het is allemaal, uh, AI first gemaakt en op die manier is dus ook de GPU en de CPU is unified gemaakt, wat dus perfect is voor dat soort modellen, zodat je eigenlijk het maximale uit je processor, uh, kan halen. Dus dat maakt wel, uh, een aanzienlijk verschil. En je kan dus eigenlijk alles automaten. Want ze hebben eigenlijk ook een soort, uh, Nemo Cloud erop gezet. Weet je waar we het toen over hadden? Met die, uh, open cloud. Toen kwam, uh, Nvidia aan de lucht. De Nemo Cloud. We moeten dat allemaal beveiligd doen. Dus, uh, ze hebben dan eigenlijk, uh, Open Shell en nu zie je dan eigenlijk de switch wat, uh, uh, Nvidia aan het maken is en ze toch weer meer de focus gaan leggen op de processoren. En ja, gewoon een hele grote partij als Microsoft nu eigenlijk, uh, binnenhalen en daar verder op, uh, aan het ontwikkelen zijn.

7:50 Elwin Ja, ze lopen gewoon vooruit.

7:52 Serkan Ja.

7:52 Elwin Op hetgeen dat het, uh, allemaal naar, o-, off, uh, off premise gaat. On, on premise gaat.

7:58 Serkan On premise.

7:59 Elwin On premise. Die, die kant gaan we natuurlijk met elkaar op. En ja, ze mikken gewoon op die, uh, CPU market en zij verwachten dat die, uh, goed is voor 200 miljard, dus dat is wel flink. En ze werken nu, uh, samen met Windows. Maar ja, uh, ik denk dat, dat, uh, wat we ook al hebben gezegd, uh, anders gaat worden en dat het, uh, volledig naar een soort Nvidia computer gaat. Dus we gaan zien waar dat, uh, gaat eindigen. Maar ik vind het wel weer grappig dat, uh, uiteraard, uh, Dell en Hewlett Packard, die springen ook op de trein en die, uh, bundelen dan gewoon de agent als een, st-, een standaard feature in je computer. En dan zeggen ze: koop een HP laptop en dan krijg je een agent erbij. Ja, dan denk ik altijd: ik moet altijd een beetje aan Clippy denken van vroeger.

8:36 Serkan Clippy, ja.

8:37 Elwin Clippy doet ook allemaal, god, want die deed helemaal niks. En wat ik vroeger dan voornamelijk leuk vond, is dat je er wat anders van kon maken. Je kon er ook eind zijn er van maken en weet ik veel wat allemaal.

8:43 Serkan Ja, ik kon het ook combineren.

8:44 Elwin Maar je had er helemaal niks aan, toch, aan die Clippy? Hij zat wel elke keer op het scherm te tikken, maar dan dacht ik: help je me nou echt of niet? En ik ben altijd een beetje als Hewlett Packard met dit soort dingen komt en dan denk ik altijd: o, ja, dan krijg ik een soort Clippy gevoel erbij, want het gaat helemaal ingebed worden en het doet het absoluut weer niet, wat het wel, wat jij wel wil dat het doet. Maar ja, het voordeel is wel dat je data thuis blijft.

9:04 Serkan Ja, dat natuurlijk ook. En, maar wat je ook nog voor kan kiezen, dus dat is ook nog optioneel, want je hebt of je data binnenshuis of je zegt van: ik ga hem lekker connecten met een cloud of een OpenAI en dan kan je alsnog dus de externe cloud service.

9:17 Elwin O, je kan wel een exte-, externe agent eraan geven.

9:19 Serkan Ja, precies. Dus dan heb je toch een soort van combi van die twee.

9:22 Elwin Ja, nee, dat is wel ideaal. Nou gaan je API, uh, kosten gigantic zijn denk ik, want daar heb je helemaal geen, uh, invloed dan op. Daar zullen ze ook wel wat op verzinnen. Maar ja, dan moet je denk ik via een API-key praten met cloud.

9:36 Serkan Ja, dan zou het op die manier dus eigenlijk kunnen connecten en dan zou het alleen niet bij je system kunnen, maar dan heb je eigenlijk een soort Codex idee, maar dan op je, op je pc zitten. Zo moet je het dan eigenlijk een beetje zien. Maar het is gewoon meer gericht voor de local AI usage om daarop alles te automatiseren. Hij kan heel de dag voor jou doorwerken als je dat eventueel wil. Uhm, ja, en dat allemaal lokaal, dat is, dat is wel weer fijn. Dat is wel een grote ontwikkeling, uh, vind ik zelf.

10:00 Elwin Mensen hebben het altijd over, ja, het kan 24/7 voor je werken en het doet, uh, Nemo Bot en Mold Bot en Cloud Bot. Ik weet niet, al die botten die doen dat de hele tijd, beweren ze dan. Maar soms zijn het ook maar gewoon geavanceerde scripten die de hele tijd aan het draaien zijn, toch?

10:13 Serkan Vaak wel.

10:14 Elwin Ik, ik denk dan gewoon van: waar hebben we het nu met elkaar over? Het is niet echt dat het AI-model dan zelfstandig helemaal, d-, uh, aan het nadenken is. En ja, dat kan wel, maar dat is echt voor een heel klein percentage maar van de mensen die dat doet en voor elkaar weet te krijgen. De, de rest is gewoon scripting die dan misschien door AI nog gecheckt worden. Ik vergelijk het maar een beetje met, ik gebruik, uhm, een, uhm, ik heb, ik heb thuis nog een Evernote scanner. Hoe verzin je het, hè? Maar die was van ScanSnap was dat vroeger. En, uh, ja, ik was echt een Evernote fan, zoals velen vroeger met mij. Ik had zelfs ook, uh, laptop sleeves van ze en zo. Weet je wel. Echt fan, fanboy, fanboy van Evernote. Maar ja, dat, uh, hield heel snel op. Want ja, of dat hield heel snel op. Ze hebben best wel lang volgehouden, maar daarna dan werd het, uh, echt betaal duur duur. En toen, uhm, zeiden ze op een gegeven: ja, we gaan medewerkers laten meelezen met al jouw notities. En toen werd het eigenlijk nog duurder. En ja, ik was op een gegeven moment: oké, dit werkt gewoon helemaal niet meer. Maar wat het voordeel wat ik wel had, ik had die Evernote scanner en Evernote, uh, die, die, die parst dan automatisch die scans daarin en zij konden dan ook al, ja, er was destijds natuurlijk ook gewoon een soort script die dan, uh, alles kon uitlezen en, uh, daardoor kon jij heel snel je scans terugvinden. Dus dat was echt wel superchill.

11:27 Serkan Dat is wel handig, ja.

11:28 Elwin Maar ja, dus, uh, maar ja, afgestapt van Evernote en dan denk je: ja, wat ga ik nou met die scanner doen? En hoe kan ik nou alles goed laten indexeren, et cetera. Dus ja, nu draai ik op Paperless, want Paperless die heeft gewoon dan een gratis oplossing daarvoor. Uhm, en het is dan open source. Ja, en daar gebruik ik dan wel weer ook AI-modellen in. Lokale AI-modellen die dan, uh, via Vision ook documenten checken. En dat is echt perfect, want nu, kijk, Evernote, dat was voor 50% goed en voor 50% niet goed. Maar het voordeel was wel dat als een, uh, brief was ingescand, dat hij wel dan goed kon terugzien, uh, wat daar precies in stond. En daardoor kon je er wel searches op doen. Dus dat was al wel handig. Maar het kostte je, net zoals dat je in je mail searched, weet je wel, dan denk je: ja, het kost me te veel tijd. Ja, nu met, uh, Paperless en dan koppelen aan, uh, Qwen Vision. Ja Echt, het werkt echt perfect, weet je wel. Je kan alles zo terugvinden. Ik kan daardoor ook gewoon, ja, met een MCP erover praten. En wat, uh, heb ik, uh, dit gedaan? Wanneer heb ik dat gekocht? Help me er even bij. Ja, dat, dat zijn wel echt hele goede dingen. En hoe kom ik hier dan op? Dan zeg ik: ja, aan de ene kant zijn het ook gewoon slimme scripts die er draaien, maar er overheen heb ik dan wel een soort AI-laag verwerkt en ik denk dat dat wel—

12:40 Serkan Maakt het toch nog een beetje beter, ja.

12:41 Elwin Ja, en ik denk dat we meer die kant op gaan in plaats van wat mensen nu heel erg het idee hebben van: o, ik heb een AI agent die is fulltime de hele tijd. D-dan denken mensen dat er echt iemand in je computer, een soort kabouter de hele tijd aan het werk is, maar het zijn gewoon scripts die dan AI agents oproepen.

12:56 Serkan Dat is het vooral.

12:57 Elwin Daar ga je naartoe.

12:58 Serkan Het is de setup die je dan maakt om het continu te laten improven voor zichzelf. En dan kan je echt wel scripts runnen die gewoon misschien 12 uur lang of 24 uur op een dag gewoon kunnen runnen en ook echt taken kan, kunnen uitvoeren.

13:10 Elwin Ja, want die van mij die draait 24/7.

13:11 Serkan Ja.

13:12 Elwin Dat draait gewoon de hele tijd door. En als ik dan iets inscan of ik maak er een foto van en ik upload het, uh, naar m'n, uh, uh, server, dan wordt het automatisch daar uitgegepikt, om het zo maar te zeggen. Dan haalt hij dat op en dan wordt het, uh, uh, naar gekeken. En het voordeel is ook dat er dan flows, daar kan je weer flows in bouwen. Dus als het een factuur is en het moet dan bijvoorbeeld naar een boekhoudprogramma toe of zo, dan kan je dat daar naartoe door laten pushen. Zorg er wel altijd voor dat je man in the middle houdt, weet je wel. Want ja—

13:36 Serkan Dat heb ik vaak wel.

13:37 Elwin Ja, maar je, en je, je moet natuurlijk, uh, goed nadenken over, uh, uh, w-waar wij ook een hele episode over hebben gemaakt. Dat je niet, uh, gepromptjacked wordt.

13:45 Serkan Ja, dan heb je helemaal een probleem, uh.

13:46 Elwin Prompt injection, prompt hijacking, injection hijacking.

13:49 Serkan Hijacking hijacked.

13:50 Elwin Ja, ja, maar d-daar moet je natuurlijk voor, voor uitkijken. Maar ja, daar hebben ze nu tegenwoordig ook allemaal tools voor. Dat kan je best wel aardig afvangen. Maar ja, ik, d-, maar het is meer dat ik de luisteraars een soort van kijkje wil geven van: ik denk dat het, m-, dat mensen er meer zo naar moeten kijken. Want hoe ze het altijd vertellen met die agents en notebook en weet ik veel wat. Net of er een soort kaboutertje je computer toetsen aan het indrukken is en dat blijft de hele dag doorgaan. Maar zo werkt dat niet.

14:13 Serkan Nee, dat niet. Maar dat is inderdaad wel een heel goede insteek. Dan zijn ze ook weer een beetje op de hoogte van hoe dat echt in de praktijk, uh, in zijn werk gaat.

14:19 Elwin Ja.

14:19 Serkan Dus je moet daar zeker nog wel wat voor, uh, voor klaarzetten.

14:21 Elwin Maar ja, het is, uh, niet niks.

14:23 Serkan Nee, klopt. Nou, de agent, uh, kruipt dus in je laptop, maar Meta wil nog dichterbij. Niet in je tas, maar om je nek.

14:32 Elwin Ja, Serkan, eerlijk, zou jij een hanger om je nek hangen die alles hoort wat je zegt de hele dag?

14:38 Serkan Ja, want ze hebben nu natuurlijk de AI Pendant, uh, hebben ze gereleased.

14:43 Elwin Ja, nou ja, die was al uit, hè?

14:46 Serkan Hij was al uit?

14:46 Elwin Ja, ja, die was al lang uit. Ze hebben, ze, ze hebben een, een Kickstarter bedrijf. Ze hebben er een, een Kickstarter over genomen.

14:52 Serkan Oh, oké.

14:52 Elwin Die had het al, die had het al, die had het al uitgebracht. Ja, ja, die, d-, je kan de reviews ervan terugkijken, mens, op YouTube van een jaar geleden. Toen was die al uit. Alleen nu gaan ze hem weer uitbrengen. Ze hebben hem toen teruggetrokken en nu gaan ze eigenlijk gewoon hetzelfde product om en nabij hetzelfde uitbrengen. Alleen dan denk ik op, uh, de Meta, uh, omgeving en, uh, AI omgeving. Ja.

15:11 Serkan Oh, oké, dat is inderdaad wel leuk.

15:13 Elwin Ja.

15:13 Serkan Ja, en ook voor de mensen die de AI Pendant eigenlijk niet kennen. Uh, dat is eigenlijk een, uh, device die je dus, uh, overal kan meenemen. Uh, en die houdt eigenlijk alles in je omgeving in de gaten. Dus in eerste instantie houdt ie, uh, je hartslag bij, uhm, je ademhaling, je gewoon, dus je standaard lichaamssignalen, maar ook al het geluid. Dus dat betekent als jij praat, dan neemt ie dus eigenlijk alles continu van jou op.

15:37 Elwin Ja.

15:37 Serkan En dat, ja, stop je dan eigenlijk, dat staat dan eigenlijk gewoon bekend bij een AI model en daar kan je dan, uh, dingen aan terugvragen van: wat heb ik toen en die, met die en die, ja, met die en die besproken? Ja, dat en dat. Dus eigenlijk is het gewoon een open mic om je nek die je heel de dag kan dragen en die alles eigenlijk van jou trackt en volgt.

15:53 Elwin Ik ken een oud-politicus die daar heel veel aan zou hebben gehad, die nu geen actieve herinneringen heeft aan dingen. Dat is wel heel handig natuurlijk.

16:02 Serkan Naar de vorige, uh.

16:04 Elwin Dan heb je echt heel veel, dat is heel handig, uh, als device.

16:06 Serkan Ja, klopt, daar is het inderdaad handig voor.

16:09 Elwin Het is wel ook wel weer zorgwekkend toch? Laten we met elkaar, want Meta zit wel heel erg op die kant nu, hè. Ze hebben die, uh, die Ray Ban-bril die dan continu kan opnemen, uhm, die ook mee kan luisteren. Nu hebben we, uhm, natuurlijk de, de Pendant die al bestond, maar die ze opnieuw gaan uitbrengen, die continu ook meeluistert.

16:31 Serkan Ja.

16:31 Elwin En waar ze dat natuurlijk op roepen van: moet je kijken hoe handig dat is, want, uh, je zat bij een restaurant en, uh, toen heb je dit besteld. Vond je superlekker en, uh, dat, uh, weet je na drie jaar dan weer. Maar ja, laten we ook gewoon eerlijk zijn dat elke meeting, elk kort koffiecornergesprekje dat je hebt, dat neemt ie dan ook op.

16:50 Serkan Ja.

16:50 Elwin En we weten hoe graag er geroddeld wordt bij de koffiecorner met elkaar, toch? Dus dat vind ik wel enigszins zorgwekkend. Want ja, hoe zorg je voor de privacy? Ja, dit, er is geen privacy. Hoe zorg je ervoor van: ik heb met jou een vertrouwelijk gesprek?

17:04 Serkan Ja, ja, eigenlijk gaan dat dan ook niet.

17:06 Elwin Dat gaat niet.

17:07 Serkan Maar dat, uh, de enigste manier hoe dat zou kunnen is dus echt dat het model gewoon lokaal bij jou zelf draait en dat er niks in de buitenomgeving of gerekend mag worden op basis daarvan.

17:18 Elwin Ja, maar dan nog steeds.

17:18 Serkan Data mag niet worden gebruikt, ergens, nergens eigenlijk.

17:20 Elwin Maar dan nog steeds. Oké, het draait lokaal, het draait niet lokaal, want d-d-daar staat die, die device veel te klein voor en het wordt real life getranscribeerd en het moet gigantische data kunnen opslaan. En ja, dat moet allemaal geïndexeerd worden, want anders kan je nooit die data weer terughalen, dus dat moet in de cloud. Ja, dus dat is al probleem één. Maar probleem twee: ook al draait hij lokaal, laten we ervan uitgaan: oké, het gaat lokaal draaien. Dan nog steeds elk gesprek wat er gevoerd wordt, dat wordt opgenomen.

17:47 Serkan Ja, het is toch wel angstwekkend. Maar voor nu is het natuurlijk heel nieuw en zijn mensen bang voor. Maar misschien is het over een loop van de tijd is het gewoon hartstikke normaal.

17:55 Elwin Ik denk wel dat je die kant wel een beetje op gaat, ja. Ik moet dan, uh, denken aan, uh, Black Mirror. Zo'n episode, uh, dat, uhm, dat iedereen een soort chip heeft in zijn hoofd die uitgelezen kan worden en daardoor, uh, kan je al je herinneringen, die heb je ook gezien denk ik, hè?

18:08 Serkan Ja, klopt, die heb ik inderdaad gezien.

18:09 Elwin Wel hele dark is dat, want die man die heeft dan eigenlijk geloof ik iemand vermoord of zo. En dan ze, dan kwamen ze er later achter dat de cavia het ook had gezien. Die konden ze ook uitlezen. Dus dan kunnen ze je, kunnen ze eigenlijk je gedachten op die manier kunnen ze uitlezen. En het werd dan ook gebruikt bij de douane die dan zegt: nou ja, oké, laat maar zien wat je de afgelopen 24 of de afgelopen 14 dagen hebt gedaan. En die kun, die mogen dan alles inzien

18:29 Serkan Het is eigenlijk gewoon een soort camera in je brein had je toen en dan kan je dan opnieuw laten afspelen als een soort videorecorder.

18:35 Elwin Ja, waardoor je alles kon onthouden en alles wist. En ja, d-die kant gaan we natuurlijk op. Wat voordelen met zich meebrengt, waar we het net over hebben als mensen geen actieve herinneringen aan dingen hebben. Dat je kan zeggen: nou, wij wel, want wij hebben het opgenomen. Maar ja, er zitten ook wel heel veel privacy nadelen aan en het is gewoon interessant, want Meta die springt echt op die always-on train. Daar zitten ze nu op. Continu in contact met AI. Alles wordt vastgelegd. Nou, dat is natuurlijk typisch Facebook, Instagram stijl. Alles ligt vast.

19:03 Serkan Ze gaan alles van je weten. Dat is echt absurd. Maar die bril, die viel van hun, uh, dan wel weer tegen. Vond je niet? De Ray-Ban, uh. Kijk, d-, ze, ze waren natuurlijk helemaal met de hype toen met de Ray-Ban bril. Uh, we gaan een beetje die kant op, want ze willen natuurlijk alles tracken, alles in de gaten houden. Maar puntje bij paaltje is ie eigenlijk, uh, echt minimalistisch uitgebracht, zeg maar. Mensen hebben het wel gekocht.

19:27 Elwin Toch een hoop mensen gekocht, maar ik vergelijk het een beetje met die Apple Vision Pro, weet je wel. Gewoon een leuke gadget, maar het staat nog niet goed.

19:33 Serkan Nee, dat snap ik.

19:33 Elwin Je moet nu gaan kijken, want Google brengt er natuurlijk eentje uit. Apple gaat er hoogstwaarschijnlijk eentje uitbrengen. We gaan wel echt die kant op. Ja, en dan kom je gewoon in het always-on tijdperk. En geloof me, die, die techgiganten vinden dat geweldig, want dan weten ze letterlijk, ze weten natuurlijk al heel veel van je, maar dan echt kunnen ze alles van je weten en je, je zal waarschijnlijk daar goedkeuring op moeten geven op een bepaalde manier.

19:52 Serkan Ja.

19:52 Elwin Omdat je anders die devices niet kan gebruiken. Dus ja, ik, uh, uh, we gaan echt naar de always-on culture toe. Nou, d-d-dit wordt gewoon een totale shift waar we over 10 jaar, dan zitten we daar gewoon in en dan heb je meetings en die worden standaard getranscribeerd en er worden automatisch taken van gemaakt. Dat, dat ligt dan allemaal vast. Je hebt geen notulisten meer. Nou, ik weet niet, misschien zijn er nog bedrijven die dat wel hebben. Grote corporates, maar reguliere bedrijven hebben dat al niet meer zo op die manier. Maar ja, dat, dat verandert gewoon allemaal en, uh, is dan ook geen discussie meer. Dan zeg je: ja, dat is toch zo besproken? En dan gaat iemand zeggen: nee, dat is niet zo. Dan zeg je: nou, dan pakken we het erbij. Het is wel zo besproken.

20:29 Serkan Ja, dus we zeggen het hier alvast over, uh, enkele jaren. Dan zie je iedereen dus met een, uh, AI-pendant rondlopen met een smart glass. En, uh, die nemen dus alles van je op en alles wordt, uh, geautomatiseerd op die manier. Dat is wel de toekomst waar we naartoe gaan. Wat kan nog even duren.

20:42 Elwin Maar laten we wel naar even puur alleen naar voordelen kijken. Die zijn er ook wel echt dan heel veel. Want je kent toch die korte gesprekjes die dan, uh, uh, als we alleen zakelijk kijken, weet je wel. Oh ja, dit en dit zou ik nog doen of dat en dat. Oh ja, dat is wel een goed idee, dit en dit en dan, dat verdwijnt weer ergens. Hoeveel van dat soort gesprekken vinden er wel niet plaats op de werkvloer?

20:58 Serkan Ja, hartstikke veel.

20:58 Elwin Dat zijn er gigantisch veel. En nu moet je zien dat een AI-model dat analyseert, die zegt: hé, dit is een taak en die maakt er een taak van. Ja, dat is geweldig, dan raak je dat niet meer kwijt.

21:08 Serkan Ja, klopt.

21:08 Elwin Dus dat heeft wel voordelen. Of, ja, uh, thuis als er even iets tussen neus en lippen wordt door, uh, be, uh, besproken van: hé, zou je toch dit kopen? En dat het AI-model dat dan ziet en het al voor je koopt. Dat zou nog beter zijn als je die kant natuurlijk op gaat. Of van: hé, je moet dit met de kinderen regelen of dat. Nou, dat is allemaal dan, uh, dan, uh, best.

21:25 Serkan Oké, maar Elwin, alle dure hardware van vandaag is niks waard zonder dit, zonder een klein model dat erop past. Koop je een lege doos? Je hebt natuurlijk nu de nieuwe modellen die je lokaal op je mobiel kan draaien, zoals de Bonsai Image 4B. En daarmee kan je dus afbeeldingen genereren op je mobiel. Kijk, afbeeldingen genereren kan natuurlijk al best wel een tijd, maar ja, daar heb je natuurlijk best wel hele grote hardware voor nodig om dat goed te kunnen laten uitvoeren. Vandaar dat je al die enorme datacenters hebt. Maar Bonsai Image heeft het dus nu voor elkaar gekregen op een mobiel en daarmee kan je dus onbeperkt afbeeldingen genereren zonder kosten.

22:06 Elwin Ja, ik moet eerlijk bekennen dat ik het nog niet heb gebruikt, dus ik kan niet vertellen hoe goed het is, maar ik kan me niet voorstellen dat het heel goed is.

22:12 Serkan Heel eerlijk gezegd, ik weet wel vrijwel zeker dat het niet heel goed zal zijn. Het is ook niet te vergelijken met de cloudmodellen, maar het is wel iets wat nu mogelijk is. En als je dan ook weer kijkt natuurlijk waar, uh, Nvidia mee bezig is met de nieuwe, uh, Spark natuurlijk die ze aan het releasen zijn. Alles wordt kleiner, sneller en beter. En hoe kleiner je iets kan maken, hoe makkelijker het wordt in de productie. En dit is dan weer een heel goed voorbeeld ervan. We maken ook de modellen kleiner. Niet alleen de hardware, maar ook de modellen. Dus je wil niet weten waar je over de loop van de jaren eigenlijk naartoe gaat en wat er dan allemaal mogelijk zou kunnen zijn op je mobiel.

22:48 Elwin Ja, ik, ik denk niet dat image generation dan het eerste is wat me te binnen schiet, maar ik geloof wel dat je, één, dat heb je nu natuurlijk al, bepaalde lokale modellen die je, uh, uh, kan laten draaien, die, uhm, ja, mails voor je kunnen opstellen. Die, uh, echt agentic work voor je kunnen doen. En daar zie ik wel toegevoegde waarde in dat je dat zo snel mogelijk lokaal krijgt.

23:12 Serkan Ja, en het kan natuurlijk continu blijven draaien en dat is misschien ook wel, uh, het makkelijke daarvan, maar, uh, verwacht er nu nog niet te veel van. Kijk, Google was natuurlijk ook al aardig aan het experimenteren met, uh, Google, uh, AI Edge Gallery, uh, waar je natuurlijk allemaal lokale modellen op kon, uh, runnen. Uhm, ik, die heb ik wel allemaal geprobeerd en getest. En, ja, ik vond de antwoorden nou niet zo heel mooi wat eruit kwam. Maar het is wel leuk dat je dat dan gewoon kan doen offline op je mobiel. Stel je hebt het echt een keertje ergens nodig als je, uh, geen internet hebt. Of, uh, alle cloudservices liggen eruit. Zal niet zo snel voorkomen, maar stel, dan zou het dus op die manier kunnen.

23:49 Elwin Ja, nou ja, het is toch handig, hè, van, uh, als er een, uh, geen stroom is, maar je hebt nog wel de batterij. Ja, inderdaad, alles ligt plat. Dan heb je wel een soort AI-server lokaal draaien. Maar ik denk ook omdat mensen het lokaal verkeerd inzetten, snap je? Zij verwachten dan: oh ja, ik heb een soort GPT-5.5 in mijn broekzak zitten, maar dat is natuurlijk niet mogelijk.

24:08 Serkan Nee.

24:08 Elwin Op dit moment.

24:09 Serkan Dat is het totaal niet.

24:09 Elwin Maar ja, misschien over vijf jaar heb je wel een GPT-5.5 op dat moment in je broekzak zitten, wat dan wel weer een grote waarde is. Dus zo moet je er ook weer naar kijken. Maar ja, het gaat denk ik meer om de agentic use. Daar moet je naar gaan kijken van: kan het snel een mail voor je opstellen, uh, wat gewoon, die gewoon goed is? Kan het een, een WhatsApp-bericht voor je opstellen? Dat, dat, ja, ik denk dat je er zo naar moet kijken Uhm, of anonimiseren en naar de cloud sturen. Dat zou ook, uh, prettig zijn. Daar gebruik ik veel lokale modellen voor, die dus gewoon, ja, data anonimiseren, waardoor je het wel weer door zwaardere modellen kan laten analyseren.

24:43 Serkan Ja, kijk en daarvoor, voor dat soort use cases. En het is nu de eerste stap die ze natuurlijk maken. En het gaat alleen maar beter worden, want je ziet nu ook weer natuurlijk echt het agentic wat je ook aangeeft. Je hebt natuurlijk ook MiniMax, uh, M3 die nu is uitgekomen en die is ook gewoon open source gemaakt.

24:59 Elwin Ja.

24:59 Serkan En daarmee hebben we nu echt hele flinke stappen gemaakt in eigenlijk de context window wat erin, uh, wat je erin kan onthouden. Dat gaat volgens mij nu echt tot een miljoen tokens, dus. En het mooie daarvan is, ze hebben een andere manier om dingen op te slaan en terug te lezen, waardoor je dus ook tot 15 keer sneller, ik weet niet hoe legit dat is in vergelijking, uh, met benchmarken en noem maar op, maar daar gaan we het niet over hebben. Uh, dus 15 keer sneller eigenlijk dingen kan teruglezen en kan terughalen. Waardoor je dus veel sneller kan, ja, eigenlijk je antwoorden terug kan geven.

25:29 Elwin Ja.

25:29 Serkan Dus dat is wel een interessante stap, want ze noemden het, maar ik heb dat vaker gehoord. Ik weet niet hoe het in de praktijk is. Ik heb het niet getest. Dat het ook weer vergelijkbaar is met dus de nieuwe Claude Opus 4.7.

25:41 Elwin 4.8.

25:41 Serkan Vier punt, ja, volgens mij 4.8 nu, hè?

25:44 Elwin 4.8 zitten we nu op mensen. Ja, nee, dat kan ik me niet voorstellen. Weet je wat? Ja, d-dat ligt eraan welke benchmarks ze pakken.

25:49 Serkan Ja, dat is het dus vooral.

25:50 Elwin En dat is het vooral, want Opus 4.8 heeft ook natuurlijk die 1 miljoen tokens, uh, die je erin, uh, kan fietsen. Uh, dus dat is, uh, natuurlijk, uh, ja, da-da-daar kan je heel lang mee blijven chatten zonder dat hij dan moet gaan samenvatten. Dus dat is heel erg prettig, zeker als je aan het, uh, coderen bent. Nou ja, uh, MiniMax, uh, M3, die geeft dat dus ook aan, uh, ge-geef jij aan. Ik heb dat zelf niet zo dieper inge, in, uitgezocht. Maar ja, lokaal en agentic en coderen. Ja, wel nice, denk ik, maar ik kan me niet voorstellen dat het zo goed is als Opus.

26:20 Serkan Nee, dat, uh, durf ik ook niet te zeggen, want ik heb het niet zelf geprobeerd. Maar wat ik wel allemaal voorbij zag komen is, uh, dit is trouwens ook geen model die je op je mobiel kan draaien, hè. Dus dit is wel echt een model die, uh.

26:29 Elwin Lokaal moet je die draaien.

26:30 Serkan Daar heb je wel echt twee, uh, RTX, uh, 4090 voor nodig om dat even te kunnen runnen. Dit is wel echt een groot model.

26:35 Elwin Hoeveel RAM zou je nodig moeten hebben voor dit dan?

26:38 Serkan Ja, volgens mij hadden ze het al over, uh, zeker, uh, 128.

26:42 Elwin Wel 128. Ja, ja, ja.

26:43 Serkan Zeker wel.

26:44 Elwin Maar ja, dat is nog steeds wel, dat is wel netjes nog steeds. Ja, de gemiddelde, u-gebruiker heeft dat niet thuis staan. Dan moet je twee, uh, Mac mini's gaan stacken. Of vier. Hoe, wat je ervan maakt.

26:53 Serkan Ja, wel een aantal inderdaad, uh, om dat goed te kunnen laten lopen.

26:56 Elwin Nee, dus, dat, dat, dat is denk ik geen optie. Maar ja, het is, het is wel knap wat ze laten zien. En als je dan inderdaad vooruit gaat kijken van: oké, stel je voor dat je over drie jaar een, een telefoon hebt die gewoon, uh, een AI-model lokaal heeft draaien met de waarde van GPT-5.5 op dit moment.

27:10 Serkan Ja.

27:10 Elwin Dat is echt veel waard. Dat is echt heel veel waard. En dan kom je inderdaad naar het punt van: ja, is dit het einde van de Claude, cloud? Ik dus Claude, Claude.

27:19 Serkan Einde van Claude.

27:20 Elwin Einde van Claude. Einde van Claude. Is het ook het einde van de cloud economie? Want dat is dan eigenlijk de vraag. Gaan we van, we zeiden het net ook al: ga je van off premise weer naar on premise toe? En wij hebben hier heel lang geroepen, eigenlijk al vanaf, uh, de eerste episode, dat dat gaat gebeuren. En ik denk ook dat dat op die manier verder gaat gebeuren.

27:42 Serkan Ja, want als beeld en code gratis en offline kunnen, ja, verliest de dure cloudabonnementen economie eigenlijk gewoon hun bestaansrecht. Die is dan gewoon weg. En dat is precies waarom Big Tech er, uh, bovenop wil zitten. En daarom dus ook zelf al die, uh, hardware in, uh, in beheer willen hebben.

27:59 Elwin Ja, want dan, dan houden ze die macht.

28:01 Serkan Dan hebben ze hem.

28:01 Elwin Want anders ben je hem kwijt. Dus, en dat is misschien ook, uh, de, de, voor de long run misschien waar Apple op hoopt of zo. Dat ze gewoon zeggen: ja, op een gegeven moment maken we gewoon wel een soort AI-model wat slim genoeg is en draait, uh, op onze lokale devices, waardoor we de, de, de big boys niet meer nodig hebben. Dit is een soort overgangsmoment waar we misschien naartoe gaan, maar, uh, ik, ik, ik weet niet of dat, uh, op, op die manier helemaal erin zit. Maar het is gewoon wel interessant om te zien dat we dus deze kant op gaan.

28:30 Serkan Ja.

28:31 Elwin Dus ja, tijd om de balans op te maken, denk ik.

28:34 Serkan Ik denk het ook.

28:36 Elwin De chip wordt zuinig, de pc krijgt een agent, de hanger luistert mee, de modellen worden gratis en klein. AI verlaat de cloud en kruipt in je broekzak.

28:47 Serkan De macht verschuift van het datacenter naar jouw apparaat. Maar met die macht komt de rekening en het risico. Je data blijft thuis, alleen daar staat geen vangnet meer.

28:59 Elwin Vrijheid en verantwoordelijkheid komen in hetzelfde pakketje. Dus de vraag aan jou: als jouw apparaat straks alles zelf doet en het gaat mis, wie spreek jij dan aan?

29:09 Serkan Laat het ons weten.

29:11 Elwin Dit was de AI-boys. Tot volgende week.