MoltBot verandert alles

0:01 Elwin Er is een nieuw soort AI waar mensen ineens zenuwachtig van worden. Niet omdat hij slimmer praat, maar omdat hij dingen doet. Software installeren, bestanden verplaatsen, een automatische taak inplannen, een mail klaarzetten. Allemaal omdat jij één zin typt in een chat.

0:19 Serkan En dat is precies waarom dit anders voelt dan alles wat we tot nu toe zagen. Tot nu toe was AI vooral praten. Nu is het praten en daarna gebeurt er iets in de echte wereld.

0:30 Elwin En het enge is, het lijkt handig. Tot je beseft dat je hem ook de sleutel van je huis hebt gegeven.

0:36 Serkan Want zodra hij toegang heeft tot je computer, heeft hij in theorie ook toegang tot alles wat erachter hangt. Je werk, je mail, je bestanden, je hele leven.

0:47 Elwin Dus wat is dit eigenlijk? En waarom gaat dit sneller dan onze veiligheid kan bijhouden?

0:54 Serkan AI-boys, powered by Jelle.

0:58 Elwin Welkom bij AI-boys, de podcast waarin we AI proberen te begrijpen zonder het mooier te maken dan wat het is. Vandaag hebben we het over MolBot, wat voorheen ClaudeBot heette. En de reden dat iedereen erover praat is simpel: het is geen chatbot, maar een local agent.

1:13 Serkan En met agent bedoelen we niet dat hij advies geeft. We bedoelen dat hij toegang krijgt tot een computer en taken uitvoert. Het klinkt als een demo, tot je ziet dat mensen dit al koppelen aan Slack, WhatsApp, mail en zelfs je home assistant.

1:28 Elwin En de centrale vraag voor vandaag: als AI niet alleen, maar ook handelt op jouw systeem, wie houdt er dan nog controle over?

1:37 Serkan Dus ja.

1:38 Elwin ClaudeBot. Daar, laten we daar eens mee beginnen. Van waarom heette het eerst ClaudeBot en daarna MolBot?

1:43 Serkan Was er een reden dat ze het hebben veranderd?

1:45 Elwin Nou, ik ga je heel simpel vertellen wat de reden is waarom er een naamsverandering heeft plaatsgevonden. Claude AI, die vond het woord, het ClaudeBot niet zo erg prettig. En MolBot, laten we het dan wel netjes zo noemen, is eigenlijk gewoon een open source project van een, uh, een, uh, één persoon. Nou, er zitten wel meer, meer personen achter, daar niet van. En die dacht: weet je wat, ik ga dit gewoon lekker online zetten. Natuurlijk gaan we er zoveel meer over praten wat het dan precies is. Maar hij dacht: weet je wat ik noem? Ik noem het ClaudeBot van klauwen, klauwen, weet je wel. En, uh, want, uh, dat helpt jou verder. Maar toen dacht iemand, uh, v-, bij Anthropic, die natuurlijk nu, uh, hele diepe zakken hebben. Die hebben die gozer eens gebeld, denk ik, want ze zullen wel aan z'n nummer zijn gekomen van: hey vriend, jouw ClaudeBot lijkt heel erg op Claude en misschien dat wij ook wel eens een keer een bot gaan uitbrengen. Dus wil jij zo vriendelijk zijn om de naam te veranderen? En toen heeft hij waarschijnlijk eerst gezegd: nou, maar waarom zou ik dat doen? Nou, omdat ik anders een heel leger advocaten achter je aan stuur. Dus nu dacht hij: nou, dan noem ik het maar MolBot. Weet je wel. Mollen, weet je wel. Dus, uh, ja, dus, uh, daar gaan we maar op verder. Maar ja, wat is MolBot dan eigenlijk? Ja, in gewone mensentaal: het is een assistent die niet alleen antwoord geeft, maar ook handelingen uitvoert op je computer. En dan denk je: ja, wat, is dat nou zo interessant dan? Ja, dat is echt interessant, want we gaan nu de kant op waar Judgement Day ons voor heeft gewaarschuwd. We gaan AI krijgen die gewoon zelf fouten gaat herkennen en die gaat proberen op te lossen. En ja, ik werd er wel weer heel warm van toen ik het, uh, zag. Het is helemaal gehyped. Toen ik het, uh, jou erover hoorde zeggen, van: Elwin, waar heb je het de hele tijd over? Nou, ik had al allemaal YouTube, Twitters, weet ik veel, allemaal na zitten kijken.

3:22 Serkan Ja.

3:22 Elwin Dus ja, ik vond het echt gewoon, uh, supergaaf, want, hè, je, je draait het gewoon. Je kan het locally draaien en, uh, iedereen die koopt nu ook, uh, Mac mini's op om ClaudeBot erop te kunnen draaien. Want ja, als je gewoon, uh, het kan ook kiezen uit verschillende LLM's. Dus je kan gewoon zeggen: joh, uh, gebruik deze, uh, lokale LLM en gebruik dan, uh, als je er niet uit komt, uh, uh, Opus of weet je wel. Ja, uh, dat is echt supergaaf. En wat je er nog meer mee kan. Je kan hem koppelen, hè, aan alles en nog wat. Maar dan denk je van: ja, als ik met die MolBot wil praten, hoe ga ik dat dan doen? Want je hebt dan een soort interface nodig. Net zoals GPT een interface heeft, Claude een interface heeft. Daar hebben ze heel slim over nagedacht. Zeiden ze: jij kan ermee praten via welk kanaal jij maar wil. Dus je kan het koppelen aan Teams, aan Slack, maar ook aan Signal, Telegram, zelfs aan WhatsApp, zelfs aan je iMessage.

4:19 Serkan Kijk, dus eigenlijk van elk platform kan je daar gewoon op reageren.

4:23 Elwin Ja.

4:23 Serkan Dat, dat is dan wel weer goed bedacht, dan hoef je nooit een aparte browser te openen of wat dan ook om, uh, daar reactie op te kunnen krijgen. Je doet het gewoon op het platform waar je op dat moment al zit.

4:31 Elwin Ja.

4:32 Serkan Maar, ja?

4:33 Elwin Ja, en op die manier kan je ermee praten, ja.

4:34 Serkan Dat is, dat is wel handig ja, inderdaad. Maar is dit dan ook echt nieuw of is dit gewoon automation met een hip jasje eromheen?

4:40 Elwin Nou, i-i-ik vind dit wel echt nieuw. Het, het, je kan natuurlijk zeggen: ja, uh, hoe complex is dit nou? Ja, ik vind het zeer geavanceerd. Ik, ik hou hiervan. Dat je gewoon zegt: nou, ik heb gewoon een lokale agent draaien die mijn werk aan het overnemen is. En, uh, ja, verzin het en theoretisch kan MolBot het doen.

5:01 Serkan Dat is inderdaad waar. En, uh, ja, er zit ook geen delay op, want hij werkt dus, uh, blijkbaar ook, uh, 24 uur, uh, per dag.

5:08 Elwin Ja, 24/7.

5:09 Serkan 24/7.

5:10 Elwin Waar jij hem zet. Je kan hem op, uh, op een virtual server natuurlijk in de cloud zetten. Er zijn mensen die hebben hem zelfs gratis op, in de Amazon Tier, Free Tier hebben ze hem weten laten draaien. Uh, dat, dat zou je kunnen doen. Nou, je hebt mensen, die, die zetten hem op een Mac mini, de-, daar laten ze hem draaien. Maar ja, kijk, MolBot zelf is natuurlijk niet een AI-model. Het is geen LLM.

5:28 Serkan Ja.

5:29 Elwin Dus je koppelt MolBot aan, uh, ja, de, de, de, de grote namen kan je hem koppelen. Dus je kan zeggen: weet je wat, ik, ik koppel hem aan OpenAI, dus aan GPT. Ik koppel hem aan Claude, uh, v-, met Anthropic. En ook, uh, je kan, uh, Perplexity Sonar API gebruiken, welke jij maar wil. Die API's kan je sowieso gebruiken, maar je kan ook lokale modellen. Als jij een beetje, uh, wat ik net zeg, een Mac mini M4 Pro hebt met 64 GB ram. Even voor de even wat detail bam erin gooien. Dan kom je echt wel een heel end en dan kan je gewoon een, een, een, een, uh, uh, O-O-Olle Llama draaien. Hebbe, sorry. Die zou je dan theoretisch gewoon kunnen draaien. Nou, je kan er, uhm, uh, Van Mistral, uh, die heeft natuurlijk z'n aparte code, code agent. Die zou erop kunnen draaien. Ja, als je die dan allemaal hebt, dan kan je die gewoon lekker lokaal laten draaien. Nou, MCP's eraan koppelen. Je MCP van Asana. Teams kan tegenwoordig ook met een MCP, maar je kan ook Teams op een andere manier koppelen. Alles aan elkaar gelinkt. Je kan, uh, uh, en in N eraan koppelen. Ja man, ik, uh, ik draai gelijk helemaal door. Want ja, we-

6:31 Serkan Toch wel wat uitgebreider dan je, dan je standaard automation zo te horen, uh.

6:35 Elwin Ja, en het ding is gewoon, je kan er gewoon mee chatten, dus gewoon in normale mensentaal. En dat is wat het gewoon zo interessant maakt. Want je ziet het ook gewoon. Mensen die proberen hem ook gewoon in te zetten als een soort digitale medewerker, als een digital assistant. En daar hadden we het, uh, vorige week natuurlijk ook over met Claude CoWork. Toen zeiden we al: ja, een beetje een digitale assistent die je in kan zetten. Maar dat was puur bestanden verzamelen en ergens anders neerzetten of hernoemen. Dat zou Moldbot theoretisch ook kunnen, maar dit gaat gewoon veel verder. Mu-Moldbot kan je ook gewoon inze- inzetten voor website development, uh, bug solving, eerste, uhm, ja, eerstelijns om het zo maar te zeggen. Dus dat je zegt: nou ja, ik koppel hem gewoon aan mijn mail, alle binnenkomende mail en dan gaat Claude bot bepalen van: nou, wie wil ik beantwoorden? Nou, dan zou je kunnen zeggen: dat moet je volledig zelf helemaal automatisch doen. Dat zou ik je niet gelijk adviseren. Maar ja, je kan dan wel zeggen, uh, de, met een goedkeuringssysteem erin werken. Ja, en alles zit gewoon aan elkaar gekoppeld. En het gave is gewoon, het is echt een agent, dus hij kan ook verschillende, uh, modellen kiezen die jij dan meegeeft. Voor— Hij is nog helaas nog niet zo geavanceerd dat je kan zeggen: hé, als dit model niet het juiste antwoord geeft, kies dan een ander model. Hij werkt alleen nog op errors, geloof ik. Dus als die een error, als het ene model een error geeft. Hij zegt: hé, dit model werkt niet, dan pak ik snel een ander model. Maar ja, je kan het wel weer oplossen op een andere manier, maar dan gaan we wel heel erg de details in. Maar dat is wel waar we natuurlijk naartoe gaan. Dat je zo meteen, dat, ik noem dat de, de, de, de orchestrator noemen ze dat dus eigenlijk. Dus je hebt dan eigenlijk is Moldbot je orchestrator, die weet van alles wat, maar die weet welke hulpmiddelen die moet inzetten. Dus dan krijg je gewoon dat als je een vraag stelt van: goh, maak voor mij een website en, uh, die moet, uh, ja, uh, g-gelikt zijn, want ik wil onderbroeken gaan verkopen. Nou, dan moet er eerst een onderzoek gedaan worden. Nou, daar heeft hij dus een ander model voor nodig, die dat eerst gaat onderzoeken. D-, en dan krijg je daar een soort marketingmodel. Je krijgt het, uh, uh, programmeermodel en dan gaat hij dan, uh, kiezen van: wa-waar ga ik dat in maken? In WordPress of in een andere, uh, ontwikkel-, uh, programma? Nou, en op die manier ga je dus steeds zien dat de orchestrator cruciaal gaat zijn en dat dan de andere modellen, die s-, eigenlijk gespitst worden op bepaalde onderdelen. Net zoals Claude is toch je, je standaard go to als je aan het coderen bent, aan het programmeren bent.

8:58 Serkan Ja.

8:58 Elwin Claude is je go to. Nou, dan heb je, uh, GPT is wat meer je allrounder, snap je? Gemini is natuurlijk geoptimaliseerd met, uh, beeldverwerking, uhm, en dat soort zaken met Nana Banana, et cetera. Dat is daarvoor je go to. Nou, en dat gaat die orchestrator, dus je, je Moldbot, die kan dat dan zo meteen allemaal zelf kiezen, die zegt, en dan maakt ie, dan komt ie terug en dan zegt ie: nou, ik heb iets voor jou in elkaar geflanst en ik heb eigenlijk mijn medewerkeretjes. Wat dus de verschillende LLM's of de verschillende, uh, uh, uh, ja, AI-modellen zijn, die heb ik daar voor ingezet.

9:32 Serkan Maar dat is inderdaad wel interessant, als je zo kan switchen tussen de modellen en daarop alles kan op doorzoeken, dat hij dat automatisch voor jou kan bepalen en dat je dat dan ook weer terugleidt.

9:40 Elwin Ja.

9:41 Serkan Als het ware naar een, uh, praktische use case.

9:44 Elwin Ja. Ja, we, als, uh, als voorbeeld heb je bijvoorbeeld, uh, Remotion animatie om dat te maken.

9:49 Serkan Ja.

9:49 Elwin Nou, je vraagt om een animatie, hij regelt het, installeert het, test het en, en zet het op je website als dat moet. Snap je wat ik bedoel? Dus jij.

9:56 Serkan Oh, ja.

9:57 Elwin En, en, het gave is gewoon dat, wij zouden dat nu real life kunnen doen. Als jij Moldbot nu gewoon hebt draaien op, uh, stel je voor, je hebt gewoon een Mac mini of wat dan ook en je zegt gewoon: weet je wat, ik, uh, Moldbot gewoon daar draaien. Dat is een, een soort, uh, serviceje en jij ze, uh, tikt gewoon in je WhatsApp: hé, uh, ik, uh, m-mijn website klopt niet, ik wil dit en dit en dit anders hebben. Ik wil, uh, een Remotion animation wil ik erin hebben. Dan gaat hij dat gewoon helemaal zelf doen.

10:21 Serkan Ja, dat is perfect. Wat is eigenlijk de reden dat iedereen een Mac mini hiervoor gebruikt? Je ziet het overal een beetje voorbij komen nu de afgelopen periode.

10:27 Elwin Omdat er nog geen krachtige minicomputers, ja, die bestaan wel, maar niet die zo op AI gericht zijn.

10:32 Serkan Hmm, vandaar.

10:33 Elwin En, en, en nu is de Mac mini helemaal niet daarvoor gebouwd, om het zo maar te zeggen. Maar ze hebben natuurlijk, uh, die eigen processor, die, en dan hebben ze bepaalde, uh, large language models die daarvoor geoptimaliseerd zijn. En je hebt die 64 gigabyte RAM en dat is ideaal natuurlijk. En net zoals ik, ik zit bijvoorbeeld echt in het Apple ecosysteem. Ja, dat werkt perfect daarmee. Dus dat is denk ik de reden. Maar er komen binnenkort echt ook andere modellen uit. Nvidia is natuurlijk bezig met een, uh, eigen AI local computer te maken. Ik zag laatst ook weer een andere partij die ermee bezig was en die kwamen met 128 gigabyte RAM uit, dus dat is twee keer zoveel. Ja, dat is eigenlijk wat je wil. Of, uh, RAM, ja, GPU, hè, wi-willen ze dan hebben, dus, uh, die komt met 128 gigabyte. Ja, en dat, d-daar kan je echt wel flinke modellen op laten draaien.

11:15 Serkan Als je dan kijkt als hobbyist zijnde, want heb je nog best wel wat dingetjes nodig om dit, uh, om dit neer te zetten. Dus je hebt eigenlijk best wel goede hardware nodig. Uh, de abonnementen die er natuurlijk bij komen, uhm, met betrekking tot verschillende modellen, die, waar je dan tussen wil afwisselen. Dat is best wel breed eigenlijk, wat je daarvoor, uh, moet, uh, beschikbaar stellen eigenlijk.

11:34 Elwin Dat ligt eraan hoe complex jij het maakt. Kijk, als jij natuurlijk de hele tijd, lu-, uh, uhm, in de cloud ge-uh, gebruikt, om het zo maar te zeggen. Dus jij gebruikt, uh, OpenAI, Anthropic. Ja, dan heb je hele, da-dan kan je met een virtual server kan je het perfect laten draaien, er is niks aan de hand. Maar ja, ik, uh, zag wel, uh, gasten die hadden € 120 erdoorheen gestuiterd in één dag omdat die, uh, even een website in elkaar ging flansen. Ja, en dat ding gaat gewoon draaien. Dus ja, dat, je hebt er dan veel minder controle over. En de vraag is van, waar we naartoe gaan is privacy. En ze, we, eerst was alles off premise en nu gaan we weer on premise. Dus nu wil iedereen alles weer lokaal hebben draaien, omdat je dan weet wat gebeurt er met je data. En het voordeel is dan ook dat Moldbot natuurlijk bij die data kan. Dat kan allemaal goed geïndexeerd worden en dan kan hij daar veel beter antwoord op geven. Stel je nou voor dat jij al jouw gesprekken allemaal opneemt De hele dag door en ze automatisch laat transcriberen en in Modbot gooit. En jij gaat daarnaar, jij hebt gewoon wat vragen van: hé, wat heb ik nou vandaag gedaan? Et cetera. Dat kan je, één kan je dat terugvinden, maar dan denk je: lekker belangrijk, hoe vaak ga ik dat doen? Dat ga je niet doen. Maar wat jij wel gaat doen is dat je Modbot de opdracht geeft van: ik heb vandaag echt 20 meetings gehad. Jij weet ook als geen ander hoe dat is. En achter elkaar, back to back. En de luisteraars kennen dat ook. Ik ben blij dat jullie naar ons luisteren, back to back, lij-krijgen ze meetings in en dan moeten ze nog naar ons tussendoor luisteren. En dan heb je al die meetings gehad en dan, uh, hoor je mij nog een keer praten en dan denk je van: wat is er nou in vredesnaam gebeurd en hoe werk ik mijn projectmanagement bij? Modbot gaat dat voor jou doen dan.

13:03 Serkan Ja, want als het goed is met Modbot houdt ie natuurlijk al je geheugen, houdt ie gewoon vast.

13:08 Elwin Ja, dat, maar je, je maakt er natuurlijk gewoon slimme AI-automations in, om het zo maar te zeggen. Scripts, wa-w-hoe je het wil noemen en die gaat draaien. Dus wat je gewoon gaat krijgen is dat jij alles automatisch laat transcriberen. Nou, je kan dat, uh, nu al, d-d-, want dat heb ik zelf nu ook lokaal draaien. De automatische transcriptie software die dan ook al de stemherkenning doet en naar aanleiding ook van stemherkenning dus weet met wie er is gesproken. En anders moeten mensen hun naam noemen, hè. Dan zeggen: hé, ik zit hier met Serkan en dan weet dat model gewoon van: hé, uh, dit, uh, de, de, deze persoon die nu praat, die heet geen Serkan, dat moet die andere persoon zijn. Nou, da-dat bestaat al. Dat heb ik al lang draaien. Maar het voordeel is zo meteen als ik alles continu kan laten opnemen. En laten we wel even loslaten hoe veilig dat dan is en hoe PR-proof dat dan is. Maar stel je voor dat ik dat zou doen. Ik neem al mijn meetings gewoon op, want dat kan je gewoon doen. Ik neem al mijn meetings op, die laat ik allemaal transcriberen. Die laat ik allemaal door Modbot analyseren en dan zeg ik tegen Modbot: werk naar aanleiding van al deze meetings mijn taken bij in mijn bijvoorbeeld Asana, dat is een projectmanagement app, en neem daar ook alles notities door die daar al in staan en kijk waar dit op aansluit. Dan hoef jij dat niet meer te doen, want normaal ga je dat aan het einde van je werkdag zitten doen. Of 's avonds op de bank of wanneer je kinderen op bed liggen dan nog even snel je laptop open en dan zeg je: oh, ik moet al mijn meetings nog gaan bijwerken. Dat, dat is zo meteen niet meer zo.

14:29 Serkan Dat is wel echt een geweldige use case eigenlijk hoe je het kan gebruiken. Maar zou je dat ook vertrouwen? Stel, ja, je hebt, uh, duizenden taken staan in, uh, in Asana. Ja, vertrouw je er dan op dat hij de juiste vindt en daar de juiste tekst in aanpast en, uh?

14:42 Elwin In het begin niet blindelings. In het begin ga ik zeggen als mens: ik wil het gewoon goedkeuren, maar het scheelt mij al heel veel om het te goedkeuren.

14:48 Serkan Klopt, dan kan je het in ieder geval nalopen en dan, uh, kan je zien wat eruit komt.

14:52 Elwin Ja.

14:53 Serkan En, uh, ja, het is natuurlijk nog best wel nieuw volgens mij, de Modbot, hoe dat is uitgekomen. Of in ieder geval deze versie hiervan.

14:59 Elwin Ja, ja, dit is, uh, net vers van de pers natuurlijk, dus dit is wel, ja, hier zitten nog geen, uh, safe, safeguards op, om het zo maar te zeggen. Dat ding gaat gewoon los, dus je moet je wel een beetje mee houden.

15:08 Serkan Stel dat inderdaad wel in, want, uh, anders, uh, ga je net zoals je net zei, dan hou je er zomaar, uh, € 120, € 30, uh, op een dag doorheen, uh, dus daar word je dan niet zo vrolijk van.

15:16 Elwin Ja.

15:16 Serkan Maar is het al iets wat je, wat je zelf zou testen?

15:19 Elwin Zeker.

15:19 Serkan Ja?

15:20 Elwin Zeker. Ik heb het nog niet gedaan. Ik ga het wel doen. Uh, dit heeft ook wel een beetje met tijd te maken, om het zo maar te zeggen. Want je, ik denk dat je er wel even wat tijd voor moet maken om het even goed te installeren. Binnen 30 minuten kan je het live hebben, hoor, daar niet van, maar ik zou het dan wel even goed willen neerzetten. En ik denk de use case die ik net benoem dat ik de, dat wel ga proberen.

15:36 Serkan Ja, dan ben ik wel heel benieuwd wat eruit gaat komen, ja. Of hij dat al, uh, bugvrij, uh, voor je kan oplossen.

15:41 Elwin Ik ga dat jullie allemaal laten weten, maar ik ga dat in ieder geval sowieso doen. En het transcriberen, dat ga ik sowieso, uh, doen, want dat doe ik nu al. Uhm, maar dat ga ik dan gewoon dedicated op een, uh, op een andere server laten draaien en dan probeer ik dat ook gewoon met Modbot gelijk erin. En ik ben ook gewoon benieuwd of ik het al als een soort eigen LLM gewoon kan laten draaien, want dat zou ik wel chill vinden. Weet je wel, dat, dat ik weg ben bij OpenAI et cetera. Dat ik gewoon OpenAI en Anthropic gebruik bij complexe use cases, maar dat ik di-dit gewoon kan gebruiken voor eigenlijk 90% van al mijn chats. Dat ik ook weg kan bij Perplexity, uhm, dat, ja, ik zou dat wel, uh, wel ideaal vinden, want het geheugen is ook gewoon daardoor veel beter. En dat ie, dan wordt hij nog persoonlijker voor mij. Dus dan is het echt een custom made, uh, agent speciaal voor mij. En die snapt mij en die weet wat ik doe en hoe mijn dagen eruit zien en daar kan hij dan op anticiperen en ook hem in kan zetten om een, uh, afspraak te maken bij mijn kapper, geautomatiseerd, uh, of mijn, uh, hondentrimmer, weet je wel. Ja, dat, dat soort dingen. Dat, dat is hoe, hoe ik hoop dat je hem in kan zetten. Maar het is natuurlijk voornamelijk nu speelgoed, uh, het moet nog wat volwassener worden, maar het is wel heel anders dan een Zapier bijvoorbeeld, waar mensen dan denk-over denken. Of een, uh, n8n of weet je wel, dat, dat, dat, of een Power Automate. Dit, dit is veel geavanceerder. Dit is echt gewoon een personal agent die werkzaamheden voor jou gaat doen en die je ook kan inzetten om te zeggen: blijf dat doen. Dus bijvoorbeeld Home Assistant heb je thuis draaien. Nou, dan zit er een bug in Home Assistant. Je zou Modbot opdracht kunnen geven om te zeggen: als jij een bug constateert, ga je het zelf oplossen.

17:15 Serkan Ja, en als je bijvoorbeeld een Zapier of een Power Automate of zo gebruikt, dan moet je dat helemaal zelf gaan instellen. Activeer bug, dan heb je de triggers, ga je door. En eigenlijk dus met Modbot kan je dat allemaal meteen zichzelf laten oplossen in de verschillende use cases.

17:27 Elwin Ja.

17:28 Serkan En ja, ook wat je aangeeft met betrekking tot beveiliging is dat natuurlijk ook ideaal als je dan op een manier alles lokaal zou kunnen draaien. Uh, helaas zijn er nog niet heel veel goede LLM's lokaal beschikbaar, dus, uh, hopelijk, uh, zet Mistral daar nog een, uh, stapje bovenop.

17:41 Elwin Mistral heeft wel een aardige code lokale LLM en je hebt natuurlijk, uh, Llama die je lokaal, uh, kan draaien. Uh, DeepSeek, maar dat is wel een flinke die je lokaal theoretisch zou kunnen draaien. Die is open source.

17:52 Serkan Is Llama goed? Want ik vond het echt drie keer niks.

17:55 Elwin Ja, maar de, uh, als je de, de, de grote variant neemt, dan zal die wel aardig draaien. Dan staat ie ongeveer gelijk aan de GPT-4o geloof ik in de benchmarks, dus dat zou nog wel aardig kunnen zijn, want ik denk dat jij hem niet op een 64, uh, dat jij de grootste versie hebt genomen.

18:08 Serkan Ik heb hem volgens mij op 32 gezet.

18:10 Elwin Ja, ja, nee, dan heb je de kleinere versie denk ik, uh, draaien. Maar ja, je hebt, je hebt allerlei, uh, uh, verschillende modellen. Er komen er steeds meer uit. D-d-de enige beperking is inderdaad je geheugen. Dat, dat blijft wel een dingetje. Maar ja, we g-, we, we gaan het op dat onderdeel wel weer zien met elkaar. Maar ja, er zit ook natuurlijk wel een beetje een, een, een dikke uitroepteken slash vraagteken natuurlijk bij dit model, wat een beetje is van handig naar oeps. En dat kan heel snel gaan. Want ja, je geeft, uh, een systeem dat volledig toegang heeft tot alles.

18:46 Serkan Dus als jij dat leven, alles wat je met de ICT of met het netwerk hebt aangesloten eigenlijk.

18:50 Elwin Correct. Als je hem natuurlijk die vrijheden geeft van: stel je voor je, je hebt hier een laptop voor je staan. Je gaat het daarop zetten, dan kan het overal bij in die laptop. En ja, als jij niet zo goed weet wat het begint te doen en dat ding gaat ook niet vragen van: zal ik dit wel of niet doen? Maar die begint het gewoon te doen. Ja, dan heb je wel wat problemen. En tegenwoordig heb je natuurlijk gewoon MCP's die afgeschermd zijn. Bijvoorbeeld als je een Home Assistant MCP hebt. Die kan dan niet bij je configs bestanden, die kan er bij bepaalde onderdelen niet bij. Dan weet je in ieder geval zeker van: oké, dat blijft goed staan. Alles wat hij er omheen verpest, dat kan ik dan wel weer terugzetten. Of je een back-up makkelijk, uh, terugzetten. Maar als je dit installeert op je Windows en die gaat gewoon system files beginnen te verplaatsen of deleten, ja, wat is dat? Wat gebeurt daar dan mee? En ja, hoe, hoe hackable gaat dit ook allemaal zijn?

19:40 Serkan Ja, dat is natuurlijk ook de vraag. Ik denk als je het merendeels lokaal allemaal hebt draaien dat het lastiger is om te hacken, maar er zal altijd wel weer een lek zijn. En nu zeker omdat het natuurlijk allemaal pas is uitgekomen. Dus ik, ik zou het nog niet volledig vertrouwen om het echt, uh, echt te runnen en overal toegang toe te geven. Maar je zou het wel kunnen proberen natuurlijk met een standaard aantal, uh, functionaliteit waarvan je weet van: het is minder erg als er bijvoorbeeld een, uh, verkeerde WhatsAppje de deur uit gaat dan, uh, als die sys-system files, uh, gaat open omgooien.

20:08 Elwin Ja.

20:08 Serkan Dus ik denk in zo'n use case dat het nog wel handig is. Uhm, dan gaan we natuurlijk wel een beetje toe naar gewoon, uh, hopelijk al richting een beetje de AGI, maar dit wordt dan al autonoom, dus doet echt denken aan zo'n sci-fi film bijvoorbeeld, uh, cyberpunk, weet je wel, waar je al helemaal in die futuristische scene zit waar alles automatisch voor, uh, voor je wordt gedaan. Uhm, maar ik ben benieuwd hoe AI dat gaat interpreteren. Of jij eigenlijk, ja, of die de juiste use cases, uh, gaat herkennen.

20:36 Elwin Ja.

20:36 Serkan Daar ben ik eigenlijk wel, uh, heel benieuwd naar.

20:38 Elwin Ja, dat zal de grote uitdaging zijn. Maar ja, kijk, ik denk als je het gaat gebruiken zou ik eerst echt klein beginnen. Zorgen dat het op een afgeschermd onderdeel staat en dat je hem specifieke opdrachten kan geven, uhm, en dat hij daarbuiten niet kan werken. En stukje bij beetje dat uitbouwen. Ik, uh, nogmaals wat ik zeg: ga niet, uh, gelijk op je Synology laten draaien of, ja, dat soort zaken. Ja, je kan het op Synology laten draaien in een docker, weet je wel, maar, nou ja, ik denk dat dat niet trekt. Hoe moet je, nou, nu ga ik te veel in detail. Dat, dat, dat, dat werkt waarschijnlijk niet, maar, i-, je kan wel gewoon, uhm, het, het laten draaien. Maar ik zou, nou ja, op je standaard computer die je dagelijks gebruikt, doe dat niet, is mijn advies. En let op inderdaad op het aantal calls wat hij maakt, want zeker als je niet lokale, ja, LLM's gebruikt of, uh, lokale local AI's, ja, dan gaat hij natuurlijk de cloud in. En dat is natuurlijk ook een punt van zorg. Want ja, dan gaat hij dingen naar OpenAI schieten wat jij misschien daar niet wil hebben.

21:33 Serkan Klopt ja. En als je het natuurlijk dan toch wel weer lokaal gebruikt, dan loop je weer tegen het risico dat het net niet weer goed genoeg is. Dus, uh, eigenlijk op beide kanten zijn er nog best wel veel risico's, uh, o-op dit onderdeel.

21:44 Elwin Ja, maar het is wel gewoon iets waar we naartoe aan het gaan zijn. En wat de big companies natuurlijk ook proberen, hè, van, ze zijn heel erg bezig met grote modellen te maken. Maar dit is eigenlijk wat de user natuurlijk wil. Die wil gewoon, mij maakt het niet uit wat OpenAI kan en wat Anthropic kan. Ik wil gewoon een agent hebben die gewoon dat inzet, hoe en waar en wanneer. Maar we gaan er gewoon naartoe dat iedereen zo meteen kan coderen, want dat bestaat eigenlijk niet meer, want je geeft gewoon je agent de opdracht van: ja, ik heb zo'n app nodig en maak dat voor mij. Als jij je calculator app niet leuk vindt op je iPhone zo meteen. En ik denk dat we daar over een jaar al staan. Het bestaat nu al, hoor. Je hebt al wat apps die dat kunnen, maar, uh, voor de gemiddelde user over twee, drie jaar die zegt gewoon: joh, weet je, ik vind deze app helemaal niet leuk, die moet anders. Dus alles wordt veel meer customized. Veel meer hoe jij het wil hebben.

22:33 Serkan Ja, dat is natuurlijk wel ideaal. Ik zag ook wel eens een voorbeeld voorbijkomen. Dat is ook wel grappig, had je bijvoorbeeld, uh, een persoon die was, uh, aan het coderen en dan zag je dus een voorbeeld van een, uh, app die hij aan het ontwikkelen was. Eentje was dat ook via de cloud browserextensie om continu scr-screenshots door te sturen naar de andere cloud, die het dan weer ging controleren om daarmee de stappen door te voeren. Dus dat, dat is wel weer leuk om te zien. Maar nu zou je het inderdaad gewoon volledig via, uh, Mod door kunnen laten lopen. Dus dat, dat is wel een leuke ontwikkeling.

23:01 Elwin Want Modbot wordt ook gewoon je server.

23:03 Serkan Ja.

23:03 Elwin Of althans je, je search engine, je, want die doet het allemaal voor je. En dat die dan Google gaat gebruiken als search engine, dat maakt jou helemaal niet uit. Het gaat om de replies die je krijgt of hetgeen wat hij al gaat doen. En dat wordt voor iedereen wat anders. Want de ene persoon vindt het heel prettig dat gelijk, uh, die nieuwe Jordans worden besteld en de ander wil daar eerst een goedkeuring op geven. Nou, het is helemaal customized hoe jij dat wil hebben. En ja, ik denk dat je die kant echt, uh, dat we met elkaar die kant op gaan. Dus ik, uh, ik kijk er wel, uh, wel naar uit.

23:31 Serkan Ja, inderdaad. Wat zou het besturingssysteem moeten kunnen? Wat, wat zou hij allemaal bij moeten kunnen houden? Bijvoorbeeld permissies, logging. Moet je ook bijvoorbeeld een killswitch hebben zodat je al voorbereid bent op basis van, uh. Wat ontbreekt er dan nu nog een beetje? Ja.

23:45 Elwin Ja, dat. De guard rails ontbreken, dus daar is nog niet denk ik voldoende over nagedacht. Uh, maar, i-, ik heb het zelf nog niet in detail ge-gebruikt, dus ik, ik kan me wel voorstellen dat je het kan instellen, maar dat het out of the box nog niet voldoende is. Want dat is wel wat je wil. Je wil logging hebben. Nou, ik neem aan dat je, dat je echt wel ergens een logboek eraan kan koppelen. Dat, dat is als eerste. Nou, je wil back-ups kunnen maken, dus dat hij automatisch, ja, back-ups kan terugzetten, uh, als het toch niet werkt. Dat soort zaken, dat is denk ik wel belangrijk.

24:13 Serkan Ja, het is natuurlijk allemaal weer fijn dat hij weet wat hij allemaal heeft, uh, gewijzigd, uh, de afgelopen maanden bijvoorbeeld omdat je dat, uh, ja, hij heeft heel de memory eigenlijk beschikbaar.

24:22 Elwin Maar hij kan zichzelf ook laten crashen en dat baart me zorgen. Snap je? Als, als Modbot zichzelf laat crashen, wie lost dat dan op?

24:29 Serkan Ja, dat zou hij zelf moeten doen.

24:31 Elwin Hij gaat niet, want hij is gecrashed. En dus dan moet jij iets gaan doen. En ik, ik, ik, daar zitten natuurlijk een beetje de zorgen van: ja, wat als hij iets, uh, uh, alles zo kapot maakt dat hij zelf ook niet meer functioneert? Ja, dan moet je gewoon. Je moet gewoon back-ups draaien. Maar daar hebben we het vorige week ook over gehad. Back-up, back-up, back-up. Nou, nu weer back-up. Maak nou back-ups. Ik denk dat het met dit soort dingen echt wel, ja, zo werkt. En heel duidelijk goedkeuringen vragen. Ik zou hem niet de vrijheid gaan geven voor volledig dele tijd, want ik zou hem niet in gaan stellen van: oh, je ziet een bug in Home Assistant, ga dat automatisch maken. Ik zou dan zeggen van: registreer het en meld bij mij je oplossing en vraag aan mij of ik, of ik daarmee akkoord ben. Ja, daar zou ik me wel goed bij voelen. En totdat ik denk van: zo, hij heeft twintig keer, dertig keer dat gedaan. Nou, dan kan ik bijvoorbeeld zeggen: oké, uh, we gaan, uh, kwalificeren. Dit is een, uh, nou, dat doen we intern natuurlijk ook. Dit is een level één, level twee, level drie, level vier bug. En naar aanleiding daarvan ga je dan zeggen van: joh, uh, dit mag je allemaal zelfstandig oplossen en de rest, dat, uh, wil ik graag even nog accorderen.

25:30 Serkan Dat klinkt inderdaad wel als een verstandige keuze, uh, om dat te gebruiken. Dus, uh, zorg dat je altijd, uh, de voorwaarden goed instelt, zeker in het begin nu, uh, als je het gebruikt.

25:39 Elwin Ja, zeker. Dus, maar nogmaals, het wordt allemaal persoonlijk. Ideaal. Niemand heeft zo meteen meer dezelfde UI, user interface. Dat wordt, voor iedereen wordt het gewoon anders en het wordt gewoon hoe jij het wil. Maar ik wil iedereen wel meegeven: spring nou zo snel mogelijk op deze trein, want dan loop je voorop. Maar ook weer niet te veel voorop, hè, want behalve als je echt een of andere super IT'er geek bent en je hebt hier allemaal geld en tijd voor. Maar wees er wel snel bij, want ik spreek nog steeds wel eens mensen en dan zeg ik: joh, goh, uh, gebruik wel eens GPT. En: nee, hoor, ik typ mijn eigen mails en, uh, dit en dat. En dan denk ik: vriend, dit, dit kost je zoveel tijd. En helemaal als dit soort agents komen, dan heb je sommige mensen die het gebruiken, die zijn knetter snel klaar en dan heb je andere mensen die nog oldskool wat aan het doen zijn. Ja, ik, ik denk dat je het dan gaat verliezen.

26:25 Serkan Ja, is gewoon altijd een percentage, zeg maar, van de maatschappij die gewoon zegt van: ik ga hier gewoon helemaal niet in mee of die komen er pas achter als alles al mainstream is en het overal wordt gepromoot.

26:34 Elwin Of ze worden geforceerd. Een soort van wanneer je naar de smartphone over moest. En dan heb je nog steeds mensen die zo lang mogelijk aan de Motorola flip phone zijn blijven vasthouden.

26:42 Serkan Die zitten nog op de Nokia.

26:43 Elwin Ja, dat is de ergste, weet je wel. Ja, ja, inderdaad man. Ja. Ja. Nee, we gaan het zien. Maar ja, Modbot is niet eng omdat het slim is. Het is eng omdat het dichtbij komt. Het gaat van praten naar handelen op jouw spullen.

26:59 Serkan En dit is pas het begin. Want als dit werkt, dan gaan steeds meer mensen dit normaal vinden. Maar normaal is niet hetzelfde als veilig.

27:08 Elwin En als dit de toekomst is van assistenten, hoe zorgen we dan dat de handigste tool niet ook de makkelijkste aanval wordt?

27:15 Serkan Laat ons weten waar jij de grens zou trekken. Wat zou je wel uit handen geven en wat nooit?

27:21 Elwin Dit was AI-boys. Tot volgende week.