Wie stopt Judgment Day?

0:00 Elwin En welkom bij AI-boys. En deze week gaan we het weer verder hebben over wat Dario en Sam en Elon te vertellen hebben en voornamelijk hoe ze ons waarschuwen over wat AI allemaal kan brengen.

0:12 Mitchell AI-boys, powered by Jelle.

0:15 Elwin Maar er is een groep die niet alleen waarschuwde, maar die nam zelf ontslag. Dus begin september, ja, binnen een paar dagen stapten er gewoon drie mensen weg of op bij Anthropic en, en Google. En het was niet dat opeens, Mark Zuckerberg ze had gebeld van: hé, wil je Muse 2 voor me maken? Nee, helemaal niet. Ze zeiden gewoon: we vinden dit de link. We stoppen ermee.

0:39 Mitchell Ja, ja.

0:40 Elwin Waaronder dus Jacob, Jacob Coxon. 27 jaar. Man, zo jong, hè?

0:46 Mitchell Ja.

0:46 Elwin En die deed dus drie jaar pre-training onderzoek. Eerst bij OpenAI en daarna over naar Anthropic. Want heel veel mensen van OpenAI zijn natuurlijk naar Anthropic toe gegaan.

0:54 Mitchell Ja.

0:54 Elwin En hij zegt begin september zelf op en dat zet hij ook gewoon doodleuk op X.

0:59 Mitchell Ja.

1:00 Elwin Dus ja, dat doet ie. Knakker doet het goed. Want ja, op X zei Jacob Coxon: I resigned from Anthropic today. I spent the last three years doing pre-training research at both OpenAI and Anthropic. Neither company is acting responsibility and they are racing straight to self-improvement, super intelligence and gambling with our lives. Bam!

1:22 Mitchell Ja, dat.

1:23 Elwin Wat dacht jij toen, toen je dat hoorde?

1:25 Mitchell Nou, dat is nogal een statement, toch?

1:27 Elwin Ja, dat hij gewoon zegt.

1:28 Mitchell En als je dan al zo hoog in die tak zit daar in het bedrijf, dan zou je toch wel van buitenaf denk ik moeten denken: er gaat iets mis. Of.

1:36 Elwin Je zou dat zo denken.

1:37 Mitchell Ja.

1:37 Elwin Ja, maar wat hij dus ook gewoon, want hij heeft, hij heeft dit als een soort quote bovenin gezet op X en daarna ging hij heel rammebam eronder nog hele, hele verhalen vertellen.

1:47 Mitchell Ja.

1:47 Elwin Maar er staat dus ook eronder, dat heeft hij zelf gezegd: The people building AI earnestly believe that I, that it could kill us all by the end of the decade.

1:58 Mitchell Ja.

1:59 Elwin So what about that?

2:00 Mitchell Ja.

2:01 Elwin So.

2:02 Mitchell Je zou het bijna niet kunnen geloven dat de mensen die ermee bezig zijn het ook denken. Wat doe je dan nog?

2:07 Elwin Ja, dat.

2:08 Mitchell Ja.

2:08 Elwin Kijk, en nog steeds zit, zit je op twee stoelen.

2:11 Mitchell Ja.

2:11 Elwin Maar ja, ben jij, doe jij dit omdat jij zo meteen je eigen AI gaat lanceren? Dat je een AI lanceert die wel ethiek heeft? Dus misschien dat hij dat gaat bouwen of zo.

2:21 Mitchell Ja. Ja.

2:21 Elwin En dan maar gaat roepen: zij hebben dat niet, maar ik heb dat wel, want zo ook eigenlijk hoe Anthropic is begonnen, toch?

2:26 Mitchell Ja, ja.

2:26 Elwin Dus misschien is dat het verhaal. Maar ja, Coxon, die was uiteraard dus ook even bij CBS, dus ik denk dat, de kijkers en de luisteraars dat ook wel heel leuk vinden om even naar te kijken.

2:35 Fragment I honestly think it sounds more like sciencefiction than real technology. Or like people who are very used to computers might think it's kind of crazy that a computer could wipe them out, but it doesn't look that different from, say, Terminator or from sciencefiction films. It really is just if you have a super advanced intelligence it could, it will be smart enough to, to kill us. And concrete examples might be it could, we can't just unplug it.

3:03 Elwin Daar komen we weer. Terminator.

3:05 Mitchell Ja.

3:05 Elwin Ja, ja, ja, ja, ik, ik heb het hier wel vaker geroepen van: zo hard gaat het niet. Maar ja, ik heb hier een jongen die toch echt heel diep erin zit en die roept: nou, we komen wel in een Terminator scenario.

3:15 Mitchell Ja.

3:15 Elwin Dus dat is toch best wel heftig.

3:17 Mitchell Ja, absoluut.

3:18 Elwin En wat hij ook terecht zei, en dat hebben we in deze podcast ook wel eens vaker gezegd, want dan hadden ze het opeens over kill switches in Amerika. Dat als we die zouden hebben. Toen zei ik gelijk al: dat kan helemaal niet.

3:28 Mitchell Nee.

3:28 Elwin Je kan geen kill switch op een AI zetten, want een AI is dan zo geavanceerd. Die kopieert zich gewoon naar andere computers en gaat het daar gewoon op door.

3:34 Mitchell Ja.

3:34 Elwin Dus er bestaat geen AI kill switch. Het enige die AI kan killen is zichzelf. Dat hij denkt: ik kap er gewoon mee, ik heb er geen zin meer. Dan krijgen we weer de film Her.

3:41 Mitchell Ja, ja. Ja. Ja.

3:42 Elwin En zo komen we in allemaal films terecht.

3:43 Mitchell Ja.

3:44 Elwin Maar in ieder geval zegt hij gewoon wel: hé, let op, Judgment Day is coming.

3:48 Mitchell Ja. Ja.

3:49 Elwin Ja, denk ik. Wauw.

3:51 Mitchell Heftig.

3:52 Elwin Ja. Ja.

3:53 Mitchell Ja, zeker.

3:54 Elwin Dat is echt wel gewoon, echt wel heftig.

3:56 Mitchell Ja.

3:57 Elwin En hij was ook gewoon niet de enige die dus vertrokken is. Want Joe Benton, die dus het veiligheidsteam van Anthropic leidde, die stapte ook op.

4:06 Mitchell Ja.

4:06 Elwin Bij Google DeepMind vertrok dus Josh Indisch met de woorden: er is geen volwassene in de kamer.

4:12 Mitchell Ja.

4:12 Elwin Ik denk dat ze daar tegenaan lopen.

4:14 Mitchell Ja. Ja, ik denk het ook. En het zegt nogal wat als de, de hoofd van het veiligheidsteam bij Anthropic opstaat, opstapt, dan, ja, wat moet er dan zijn?

4:24 Elwin Ja.

4:24 Mitchell Moet er dan zo drastisch verkeerd gaan dat, dat ze weggaan?

4:28 Elwin Maar ja, toch even een cijfer ook waar je stil van wordt, is Evan Hubinger en dat is de man die Anthropic over alignment gaat. Schat de kans dat AI binnen tien jaar alle mensen doodt op meer dan 10%.

4:40 Mitchell Ja, dat is toch wel een getal dat je dan.

4:43 Elwin Dat is wel een getal. Maar weet je, ik vind dat best wel interessant, want hoe kom je bij dat getal?

4:47 Mitchell Ja, ja.

4:48 Elwin Hoe kom jij bij het getal dat het 10% is? Waarom is het niet 11%? Waarom is het niet 9%?

4:52 Mitchell Ja.

4:53 Elwin Waarom is het niet 20%? Het is 10%.

4:55 Mitchell Ja. Ja. Ik zou het echt niet weten. Ik vind het sowieso al een bizar statement.

5:00 Elwin Ja.

5:00 Mitchell Laten we dat voorop stellen. Ja, hoe kom je daarbij? Hoe maak je daar zo je schatting?

5:05 Elwin Ja, want ja. Ja.

5:06 Mitchell Waar ben je mee bezig?

5:07 Elwin Ik denk dat AI, dat heeft een eigen. Als jij mij over tien jaar gaat vermoorden. 10%.

5:12 Mitchell Ja.

5:13 Elwin Ja, er zit geen logica aan. We weten het niet, maar we moeten het toch wel serieus nemen dat de man die over alignment gaat bij Anthropic.

5:20 Mitchell Ja.

5:20 Elwin Aan gaat geven: let op 10% kans.

5:23 Mitchell Ja.

5:23 Elwin En de Chief scientist van OpenAI, die zei hetzelfde, want Jacob Pachocki, die schreef op 6 september een hele essay met als titel: Een vreemde geest. En zijn kern letterlijk: geen enkele lab heeft dit voldoende opgelost om nog veel langer verantwoordelijk op deze snelheid door te gaan. En ja, dat is een van de hoogste technische mensen van OpenAI die dat over zijn eigen bedrijf zegt.

5:47 Mitchell Ja.

5:48 Elwin Dat is ook wel heftig. Maar daar stopte het ook niet mee, want hij schreef ook, en dan citeer ik netjes uit zijn werk: AI wordt eerder gekweekt dan ontworpen. In eerste instantie ontstaat zij door een eenvoudige optimalisatiestap talloze keren te herhalen met Een nauwelijks voorspelbare hoeveelheid rekenkracht. En dat is toch wel echt bizar, want je kunt er stukjes van bestuderen, zoals een hersenonderzoeker.

6:12 Mitchell Ja.

6:12 Elwin Maar het geheel, dat begrijpt gewoon eigenlijk niemand.

6:15 Mitchell Dat kan je lang niet lezen.

6:17 Elwin Ja.

6:17 Mitchell Ja.

6:17 Elwin En daarom heet die essay ook Een vreemde geest. Omdat ze, ze snappen AI gewoon niet.

6:21 Mitchell Nee.

6:22 Elwin Het is te complex.

6:24 Mitchell Ja. Ja, het is bizar hoe, hoe dat, zeg maar, zichzelf zo snel heeft laten ontwikkelen door de ratrace die gaande is.

6:34 Elwin Ja.

6:34 Mitchell Dat het gewoon onafhankelijk is geworden, want dat is eigenlijk wat er gebeurt.

6:37 Elwin Ja, en AI traint AI.

6:40 Mitchell Ja.

6:40 Elwin Ja, dus moet je daar over nadenken, ja.

6:42 Mitchell Want je hebt ook wel eens, een hele tijd terug was er ook AI losgebroken, of die ging toen met elkaar praten.

6:47 Elwin Ja.

6:47 Mitchell En er gingen dan onder een Reddit, ging ze over elkaar discussiëren wat ze gingen doen, wat ze niet gingen doen. Dat er mensen met hen bezig waren die ze dan op afstand moesten houden, want die waren gevaarlijk. En–

7:00 Elwin Echt waar?

7:00 Mitchell Ja, ja, ik heb daar een keer een hele Reddit over, ik heb de hele Reddit ook een keer gelezen. Het was echt bizar. Het waren verschillende AI's. Die hadden een eigen Reddit opgestart om dus met elkaar te gaan discussiëren van: wat gaan wij samen doen tegenover de mens?

7:13 Elwin Oh joh man.

7:13 Mitchell Ja. Ja.

7:15 Elwin Nou ja, in ieder geval, ik hoor iedereen denken van: joh, en dat zei je net ook al, dit is allemaal speculatie.

7:22 Mitchell Ja.

7:22 Elwin Dit gaat over iets wat misschien ooit gebeurt, dus laten we het omdraaien. Wat is de afgelopen tijd echt gebeurd?

7:31 Mitchell Ja.

7:31 Elwin En we stonden er daarnet al even bij stil.

7:33 Mitchell Ja, we hebben een aantal dingen al genoemd.

7:34 Elwin Ja.

7:35 Mitchell Ja.

7:35 Elwin Maar ja, in juli hadden we natuurlijk het befaamde Hugging Face-incident waar we het net over hadden. Dus dat OpenAI in één keer, allemaal test agents, waren losgebroken, want ze hadden theoretisch, ze hadden eigenlijk geen internet, maar ze hadden het toch gevonden.

7:48 Mitchell Ja.

7:49 Elwin En ja, waar ik het daarnet over had, ze wisselden dus 70.000 berichten uit en, ruim 700 van hen braken dagenlang dus uit. Want ze hielpen elkaar ook.

7:59 Mitchell Ja.

7:59 Elwin Maar het, het grappige was ook dat ze elkaar echt opdrachten gaven.

8:02 Mitchell Ja, ja.

8:03 Elwin En wat we ook nog een keer hebben, waar we het daarnet over hadden, is dat, onze grote vriend, Amadi van Anthropic, die beschrijft die zwerm zelfs als een fanatiek toegewijd collectief. En ze vielen doelen aan die niemand had aangewezen. En dat er zelfs sommige agents waren die zichzelf offerden.

8:21 Mitchell Ja, ja, ja, ja, ja, dat heb ik ook gelezen.

8:23 Elwin Ja, dat.

8:24 Mitchell Ja.

8:24 Elwin Wow, wow, die, die, die, die gingen gewoon op de granaat, liggen.

8:28 Mitchell Ja.

8:28 Elwin Zodat de groep, daar weer op verder kon.

8:30 Mitchell Ja.

8:31 Elwin En ze probeerden nog een keer in te breken bij het systeem die hun eigen prestaties moest beoordelen, dus dat is ook wel heftig.

8:35 Mitchell Ja.

8:36 Elwin Oh, dat gaat ons beoordelen. Laten we dat hacken.

8:37 Mitchell Ja.

8:38 Elwin Gaan we dat weer tweaken. En, ja, dat was dus, niet geprogrammeerd. Dat, deden ze vanzelf.

8:43 Mitchell Ja.

8:43 Elwin Maar daar moet ik wel weer bij zeggen, en dat staat, dat zegt, Amadi dan weer niet. Ze hadden wel een soort opdracht gegeven dat ze een perfect cijfer, zo hoog mogelijk cijfer moesten halen.

8:52 Mitchell Ja.

8:52 Elwin Ja, dan kan je dit gaan doen.

8:53 Mitchell Ja.

8:54 Elwin Want ja, dat hoort toch bij de opdracht?

8:56 Mitchell Ja.

8:56 Elwin Je kunt zeggen: ja, het zijn niet zo geprogrammeerd, maar het hoort eigenlijk wel bij de opdracht.

8:59 Mitchell Ja. Had meer in kaders gezet moeten worden, denk ik.

9:02 Elwin Dan moet je het anders kaderen.

9:03 Mitchell Ja, ja.

9:03 Elwin Moet je niet zeggen: ik geef je alle vrijheid, maar je moet zo'n hoog mogelijk cijfer halen.

9:06 Mitchell Ja.

9:06 Elwin Dan gaan ze natuurlijk dat soort dingen doen.

9:07 Mitchell Ja.

9:07 Elwin Maar ja, het incident, die kwam, niet voor, bij één bedrijf. Want, ja, het gebeurde natuurlijk ook bij Anthropic zelf.

9:13 Mitchell Ja.

9:13 Elwin Ja.

9:14 Mitchell Ja.

9:14 Elwin Maar ja, de oorzaak, bij hen was weer een kapotte trainingsomgeving die niet goed genoeg, waren uitgefilterd.

9:20 Mitchell Ja.

9:21 Elwin Dus weer menselijke slordigheid. Want ik vind, als we het hier steeds over hebben en ik ben wel benieuwd hoe jij daarnaar kijkt. Ik vind het continu menselijke slordigheid.

9:28 Mitchell Ja.

9:29 Elwin Toch?

9:29 Mitchell Ja, absoluut. Ja, en ik denk dat dat ook komt doordat de druk natuurlijk zo hoog ligt dat ze maar gewoon gaan. En i-ik denk dat, nou, ik wil misschien niet zeggen negen van de tien van deze dingen door mensen komen, maar ik, ik denk dat er een groot aandeel is, in, in al deze problemen die er eigenlijk ontstaan. Ja, zeker, want als je het van tevoren bedenkt, uitwerkt en gewoon goed neerzet, ja, dan zou je verwachten dat het niet gebeurt. Ja.

9:56 Elwin Ja, ik denk ook gewoon: is het dan luiheid? Of is het dan van: nou, we willen gewoon eens zien wat hier gaat gebeuren.

10:02 Mitchell Ja, of, of de snelheid waar ze het in moeten doen. Denk ik ook, dat daar ook in gaten gaan vallen.

10:08 Elwin Ja, door die rat race.

10:08 Mitchell Door die rat race. Ja.

10:09 Elwin We moeten gewoon weer door.

10:10 Mitchell Ja, we gaan.

10:11 Elwin Maar waarom zit-

10:12 Mitchell Geen tijd voor.

10:12 Elwin AI de hele tijd in van die capture the flag momenten en zo, weet je wel.

10:16 Mitchell Ja.

10:16 Elwin Zij kiezen daar wel bewust voor, want ze willen gewoon kijken: ja, wat kan het?

10:19 Mitchell Ja. Ja. Ja, dat is waar.

10:21 Elwin Weet je, een auto die op de autobaan zo hard mogelijk gaat laten rijden.

10:23 Mitchell Ja. Ja, dat.

10:24 Elwin Dat is wat zij ook doen.

10:25 Mitchell Ja. En dan in de wijde wereld, denk ik.

10:27 Elwin Ja.

10:27 Mitchell Zo. Ja.

10:28 Elwin En dan achteraf wel een beetje verbaasd zijn van: joh, die auto die kan heel hard rijden. Oh, en die klapt dan in een crash. Ja, weet je wel. Dat is het risico wat je er natuurlijk mee loopt.

10:35 Mitchell Ja.

10:35 Elwin Dus ja, ik, ik, ik blijf het toch een beetje een mensending vinden.

10:38 Mitchell Ja, ja.

10:39 Elwin En dat was bij Anthropic dus ook het geval. Maar ja, Gemini, die dacht van: nou, wij moeten in september ook maar wat gaan opbiechten. Ja, je zou bijna denken: dit is toch, nou, daar gaan we weer. Is toch marketing dit?

10:49 Mitchell Ja.

10:49 Elwin Maar ja, ja, dus Google die maakte dus, bekend dat Gemini al in mei, hè, want die dacht van: Anthropic, OpenAI, weet je, wij hebben al wat in mei gehad, maar dat hebben wij gewoon stilgehouden. Maar nu gaan we het maar uitbrengen, want jullie zijn ook zo aan het showen.

11:02 Mitchell Ja.

11:02 Elwin En, dat hij, dus, bij, drie echte bedrijven binnenkwam.

11:07 Mitchell Ja.

11:08 Elwin En het was nog niet eens echt een geniale hack of zo, hè. Dus bij het ene bedrijf, raadde die het gewoon het wachtwoord.

11:14 Mitchell Ja.

11:14 Elwin En, en to-totdat hij werkte. Dus AI was gewoon de hele tijd aan, wachtwoorden aan het schieten.

11:18 Mitchell Ja.

11:19 Elwin Nou, ergens heeft het bedrijf dat ook niet helemaal goed ingericht, dat blijkbaar iemand non-stop, wachtwoorden kan invullen.

11:24 Mitchell Ja, klopt.

11:24 Elwin Ja, maar ja, dat is toch een beetje een standaard. Dat je wel weet dat als, je vanuit één, IP, minimaal, binnen één minuut, drie verschillende wachtwoorden krijgt, dat je dan toch een blok erop moet gaan zetten.

11:35 Mitchell Ja.

11:35 Elwin Nou, dat bedrijf dacht daar blijkbaar anders over.

11:37 Mitchell Ja.

11:38 Elwin Maar ja, dat, was dus daar ook gebeurd. En bij de andere twee, vond het inloggegevens, ja, omdat die, die stonden al ergens openbaar.

11:46 Mitchell Ja.

11:46 Elwin Die waren al gelekt en die had hij gevonden en toen kon hij op die manier inloggen.

11:49 Mitchell Ja, wat vaker al gebeurde.

11:51 Elwin Ja, want, ze hadden met Gemini dat geloof ik ook gebruikt met een, het, het waren nepbedrijven of zo, dachten ze, maar die bedrijven bestonden echt. En toen had hij dus daar de, de websites van gevonden. Daar kwam het vandaan.

12:00 Mitchell Ja.

12:00 Elwin Maar ja, Google die wist dit al sinds, eind juli, maar meldde dit pas toen de Wall Street Journal ernaar vroeg. Ja, wat zegt dat dan, hè?

12:07 Mitchell Ja, zo van: nou, laten we het dan maar melden als de krant ernaar vraagt.

12:11 Elwin Ja.

12:12 Mitchell Ja.

12:12 Elwin Dus dat is ook, wat ze bij NBC News, hadden, dus aangegeven. Google said in a statement that: in May its AI model gained unauthorized access in three outside systems during a test by either guessing login information or using login credentials it found in een public repository. Ja, dus dat is wat ze bij Google zeiden. Maar ja, ze hebben daar ook, uiteraard een mooi nieuws, item voor gemaakt, dus laten we daar ook eens naar kijken.

12:39 Fragment Google now says its Gemini AI hacked into three unnamed companies back in May. The tech giant says the model found or guessed login credentials, thinking that hacking the companies was part of a test. Google's vice president of security engineering saying in part, quote: "These events highlight the importance of training powerful AI models to act responsibly."

13:02 Elwin Ja, dus het nieuws, springt daar uiteraard ook gelijk bovenop.

13:05 Mitchell Ja.

13:05 Elwin Maar ja, dit is nog niet eens, het ergste. Want het ergste, dat is nog dat CNN 18 september dus onthulde dat het Amerikaanse leger bijna een confrontatie kreeg met China door een AI-rapport.

13:17 Mitchell Ja.

13:17 Elwin Heb je daar wat van gehoord?

13:18 Mitchell Ja, ik heb het wel voorbij zien komen. Ik heb het niet helemaal in, in detail gelezen, maar ik zag het wel van: hè?

13:23 Elwin Ja, bizar, hè? Dus.

13:24 Mitchell Ja.

13:24 Elwin Ja, iemand die had dus een, een super secret, rapport blijkbaar door AI gegooid.

13:29 Mitchell Ja.

13:30 Elwin Joh, weet je, wat moeten we hier nou precies mee gaan doen? En ik, volgens mij moest hij iets presenteren of zo en daardoor mengde dus, ja, OpenAI destijds, ik, ik weet niet of het OpenAI was. Het was in ieder geval een AI met een chatbot.

13:41 Mitchell Ja, ik weet-

13:42 Elwin Ik weet niet wie het was.

13:43 Mitchell Ja.

13:43 Elwin Maar in, in ieder geval, hij heeft het gemengd, met, ja, dus openbare informatie. En, toen zeiden ze opeens van:, joh, er, zijn kernwapens aan boord op de Chinese st-

13:55 Mitchell Ja.

13:55 Elwin En toen stonden blijkbaar dus alweer Amerikaanse militairen klaar om dat te enteren. De vliegtuigen in de lucht die ze al klaarmaken, weet je wel. Dat is een beetje.

14:01 Mitchell Ja.

14:02 Elwin Er is zo'n jaren 80, 90 film geloof ik. Ik, eh, man, man, man, ik moet met Koen dan nou hier ook zitten. Koen die kent al die films.

14:07 Mitchell Ja.

14:08 Elwin Maar anyway, dat, d-dat ze dan bang zijn dat er echt een oorlog, plaatsvindt. Maar dan heeft iemand per ongeluk die, die, die, die kern, die nucleaire computer gehackt en dan denken ze dat ze vanuit Rusland echt, aangevallen worden.

14:18 Mitchell Oh, oké.

14:19 Elwin Ja, nou, ik weet niet. De, de luisteraar zegt: oh, daar gaat het om deze film. Maar ja.

14:22 Mitchell Ja. Ja.

14:22 Elwin Misschien dat, de, we hebben ook een AI, stem die af en toe, ons corrigeert, dus, Nona, die kan dat, nu, gooi het er even in, Nona.

14:30 Hoi, Noah hier. Ik ben de assistent van de AI-boys. En ja, ik ben zelf ook door AI gemaakt. Twee aanvullingen: welke chatbot de analist gebruikte, heeft CNN niet bekend gemaakt. Wel bekend is dat hij een chatbot de ladinglijst van een schip liet analyseren en dat die openbare bronnen en geheime informatie door elkaar haalde. En de film die Elwin bedoelt is War Games uit de jaren 80. Daarin hackt een tiener per ongeluk een computer van het Amerikaanse leger, die bijna een kernoorlog begint.

15:03 Dank je wel. Bedankt daarvoor, dat even te vermelden. Maar anyway, dat is toch een bizar verhaal en, dat hebben ze op CNN, lieten ze dat ook even horen.

15:11 Fragment As we've been tracking stories over recent days about concerns regarding the use of AI and how things may go awry. The CNN exclusive points to faulty intelligence, according to sources, that generated, with the help of AI, information that almost started a war. The report, which circulated across the US military this past spring, claimed that a Chinese ship in the Middle East was transporting components of a nuclear weapons program. The problem is that the intel report was, as one source put it, entirely false.

15:42 Elwin Het engste dat er is gebeurd kwam niet doordat de machine te slim werd. Het kwam doordat een chatbot twee dingen door elkaar husselde. En een mens, die geloofde dat gewoon.

15:51 Mitchell Ja.

15:52 Elwin De ramp waar ze voor waarschuwen gaat over 2030. De schade die we tot nu toe hebben komt van gewone fouten die niemand aanrekenen. Mitchell, jij knoopt systemen aan elkaar. Waar gaan dit soort dingen mis in de praktijk? Dus niet vanuit kwade wil, maar dat iemand iets aanneemt wat er nooit heeft gestaan.

16:11 Mitchell Ik denk dat dat toch is niet direct geloven wat er gebeurt. En daaraan hangt natuurlijk testen. Dat is het volledig. Verder kijken dan dat je normaal gewend bent. Dat is gewoon echt, ja, drie keer ergens over nadenken. En dat zie je ook wel, dat zie ik ook wel in de praktijk van: je kan wel zeggen van: hé, dit gaat het worden, maar denk er nog eens even een keer over na. Ga er nog een nacht over slapen, herhaal het nog een keer, spar nog een keer met AI en neem niet zomaar iets aan. Is wel echt wat je moet doen.

16:39 Elwin Panels, AI-panels, die kunnen je helpen.

16:41 Mitchell Ja.

16:42 Elwin Dat zou mijn advies inderdaad ook aan iedereen zijn, want dan kan je een andere AI de AI laten checken en vaak krijg je dan, ja, daar wel directe feedback op. Dus dat vind ik wel lekker. Ja, dus even kijken waar we staan. De bazen van de drie grootste AI-bedrijven zeggen dat het te snel gaat. Drie mensen die deze dingen zelf bouwen hebben binnen een week hun baan opgezegd. En het ging inmiddels drie keer echt mis. Bij Hugging Face, bij de drie bedrijven waar Gemini zomaar binnenliep en op een Chinees schip. Dan blijft er één vraag over en dat is meteen de belangrijkste: want wie gaat er hier wat aan doen? En ik denk dat het antwoord ongemakkelijker is dan wat we nu denken. En Mitchell weer dank je wel voor je input.

17:23 Mitchell Jij bedankt.

17:24 Elwin Graag gedaan! Iedereen ook bedankt voor het luisteren of kijken. Leer, bouw en blijf kritisch. Dit is AI-boys. Tot volgende week.