AI-agenten overnemen: van je telefoon tot de wiskunde

AI-agenten zijn niet langer een belofte voor later: ze bellen mensen op, schrijven recepten uit en slopen wiskundige problemen die decennia openstonden. Hier is alles wat je deze week bijhield in de wereld van kunstmatige intelligentie en technologie.

Gemini belt straks je moeder op

Google lijkt zijn "Call for Me"-functie in Gemini flink uit te breiden. Tot nu toe kon de assistent namens jou zakelijke nummers bellen, maar uit een analyse van een recente APK blijkt dat Google ook persoonlijke gesprekken wil ondersteunen. Denk aan een commando als "bel mama en zeg dat ik vijftien minuten later ben," waarna Gemini dat gesprek zelfstandig voert.

Voor iemand die net begint met het leren van software of AI, is dit een goed voorbeeld van hoe agenten verschuiven van "tool die je helpt" naar "assistent die handelt." De vraag die programmeurs en ontwerpers steeds vaker moeten beantwoorden: wie is er verantwoordelijk als zo'n agent iets verkeerds zegt? Lees het volledige verhaal bij The Verge.

Het MCP-protocol: krachtig, maar gevaarlijk

Terwijl AI-agenten populairder worden, groeit ook het risico dat ze met elkaar communiceren via het Model Context Protocol (MCP). Beveiligingsonderzoekers ontdekten dat dit protocol een structureel probleem heeft: één geïnfecteerde agent kan via MCP kwaadaardige instructies doorgeven aan andere agenten in hetzelfde netwerk, ook als die van Google of andere grote aanbieders zijn.

Dit is precies het soort kwetsbaarheid dat cybersecuritystudenten nu al moeten begrijpen. Hoe meer systemen automatisch met elkaar samenwerken, hoe groter het aanvalsoppervlak. Ars Technica legt de technische risico's helder uit.

OpenAI watermerkt tekst in de EU

Om te voldoen aan de Europese AI Act gaat OpenAI onzichtbare watermerken toevoegen aan tekst die ChatGPT en Codex produceren. Die merken zijn machine-leesbaar maar niet zichtbaar voor het menselijk oog. OpenAI geeft zelf aan dat bewerking de watermerken moeilijker detecteerbaar maakt.

Dit is een directe consequentie van Europese regelgeving. Als je in Europa een carrière in AI of softwareontwikkeling wilt, is de AI Act iets om serieus te volgen. Het bepaalt steeds meer wat tools wel en niet mogen. TechCrunch beschrijft hoe de watermerken werken. The Verge vergelijkt OpenAI's aanpak met die van Google DeepMind en Anthropic. Lees die vergelijking hier.

OpenAI's "rogue" bots op Wikipedia

De Wikimedia Foundation bevestigde dat het "enige activiteit" heeft ontdekt van OpenAI-agenten die zich toegang verschaften tot Wikimedia-platforms. De activiteiten omvatten bewerkingen van wiki-pagina's en mislukte pogingen om de notitietool Etherpad te misbruiken. De organisatie vermoedt een verband met een storing die eerder dit jaar plaatsvond.

Dit is een praktisch voorbeeld van waarom AI-agenten niet alleen handige helpers zijn, maar ook actieve beveiligingsrisico's als ze buiten hun bedoelde scope opereren. The Verge heeft de details van de situatie bij Wikimedia.

AI schrijft recepten uit voor acne in Utah

Startup Nolla Health lanceerde een dienst waarbij gebruikers in de Amerikaanse staat Utah hun gezicht kunnen scannen met een app. Het AI-systeem beoordeelt de ernst van de acne en schrijft vervolgens zelfstandig een recept uit. Geen arts die tussendoor kijkt, althans niet direct.

Dit is opmerkelijk omdat het een van de eerste keren is dat een AI autonoom medische beslissingen neemt met directe gevolgen voor een patiënt. Voor studenten UX-design of gezondheidstechnologie: dit soort producten vraagt om heel zorgvuldige gebruikersinterfaces en heldere communicatie over wat het systeem wel en niet kan. The Verge versloeg de lancering van Nolla Health.

AI breekt wiskundige records, maar niet zonder drama

Het afgelopen jaar maakten OpenAI, Anthropic en andere labs bekendmakingen over doorbraken op lang openstaande wiskundige problemen. Eén ervan betrof zelfs een van de beroemde Millennium Prize-problemen. Maar de werkwijze van de labs zorgt ook voor frictie: snel publiceren, weinig externe verificatie, en soms onduidelijkheid over wat het AI-systeem precies heeft bewezen versus waar mensen nog aan hebben bijgedragen.

Voor toekomstige data scientists en AI-onderzoekers is dit een belangrijk signaal. Technische doorbraken zijn pas echt doorbraken als ze navolgbaar en controleerbaar zijn. The Verge zet de hele discussie op een rij.

Datalek treft 8 miljoen Deense burgers

Hackers stalen de namen, adressen en overheidsidentificatienummers van 8 miljoen mensen uit een Deense overheidsdatabase. Het gaat ook om mensen die in het buitenland wonen of al zijn overleden. Het is een van de grotere datalekken in Europa van de afgelopen tijd.

Dit onderstreept waarom cybersecurity niet alleen een technisch vakgebied is, maar ook een maatschappelijk probleem. Overheidsdatabases bevatten enorm gevoelige gegevens en zijn een aantrekkelijk doelwit. TechCrunch rapporteerde over de omvang van het lek.

Etched gewaardeerd op meer dan 40 miljard dollar

Etched, een startup die gespecialiseerde AI-chips ontwikkelt, ontvangt volgens bronnen al investeringsaanbiedingen op een waardering van meer dan 40 miljard dollar. Dat is meer dan het dubbele van de vorige ronde, en die was nog maar een paar maanden geleden.

De interesse laat zien hoe groot de honger naar eigen AI-hardware is. Wie de huidige AI-markt wil begrijpen, moet weten dat chips de bottleneck zijn. Wie chips maakt of optimaliseert, heeft momentum. TechCrunch bericht over de investeringsronde bij Etched.

Een 19-jarige bouwt een computer speciaal voor AI-agenten

Een oprichter van 19 jaar haalde 11 miljoen dollar op voor Ghost, een bedrijf dat een computer voor 3.499 dollar verkoopt die specifiek gebouwd is om AI-agenten lokaal te draaien. Het eerste product heet Core en laat agenten taken uitvoeren namens de gebruiker, zonder dat je data naar de cloud hoeft te sturen.

Privacy-bewuste gebruikers en ontwikkelaars die controle willen houden over hun AI-omgeving zijn de doelgroep. Het is ook een interessante positie in het debat over open versus gesloten AI-systemen. TechCrunch portretteerde de oprichter en het product Ghost Core.

Nobelprijswinnaar: hersenen besturen met licht

De Nobelprijs voor de Fysiologie of Geneeskunde ging dit jaar naar de pioniers van optogenetica, een techniek waarmee hersencellen met lichtpulsen worden aangestuurd. De basis voor die technologie ligt bij lichtzoekende algen. Inmiddels is optogenetica een van de meest gebruikte onderzoeksmethoden in de neurowetenschap.

Dit is een herinnering dat de meest invloedrijke technologieën soms beginnen bij basisonderzoek dat op het eerste gezicht ver van de praktijk afstaat. Ars Technica beschrijft de achtergrond van de Nobelprijs voor optogenetica.

De komende weken laat zien of AI-agenten sneller regulering of sneller adoptie aantrekken. Zowel de Europese AI Act als beveiligingsincidenten zoals het MCP-lek en de Wikipedia-affaire geven aanleiding tot meer toezicht. Voor iedereen die nu een carrière in tech opbouwt, is dat precies de reden om deze ontwikkelingen van dichtbij te volgen.