MANILA, Filipijnen – Bijna 2.000 wiskundigen van gerenommeerde universiteiten en academische instellingen over de hele wereld, waaronder Harvard, Columbia University, University of Cambridge en University of Oxford, ondertekenden in juni 2026 de Leidse Verklaring over Kunstmatige Intelligentie en Wiskunde, en riepen op tot toezicht en ethisch gebruik van de technologie in wiskundig onderzoek. 

De verklaring stelt een ethisch kader vast voor wiskundigen en bevestigt bovenal de primauteit van menselijke autonomie in hun onderzoek. 

De verklaring waarschuwt: "[AI]-ontwikkelingen bedreigen de autonomie van de wiskunde. De toenemende betrokkenheid van technologiebedrijven bij wiskundig onderzoek vergroot het risico dat onderzoeksvragen geprioriteerd worden vanwege hun geschiktheid voor geautomatiseerde wiskunde, in plaats van op basis van de deskundige beoordeling van hun diepere betekenis." 

Met andere woorden: het is de mens die de agenda moet bepalen voor wat belangrijk onderzoek is, in plaats van een onderwerp te kiezen omdat het goed werkt met geautomatiseerde AI-tools. 

De verklaring noemt haar bezwaren tegen AI: de neiging om "plausibele maar onbetrouwbare (of zelfs onjuiste)" argumenten te produceren; onjuiste attributie en het gebruik van auteursrechtelijk beschermd werk in hun datacorpus; en het "overbelichten" van de bijdrage van de technologie aan het onderzoekswerk. 

Om hiermee om te gaan, staat allereerst de openbaarmaking van gebruikte tools centraal: auteurs worden verplicht een apart gedeelte in hun publicaties op te nemen waarin het gebruik van alle geautomatiseerde systemen en grote taalmodellen wordt toegelicht. 

De verklaring vraagt onderzoekers te zorgen voor een correcte attributie van de menselijke arbeid achter elk gesynthetiseerd resultaat, en te waarborgen dat de verantwoordelijkheid voor de juistheid en toereikendheid van elk wetenschappelijk argument uitsluitend bij de menselijke auteurs blijft, die elke bewering persoonlijk moeten verifiëren, ongeacht hoe deze tot stand is gekomen.

Deze oproep tot verantwoording en de totstandkoming van een ethisch AI-kader volgt op soortgelijke initiatieven uit andere vakgebieden zoals geneeskunde, onderwijs en journalistiek. Dit komt te midden van een recent onderzoek in mei dat 146.900 door AI gegenereerde nep-citaten aantrof, zoals gerapporteerd door CNET, in onderzoekspublicaties in grote databases zoals arXiv en PubMed Central. Dit "zelfverzekerd hallucineren" dreigt de literatuur te vervuilen met niet-bestaande verwijzingen en onjuiste resultaten, waardoor toekomstige onderzoekers die op deze gebrekkige grondslagen voortbouwen mogelijk op een dwaalspoor worden gezet. 

De verklaring doet ook een dringende oproep tot "aanzienlijk uitgebreide" overheidsregulering en publiek toezicht op de technologie-industrie, daarbij wijzend op de betrokkenheid van AI bij militaire programma's, massasurveillance, de ontwikkeling van technologieën die desinformatie bevorderen of democratische processen ondermijnen, en de milieu-impact ervan. 

De verklaring dringt er bij overheden op aan om sterkere bescherming te bieden aan auteursrechtelijk beschermd werk en om publieke computationele infrastructuur op te zetten op universitair, nationaal en internationaal niveau. Door publieke alternatieven voor eigendomstechnologieën te financieren – met name computerclusters voor wiskundige modellering en machinaal leren – kunnen beleidsmakers ervoor zorgen dat de instrumenten van wetenschappelijke ontdekking transparant en onafhankelijk van particuliere bedrijfscontrole blijven.

Veel AI-tools zijn vandaag de dag in handen van grote private techbedrijven. In de VS doet senator Bernie Sanders een radicaal voorstel: hij betoogt dat het publiek een belang van 50% in AI-bedrijven zou moeten hebben via zijn voorgestelde American AI Sovereign Wealth Fund Act. 

De vraag van wiskundigen naar publiek toezicht, naast academische en onderzoeksintegriteit, komt ook voort uit bezorgdheid over de macht van gecommercialiseerde AI-entiteiten die momenteel worden gestimuleerd om hun producten te overhypen. 

Bij het vormen van beleid stelt de verklaring: "Er is momenteel een sterke commerciële prikkel vanuit de technologie-industrie om de mogelijkheden van hun producten te overdrijven. Raadpleeg experts, waaronder wiskundigen, bij het nemen van beleidsbeslissingen in plaats van te vertrouwen op persberichten of populaire berichtgeving over wiskundige resultaten." 

Onder de ondertekenaars zei Leslie Ann Goldberg, hoofd informatica aan de University of Oxford: "…onderzoek in de wiskunde (en in wiskundige disciplines zoals theoretische informatica) bouwt bijna altijd voort op eerder onderzoek, dus het is essentieel dat onderzoekers weten dat de resultaten in de literatuur correct zijn."

"Onnauwkeurige door AI gegenereerde concepten zijn goedkoop te produceren, en er is een risico dat de literatuur wordt vervuild met beweerde resultaten die simpelweg onjuist zijn. Zodra dat gebeurt, zullen de fouten zich waarschijnlijk verspreiden naarmate nieuwe resultaten worden gebouwd op gebrekkige grondslagen. Ik verwelkom de aanbevelingen van de Leidse Verklaring, met name de openbaarmaking van het gebruik van tools en de voortdurende publicatie via peer-reviewed tijdschriften," zei ze. – Rappler.com