Wat is AGI en hoe beoordeel je de claims?
Auteur: Redactie Domeny.ForSale Gepubliceerd
In het kort: AGI is algemene kunstmatige intelligentie: een systeem dat zou kunnen leren en zeer uiteenlopende problemen zou kunnen oplossen, ook in situaties die nieuw voor het systeem zijn, op een niveau dat vergelijkbaar is met dat van een mens. Er bestaat echter geen algemeen aanvaarde definitie of test die bevestigt dat AGI is bereikt. Een veelzijdige chatbot is niet automatisch AGI, en intelligentie op zich betekent niet dat er sprake is van bewustzijn.
Wat algemene kunstmatige intelligentie betekent
De afkorting AGI komt van het Engelse artificial general intelligence. Het woord ‘algemene’ beschrijft de reikwijdte van de vaardigheden: het gaat niet om uitblinken in één taak, maar om het kunnen toepassen van kennis en vaardigheden op veel verschillende gebieden. Zo’n systeem zou ook problemen moeten kunnen aanpakken waarvoor niet vooraf een gedetailleerde procedure is opgesteld.
Daarbij is kennisoverdracht belangrijk: wat het systeem in de ene context heeft geleerd, moet het in een andere context kunnen toepassen. Iemand die met een boekhoudprogramma leert werken, kan eerdere ervaring met een spreadsheet gebruiken. Van AGI zouden we een vergelijkbare flexibiliteit verwachten, maar dan voor een veel breder scala aan taken dan alleen het gebruik van software.
Definities verschillen in het vereiste vaardigheidsniveau. Sommige leggen de nadruk op het uitvoeren van de meeste cognitieve taken op menselijk niveau, andere op leervermogen, zelfstandigheid of bruikbaarheid op het werk. Daarom zegt de claim ‘we hebben AGI bereikt’ weinig als niet wordt aangegeven welke criteria zijn gehanteerd en hoe die zijn getoetst.
Hoe AGI verschilt van huidige AI-modellen
Gespecialiseerde kunstmatige intelligentie wordt ontworpen of getraind voor een bepaald soort taken, zoals het herkennen van objecten op foto’s of het aanbevelen van producten. Binnen haar eigen gebied kan ze beter presteren dan een mens, terwijl ze een taak daarbuiten niet kan uitvoeren. Een schaakprogramma wordt niet algemeen intelligent alleen doordat het de beste spelers verslaat.
Grote taalmodellen, systemen die taalpatronen leren uit omvangrijke datasets, zijn veelzijdiger. Ze kunnen teksten schrijven, informatie analyseren en helpen bij het programmeren. Multimodale modellen verwerken bovendien verschillende soorten gegevens, zoals beelden en geluid. Door dit brede toepassingsgebied is een eenvoudige tweedeling tussen AI ‘voor één taak’ en AGI lastig.
Veelzijdigheid is echter niet hetzelfde als het vermogen om nieuwe problemen betrouwbaar op te lossen. Een model kan een moeilijk onderwerp goed uitleggen en even later een fout maken bij een eenvoudige taak of onjuiste informatie genereren. Vloeiende formuleringen zijn dus niet voldoende om de algemene intelligentie van het model te beoordelen.
AGI moet ook niet worden gelijkgesteld aan een AI-agent. Een agent is een systeem dat opeenvolgende stappen uitvoert om een doel te bereiken, bijvoorbeeld door een zoekmachine te gebruiken en code uit te voeren. Toegang tot hulpmiddelen en de mogelijkheid om te handelen zonder telkens toestemming van de gebruiker te vragen, bewijzen nog geen algemene intelligentie.
Hoe je kunt toetsen of een systeem AGI nadert
Er bestaat geen enkele test die deze vraag definitief beantwoordt. Een benchmark, een verzameling taken waarmee systemen worden vergeleken, meet slechts bepaalde vaardigheden. Een goede score kan bovendien moeilijk te interpreteren zijn als vergelijkbare taken eerder in de trainingsdata van het model voorkwamen.
Bij het beoordelen van claims over AGI helpen vier vragen:
- Zijn de taken echt nieuw? Het systeem moet meer aankunnen dan bekende patronen en kleine variaties daarop.
- Hoeveel hulp heeft het nodig? Aanwijzingen, het inrichten van de omgeving en correcties door mensen tellen mee.
- Is het resultaat herhaalbaar? Eén geslaagde demonstratie laat niet zien hoe vaak het systeem fouten maakt of onder welke omstandigheden het faalt.
- Kan het nieuwe informatie gebruiken? Het gaat erom dat het systeem zijn werkwijze aanpast aan gewijzigde regels, niet alleen aangeleerde antwoorden reproduceert.
Stel je een systeem voor dat de bevoorrading van een kleine bakkerij moet plannen. Het moet een onbekende spreadsheet met verkoopgegevens begrijpen, rekening houden met houdbaarheidstermijnen, ontbrekende gegevens signaleren en het plan aanpassen als de koelcel uitvalt. Een overtuigend schema genereren is niet genoeg: de beoordeling moet ook kijken naar de juistheid van berekeningen, de reactie op veranderende omstandigheden en het vermogen om te herkennen wanneer de eigenaar een beslissing moet nemen. Zelfs succes in dit scenario zou alleen bepaalde vaardigheden aantonen, niet op zichzelf bevestigen dat er sprake is van AGI.
Betekent AGI ook bewustzijn of superintelligentie?
AGI beschrijft vaardigheden, terwijl bewustzijn onder meer betrekking heeft op subjectieve ervaringen. Een systeem zou aan de functionele criteria voor AGI kunnen voldoen zonder daarmee te bewijzen dat het iets ervaart. Ook de uitspraak ‘ik ben bewust’ van een model vormt geen dergelijk bewijs.
Superintelligentie is een afzonderlijk begrip: het zou gaan om intelligentie die de menselijke intelligentie op een breed scala aan gebieden duidelijk overtreft. AGI hoeft dus niet per definitie in alles beter te zijn dan een mens. AGI hoeft ook geen robotlichaam te hebben, al benadrukken sommige opvattingen over intelligentie het belang van interactie met de fysieke omgeving.
Hoe je aankondigingen over AGI beoordeelt en beslissingen neemt
Er is geen algemeen aanvaarde datum waarop AGI zal ontstaan. Voorspellingen hangen zowel af van de inschatting van de technische vooruitgang als van de gehanteerde definitie. Beschouw een voorspelling van een onderzoeker of bedrijf als een inschatting, niet als een vaststaande datum.
Controleer bij een nieuwe aankondiging in de documentatie van de ontwikkelaars wat zij als succes beschouwen, hoe zij testen en welke beperkingen zij beschrijven. Zoek vervolgens naar een onafhankelijke beoordeling: een officiële verklaring bevestigt het standpunt van het bedrijf, maar bepaalt op zichzelf niet of het systeem AGI heeft bereikt.
Als je een hulpmiddel voor je werk kiest, begin dan met een eigen testtaak en bepaal hoeveel fouten je acceptabel vindt. Bij de beslissing om het hulpmiddel in te zetten zijn de juistheid van de resultaten, de kosten en de mogelijkheid om de resultaten te controleren nuttiger dan het label ‘AGI’.
Lees ook
