Councyl ontwikkelt menselijk kompas voor kunstmatige intelligentie

mei 18, 2020

Het kiezen van de juiste medische behandeling, het verstrekken van een hypotheek of het honoreren van een asielaanvraag, dit zijn beslissingen waarbij de mens centraal staat. Door de beperkte hoeveelheid aan beschikbare besliscapaciteit en een hoge tijdsdruk kan men het werk vaak moeilijk aan. Met de huidige technieken voor automatisering schieten transparantie en menselijke waarden er echter snel bij in. Daarom lanceert TU Delft spin-off Councyl een nieuwe aanpak om met een combinatie van AI, econometrie en gedragswetenschap keuzeprocessen te automatiseren. Het resultaat is een digitaal kompas gebaseerd op menselijke waarden in een wereld die steeds meer door computers wordt gestuurd.

De missie van Councyl is om AI te maken die betrouwbaar is. Die betrouwbaarheid wordt bereikt door de techniek nauwkeurig, transparant en consistent te maken. Het is belangrijk dat de keuzes die een computer maakt nauw aansluiten bij hoe de mensen keuzes maken. Vooral op plekken waar moraliteit een rol speelt, zoals bij verzekeraars, overheden of in de zorg, is het cruciaal om dergelijke betrouwbare AI te gebruiken.

De software van Councyl maakt het mogelijk om snel, accuraat en gecontroleerd keuzeprocessen te automatiseren. Het verschil met momenteel populaire machine learning technieken, is dat de Councyl oplossing niet afhankelijk is van grote hoeveelheden data. Het werkt zo: een groep experts wordt gevraagd om een keuze te maken op een aantal fictieve scenario’s (bijv. welke behandeling kiest u voor een patiënt met eigenschappen xyz). Op basis van hun antwoorden brengt de software impliciete afwegingen in kaart, iets wat mensen zelf slecht kunnen. Het resulterende model is een imitatie van hoe de experts hun keuzes maken. Wat vervolgens op grote schaal keuzes kan ondersteunen en automatiseren.

Councyl is interessant voor organisaties waar experts regelmatig lastige keuzes maken op basis van cijfers en data. Hierbij kan men bijvoorbeeld denken aan medici, HR medewerkers, ambtenaren of financieel adviseurs. Met hulp van Councyl krijgen ze een digitale assistent waardoor beslissingen sneller en beter gemaakt kunnen worden.

Over Councyl

“Het ondersteunen en automatiseren van keuzes zal pas op grote schaal gebeuren als de AI ook echt betrouwbaar is” – Caspar Chorus

De aanpak van Councyl vindt zijn oorsprong in het onderzoek van Caspar Chorus, hoogleraar Modellen van keuzegedrag aan de TU Delft (Faculteit Techniek, Bestuur en Management). Hij en zijn team ontwikkelen modellen die keuzes maken op een ethische en verklaarbare manier. Caspar heeft jarenlange ervaring op het gebied van econometrie, beslistheorie en gedrag, en past deze combinatie toe in de context van AI. Samen met ervaren ondernemer Nicolaas Heyning (CEO), studievriend en valorisatie-expert Hubert Linssen (COO) en Delft Enterprises richtten ze het bedrijf Councyl op om hun innovatieve techniek naar de markt te brengen.

Councyl focust zich dit jaar op het creëren van succesvolle use cases, om aan te tonen dat hun oplossing het maken van lastige keuzes goed kan ondersteunen. Hiervoor is Councyl onder andere al samenwerking gestart met het Universitair Medisch Centrum Groningen, de Rijksoverheid en de verzekeringsbranche, en staat open voor use cases in andere domeinen.