De risico’s en beperkingen van third-party AI-tools – en hoe jij ze kan tackelen
Elke dag wordt er wel weer een nieuwe AI-tool aangekondigd die je leven nog makkelijker belooft te maken. Deze tools maken meestal gebruik van een third-party AI-oplossing, waarbij nauwelijks aanpassingen gedaan zijn aan de bestaande infrastructuur. Dat heeft natuurlijk een hoop voordelen: betaalbare toegang tot geavanceerde technologieën en snelle integratie.
Maar er zijn ook een aantal risico’s en beperkingen. En dat kan grote gevolgen hebben voor je bedrijf op operationeel, financieel en technologisch vlak.
Door deze risico’s van third-party AI-tools beter te leren begrijpen, kun je betere beslissingen nemen over je next steps en hoe je problemen kunt voorkomen.
Privacy en beveiliging: waar moet je rekening mee houden?
Stel je voor: een ziekenhuis wil een third-party AI-systeem gaan gebruiken om diagnoses te verbeteren. Hiervoor heeft de AI toegang nodig tot het medische dossier van elke patiënt. Zo’n dossier bevat een schat aan persoonlijke informatie, zoals medische voorgeschiedenis, testresultaten en behandelplannen.
Dat brengt enorm veel risico’s met zich mee. Denk aan het lekken van patiëntgegevens, ongeautoriseerde toegang of zelfs misbruik van data. Als daar iets mis mee gaat, kan het catastrofale gevolgen hebben. Het ziekenhuis kan hier aansprakelijk voor gesteld worden en het kan leiden tot gigantische reputatieschade.
Om dit te voorkomen is het belangrijk om te investeren in robuuste databeveiliging. Dat kan door regelmatig beveiligingsaudits te doen, te zorgen dat de encryptie op orde is en door constant te monitoren waar kwetsbaarheden in het systeem zitten, zodat deze zo snel mogelijk gefixt kunnen worden. En natuurlijk is het belangrijk dat je altijd je third-party aanbieders controleert om te achterhalen of ze hun beveiliging net zo serieus nemen als jij.
Beperkte personalisatie en controle
Third-party AI-oplossingen zijn meestal gebouwd voor een heleboel verschillende soorten bedrijven met uiteenlopende behoeften. Een nadeel daarvan is dat ze niet specifiek ontworpen zijn voor jouw bedrijf of specifieke sector. Doordat je niet voor maatwerk gaat, zijn deze AI-tools minder geschikt voor heel specifieke uitdagingen.
Het is weer tijd voor een voorbeeld. Stel je even twee banken voor die allebei AI willen gebruiken voor fraudedetectie: de ene bank bevindt zich in San Francisco en de andere in Berlijn. Deze instellingen hebben waarschijnlijk totaal andere klantenbestanden, transactiepatronen en risicoprofielen. Als de banken gebruik maken van een third-party AI-tool, spoort die tool fraude waarschijnlijk op een zeer algemene manier op, maar houdt de AI geen rekening met alles wat de bank uniek maakt.
Dit kan ervoor zorgen dat de fraudedetectie onnauwkeurig wordt; sommige frauduleuze activiteiten zullen door de detectie glippen en meer onschuldige klanten kunnen als fraudeur aangemerkt worden.
Om dit probleem te voorkomen, is het van belang te bepalen aan welke eisen een AI-tool binnen jouw bedrijf moet voldoen. Dat houdt in dat je moet weten wat jouw business uniek maakt, wat de specifieke lokale regelgeving voor jouw sector is en wat je precies wil bereiken met het gebruik van een AI-tool. Kiezen voor een AI-leverancier die veel aanpassingsmogelijkheden biedt, kan al een hoop schelen.
Je wil niet vastzitten bij één leverancier
Als je gebruik gaat maken van een third-party AI-tool word je extra afhankelijk van de technologie en diensten van één leverancier. Hoe langer je gebruikmaakt van hun diensten, hoe moeilijker het wordt om over te stappen naar een andere tool, want dan kunnen integratie, datamigratie en andere logistiek zaken lastig worden.
En als je helemaal vastzit in het ecosysteem van één leverancier, kan het moeilijk worden om een goede nieuwe deal te sluiten als het tijd is voor contractvernieuwing. Dat kost weer een boel geld en het kan er ook voor zorgen dat aanbieders van dit soort tools minder gaan innoveren – omdat leveranciers minder geneigd zijn om nieuwe functies te ontwikkelen als hun klanten niet echt weg kunnen van hun platform.
Het is daarom aan te raden om te kiezen voor een leverancier met goede tools voor datamigratie. Zo kun je, mocht het nodig zijn, gemakkelijk je data van de ene naar de andere AI-tool verhuizen.
Open source-oplossingen zijn daarom ook het overwegen waard. Ze zijn flexibeler, omdat de broncode beschikbaar is en die je naar hartenlust aan kan passen waar nodig. Als je voor open source gaat, houd je controle over je AI-implementatie en voorkom je dat je vastzit bij de tools van één leverancier.
Is jouw AI-model wel ethisch en eerlijk?
Een AI-algoritme is maar zo goed als zijn trainingsdata. Dus als die data niet objectief is, is een AI dat ook niet. Third-party AI-oplossingen zijn vaak ook niet gebouwd voor specifieke ethische issues. Ook zijn ze vaak niet zo divers als jouw doelgroep.
We verduidelijken het even met een voorbeeld. Stel een e-commerceplatform gebruikt een third-party AI-oplossing om cv’s van sollicitanten te screenen. Als het gebruikte AI-model getraind is op data van personen die in het verleden zijn aangenomen, dan zou deze tool onbedoeld mensen met bepaalde demografische gegevens voor kunnen trekken.
Dan houdt het model dit vooroordeel ook nog eens in stand door kandidaten die dezelfde demografische kenmerken hebben als de huidige werknemers vaker op gesprek te laten komen. Dat houdt sociale ongelijkheid in stand, wat er weer voor zorgt dat een inclusief personeelsbestand opbouwen moeilijker wordt.
Om dit zo veel mogelijk te voorkomen, is het belangrijk om ervoor te zorgen dat AI-modellen grondig worden getest op gelijkheid en inclusie. Dit betekent dat je de trainingsdata moet checken op vooroordelen en deze moet fixen voordat je het model in gebruik neemt. Het is ook belangrijk om elke tool te testen met verschillende groepen mensen om zeker te weten dat deze voor iedereen goed werkt.
Prestaties en betrouwbaarheid
De prestaties en betrouwbaarheid van third-party AI-oplossingen zijn niet allemaal gelijk. Net als bij elk ander SaaS-product kunnen belangrijke processen vertraagd raken, en kun je te maken krijgen met downtime of onverwachte fouten. En dat komt de productiviteit natuurlijk niet ten goede.
Om deze risico’s zo klein mogelijk te maken is het belangrijk om de prestaties van elke potentiële AI-leverancier grondig door te lichten. Het is goed om te kijken naar hun trackrecord op het gebied van system uptime, responstijd en de error-ratio. Ook moet je duidelijke SLA’s (service level agreements) vaststellen, waarin staat wat de verwachte performance, uptime-garanties en responstijd in geval van problemen zijn.
Als een ander bedrijf een AI-leverancier aanbeveelt, kun je daar veel uit halen over hoe betrouwbaar ze zijn en hoe goed hun diensten zijn. Dat helpt je om duidelijk beeld te krijgen over eventuele pijnpunten, hoe goed ze problemen oplossen en hoe tevreden men is over de samenwerking.
Zijn custom AI-modellen het overwegen waard?
Als je naar alle mogelijke risico’s kijkt van third-party AI-modellen, moeten we bekennen dat we toch ook wel erg fan zijn van de custom-AI-route. Met deze op maat gemaakte modellen is er veel meer mogelijkheid om dingen aan te passen, waardoor ze aan de hand van jouw unieke eisen kunnen worden ontworpen. Custom AI-modellen kunnen ook gefinetuned en geoptimaliseerd worden om de beste prestaties te behalen voor jouw specifieke doel. Die nauwkeurigheid en efficiëntie heb je meestal niet met een third-party AI.
De keuze tussen maatwerk of een kant-en-klare AI hangt natuurlijk ook af van hoeveel je te besteden hebt, je middelen, hoe belangrijk privacy is en de langetermijndoelen. En het valt natuurlijk niet te ontkennen dat ChatGPT en Dall-E ook al heel goed zijn. Dus om de beste keuze voor jouw bedrijf te maken, moet je goed kijken naar wat je nodig hebt en wat echt belangrijk voor je is.
