AB-testing is een manier om twee verschillende versies te vergelijken om erachter te komen welke beter presteert. Het is een veelgebruikte methode die wordt gebruikt in marketing, webdesign, productontwikkeling en ontwerp van gebruikerservaringen.
Hoewel het meestal wordt geassocieerd met websites en apps, is de methode bijna 100 jaar oud en is het een van de eenvoudigste vormen van een gerandomiseerd gecontroleerd experiment.
Wat is AB-testing in ML?
Hoewel AB-testen en machine learning verschillend zijn, kunnen ze worden gebruikt om elkaar aan te vullen en te verbeteren. AB-testen kan een nuttige techniek zijn bij het optimaliseren van machine learning-algoritmen, of het nu gaat om het testen van nieuwe modellen of het verkrijgen van inzicht in trainingsgegevens. Bovendien kunnen machine learning-algoritmen worden gebruikt om het A/B-testproces te automatiseren, waardoor experimenten efficiënter worden dan handmatige processen. AB-testen en machine learning kunnen dus wederzijds op elkaar toegepast worden.
A/B-testen met machine learning kunnen worden gecombineerd voor:
- Het testen en verfijnen van de implementatie van nieuwe machine learning-modellen.
- De automatisering van A/B-testen om het proces efficiënter en effectiever te maken.
- Het ontdekken van nuttige informatie over datasets en variabelen bij het ontwikkelen of afstemmen van algoritmen.
Wat is multi armed bandit testen?
Multi-Armed Bandit (MAB) is een Machine Learning-raamwerk waarin een agent acties moet selecteren om zijn cumulatieve beloning op de lange termijn te maximaliseren.
In elke ronde ontvangt de agent wat informatie over de huidige staat. Vervolgens kiest hij een actie op basis van deze informatie en de ervaring die is opgedaan in eerdere rondes. Aan het einde van elke ronde ontvangt de agent de beloning die bij de gekozen actie hoort.
Hier is een voorbeeld om MAB beter uit te leggen: stel je voor dat we te maken hebben met x aantal gokautomaten en we moeten uitzoeken welke de beste uitbetaling heeft, zonder al te veel geld te verliezen.
Elke machine één keer proberen en dan degene kiezen die het meeste betaalde, zou geen goede strategie zijn: de agent zou een machine kunnen kiezen die in het begin een gelukkige uitkomst had, maar over het algemeen niet optimaal is. In plaats daarvan moet de agent herhaaldelijk terugkomen op het kiezen van machines die er niet zo goed uitzien, om er meer informatie over te verzamelen.
Dit is de belangrijkste uitdaging in Multi-Armed Bandits: de agent moet de juiste mix vinden tussen het benutten van voorkennis en het verkennen om te voorkomen dat de optimale acties over het hoofd worden gezien.
Wat betekent MLOps?
MLOps staat voor Machine Learning Operations. MLOps is een kernfunctie van Machine Learning-engineering, gericht op het stroomlijnen van het proces om machine learning-modellen in productie te nemen en deze vervolgens te onderhouden en te bewaken.
MLOps is een samenwerkingsfunctie, die vaak bestaat uit datawetenschappers, devops-engineers en IT. MLOps is een handige aanpak voor de kwaliteit van machine learning en AI-oplossingen.
Door een MLOps-aanpak toe te passen, kunnen datawetenschappers en machine learning-engineers samenwerken en het tempo van modelontwikkeling en -productie verhogen door continue integratie en implementatie (CI/CD) te implementeren met de juiste monitoring en validatie van ML-modellen.
