Facebook vervangt mens door AI: systeem meteen onderuit

Module Trending direct in de problemen nadat werknemers worden geschrapt.

Vrijdag schrapte Facebook redacteurs ten faveure van een algoritme in de nieuwsselectie. Dit weekend ging een grafisch filmpje viral, wat het algoritme ook in de trending topics van Facebook plaatste.

Facebook vervangt mens door AI: systeem meteen onderuit

Module Trending direct in de problemen nadat werknemers worden geschrapt.

Hopelijk was je afgelopen weekend niet een van die mensen die zich afvroeg waarom McChicken trending was op Twitter. Als je er toch nieuwsgierig op klikte en zag hoe een man zich seksueel bevredigde met een kipburger van de McDonald's, hoop je misschien op een wondermiddel om dit weer te ont-zien.

Maar Twitter was niet de enige plek waar 'McChicken' populair was. Ook op Facebook werd het meegenomen als trending nieuws toen het eenmaal viral ging. Dat zou vorige week niet zijn gebeurd, omdat er toen nog mensen actief waren bij Facebook's Trending topics die in dit geval gelukkig voor Nederlanders hier nog niet bestaat.

Algoritme moet objectiever zijn

Dat gaat allemaal terug naar mei, toen bekend werd dat Facebook de selectie door mensen werd gedaan en niet enkel door een algoritme. Dit naar aanleiding van onderzoek dat uitwees dat conservatieve berichtgeving werd benadeeld, wat aan leek te geven dat het algoritme een politieke kleur had. Maar het was de kwalijke invloed van mensen en daarom haalde Facebook die factor eruit.

Daarbij wil het bedrijf de feature wereldwijd uitrollen. Maar afgelopen weekend waren er meteen drie incidenten die illustreren dat het systeem verre van af is: het McChicken-incident, een onwaar verhaal over Fox News-presentatrice Megyn Kelly en een controversieel polemisch stuk waarin rechtse deskundige Ann Coulter werd uitgemaakt voor 'racist cunt'.

Ontwikkelaars aan de bak

Het personeel werd afgelopen vrijdag in een bijeenkomst met aanwezige bewaking ontslagen. Maar het team deed meer dan alleen omschrijvingen maken van de onderwerpen. Volgens Gizmodo werd dat team ook gebruikt om nepnieuws te voorkomen en om bepaalde sites te vermijden. Het personeel gebruikte een 'injectietool' en 'blacklisttool' voor dat ingrijpen en zorgde ervoor dat populaire verhalen over 'beroemdheden en andere frivole onderwerpen' niet opdoken in de module.

Facebook stelde vorige week nog dat mensen bij het proces betrokken bleven om ervoor te zorgen dan "onderwerpen die opduiken in Trending van hoge kwaliteit blijven". Maar dat doel werd direct al niet bereikt door de fiasco's afgelopen weekend. Een team van ontwikkelaars buigt zich over het algoritme, meldde Gizmodo vorige week, en ze moeten dus stevig aan de bak. Tenzij Facebook dit bedoelde met nieuws van "hoge kwaliteit".

Mevrouw Smit - niet haar echte naam - is programmeur met specifieke interesse in IT -privacy en security. Daarnaast is ze freelance schrijfster.