På trods af Facebooks mange bestræbelser lykkes dårlige skuespillere på en eller anden måde altid at sive igennem dets sikkerhedsforanstaltninger og politikker. Det sociale netværk eksperimenterer nu med en ny måde at understøtte sine anti-spam-vægge og forhindre dårlig opførsel, der potentielt kan bryde dets sikkerhedsforanstaltninger: En hær af bots.
Facebook siger, at det udvikler et nyt system af bots, der kan simulere dårlig opførsel og stresstest dets platform for at afdække eventuelle mangler og smuthuller. Disse automatiserede bots trænes og læres, hvordan man fungerer som en rigtig person, der bruger skatten ved adfærdsmodeller, Facebook har erhvervet fra sine over to milliarder brugere.
For at sikre, at dette eksperiment ikke forstyrrer rigtige brugere, har Facebook også bygget en slags parallel version af sit sociale netværk. Her slippes botsene løs og får lov til at løbe voldsomt - de kan sende beskeder til hinanden, kommentere dummy-indlæg, sende venneanmodninger, besøge sider og meget mere. Endnu vigtigere er, at disse A.I. bots er programmeret til at simulere ekstreme scenarier såsom at sælge stoffer og våben for at teste, hvordan Facebooks algoritmer vil forsøge at forhindre dem.
Facebook hævder, at dette nye system kan være vært for "tusinder eller endda millioner af bots." Da det kører på den samme kode, som brugerne faktisk oplever, tilføjer det, at "bots 'handlinger er trofaste over for de effekter, som virkelige mennesker vil være vidne til, der bruger platformen."
"Mens projektet i øjeblikket er i en forskningsfase, er håbet, at det en dag vil hjælpe os med at forbedre vores tjenester og finde potentielle pålideligheds- eller integritetsproblemer, før de påvirker rigtige mennesker, der bruger platformen." skrev projektets leder, Mark Harman i et blogindlæg.
Det er uklart i øjeblikket, hvor effektivt Facebooks nye simuleringsmiljø vil være. Som Harman nævnte, er det stadig i ganske tidlige stadier, og virksomheden har endnu ikke brugt nogen af sine resultater til offentlig orienterede opdateringer. I løbet af de sidste par år har det sociale netværk aktivt investeret og støttet kunstig intelligensbaseret forskning for at udvikle nye værktøjer til bekæmpelse af chikane og spam. På sin årlige udviklerkonference for to år siden annoncerede Mark Zuckerberg, at virksomheden bygger kunstige intelligensværktøjer til at tackle indlæg, der indeholder terrorindhold, hadefuld tale, spam og meget mere.
