Som teknisk direktör på Trust & Safety-teamet hjälper bc Wong till att skydda vår gemenskap genom att utveckla verktyg, processer och system utformade för att minimera exponeringen för kränkande innehåll och beteenden. Vi pratade med bc för att lära oss mer om hans viktiga arbete med att skapa ett säkert och civilt utrymme för alla på Roblox.
Beskriv ditt teams roll här på Roblox.
Vi bygger system som identifierar missbruk, både proaktivt och reaktivt (det vill säga efter att användare rapporterat dem), och vidtar åtgärder på innehållet (borttagning) såväl som de användare som bryter mot våra community-standarder. Vi använder mycket maskininlärning och utnyttjar även mänskliga moderatorer där vi inte kan automatisera ännu.
Hur skiljer sig din erfarenhet som teknisk chef på Roblox från andra ingenjörsledande roller du har haft?
Mitt jobb som enskild bidragsgivare liknar många andra: hjälpa till att räkna ut det framtida tillståndet för produkt och ingenjörskonst, samla teamet mot det och bidra till tekniska lösningar som tar oss dit. Men det som är speciellt på Roblox är människorna. Förutom att vara begåvade brinner mina lagkamrater för vårt Trust & Safety-uppdrag. Det är uppfriskande att arbeta med ett team med en så stark känsla av målmedvetenhet och se vårt arbete översättas till verkliga effekter.
Faktum är att vi alla bryr oss mycket om samhället. Många av oss som jobbar här har varit på Roblox länge—några lärde sig till och med att koda från Roblox—och vi vill alla bygga ett mer civilt samhälle. Så en intressant fråga för Trust & Safety är hur man bättre kan utnyttja hela företaget i vårt uppdrag. Det är något vi aktivt jobbar med. Själv får jag interagera med många olika team, vilket är något jag tycker mycket om.
Vad är en av de mest intressanta aspekterna med att arbeta med ditt team på Roblox?
Generellt sett är hur man håller missbruk från en plattform en utmaning i ständig utveckling. Vi behöver göra mycket forskning och experimenterande som industri. För Roblox måste vi också skala våra lösningar för att stödja en så stor publik. För Roblox ger den stora publiken på vår plattform en twist till problemet. En social plattform som endast riktar sig till vuxna skulle kunna välja att helt enkelt sparka ut alla användare som uppvisar olämpligt beteende, vår lösning måste stödja ett brett spektrum av åldersgrupper. Till exempel kanske vissa användare inte helt förstår våra communitystandarder eller så har de inte lärt sig hur man agerar ansvarsfullt online. Det finns en möjlighet här—och nästan ett ansvar—att utbilda nästa generation om hur man blir civila onlinemedborgare.
Vilka är några av de svårare problemen du och ditt team arbetar med?
Jag ska ge två exempel på problem med väldigt olika tidsskalor. Vi spelar ett katt-och-råtta-spel med människor som missbrukar vår plattform. När de kan utnyttja luckor i våra upptäcktsmetoder kommer vi på bättre och mer systematiska sätt att fånga upp dem. Nyckeln här är att vara systematisk, att hitta invarianter i hur missbrukare beter sig. Vi lyckas till stor del. Men vår reaktionstid är inte ögonblicklig ännu. Denna skärningspunkt mellan analys, datainfrastruktur och produktintegration är en höjdare att arbeta med.
På en mycket bredare tidsskala måste säkerhetsfunktionen utvecklas i takt med att Roblox-gemenskapen blir mer mångsidig. För ett år sedan var mer än hälften av våra användare under 13. Nu är mer än hälften över 13. Hur kan vi ge våra användare mer frihet och ändå hålla upplevelsen säker? Olika team över hela företaget arbetar tillsammans med detta och omformar viktiga delar av plattformen. Detta hänger också ihop med en punkt jag gjorde tidigare, om hur man bättre kan utnyttja hela företaget i Trust & Safety-uppdraget.
Hur har arbetet på Roblox utmanat dig?
Jag har ständigt lärt mig sedan jag gick med för ungefär ett och ett halvt år sedan, vilket är väldigt roligt. Domänen Trust & Safety var nytt för mig. Så var maskininlärning. Jag skickade faktiskt min första ML-modell på Roblox. Nu håller jag på att lära mig om vår teknik för grafikrendering. Den tekniska sidan av Roblox har så många olika tekniker att jag ibland känner mig som en praktikant.
Hur stödjer Roblox dig som teknisk innovatör?
Det som har varit till stor hjälp för att vägleda mig är en av Roblox kärnvärden, “Take the Long View”. Det finns fortfarande massor av kortsiktigt taktiskt arbete att göra, men med det långa perspektivet utmanar mig att förstå och organisera dem i förhållande till destinationen jag vill komma till. Det hjälper mig också att se de större luckorna som inte dyker upp i någon taktisk att-göra-lista. Till exempel kanske vi skulle kunna vara mycket mer effektiva om vi har en helt ny klass av dataanalysfunktioner. Roblox ger mig utrymme att utforska och testa det.
Jag har också turen att ha tillgång till hela Roblox hjärnförtroende för att samla in och validera idéer. Det finns djupa domänexperter inom datavetenskap, maskininlärning, infrastruktur, nätverk, kompilatorer, grafik och mer. Jag har valt deras hjärnor på ett eller annat. Ibland när de har idéer relaterade till säkerhet når de ut till teamet. Alla jag har träffat på Roblox (och jag gick med under pandemin) är extremt trevliga, hjälpsamma och generösa med sin tid. Denna korspollinering av idéer, över en så mångfaldig grupp, är en av de saker jag älskar mest med Roblox.
Intresserad av att gå med i Trust & Safety-teamet på Roblox? Vi letar alltid efter nya talanger, så kolla in oss på corp.roblox.com/careers och se om det finns en roll som passar dig.