Intel nivåer upp AI för att bekämpa toxicitet i onlinespel

Anonim
AI-spel

Rasism, sexism och homofobi från kränkande spelare kan förstöra en onlinespel. Så Intel och London-baserade företaget Spirit AI prototyper teknik som använder konstgjord intelligens för att flagga giftigt beteende på röstchatt och liveströmmar.

Spirit AI skapade Ally, ett verktyg som spelbolag kan använda för att upptäcka trakasserier och missbruk. Det är för närvarande begränsat till att bearbeta textbaserad chatt, men Intel har arbetat med Spirit AI de senaste månaderna för att låta Ally också bearbeta mänskligt tal.

"Många spel har idag röstchatt, och det är där mycket mer fientligt beteende inträffar, " säger Kim Pallister, Intels chefsteknologichef för virtuell och förstärkt verklighet.

Ally går utöver att välja ut svär ord och andra stötande termer i onlinespelchatt. Det har utformats för att bearbeta hela konversationer och deras sammanhang, inklusive huruvida spelarna pratar med vänner, medlemmar i sin egen "guild" eller främlingar.

För att få den att förstå röst integrerade Intel sin tal-till-text-teknik med Ally, så att den kan transkribera talat språk till ord, som systemet sedan kan analysera. "Vi befinner oss på ett stadium nu, där" Hej, det fungerar lite, "sa Pallister.

För att vara tydlig är Allys mål inte att hindra tonåringar från att uttala förbannelse eller att förhindra vänner från att engagera sig i smackprat. "Vi är inte intresserade av det", sa Peter Alau, Spirit AI: s chef för affärsutveckling. "Vi är inriktade på att stoppa saker som ryska bots, bedragare och människor som skadar ditt onlinespelgemenskap."

Ally Tool Demo (Demo of the Ally' s tool speech-to-text ability.)

Även om det toxiska beteendet kan manifestera sig på olika sätt följer det också distinkta mönster, som Ally har lärt sig känna igen från vänliga chattar. Underrättelsen överlämnas sedan till spelets online community manager, som sedan kan bestämma hur man ska svara, vare sig det är med avstängningar eller användarförbud.

Alau avböjde att säga vilka spelbolag som redan använde Ally. "Ingen vill erkänna graden av toxicitet de har, " sade han. Men Spirit AI har många intresserade kunder.

"Alla våra potentiella kunder frågar:" Så stöder du röst ännu? ", Tilllade Alau.

Naturligtvis står Allys röstigenkänningsfunktioner också inför utmaningar, som att skilja mänskliga ord från musik och annat brus. Det måste också vara smart nog för att förstå olika mänskliga accenter.

Men även om systemets röstigenkänningsfunktioner endast har nått ett bevis-of-concept-steg, förväntar Alau att Spirit börjar testa tekniken med faktiska klienter under de kommande tre månaderna. "I slutet av detta år förväntar jag mig att ett par kunder ska investera fullt ut i det, " tillade han.

Tanken på en AI som övervakar din onlinespel session kan krypa dig ut. Andra kan oroa sig för verktyget som banar vägen för censur. Men det är också sant att spel är ett företag som fokuserar på att locka så många kunder som möjligt och att dessa kunder måste skyddas från missbruk.

Relaterad

  • Spel för alla: 6 tillgängliga spelenheter Spel för alla: 6 tillgängliga spelenheter
  • Jigsaw Chrome Extension Tunes Out Internet Toxicity Jigsaw Chrome Extension Tunes Out Internet Toxicity
  • Varför Facebooks AI misslyckades med att upptäcka video av Nya Zeelands skytte Varför Facebooks AI misslyckades med att upptäcka video om Nya Zeelands skytte

"Om jag verkligen var tvungen att beskriva Ally, är det ett verktyg för kundintelligens som är smart förklädda som chattverktyg för giftighet", sa Alau. "För tillfället är de flesta av våra utvecklare och licensinnehavare bara fokuserade på de värsta elementen på grund av den direkta effekten på deras slutlinje."

Hur Ally används för att upprätthålla ett spels uppförandekod är upp till klienten. Men på integritetsfronten sa Alau Spirit AI är ett GDPR-klagomål företag och det anonymiserar all information som Ally får. "Vi vet inte vem som säger det, och i allmänhet bryr vi oss inte, " sa han. "Vi letar efter det värsta av det värsta."

"Det finns många platser på internet där det värsta av det värsta kan gå och säga fruktansvärda saker. Men det behöver inte vara i mitt spel, " tilllade Alau.