Tekoäly siivoaa verkkoyhteisöjä vihapuheesta ja kiusaamisesta

Kanadalaisen Two Hat Securityn tekoäly vapauttaa verkkoyhteisöt kiusaamisesta, vihapuheesta ja ahdistelusta, kertovat kehityspäällikkö Sharon Fisher ja markkinointijohtaja Mike Curliss.

Idea

“Teemme verkkopelien ja verkon foorumien keskusteluista turvallisia ja miellyttäviä Community Sift – keinoälymme avulla. Asiakasyritystemme palvelimilla käytävät chat-keskustelut kiertävät millisekunneissa meidän palvelimemme kautta takaisin heille ja käyttäjien ruuduille. Siinä välissä sovelluksemme etsii ja blokkaa ei-toivotun sisällön kunkin asiakkaan toivomalla tavalla. Yksittäisten sanojen lisäksi tekoälymme tunnistaa vaihtoehtoisia kirjoitusasuja, asiayhteyksiä, lyhenteitä ja keinotekoisia kieliä. Päivittäin teköälymme käy neljä miljardia asiakkaidemme chat-riviä läpi.”

Miten mullistatte maailmaa?

“Pelifirmat ovat havahtuneet siihen, että jos haluaa isot bileet, ovella pitää olla turvamiehet, ja me olemme ne turvamiehet. Pelibisneksessä liikkuvat isot rahat. Jos pelifirman verkkopelin chatissa tapahtunut kiusaaminen tai ahdistelu nousevat uutisiin, sijoittajat alkavat vetää rahojaan pois. Asiattomien viestien älykäs siivoaminen näkyy käyttäjille miellyttävämpänä käyttökokemuksena ja viestii esimerkiksi nuorten vanhemmille siitä, että palvelua on turvallista käyttää. Koska tekoälymme ymmärtää myös asiayhteyksiä, se voi löytää muun muassa itsemurhaa suunnittelevan nuoren chatista ja ohjata hänet soittamaan neuvontapuhelimeen.”

Ketkä ovat asiakkaitanne?

“Pelitalot ovat tärkein asiakasryhmämme, sillä käytännössä lähes jokaisen verkkopelin pelaajat chattaavat nykyisin keskenään pelin aikana. Tämän jälkeen tulevat virtuaaliset yhteisöt ja keskustelufoorumit. Hyvä esimerkki on Elisan omistama nuorten verkkoyhteisö Habbo Hotel. Elisalla havaittiin, että keskustelujen moderointiin kuluva aika aiheutti suuret kustannukset. Nyt tekoälymme käy päivässä yli 20 miljoonaa Habbo Hotelin chat-riviä läpi, minkä ansiosta Habbo Hotellin moderointi on tehokkaampaa ja nopeampaa. Parhaimmillaan tekoälymme on pienentänyt asiakkaidemme moderointikuluja jopa 70 prosenttia.”

Miten löydätte asiakkaat?

“Suurin osa asiakkaistamme tulee suositusten kautta. On upeaa, kun esimerkiksi Supercellin kaltaisen hyvän yhtiön väki vinkkaa meistä kumppaniyritykselleen, joka sitten soittaa palvelumme perään. Toinen yleinen tapa on se, että asiakas on aiemmin käyttänyt toisen yhtiön tekoälyä ja haluaa koittaa uutta teknologista vaihtoehtoa. Jo näillä pysymme kiireisinä, mutta samalla myymme tuotetta aktiivisesti myös itse.”

Mistä raha tulee?

“Yritys sai alkunsa viitisen vuotta sitten perustajan ja toimitusjohtajan, Disneyllä valkoisena hakkerina toimineen Chris Priben omilla varoilla, joiden jatkeeksi hän hankki siemenrahaa enkelisijoittajilta. Nyt olemme onnellisessa asemassa, sillä olemme jo jonkin aikaa eläneet vain myynnillä. Jos haemme sijoituksia kasvua varten, sijoittajan on ehdottomasti jaettava filosofiamme. Teemme koko internetistä entistä turvallisemman, eikä silloin voi vain keskittyä vain oman voiton maksimoimiseen.”

Millainen tiimi teillä on?

“Yrityksessämme työskentelee 35 ihmistä. Meidän yrityksessämme erityisen tärkeässä roolissa on kieli- ja kulttuuritiimi. Tällä hetkellä keinoälymme ymmärtää 20 kieltä, joista tärkeimmät ovat englanti, espanja, ranska, portugali, saksa ja italia. Kielitiimi pitää huolen siitä, että keinoälymme ymmärtää sanojen lisäksi myös kielen vivahteita ja kulttuurista ympäristöä. Syvennämme tekoälyn ymmärrystä kielistä jatkuvasti ja opetamme sille uusia kieliä asiakkaiden tarpeiden mukaan.”

Kenen kanssa kilpailette?

“Isoista tekoäly-yhtiöistä merkittävä kilpailija on brittiläinen Crisp Thinking, joka tosin on enemmänkin keskittynyt brändikuvan hallintaan. Meidän alallamme erityisesti USA:ssa on ponnistamassa useita pikkuyhtiöitä. Me olemme kuitenkin saavuttaneet tekoälyn ja ihmisen parhaiden ominaisuuksien ymmärryksen välille toimivan tasapainon: tekoäly seuloo suurta tietomassaa ja lopulta ihminen tekee vaativimmat päätökset. Balanssin hallinta tekee meistä uniikin.”

Seuraavat askeleet

“Olemme kehittäneet Kanadan huippuyliopistojen kanssa tuotteen CEASE ai, joka lukee ja analysoi tekstin sijaan kuvan informaatiota. Kanadan viranomaiset käyttävät sitä työkalunaan verkkoon ilmestyvän uuden lapsipornografian ja sen uhrien havaitsemiseen. Investoimme kahden tuotteemme teknologioiden parantamiseen ja jatkamme näin internetin kehittämistä entistä turvallisemmaksi. Samalla lait verkon yksityisyyden suojasta kehittyvät, mikä avaa uutta liiketoimintaa alallamme. Aiomme integroida sitä jo olemassa oleviin palveluihimme, ja mahdollisesti kehitämme myös kokonaan uusia tuotteita.”

Two Hat Security on mukana teknologia- ja kasvuyritystapahtuma Slushissa Elisan kumppaniyrityksenä.

Lue lisää: “Ilman nopeiden ja kunnianhimoisten startup-yritysten erikoisosaamista suuret yhtiöt jähmettyvät paikoilleen”, kertoo Elisan kehitysjohtaja Kimmo Pentikäinen.