Jeg er involvert i et prosjekt som handler om å skape et trygt miljø for barn og unge (7-15år) innenfor spill. Dette er en multiplayer så hvem som helst kan i teorien logge inn. Vi baserer oss innenfor Skandinavia. Det snakkes derfor mest dansk, norsk og svensk.

Det som skremmer oss mest er at det kan logge inn noen med hensikter om å utnytte et eller flere barn på denne arenaen.

Det er her jeg er ute etter innspill. Hvilke forebyggende tiltak kan gjøres for å redusere denne risikoen så mye som mulig?

Vi har mulighet til å logge alt av relevant data fra de logger inn til de logger ut. Chat, både offentlige og private meldinger, IP, handlinger utført i spillet etc. Vi har tilgang til solid programmeringskompetanse så det kan utvikles automatiske løsninger som kjører i bakgrunnen.

Kjernen av problemet er at barn er barn. Mange barn er veldig flinke med å ikke dele personlig informasjon, men så har vi også den gruppen som ikke vet bedre. Som deler ut snapchat, skype, instagram i hytt og pine uten å tenke på at "Andrea03" kanskje faktisk er "Morten62".

Mennesker som er ute etter å få kontakt med barn er ikke idioter i den forstand at de kan omgå en del sperringer som vi kan sette ut for å fange de opp. Det enkleste de kan gjøre er å bare få et skypenavn, da er de utenfor vår arena og utenfor vår kontroll. Desto lengre de "jakter" inne hos oss, desto større mulighet har vi for å ta de.

Vi forteller ofte barna at de ikke må dele ut personlig info, men det har liten effekt. Mange gjør det gjerne da fordi det er ekstra spennende siden de har fått beskjed om å ikke gjøre det.

En annen side av saken er hvem sitt ansvar dette egentlig her, oss eller foreldrene hjemme? Kjenner det går kaldt nedover ryggen på meg når vi ser at noen har sluppet en syvåring uten tøyler løs på nettet, uten noen form for oppsyn til hva barnet deres driver med.

Vi går for holdningen at et tilfelle av dette er et for mye og ønsker å gjøre alt i vår makt for å hindre det.

Det er også viktig å tenkte på at disse tiltakene ikke må oppfattes som skremmende for barna. Det skal oppleves som trygt og gi barn en god opplevelse. Barn skal få lov til å være barn.

Tips til forebyggende tiltak både her og på PM mottas med takk!

Enig i det Pygoscelis sier her, at en holdningskampanje kan hjelpe mye, det kan også være greit å gjøre at en bruker må registreres opp mot et telefonnummer. På den måten, har dere flere muligheter til å kunne blokkere personer som tidligere har missbrukt deres spill.

Det er vell så viktig å ha moderatorer som følger godt med på hvem som skriver hva i all/public chat, slik at personer som åpenbart skriver for å komme i kontakt med andre barn helt uten videre, blir blokkert. Og deretter passe på å bannlyse telefonnummeret til å registrere flere brukere.

Å registrere et telefonnummer vil også skremme en del pedofile og personer med ikke ærlige intensjoner mot å registrere seg, da alle telefonnummere skal være koblet opp mot et personnnummer eller lignende.

Takk for gode innspill begge to. Vi skal få laget et system som gjør det givende å rapportere. Likte veldig godt ideen ang en form for politifigur! Det du nevner Pygoscelis, med å bli tatt seriøst er også veldig viktig.

Ang det du nevner Grossie så må vi finne en balanse. Balansen mellom å forebygge så mye som mulig, men også ikke hindre barn i å spille. Det er ikke alle barn som har tilgang til et telefonnummer de kan bruke. Det kan medføre at de ikke får spilt med vennene dine og føler seg ekskludert.
Vi har moderatroer på plass, men si det er over brukere 1000 inne samtidig som chatter i vilden sky. Det vil ikke være mulig å overvåke all chat manuelt. Vi kan ha filter som fanger opp stygg ordbruk etc, men det er vanskeligere å luke ut de som har andre hensikter.

Synes det er dumt at du ikke liker det med telefonnummer. Hvis de ikke har sitt eget telefonnummer har garantert foreldrene dette, samt så vil de få "godkjent" fra forsørger at de kan bruke tjenesten som igjen åpner for kommunikasjon mellom barn og forelder. Dette er nok faktisk den beste løsningen, da det alltid er mulig å omgås disse filterne.

Uansett hvis barna er så unge som 7 år er det vel nesten et krav om at en foresatt har gitt tillatelse til bruk av tjenesten.

Kan jo konstruere en algoritme som gjør at moderator får beskjed når noen spør om å utveksle ''skype'' eller ''alder'' eller ''snap''. Slik kan moderatorene klikke seg inn på disse samtalene og se om det skjer noe dumt. Dette vil kunne gjøre jobben med overvåking langt mer effektiv.

1.Dere kan kreve foresatte må godkjenne. 2. Personnummer eller fødselsattst . 3. Bilde av barnet holde papirene for punkt nr 1&2

Vil poengtere at å spørre om så mye som mobilnummer (noe mange av yngre ikke har) vil føre til store tap av medlemmer da mange av dem ikke vil gå gjennom 'bryet' å spørre foreldrene om å registrere dem på siden. Noe mer enn telefonnummer er rett og slett for mye. Da er det bedre, som tidligere nevnt, å ha en "politifigur" som holder oversikt og registrere nøkkelord som blir fulgt opp av moderatorer.

Punkt 1. er greit nok, men hvordan skal de kontrollere at foresatte faktisk er foresatt?

Punkt 2 og 3 er helt bak mål. Jeg kan love deg at ingenkommer til å dele ut personnummeret eller fødselsattest, ikke minst bilde av barnet sitt til en nettside for å kunne registrere seg.

Hvordan skal dette beskytte barna? Her mener du at en som forelder skal holde opp ett bilde (slik at pedofile kan vurdere om det faller i h*ns smak) deretter skal en utlevere personnummeret til sitt barn? Dette er jo informasjon en skal beskytte med nebb&klør for at andre ikke skal få tak i..

Det finnes ikke noen bra teknisk løsning. Jeg tror det beste du kan gjøre er å bruke "awareness", liste opp nettvettregler ol. og gjøre det lett å rapportere mulige overtramp.

Nå vet jeg ikke hvor lett det er å få til, men hva med et slags filter som reagerer på spesielle ord/setninger?
Slik at om det blir brukt så vil eventuelle mods få en beskjed om det og kan gå igjennom samtalen.
Ser Relevant nevnte noe av det samme.

Ellers er det jo generelt nettvett.
Hva med en servermessage hvert 10 minutt ellernoe slikt som lister opp hovedreglene?
Av erfaring er det greit å fortelle barn ting flere ganger før det sitter.

Bruk av telefonnummer til registrering, det fåtall av barn som ikke har et telefonnummer idag har foreldre som har telefonnummer og ved mindre foreldrene spiller dette spillet ifra før av skal det jo ikke være noe problem.

Det er både dere og foreldrene sitt ansvar å forhindre dette.
Dere har opprettet et nettsted til barn og må deretter opprettholde at barn kan føle seg trygge samt at dere ikke har medlemmer som bedriver overgrep mot barn på deres nettside.
Tror det er noen spesielle lover og regler rundt offentlige nettsteder.

Steam, ihvertfall på Dota 2 krever tlf nr... Høres ut som en meget god løsning for å holde unna mange pedoer.

For å først og fremst beskytte privatlivet kan det jo legges inn filterer som blokkerer deg ifra å skrive mobilnummer/fulle adresser i chat. f.eks å ta alle mulige kombinasjoner av mobilnummer i Skandinavia (ja det er mye arbeid) og whitelista tegna så man ikke kan skrive det, men samtidig skrive tall med 8 nuller i. Adresser blir det vel litt vanskelig med... ellers som det blir skrevet over (som er fullt mulig) å lage en "alert" når diverse setninger/ord blir sagt som gir mod/admin innsikt i samtalen (hvis det er dm system) og kan gjøre noe med situasjonen hvis det er en person som utnytter barnet da.. antar vel at dere er god innenfor dataprogrammering ettersom dere lager ett multiplayerspill, så det blir mest arbeid enn utfordninger.
itilleg til dette er det vel lurt å hadd popups som minner på policyen på nettstedet/spillet. lykke til (:

Hvis målgruppen er barn i 7-årsalderen, så vil jeg absolutt påstå at dette bare er en fordel. Disse barna burde ikke få registrere seg uten at foresatte er med på prosessen.

Må det være åpen chat på tjenesten? En mulighet mange bruker er jo å ha mulighet til å kun kommunisere ved hjelp av forhåndsbestemte lister av responser. Dette er meget trygt, men har på følelsen at dette ikke er aktuelt på denne tjenesten?

Dere bør være obs på den nye personvernlovgivningen som trer i kraft i mai 2018(GDPR), den krever eksplisitt samtykke fra foresatte ved registrering av kontoer(data innsamling/lagring) der personen er under 13 hvis registreringen krever noe som helst personlig informasjon(navn, bilde, epost etc).
Dette samtykke skal i etterkant kunne bli etterprøvd.

Dette kan gjøres ved for eksempel bruke bank-id verifisering, dog vet jeg ikke om hvordan barnet kan kobles opp mot foresattes bank-id.

les mer om GDPR her:
https://no.wikipedia.org/wiki/Personvernforordningen

Dette liker jeg. Et rikholdig utvalg av forhåndsdefinerte meldinger kan være mer enn godt nok.

Alternativt ha kun offentlig chat, slik at mange kan få med seg meldingene og øke sjansen for at ting rapporteres. Avhengig av hvor populær tjenesten er, så er det sikkert noen foreldre der til enhver tid som vil reagere på grooming. Ser at det kan være litt problematisk -- dersom det er lite folk så er det kanskje ikke nok folk "på vakt", og dersom det er mye folk så blir det kanskje rotete med én offentlig felleschat. Eventuelt, dersom det er for mange folk, så kan det jo deles inn i grupper av mer passende størrelse. Bare slenger inn forslag her.

I tillegg til triggere på visse ord og uttrykk som folk allerede har nevnt over her, kan det være en idé og kjøre alle bilder og slikt som blir sendt gjennom chatten gjennom feks. Computer Vision'et til MSFT? Så får man sjekket det der og.

Dette er nok helt sikkert snakk om et spill som f.eks. Minecraft hvor det ikke er mulig å sende filer/bilder. Beste må jo som sagt være å få til noen triggers på visse ord og ha et slags moderatorteam som man kan rapportere til?

Mye bra forslag her! Tenkte jeg skulle la diskusjonen få gå så fritt som mulig.

Spillet er som gjettet i tråden Minecraft.

For å ta forslaget med telefonnummeret så blir det som jeg nevnte tidligere den balansen om å gjøre det vanskeligere for et barn å logge inn men også styrke sikkerheten.

Slik det ser ut nå vurderes det at tapet av spillere særlig blant de yngste blir for stort om vi krever noe for at de skal kunne logge inn. Igjen må vi nok ta en runde til på den, for det kan tenkes at barna får mer nettvett når de vet at de kan spores. Ref tråd jeg lagde tidligere om barn og nettvett.

Dere nevner mye automatikk rundt monitorering av chat. Ser at det blir et behov for et relativt avansert system som lar spillere rapportere og mulighet for moderatroer for å flagge saker etc for videre gjennomgang. Det blir nok behov for en fulltidsstilling som nso sier.

Takk for info. Dette må jo tas hensyn til. Her virker det jo som at vi må gå tilbake på det jeg skrev over med å kreve noe for at spillerne skal logge inn. Om vi først må dette kan vi jo like gjerne be om telefonnummeret til spilleren. Skal få en med juridisk kompetanse til å undersøke saken.

Veldig interessant! Deler av spillet krever at spillerne kommuniserer fritt, men i minigames hvor de spiller hver for seg kan dette være veldig aktuelt. Takk!

Stengt chat med forhåndsbestemte lister på de som ikke er registrert med mobilnummer?

Jeg har en god del erfaring med å drive noen tjenester med chatte-funksjonalitet og den eneste løsningen som ser ut til å fungere bra er å be om et mobilnummer.

Jeg har et spill der jeg gjør nettopp dette, og det at folk ikke har et nummer er ekstremt usannsynlig. Om de som skal spille er så ekstremt unge at de ikke har et mobilnummer en gang så burde foreldre vite om det og da har nok de en mobil.

Du trenger med sannsynlig ikke å ha noen chat for de som ikke har verifisert kontoen sin med et mobilnummer.

Uten nummer så har dere heller ikke noen brukbar mulighet til å sperre folk ute dersom noen faktisk bryter reglene.

Du kan ta en titt selv for å få noen ideer, uten å oppgi annet enn brukernavn og passord: https://www.mafiaenshevn.com/