Selvmord og Facebook AI
Indholdsfortegnelse:
Når en person dør ved selvmord, spiser de i deres liv ofte hvad de kunne have gjort for at forhindre det.
Socialmediebrugere kan endda fortryde at se noget foruroligende udgivet af personen, men ikke gøre noget ved det.
AnnonceAdvertionI et forsøg på at hjælpe har Facebook annonceret, at det udvider sin brug af kunstig intelligens (AI) værktøjer til at identificere, når nogen udtrykker tanker om selvmord eller selvskade på socialmedias hjemmeside.
Før denne måned brugte Facebook kun værktøjerne på nogle brugere i USA. Nu er den tilgængelig for de fleste af webstedets 2 milliarder brugere, undtagen de i EU, der har strengere privatlivs- og internetlovgivning.
Mark Zuckerberg, chef for Facebook, siger, at denne brug af AI er en positiv udvikling.
AnnonceHan offentliggjorde for nylig på sin Facebook-tidslinje, at "Kun i den sidste måned har disse AI-værktøjer hjulpet os med at oprette forbindelse til de første respondenter hurtigt mere end 100 gange. ”
Hvordan gør værktøjerne netop det?
AnnonceAdvertisementFacebook afslører ikke detaljerede detaljer, men det virker som om værktøjet virker ved at skumme gennem indlæg eller videoer og markere dem, når det henter ord, videoer og billeder, der kan indikere en person, er i fare for selvmord.
Facebook bruger allerede AI i en lignende sag til at scanne og fjerne indlæg, der præsenterer børnepornografi og andet indvendigt indhold.
En Facebook-repræsentant fortalte Healthline, at selvmordsforebyggelsesværktøjerne hjælper med at registrere indhold hurtigere. AI hjælper også med at prioritere rapporterne og angiver hvilke tilfælde der er mere serioius.
Derefter gennemgår trænede medlemmer af Facebooks community operations team indholdet og bestemmer hvilken type hjælp der skal ydes til brugeren.
Disse medlemmer arbejder rundt om i verden døgnet rundt og gennemgår begge rapporter fra AI-værktøjer og fra berørte Facebook-brugere.
AnnonceAdvertisementEn måde, hvor AI-værktøjet opdager selvmordstendenser, er ved at spørge brugerne om spørgsmål som: "Er du ok? " "Kan jeg hjælpe? "Og" har du brug for hjælp? "
Facebooks samfundsoperationshold har til opgave at gennemgå indhold, der rapporteres at være voldeligt eller bekymrende.
I maj meddelte Facebook, at det ville tilføje 3, 000 flere arbejdere til operationsholdet, som havde 4 500 medarbejdere på det tidspunkt.
AnnonceIfølge Facebook-talsmanden hjælper teknologien med at opdage indhold og videoer, som folk sender på Facebook ofte gange hurtigere end en ven eller familiemedlemmer kan rapportere materialet.
Når disse opdages, bliver Facebook-brugeren i kontakt med Facebook Live chat support fra krisestøtteorganisationer via Messenger, og i stand til at chatte i realtid.
AnnonceAdvertisementSelvmordsbevidsthed fortalere ombord
Ved at skabe AI for selvmordsforebyggelse arbejder Facebook med mental sundhed organisationer, herunder Save. org, National Suicide Prevention Lifeline "1-800-273-TALK (8255)" og Forefront Selvmordsforebyggelse.
Daniel J. Reidenberg, PsyD, administrerende direktør for Save. org, siger han er begejstret for, at Facebook tager skridt til at hjælpe med at fremme selvmordsforebyggelsesindsats på måder, der ikke er blevet gjort før.
"Hvis vi ser de sidste 50 eller 60 år - uanset om du snakker om fremskridt inden for medicin eller behandling for selvmord og mental sundhed - har vi ikke set reduktioner eller set selvmordsfald på grund af disse ting, så ideen at måske teknologi kan hjælpe, er den bedste mulighed, vi har lige nu, for at forsøge at redde liv, "fortalte Reidenberg Healthline.
AnnonceSelv om han bemærker, at AI-værktøjerne måske ikke er fuldt uddesignede og kan fremlægge falske positiver over for personer, der er i fare, siger han, at det er en banebrydende indsats for selvmordsforebyggelse, der kan tage tid at forstå sin effektivitet.
"Før AI kom sammen, var der falske positiver fra folk, der rapporterede ting til Facebook, som troede en ven kunne være selvmord. AI fremskynder kun processen for at hjælpe med at fjerne nogle af disse falske positiver og virkelig afhente dem, der virkelig risikerer sig, "siger Reidenberg.
AnnonceAdvertisementHan tilføjer, at folk viser tegn på selvmordstendenser på sociale medier, og at dette ikke er en god eller dårlig ting.
"Sociale medier er bare hvor folk lever deres liv i dag. For mange år siden levede de ud i parken eller i recess eller skrev notater til hinanden, måske deles over telefonen. Da flere og flere mennesker lever deres liv på sociale medier, deler de både de lykkelige øjeblikke og de udfordringer, de står over for, "sagde han.
Ændringen, tilføjer han, tillader folk at nå hundreder og hundredvis af mennesker ad gangen.
Reidenberg siger, at hvis du opdager nogen på sociale medier, der kan være deprimeret eller i fare for selvskade, nå ud til dem med en besked, tekst eller telefonopkald, hvis du er tætte venner. Facebook tilbyder endda præfyldte tekster for at gøre det nemmere at starte en samtale.
Hvis du ikke føler dig godt tilpas med denne tilgang, foreslår Reidenberg at bruge rapporteringsfunktionen på Facebook.
"Det er en nem og hurtig ting at gøre. Teknologien kan ikke gøre dette alene. Vi har brug for folk til at være involveret. Ikke at gøre noget er det værste mulige, der kan ske, "sagde han.
Hvad med privatlivsproblemer?
Bortset fra den gode hensigt er det svært at ikke overveje invasion af privatlivets fred.
Charles Lee Mudd Jr., en privatlivsadvokat og rektor ved Mudd Law, siger, at Facebook-scanning af søgeord ikke bør betragtes som en overtrædelse af privatlivets fred, hvis den er blevet offentliggjort i forvejen.
"Så længe Facebook afslører det, gennemgår indholdet, jeg ser ingen virkelige privatlivsproblemer," fortæller Mudd Healthline. "Man bør forstå, at alt, hvad der offentliggøres overalt på internettet, herunder via e-mail - privat eller ej - eller sociale medier, kan finde vej til utilsigtede modtagere.I det mindste hvis Facebook giver os besked, har robotter, der læser vores mail - eller i det mindste scanner efter nøgleord eller sætninger - vi kan tilpasse vores adfærd, hvis det er nødvendigt at gøre det. "
Mens lovligt Facebook kan være i det klare, om det handler etisk, er op til debat.
Keshav Malani, medstifter af Powr of You, et firma, der hjælper folk med at tjene penge på deres digitale tilstedeværelse, siger uanset formålet med Facebook, bør hver person være fri til at bestemme, hvordan deres personlige data anvendes.
"Ellers er det en glidende hældning på, hvad der betragtes som" godt "vs." dårligt "brug af de personlige oplysninger, vi deler på platforme som Facebook. Også intentioner er ikke nok, fordi biaser i data kan resultere i ugyldige eller skadelige påstande fra endda bare grundlæggende historisk korrelationsanalyse, "fortalte Malani Healthline.
Han tilføjer, at AI kun er så god som de data, den modtager som input.
"Individuelle platforme som Facebook forsøger at antage, at de kender dig godt nok til at drage konklusioner om dit velvære ville være naive. Facebook eller et andet medieudtag for den sags skyld dækker kun en lille del af vores liv og ofte male et billede, vi vælger at dele. Derfor skal man drage en ekstrem forsigtighed med at drage konklusioner fra en så begrænset og muligvis forudindtaget datakilde. han sagde.
Stadig siger Reidenberg, at folk ikke bør være bange for Facebook ved hjælp af AI.
"Dette er ikke Facebook stalking folk eller komme ind i folks forretning," sagde han. "Det bruger teknologi og folk til at forsøge at redde folks liv," sagde han. "Stol på mig, hvis du har en elsket i krise, vil du have alt, hvad der skal gøres for dem, uanset om du er i et nødrum eller online. "
Han håber faktisk mere teknologi kan gribe ind med mennesker i krise.
"Når nogen er i krise, går muligheder og alternativer væk fra dem. De bliver meget fokuserede på, hvad der sker i det øjeblik, og de har ikke de nødvendige værktøjer til at få dem igennem, "sagde han.
Når som helst teknologi kan hjælpe med at give folk flere muligheder, siger Reidenberg, jo mindre de vil være i krise. Han vil gerne se, at teknologien skaber flere måder at identificere personer i fare, før de selv risikerer at sige depression.
For eksempel siger han, at hvis vi ved, at når vi bliver mere deprimerede, at vi interagerer mindre, isolerer mere, trækker mere tilbage, har mindre energi og taler og skriver forskelligt, så kan programmeringsteknologien bemærke disse ændringer være gavnlige.
"Lad os sige, at du er en almindelig plakat på Facebook, men så bliver du mere deprimeret i livet, og din aktivitet slår langsomt af. Så begynder du at sende billeder på Instagram af nogen meget trist eller en dyster dag udenfor. Hvis vi kan få teknologi til at afhente hvad der sker med dig i dit liv baseret på din adfærd online, kan vi begynde at give dig ting som ressourcer eller support, og måske kan vi vende det rundt, "sagde Reidenberg.
Zuckerberg delte en lignende følelse i sin stilling, og fremhævede fremtidige planer om at anvende AI på andre måder.
"Der er meget mere, vi kan gøre for at forbedre dette yderligere," skrev han. "I fremtiden vil AI kunne forstå flere af de subtile nyanser af sprog og kunne også identificere forskellige problemer ud over selvmord, herunder hurtigt at spotte flere former for mobning og had. ”
