Hvordan AI kan samle spor for at forhindre fremtidige skoleskud

I lyset af nylige dødbringende skoleskydninger i USA ser undervisere, forældre og sikkerhedsexperter på teknologi for at hjælpe med at løse problemet. I spidsen er brugen af ​​kunstig intelligens.

”Vores mål er at sikre, at et barn aldrig vil bringe en pistol til skolen,” sagde Suzy Loughlin, medstifter og chefråd for Firestorm, et krisestyringsfirma. I den forbindelse har virksomheden i partnerskab med University of Alabama School of Continuing Education udviklet et forebyggelsesprogram, der ser efter tidlige advarselsskilte hos børn, der kan være i fare for at begå fremtidige voldelige handlinger.

Døbt BERTHA, til Behavioral Risk Threat Assessment Program, voksede ideen ud af masseskydningen i Virginia Tech i 2007, da 32 mennesker blev myrdet - en af ​​de dødbringende i USAs historie. Skydningen i februar på Marjory Stoneman Douglas High School i Parkland, Florida, der dræbte 17 mennesker, bragte mere opmærksomhed mod emnet, understreget igen i maj, ved Santa Fe High School-skyderiet i Texas, hvor 10 studerende og lærere blev dræbt.

Skoleskydningsofre siden 1989, Kilde: Mother Jones

Risikovurderingsprogrammet er tænkt som et sikkerhedsnet til at fange børn, der muligvis har brug for hjælp og indgriben, før de bliver selvmordstunge eller voldelige. Som demonstreret efter hver tidligere hændelse undrer administratorer, forældre og studerende sig, hvorfor tidlige advarselsskilte - som cybermobning, hentydninger til våben og henvisninger til Columbine High School-skydning i Colorado i 1999 - ikke blev bemærket tidligere.

Brug af AI til at søge efter spor

Udfordringen har været vanskeligheden ved at sigtet gennem bjergene af data genereret i fora og sociale mediekonti for at finde de få nåle, der kan advare en skolekonsulent eller psykolog om, at et barn er i problemer. Så for at filtrere sådanne spor online udnytter administratorer kunstige intelligensværktøjer.

"Vores mål er at sikre, at et barn aldrig vil bringe en pistol til skolen."

"Vi er AI-komponenten," forklarede Mina Lux, grundlægger og administrerende direktør for New York-baserede Meelo Logic. Hendes firma arbejder på BERTHA-programmet med Firestorm for at udføre den indledende tunge løftning af sortering gennem det, der er blevet kendt som big data. "Vores fokus er videnautomatisering for at forstå sammenhængen."

Meelos software kan spore kommentarer og indlæg tilbage til deres oprindelige kilde. Virksomheden henviser til processen som årsagssag, men det er mere analogt med at finde patient nul, det oprindelige individ, som en anden måske har udtrykt bekymring over.

"Normalt er der et indledende udbrud online, og de offentliggør bevidst det offentligt - det kan være et kald til hjælp," forklarede Hart Brown, COO for Firestorm. "Og i 80 procent af tilfældene ved mindst en anden person, så selvom det første indlæg er privat, vil en anden sandsynligvis offentliggøre det."

AI-programmet giver den indledende screening baseret på de anvendte slangudtryk, kontekst, placering og relaterede links. Derefter markerer Firestorms BERTHA-dashboard aktivitet for mulig intervention. Det er her mennesker - rådgivere, lærere, psykologer - træder ind for at vurdere, om der er en reel trussel, om et barn har brug for ekstra opmærksomhed, fordi de udviser vrede eller selvmordstendenser, eller om aktiviteten er godartet.

Udfordringen har været vanskeligheden ved at sigtes gennem bjergene af data genereret i fora og sociale medier.

”Men ingen er ansvarlige for at træffe beslutningen,” sagde Brenda Truelove, en programadministrator ved University of Alabama, der har arbejdet med Firestorm om programmet og et tilknyttet e-læringsprogram for undervisere landsdækkende. "En person går måske glip af noget, så det er et team af mennesker, der beslutter, hvad de skal gøre."

Truelove bemærkede, at programmet er baseret på erfaringer fra lærere, retsmedicinske psykologer og andre eksperter for at skabe en formel til håndtering af potentielle kriser.

Betyder øget sikkerhed mindre privatliv?

Mens AI's potentiale til at forhindre fremtidige skoleskydninger kan være lovende, skaber en sådan sporing og dataanalyse uundgåelige bekymringer for privatlivets fred og nøjagtighed, og om sikkerhed overgår eventuelle bekymringer.

Bryce Albert, en studerende i 9. klasse ved Marjory Stoneman Douglas High School, var i gangen på tredje sal, da skytten begyndte at skyde på studerende. Da Albert så morderen komme ned ad gangen, lod en lærer Albert komme ind i et klasseværelse, og han overlevede. Siden denne oplevelse har han haft en ændring af tanke om privatlivets fred.

"Før var jeg ligesom, gå ikke ind i mine ting," fortalte Albert Digital Trends, om myndigheder, der sporer hans brug af sociale medier. "Men nu har jeg helt ændret mening."

Meelos Lux understregede, at AI-programmerne ikke har adgang til private konti; alle oplysninger er offentlige. Firestorm's Loughlin understregede det faktum, at de ikke indsamler eller gemmer dataene selv. Det vedligeholdes af de enkelte skoler, som allerede har erfaring med at føre elevernes poster. (Firestorm opkræver et licensgebyr på $ 2.500 pr. Skole, mens University of Alabama tilbyder et gratis onlineuddannelseskursus for Alabama K-12-undervisere. Skoler kan også arbejde på deres egne tidlige advarselsprojekter gratis ved hjælp af Firestorms grundlæggende ni-trins formel til oprettelse af sådanne programmer.)

Lux erkender, at sprogets finesser, såsom sarkasme, kan vise sig at være udfordrende for enhver AI-forskning. Meelo fokuserer på tekstanalyse snarere end den slags billedanalyse, andre AI-virksomheder, som Cortica, studerer. Der er stadig plads til fejlagtig fortolkning, selv for menneskelige deltagere.

"Det er svært at få følelser gennem sms'er," erkendte Albert.

På den anden side afspiller et lidenskabeligt program ikke favoritter eller ignorerer de slags følelsesmæssige eller adfærdsmæssige ændringer, der kan indikere, at problemer er foran.

AI er stadig kun et indledende filter eller værktøj til at stoppe fremtidige skoleskydninger.

"I sidste ende kan det være mere nøjagtigt ved at fjerne så meget bias som muligt," sagde Firestorm's Brown. En HR-person eller rådgiver kan minimere en persons følelsesmæssige udbrud, for eksempel ved at sige, at det sker hele tiden. Den ikke-blinke computer giver ingen sådanne undskyldninger.

”Men det kræver stadig et menneskeligt præg for at følge igennem og interviewe den person,” sagde Brown. "Computeren bestemmer ikke, om vedkommende skal udvises eller har brug for rådgivning."

AI er et værktøj, ikke en løsning

Alle eksperterne, som Digital Trends talte med for denne historie, understregede det faktum, at AI stadig kun er et indledende filter eller værktøj til at stoppe fremtidige skoleskydninger. Det kan generere alarmer om børn i fare, men det kan ikke fortælle undervisere, hvordan, hvornår eller endda om de skal gribe ind. Skoler har stadig brug for deres eget team af eksperter - fra lærere, der kender eleverne til psykologer - og sandsynligvis fortsat har brug for dem.

"Statistikker viser, at med hver skoleskydning, der sker, er der en højere sandsynlighed for, at en anden skoleskydning finder sted," sagde Lux.

I sidste ende er det menneskelige element den vigtigste faktor. ”Tal med folk og bede om hjælp,” sagde Albert. "Vær ikke bange for at bede om hjælp."