5 måder Facebook's AI vil bekæmpe terrorisme; På Instagram og WhatsApp for

I kølvandet på terrorister, der bruger sociale netværk på nettet til at udbrede deres dagsorden, har et af de største sociale medienetværk, Facebook afslørethvordan det implementerer sin AI-enhed i sine trin for at begrænse terrorrelateret indhold fra sin platform.




Med udvidelsen af ​​internettet til forskellige verdenshjørner har det hurtigt vundet interesse for berygtede grupper med ondsindet intention.



Sociale netværk har præsenteret en ny vej til terrorgrupper til ikke kun at rekruttere potentielle kandidater med lignende ekstremister, men også til at planlægge og koordinere angreb i den virkelige verden.



Mens Twitter og Google har gjort deres arbejde for at gøre internettet til et mere sikkert sted, Facebook har brugt sin kunstige intelligens til at begrænse terrorrelateret indhold.

Læs også: 4 grunde til, at du skulle grøfte Facebook Android-appen.

”Der er ikke noget sted på Facebook for terrorisme. Vi fjerner terrorister og stillinger, der støtter terrorisme, når vi bliver opmærksomme på dem. Når vi modtager rapporter om potentielle terrorismeposter, gennemgår vi disse rapporter hurtigst muligt og med kontrol, ”udtaler Facebook.

Facebook havde for nylig implementeret sit kunstige intelligenssystem for at tage kampen imod terrorindhold på Facebook.

Facebook's AI - Lumos -gør brug af maskinlæring sammen med følgende teknikker:

  • Billed matching: Ved hjælp af denne teknik identificerer AI billeder eller videoer, der ligner dem, der tidligere var forbudt, og markerer dem, før det når ud til publikum på Facebook.
  • Sprogforståelse: En anden nylig udvikling, som virksomheden stadig tester. Denne teknik forsøger at identificere tekster, der muligvis går ind for terrorisme - ved hjælp af maskinlæring.
  • Målretning af terrorkonti med et lignende mønster: Deaktivering af konti, grupper eller sider, der er relateret til eller ligner terroristkonti, der er forbudt i fortiden.
  • recidiv: Opdage falske konti oprettet af gentagne gerningsmænd og slette dem hurtigere, end de er oprettet igen.
  • Tværplatformovervågning: Denne AI-overvågning vil ikke kun blive impliceret på Facebook-skrivebordet og mobilappen, men også på tværs af andre Facebook-ejede sociale medieplatforme som Instagram, Whatsapp og Messenger.

”Selvom akademisk forskning finder, at radikaliseringen af ​​medlemmer af grupper som ISIS og Al Qaida primært forekommer offline, ved vi, at internettet spiller en rolle - og vi ønsker ikke, at Facebook skal bruges til nogen som helst terroristaktivitet,” siger virksomheden tilføjet.

Da det, der understøtter og ikke understøtter terrorisme, er subjektivt, fordi et billede af en terrorist eller tekst, der taler om terrorisme, også kan være en del af en nyhedsrapport, og for at sile gennem indholdet, tilføjer Facebook også menneskelige anmeldere til folden for at ”forstå mere nuancerede sager”.

De menneskelige kolleger i AI er ansvarlige for at gennemgå det indhold, der er rapporteret af medlemmer af Facebook-samfundet, for at identificere troværdigheden og størrelsen af ​​en terrortrussel fundet af en AI og hjælpe AI på andre måder også.

”Terrorister udvikler kontinuerligt deres metoder, og vi identificerer konstant nye måder, som terroristaktører forsøger at omgå vores systemer - og vi opdaterer vores taktik i overensstemmelse hermed,” tilføjede virksomheden.

Læs også: Sådan bruges flere Facebook-konti fra et enkelt Chrome-vindue.

Terrorisme har været en voksende trussel i de sidste par årtier, og når Internettet når ud til fjerne hjørner af verden, giver det en måde for folk at oprette forbindelse ud over grænserne, men også en måde for gerningsmændene at udbrede deres filosofi og møde andre link- sindede mennesker og rekruttere mærkbare sind også.

Facebook har konsekvent gjort en indsats for at gøre sit samfund til et bedre sted for folk at interagere i - det være sig kampen mod hævneporno, bestræbelser på bremse falske nyheder,træning af dets AI at overvåge aktiviteter på sin platform og samarbejder med andre sociale medier bigwigs for at tackle truslen om terrorisme online - overflødigt at sige, alt dette er meget nødvendigt.

Facebook ser ud til at være enig i den opfattelse, at 'sociale medier ikke bør være et sted, hvor terrorister har en stemme'. Truslen er reel, og jo før vi reagerer på den, jo bedre er det for et mere sikkert internet i fremtiden.