AI lager phishing -e -post bedre enn mennesker

Nevrale nettverk fortsetter å vise fantastiske resultater i en rekke oppgaver. Riktignok var arbeidet deres i det hele tatt ikke edelt: ved hjelp av AI opprettet singaporeiske forskere phishing -e -postmeldinger som viste seg å være mer overbevisende enn de som ble skrevet av ekte mennesker.

Spesielt på Black Hat og Defcon cybersikkerhetskonferanser som ble holdt i Las Vegas i forrige uke, sa eksperter fra Government Technology Agency (Singapore) fortalte om resultatene av et uvanlig eksperiment.

De skrev hundrevis av phishing-e-poster på egen hånd, og opprettet så mange flere ved hjelp av den naturlige språkbehandlingsalgoritmen GPT-3 og andre kunstige intelligens-teknologier. De sendte deretter disse brevene til 200 kolleger for å teste hvilke de syntes var mer overbevisende.

I begge tilfeller inneholdt e -postene tracker -lenker - de lastet ikke ned viruset til enheten, men sendte bare en klikkrapport til forskerne. Resultatet var overraskende: folk klikket "betydelig oftere" på lenken mellom bokstaver som er laget av kunstig intelligens enn de som er skrevet av andre mennesker. Dessverre er det ikke gitt noen eksakt statistikk.

Forfatterne bemerker at bokstavene skrevet av AI hørtes "overraskende menneskelig" ut og at plattformen automatisk la til uventede elementer, for å gjøre teksten mer overbevisende - for eksempel siterte hun Singapore -lover, siden innspillet indikerte at mottakerne fra Singapore.

Eksperter har lenge diskutert om det er fornuftig for svindlere å trene nevrale nettverk for å lage phishing -e -post - tross alt er masseutsendelser ekstremt effektive og kostnadseffektive. Men hvis du trenger målrettede e -poster, hvis sammensetning krever ekstra arbeid, kan nevrale nettverk virkelig være nyttig.

Selv om det kan høres skremmende ut, er den gode nyheten at AI -trening av høy kvalitet koster millioner av dollar - sannsynligvis ikke. forventer at svindlere i nær fremtid vil bestemme seg for å gå ut masse for å forbedre systemet, som allerede er utmerket jobber.