OpenAI advarte om oppdagelsen av AI som kan true menneskeheten

Dagen før eksil OpenAI-sjef Sam Altman, skrev flere av selskapets ansatte forskere til styret brev advarsel om oppdagelsen av kraftig kunstig intelligens, som de sier "kan true til menneskeheten." Om dette med henvisning til egne kilder skriver Reuters.

Det var dette brevet som ble trukket frem som en av faktorene i den lange listen av klager fra styret som førte til Altmans oppsigelse. Reuters var ikke i stand til å snakke med forfatterne personlig eller få kommentarer fra OpenAI. Etter en slik forespørsel kunngjorde imidlertid selskapet, i en intern melding til ansatte, eksistensen av et bestemt prosjekt kalt Q* (uttales Q-Star).

Noen OpenAI-ansatte mener at Q* kan være et gjennombrudd i den såkalte generell kunstig intelligens (AGI). OpenAI karakteriserer det som et autonomt system som utkonkurrerer mennesker på de fleste økonomisk verdifulle oppgaver.

Så langt kan Q* bare utføre matematikkoppgaver på grunnskolenivå, ifølge en kilde. skoler, men vellykket gjennomføring av slike tester gir forskerne stor optimisme om utsiktene for sine utvikling.

Hovedforskjellen mellom slik AI er at den er i stand til å sette mål, dele opp komplekse problemer i små, jobbe på tvers av et bredt spekter av problemer og finne løsninger som tar hensyn til kontekst fra ulike domener. Enkelt sagt kan slik intelligens i teorien erstatte en høyt kvalifisert spesialist med kunnskap, ferdigheter og lang erfaring.

Forskere mener at matematikk er forkant av generativ AI. Nå for tiden er han flink til å skrive og oversette, statistisk forutsi neste ord, og svarene på det samme spørsmålet kan variere veldig. Men å erobre matematikk (hvor det bare er ett riktig svar) innebærer at AI vil ha bredere resonneringsevner som ligner menneskelig intelligens. Dette kan for eksempel brukes på ny vitenskapelig forskning, sier eksperter.

I sitt brev til styret bemerket forskerne kraften til AI og de potensielle farene. De bemerket også arbeidet til en spesiell gruppe "kunstig intelligensforskere", hvis eksistens ble bekreftet av en rekke kilder. Teamet studerer hvordan de kan optimalisere eksisterende AI-modeller for å forbedre resonnementet og til slutt utføre vitenskapelig arbeid med dem, sa en av personene.

Altman ledet arbeidet med å gjøre ChatGPT til en av de raskest voksende programvareapplikasjonene i historie og tiltrakk seg investeringene og dataressursene fra Microsoft som var nødvendige for å bringe slike AGI. Og kort før oppsigelsen hans, på toppmøtet for verdensledere i San Francisco, kunngjorde han noen "alvorlige prestasjoner som er rett rundt hjørnet."

Et døgn senere sparket styret Altman.

Kanskje vil alle disse beslutningene og hendelsene en dag danne grunnlaget for en bok, en hel film eller til og med en historiebok.