Elon Musk oppfordret til å avbryte store eksperimenter med AI
Miscellanea / / April 03, 2023
Han fikk støtte av ledende industriforskere.
Non-profit organisasjon Future of Life Institute har publisert et åpent brev signert av Elon Musk, medgründer av Apple Steve Wozniak, Skype-medgründer Jaan Tallinn, samt andre AI-forskere og ledere fra store selskaper.
Brevet hevder at laboratoriene er låst i et «ute av kontroll-løp» for å utvikle og søke maskinlæringssystemer som «ingen – ikke engang skaperne deres – kan forstå, forutsi eller trygt kontroll". Her er hva forfatterne foreslår:
Vi oppfordrer alle AI-laboratorier til umiddelbart å avbryte opplæringen på AI-systemer større enn GPT-4 i minst 6 måneder. Driftsstansen skal være offentlig og etterprøvbar, og alle sentrale aktører må involveres. Hvis det ikke er mulig å ta en pause i nær fremtid, bør landenes regjeringer gå inn og innføre et moratorium.
Fra Pause Giant AI Experiments: An Open Letter
Brevet uttrykker også misnøye med posisjonen "vi slipper det som det er, vi fikser det senere" ved utvikling av nevrale nettverk (husk i det minste
bard fra Google). Til og med Åpne AI har allerede tatt opp det potensielle behovet for fremtidige AI-sikkerhetsrevisjoner. Forfatterne av brevet mener at denne fremtiden allerede er kommet.AI-utviklere og uavhengige eksperter bør bruke denne pausen til å utvikle og implementere i fellesskap enhetlige sikkerhetsprotokoller for komplekse AI-systemer, som vil bli kontrollert av ekstern uavhengig eksperter. Slike protokoller vil bidra til å sikre at systemene er trygge nok til å bruke.
Fra Pause Giant AI Experiments: An Open Letter
Hele brevet kan leses Her.
Les også🧐
- Hvordan bruke ChatGPT i Telegram og raskt få svar på spørsmål uten nettleser
- Hvordan bruke GPTZero, et tekstsøkeverktøy laget av ChatGPT
- "ChatGPT vil ikke erstatte arbeidet til en spesialist": et intervju med Web 3.0-ekspert Stas Ustenko