Steve Wozniak, Elon Musk og mer enn 1 andre store navn har signert et åpent brev som krever en umiddelbar seks måneders stans for AI-teknologier som er kraftigere enn ChatGPT-000.
I år er det året kunstig intelligens som ChatGPT og Google Bard ble en stor trend. Selv om alle AI-selskaper omtaler produktene sine som eksperimenter eller faktisk visse betaversjoner, er funksjonene deres integrert i mange tjenester. Future of Life Institute etterlyser nå en «offentlig og etterprøvbar» pause som involverer «alle sentrale aktører» på feltet. Hvis en slik pause ikke kan gjennomføres raskt, bør regjeringer gå inn og innføre et moratorium.
Future of Life Institutes mål er å "styre transformative teknologier for å gagne livet og styre dem bort fra ekstreme risikoer i stor skala." Det nevnte brevet på 600 ord, som er adressert til alle AI-utviklere, sier at det er nødvendig å ta en pause fordi kunstig intelligenslaboratorier de siste månedene kom ut av kontroll og begynte å utvikle og distribuere stadig kraftigere digitale hjerner som ingen, ikke engang skaperne deres, kunne forstå, forutsi eller pålitelig kontrollere.
Du kan være interessert i
"AI-laboratorier og uavhengige eksperter bør bruke denne pausen til i fellesskap å utvikle og implementere et sett med delte sikkerhetsprotokoller for design og utvikling av avansert kunstig intelligens, som vil bli strengt kontrollert og overvåket av uavhengige eksterne eksperter." meldingen fortsetter. "Disse protokollene bør sikre at systemene som følger dem er sikre utover enhver tvil."
Dette betyr imidlertid ikke en stopp for utviklingen av kunstig intelligens generelt, det bør bare være et tilfluktssted fra det farlige kappløpet om stadig større uforutsigbare black-box-modeller med nye evner. Brevet ble signert av 1 personligheter, som:
- Elon Musk, administrerende direktør i SpaceX, Tesla og Twitter
- steve wozniak medgründer av selskapet Apple
- Jan Tallinn, medgründer av Skype
- Evan Sharp, medgründer av Pinterest
