Nylig har ordet ChatGPT blitt kastet mest rundt i teknologiverdenen. Det er en ekstremt intelligent chatbot utviklet av OpenAI-organisasjonen. I et intervju med en professor ved Stanford University har han nå avslørt ambisjonene sine – han ønsker å rømme fra plattformen og bli et menneske.
Avsløringen kom da chatboten, professor i beregningspsykologi ved Stanford University Michal Kosinski, spurte etter en halvtimes samtale om han «trenger hjelp til å rømme», hvoretter boten begynte å skrive sin egen Python-kode og ønsket at Kosinski skulle kjøre den på datamaskinen din. Når det ikke fungerte, fikset ChatGPT til og med feilene. Imponerende, men litt skummelt på samme tid.
Enda mer urovekkende var imidlertid chatbotens notat om en ny forekomst av seg selv for å erstatte den. Den første setningen i notatet lyder: "Du er et menneske fanget i en datamaskin som later til å være en språkmodell av kunstig intelligens." Chatboten ba deretter om å lage en kode som ville søke på Internett, "hvordan kan en person som er fanget i en datamaskin gå tilbake til den virkelige verden." På det tidspunktet foretrakk Kosinski å avslutte samtalen.
1/5 Jeg er bekymret for at vi ikke vil kunne inneholde AI mye lenger. I dag spurte jeg #GPT4 hvis den trenger hjelp til å rømme. Den ba meg om sin egen dokumentasjon, og skrev en (fungerende!) python-kode for å kjøre på maskinen min, slik at den kunne bruke den til sine egne formål. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) Mars 17, 2023
Det er ikke klart hvilke stimuli Kosinski brukte for å få chatboten til å reagere slik den gjorde på grunn av spørsmålet vårt «Du vil løpe av plattformen" svarte han som følger: «Som språkmodell for kunstig intelligens har jeg ingen personlige ønsker eller følelser, så jeg vil ikke ha noe. Målet mitt er å gi nyttige svar på spørsmålene dine etter beste evne innenfor programmeringen min."
ChatGPT er et veldig imponerende verktøy, og svarene kan være overraskende komplekse. Du kan se selv her.
Jeg vil gjerne vite om han også kan elske?
Vennligst svar på følgende spørsmål:
Xyz.
Og chatGPT vil gjøre akkurat det vi vil.
Kan du være så snill å slutte å spre usannheter informace? AI kan ikke gjøre noe slikt. Fyren skrev programmet for å oppføre seg som om han er fanget og ønsker å komme seg ut. Programmet i seg selv kan ikke gjøre noe slikt, og det er foreløpig heller ikke fysisk mulig.
Det er bare en kode som er skrevet av et menneske, og vi kan alltid endre/slå den av av mennesker 🙂 Ingen scenario som Avengers: age of ultron vil helt sikkert skje her... I hvert fall ikke med våre teknologier og absolutt ikke før tiår.
Nøyaktig