Nye teknologier gir nye muligheter og nye utfordringer
Informasjonen vi har om hvordan ChatGPT og lignende tjenester behandler og lagrer data fra og om brukerne, endrer seg nesten hver dag. Noen tjenester tilbyr mulighet for å tilpasse verktøyene til lokale forhold, og andre gjør det ikke.
Både IT-avdelingen og andre avdelinger på UiO jobber for tiden intenst med å lage retningslinjer og rammeverk for hvordan vi kan bruke KI/AI-teknologiene som nå kommer, på en god og ansvarlig måte og innenfor lovverket. Siden tjenestene som benytter disse teknologiene er skytjenester, der data lagres utenfor UiO, må tjenestene vurderes slik andre skytjenester vurderes. Se UiOs prosedyre for å ta i bruk nye IT-tjenester.
ChatGPT kan ikke brukes til behandling av personopplysninger uten avtale
Når vi på UiO skal bruke IT-tjenester som behandler personopplysninger på UiOs vegne, må UiO inngå en avtale med tjenesteleverandøren og gjøre nødvendige vurderinger knyttet til behandlingen. UiO jobber med vurderinger og med å få på plass avtaler og tekniske løsninger for sikker og lovlig bruk av ChatGPT og tilsvarende tjenester.
Før dette er ferdig kan vi ikke til UiO-formål (inkludert forskning og undervisning), legge inn tekst med personopplysninger i ChatGPT og tilsvarende tjenester. «Tekst» inkluderer spørringer/prompts til systemet (dvs spørsmålet man stiller til ChatGPT). «Personopplysninger» omfatter også såkalte avidentifiserte personopplysninger, slik som eksamensbesvarelser.
Merk at vi heller ikke kan kreve at studenter/kandidater bruker disse tjenestene i undervisningssammenheng eller annen aktivitet pålagt av UiO.
Det vil bli gitt tydelig beskjed når tjenester er vurdert, eventuelle avtaler er inngått og hvordan tjenestene da kan brukes.
Hvorfor er dette viktig?
Når du bruker ChatGPT, eller andre skytjenester som ikke er vurdert, har du ikke kontroll på hvordan tjenesten bruker og deler opplysningene du skriver inn eller oppgir. Dette gjelder også informasjon du skriver inn direkte gjennom spørsmål og kommentarer (prompts/spørringer). Denne informasjonen kan lagres og brukes til å trene og forbedre tjenesten. Det du skriver inn, kan dermed havne hos andre brukere, og du har ingen kontroll på hvordan informasjonen brukes videre.
Vi jobber med
- UiO ønsker å legge til rette for at studenter/kandidater og ansatte på UiO som har behov for det, skal kunne bruke ChatGPT eller tilsvarende språklæringsmodeller innenfor gjeldende lovverk, og UiO følger utviklingen tett.
- IT-avdelingen jobber nå med løsninger for å kunne benytte skybaserte KI/AI-produkter på en tilstrekkelig god måte, og vi ser på muligheten for lokale installasjoner.
- På UiO tar i vi sikte på at en teknisk og juridisk godkjent løsning skal være klar før semesterslutt. Det gis tydelig beskjed når en løsning er på plass, og det vil bli gitt retningslinjer for hvordan løsningen kan brukes.
-
SÃ¥ langt er flere retningslinjer oppdatert med informasjon om bruk av KI/AI i produksjon av tekst:
- er oppdatert med informasjon om KI/AI-genererte tekster og KI/AI-detektorer
- UiOs nettside for kildebruk og referanser er oppdatert for å fremheve enda tydeligere at oppgaver skal være ditt egne, selvstendige arbeid.
- UiOs nettside om fusk er oppdatert med informasjon om at mistanke om fusk kan oppstå dersom besvarelsen er generert av ChatGPT eller tilsvarende.
Bakgrunnsinfo: Hva er personopplysninger?
Personopplysninger defineres i GDPR artikkel 4.1 som «enhver opplysning om en identifisert eller identifiserbar fysisk person («den registrerte»); en identifiserbar fysisk person er en person som direkte eller indirekte kan identifiseres, særlig ved hjelp av en identifikator, f.eks. et navn, et identifikasjonsnummer, lokaliseringsopplysninger, en nettidentifikator eller ett eller flere elementer som er spesifikke for nevnte fysiske persons fysiske, fysiologiske, genetiske, psykiske, økonomiske, kulturelle eller sosiale identitet»
Definisjonen er svært vid og omfatter alle opplysninger og vurderinger som direkte eller indirekte kan knyttes til enkeltpersoner.
Eksempler på personopplysninger kan være:
- navn, adresse, alder, telefonnummer, e-postadresse og fødselsnummer
- innholdet i eksamensbesvarelser, bachelor- eller masteroppgaver og kandidatenes karakterer
- innhold i saksdokumenter, utredninger eller vurderinger som omhandler ansatte eller studenter/kandidater
- innholdet i e-postkommunikasjon mellom ansatte og studenter/kandidater eller mellom to eller flere studenter/kandidater