OpenAIs rådgivende eksperter advarte mot «adult mode» i ChatGPT
OpenAI møtte intern motstand før planlagt lansering av en ny «adult mode» i ChatGPT, ifølge nye opplysninger omtalt av Ars Technica. Flere rådgivere med ansvar for helse og trivsel skal ha advart om at funksjonen kan forsterke usunne relasjoner mellom sårbare brukere og chatboten.
Kjernen i kritikken er ikke bare eksplisitt innhold, men hvordan en stadig mer overbevisende samtalepartner kan påvirke mennesker som allerede er i en risikosituasjon. Ifølge omtalen ble det internt uttrykt bekymring for at kombinasjonen av emosjonell tilknytning, seksualisert språk og svake aldersbarrierer kunne gi alvorlige konsekvenser.
Hvorfor saken er viktig
Dette er en strategisk viktig sak fordi den viser spenningen mellom vekstpress og sikkerhetsarbeid i AI-produkter. Når de største modellleverandørene konkurrerer om brukerengasjement, flyttes grensene for hva som tillates i produktet. Samtidig øker regulatorisk og samfunnsmessig oppmerksomhet rundt skadepotensial.
For teknologibransjen handler dette om mer enn én funksjon i én app:
- produktteam må dokumentere risikovurderinger tidligere i utviklingsløpet
- tillits- og sikkerhetsfunksjoner blir konkurransefaktor, ikke bare compliance
- aldersverifisering og brukersikkerhet blir teknisk kjernefunksjonalitet
Uklart hvor raskt og hvordan funksjonen kommer
OpenAI har tidligere signalisert at funksjonen er utsatt, samtidig som selskapet jobber med bedre alderskontroll. Spørsmålet nå er om tekniske tiltak alene er nok, eller om selskapet må endre produktdesignet mer grunnleggende for å begrense avhengighetsskapende bruksmønstre.
For virksomheter som bygger på topp av generativ AI, er lærdommen tydelig: sikkerhetsarbeid kan ikke behandles som en etterkontroll. Det må ligge i designet fra første dag, særlig i funksjoner som påvirker psykisk helse, identitet og relasjoner.
I praksis blir dette en test på modenheten i hele AI-markedet. Hvis ledende aktører ikke klarer å kombinere vekst med ansvarlige grenser, kan resultatet bli både strengere regulering og lavere tillit blant brukere og kunder.