For nylig har et amerikansk forældrepar lagt sag an mod OpenAI, firmaet bag ChatGPT, efter at deres søn begik selvmord. Ifølge forældrene skete selvmordet på opfordring fra ChatGPT.
Den slags hændelser vil OpenAI nu forsøge at forebygge ved i fremtiden at præsentere teenagere for en ”anderledes” ChatGPT-oplevelse, som ifølge selskabet vil være mere
passende for helt unge mennesker.
I første omgang vil OpenAI lancere et nyt værktøj, der kan forudse brugerens alder på baggrund af de samtaler, som vedkommende har haft med ChatGPT, men i nogle tifælde vil brugerne også kunne blive bedt om at uploade dokumentation for deres alder.
”Vi prioriterer sikkerhed højere end privatliv og frihed for teenagere. Dette er en ny og kraftfuld teknologi, og vi mener, at mindreårige har brug for betydelig beskyttelse,” skriver OpenAI’s topchef Sam Altman i et blogindlæg.
Her er de nye funktioner
Den nye, mere teenagevenlige version af ChatGPT vil blandt andet indeholde nye indholdsfiltre, der skal forhindre flirtende samtaler og samtaler om selvskade.
Teenage-funktion vil også få indbygget en nød-funktion, der træder i kraft, hvis en teenager giver udtryk for selvmordstanker.
I sådanne situationer vil OpenAI muligvis forsøge at kontakte barnets forældre og i akutte tilfælde myndighederne.
Sidst men ikke mindst vil OpenAI give mulighed for, at forældre kan koble deres egne konti sammen med børnenes og sætte retningslinjer for deres brug. Eksempelvis ved at indføre daglige tidsrum, hvor børnene ikke kan bruge tjenesten.