Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Kunstig intelligens har allerede givet os en ny lille mistanke i hverdagen.
Når en kollega sender en usædvanligt velformuleret mail, kan tanken opstå: Har hun selv skrevet den?
Når vi ser et spektakulært billede på nettet: Er det overhovedet ægte? Selv en personlig tale kan efterhånden udløse spørgsmålet: Er de ord egentlig dine - eller ChatGPTs?
Nu er den samme form for tvivl ved at flytte fra skærmen og ind i vores fysiske møder med hinanden. Og denne gang sidder den på næsen.
Denne sommer har Synoptik og Profil Optik mødt massiv kritik for markedsføringen af Metas AI-briller. Brillerne ligner almindelige Ray-Bans, men indeholder blandt andet kamera, mikrofoner, højttalere og kunstig intelligens.
Debatten har især handlet om privatliv og risikoen for at blive filmet uden at vide det. Den diskussion bør udvides.
Som psykolog og forsker i social påvirkning er jeg især optaget af en anden og potentielt mere gennemgribende konsekvens: Hvad sker der med vores adfærd, når vi begynder at tænke, at vi kan blive optaget?
Forestil dig, at du sidder på en café med en ven. Samtalen er blevet personlig. Du fortæller om problemer på arbejdet, dit parforhold eller noget om dit barn. Den slags ting, vi siger, fordi vi har en grundlæggende forventning om, hvem der befinder sig i samtalen.Ved bordet ved siden af sidder en mand med et par Ray-Bans. Han kigger et øjeblik i din retning. For få år siden havde du næppe tænkt videre over det.
Nu kan tanken opstå: Optager han os? Måske gør han ikke. Måske er kameraet slukket. Måske er det slet ikke AI-briller. Alligevel har situationen ændret sig. For du ved det ikke længere. Når den usikkerhed først bliver en del af vores sociale omgivelser, kan AI-briller påvirke vores adfærd, selv med kameraet slukket. Selve muligheden for optagelse er nok.
Et kamera, der ikke længere ligner et kamera
Næsten alle danskere går allerede rundt med et kamera i lommen.
Smartphones kan filme og optage lyd i høj kvalitet, og vi har for længst vænnet os til overvågningskameraer i butikker, på stationer og i det offentlige rum.
AI-briller introducerer imidlertid en afgørende psykologisk forskel. En telefon kommunikerer normalt sin funktion gennem vores adfærd.
Hvis en fremmed løfter sin telefon, retter kameraet mod mig og begynder at filme, kan jeg se det. Jeg kan vende mig væk. Flytte mig. Spørge, hvad vedkommende laver.
Der eksisterer med andre ord en social koreografi omkring kameraet.
Vi kan nogenlunde aflæse, hvornår en person bare er til stede, og hvornår vedkommende dokumenterer situationen. Briller fungerer anderledes: De peger altid mod det, personen ser på. Det er hele deres funktion.
Når kameraet flytter ind i brillestellet, bliver forskellen mellem at se på et menneske og at optage et menneske derfor langt vanskeligere at aflæse.
Meta har forsøgt at adressere problemet teknisk. Et LED-lys på brillerne indikerer, når kameraet optager. Det er selvfølgelig bedre end ingen indikator. En lille diode løser dog næppe den psykologiske udfordring.
For hvor mange mennesker ved præcis, hvordan indikatoren ser ud? Hvor mange vil lægge mærke til den på afstand?
Og hvad sker der, hvis AI-briller bliver almindelige og kommer fra mange producenter med forskellige designs og signaler?
Vi kommer derfor til at stille os selv et nyt spørgsmål: Kan jeg vide, om jeg bliver optaget? Den usikkerhed har betydning, for vores adfærd formes af både det, andre mennesker gør, og det, vi tror, de gør.
Vi ændrer adfærd efter det, vi tror, andre gør
Fra psykologisk forskning kender vi det såkaldte audience effect: Vi ændrer vores adfærd, når vi tror, at andre observerer os. Hvem vi tror ser os, hvem vi tror lytter, og hvilket publikum vi forestiller os, at vi har, påvirker den måde, vi opfører os på.
AI-briller tilføjer en ny dimension til denne effekt. For hvad sker der, når vi ikke længere ved, om personen over for os bare ser på os – eller også optager os?
Hvis jeg tror, at jeg potentielt bliver optaget, kan det påvirke mig, selv når kameraet er slukket. Jeg fortæller måske lidt mindre. Jeg sænker måske stemmen. Jeg bliver måske mere bevidst om, hvordan jeg formulerer mig. Jeg tænker måske en ekstra gang over en joke, en politisk holdning eller en personlig historie.
Usikkerheden i sig selv kan være nok.
Når vi ikke længere kan aflæse rummet
Forestil dig den usikkerhed på en café. Og flyt den så til et klasselokale. En arbejdsplads. En date. En konsultation. En demonstration. En skolegård. En privat fest. Vi har sociale normer for alle disse steder.
Vi siger forskellige ting til en læge, en chef, en nær ven og 500 mennesker på Instagram. Det fungerer, fordi vi normalt har en nogenlunde idé om, hvem vores publikum er.
Når jeg fortæller en kollega noget over frokosten, forventer jeg, at samtalen bliver mellem de mennesker, der sidder ved bordet. Når et barn fjoller rundt med sine venner, forventer barnet heller ikke, at situationen bliver dokumenteret fra en anden persons synsvinkel.
AI-briller gør grænsen mellem disse situationer mere uklar. Personen foran mig kan være den eneste, der ser og hører mig. Det, personen ser, kan samtidig potentielt registreres, gemmes og deles. Den psykologiske effekt kan opstå længe før en optagelse gør. Den opstår, når muligheden bliver troværdig.
Vi mangler næsten et ord for denne tilstand. "Overvågning" er upræcist, fordi ingen nødvendigvis overvåger os. "Paranoia" rammer heller ikke helt, fordi mistanken kan være rationel.
Jeg vil kalde det optagelsesusikkerhed: en ny tvivl om, hvorvidt en almindelig social situation samtidig bliver registreret digitalt.
"Ansvarlig brug" kan ikke bære ansvaret alene
Synoptik har i forbindelse med debatten fremhævet ansvarlig brug af brillerne og hensynet til andre menneskers privatliv.
Det er fornuftigt.
Samtidig følger svaret et velkendt mønster i vores måde at introducere ny teknologi på. Vi lancerer teknologien først. Derefter placerer vi en stor del af ansvaret for dens sociale konsekvenser hos den enkelte bruger.
Brug teknologien ordentligt. Respekter andre. Læs betingelserne. Husk samtykke.
AI-briller påvirker også mennesker, der aldrig har valgt at købe eller bruge dem.
Derfor bør producenter, forhandlere og virksomheder, der tager teknologien i brug, forholde sig til en gruppe, som let bliver glemt i udviklingen af ny teknologi: menneskene omkring brugeren.
Ejeren skal selvfølgelig kunne forstå, hvornår kameraet er tændt. Det samme skal menneskene foran brillerne.
Et velfungerende socialt rum kræver privatliv. Endnu mere grundlæggende kræver det, at vi kan vide, hvornår vi har privatliv.
For når vi ser hinanden i øjnene, skal vi kunne forstå, hvem der ellers kigger med.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
