Denne klumme er et debatindlæg og er alene udtryk for forfatterens synspunkter.
Vi skal nytænke, hvad bevidsthed er, og der er ingen magi i din bevidsthed, som ikke også kan findes i en maskine.
Sådan siger en af grundlæggerne af moderne kunstig intelligens, Geoffrey Hinton i en ny DR-podcast, Bakspejl.
Men Hinton sig skyldig i grundlæggende misforståelser, både om hvad bevidsthed er, og om hvad det vil sige at være et menneske.
Hvad er bevidsthed?
Bevidsthed er, i modsætning til, hvad Hinton siger, ganske klart defineret.
Det betyder, at man oplever sig selv og verden indefra. At man har følelser, tanker og sanseindtryk.
Hvis du har bevidsthed, føles det som noget at være dig.
Det er også i lyset af dette, at det forekommer meget mærkværdigt, at Hinton mener, at vi skal nytænke, hvad bevidsthed er.
Der findes ikke et levende væsen på jorden, der ikke ved, hvordan det føles at være bevidst.
Der er behov for mere viden om bevidsthed, men ikke for at nytænke, hvad det er.
Det bliver ikke til noget, der kan være i en computer ved at tænke på det på en ny måde.
Hvorfor kan vi være uenige om, om AI har bevidsthed?
Bevidsthed ikke er noget, vi kan lægge på bordet foran os og studere i fællesskab.
Vi kan kun mærke vores egen. Filosofferne kalder det for “det fremmedpsykiske problem” - mere kendt på engelsk som “The problem of other minds”:
Vi har ikke adgang til de andres bevidsthed. Vi kan kun opleve vores egen.
Det er på grund af det problem, at Hinton kan sige, at folk misforstår, hvad bevidsthed er. Det tyder dog på, at det er Hinton, der misforstår.
For det er almindeligt accepteret - også blandt de fleste videnskabsfolk - at det at have bevidsthed betyder, at det føles som noget at være dig.
Men mener Hinton mon virkelig det? Mener han, at det føles som noget at være en computer?
Han har jo ret i, at computere kan lave beregninger og at en hjerne også laver beregninger. Men bevidsthed har ikke noget med beregninger at gøre. Den har at gøre med dine oplevelser.
Hvorfor kan vi ikke afsløre endegyldigt, om en computer har bevidsthed?
At vi ikke kan se andres bevidsthed, spiller ikke en større rolle i det daglige samvær med andre mennesker.
Vi antager uden videre, at når vores kæreste banker lilletåen ind i en dørkarm og humper rundt og klager sig, så gør det ondt på hende. Vi tror på, at der foregår noget inden i hende - at det føles som noget.
Det er sværere med robotter og AI.
Kunstig intelligens kopierer vores måde at tale på ned til mindste detalje. Også tale, der handler om bevidsthed.
Vi kan ikke afsløre, om det passer, at den for eksempel er ked af det ved at spørge, om den er ked af det. For den er jo designet til at tale præcis som os.
Den bruger sproget, sådan som vi bruger sproget, og vores sprog har udviklet sig på baggrund af, at vi er væsener, der oplever at være i verden.
De nye sprogmodellers simulering virker ægte, men bevidsthed er ikke det samme som at få sprog til at lyde menneskeligt.
Hvorfor kan computere ikke være glade eller kede af det?
Prøv at tænke på din egen bevidsthed.
Hvad foregår der inde i dig, når du ser en rød rose? Når du banker lilletåen ind i en dørkarm? Når du spiser kage eller tænker på et menneske, du holder af?
Forestil dig så, hvordan alt dette ville være for en maskine uden en krop.
Hvad ville din bevidsthed være, hvis du aldrig havde hørt lyde, oplevet lugte, varme, kulde, fysisk smerte, smag, sult, seksuelt begær, begrænset levetid og alle de andre ting, der fylder vores sind?
Og dermed også danner grundlaget for det sprog, vi bruger, når vi udtrykker det, vi tænker på.
Når vi beskriver, hvad vi oplever bruger vi ord.
Men selve vores oplevelser er meget andet end ord. At have ondt i maven eller at føle sig glad er ikke ord. At tro, at en maskine har de oplevelser, dens ord beskriver, er lidt som at tro, at det landskab vi ser på Google Maps er et rigtigt landskab.
Det ovenstående argument er filosofisk, men moderne neurovidenskab vender sig også mod idéen om bevidsthed i computere ved simpelthen at sige, at hjernen ikke er skabt til at tænke med. Den er skabt til at overleve med.
I den proces har den haft brug for at flytte sig fra ting, der skader den, og i den proces er for eksempel oplevelsen af smerte en rigtig smart hjælp.
Igen står det klart, hvor stor forskel der er på det, at vi ser ord som udtryk for intelligens og på en computers evne til at oversætte matematiske beregninger til ord i en bestemt rækkefølge.
Hvorfor i alverden skulle det give computeren en grund til at have “følelser”?
Hvorfor tror mange, at computere har bevidsthed?
Mennesker har altid troet, at tidens mest moderne teknologi kunne fortælle os, hvordan et menneske var bygget.
I 1500-tallet kom der automater drevet af fjedre og tandhjul, hvilket inspirerede førende tænkere som René Descartes til at hævde, at mennesker er komplekse maskiner. Den historie er gentaget mange gange.
Men det er lidt særligt med AI. Fordi den kopierer vores sprog så godt, som den gør, tillægger vi den nærmest per automatik bevidsthed.
Det er simpelthen svært for os IKKE at tro, at noget, der virker meget levende ikke skulle være det.
Alt det skyldes vores egen psykologi. Vi har for eksempel empati med det, der ligner os. Heldigvis - empati er vigtigt. Ellers ville vi ikke drag omsorg for andre mennesker og dyr.
Denne funktion - empatien - stopper ikke, fordi det nu er en maskine, der opfører sig levende. Heller ikke selv om der ikke er “noget” - det vil sige noget, der kan være glad eller ked af det - at have empati med.
Og det er ret uheldigt. Både, fordi det er spild at liv at tro, at maskinerne har følelser for os, og fordi det får folk som Geoffrey Hinton til at sige, at de er levende.
Hinton er en fremragende computer-ingeniør. Men han er en dårlig filosof.
Klummer er læsernes platform på Computerworld til at fortælle de bedste historier, og samtidig er det vores meget populære og meget læste forum for videndeling.
Har du en god historie, eller har du specialviden, som du synes trænger til at blive delt?
Læs vores klumme-guidelines og send os din tekst, så kontakter vi dig - måske bliver du en del af vores hurtigt voksende korps af klummeskribenter.
