Ved sidste års Salesforce-udviklerkonference, Trailblazer DX, San Francisco var der fuld fart på AI.
Det er der sådan set stadig, speederen er fortsat helt i bund og de nyeste AI-produktannonceringer køres afsted for fuld udblæsning - men i år med en væsentlig ændring.
I år er der nemlig fokus på, at AI ikke kan stå alene. Det er vigtigt, at der er mennesker til at styre det.
Det er muligt, at det mest er en kommunikationsmæssig ændring, men det fylder mere i år end sidste år.
Sidste års Trailblazer DX var i marts 2023, få måneder efter OpenAI havde lanceret ChatGPT, og tech-industrien havde travlt med at lancere AI-funktioner med stor hast.
Nu har Salesforce haft tid til at tænke over det og er kommet frem til, at der skal mere fokus på mennesket.
Alerrede 30 minutter efter ankomst er der en paneldebat i gang mellem de to Salesforce-ansatte Paula Goldman, Chief Ethical and Humane Use Officer og Silvio Savarese, EVP and Chief Scientist, hvor emnet blev diskuteret.
Temaet blev kaldt ’Human at the helm’ eller ’Et menneske ved roret’.
”Vi kan ikke altid forklare, hvorfor AI gør de ting, den gør - eller eliminere enhver forekomst af unøjagtighed, toksicitet eller misinformation,” lyder det i en melding fra Paula Goldman.
”Der er risiko ved AI, for det er ikke perfekt,” siger hun ved paneldebatten.
Clara Shih, som er CEO for Salesforce AI, er enig i, at teknologien ikke kan stå alene.
”AI og LLM’er er ikke troværdige direkte out of the box,” siger hun.
Og det var også et tema ved åbningskeynotetalen ved årets konference.
Muralidhar Krishnaprasad, EVP for Engineering hos Salesforce, er meget direkte i retorikken.
”Man er ansvarlig for det output, man får,” siger han fra scenen.
Pointen er, at men skal bruge sine data rigtigt, og at virksomheder har et ansvar for, at de rette data bliver brugt korrekt, når der er tale om AI.
Disse aspekter har muligvis altid været der, men de blev ikke italesat på denne måde ved konferencen sidste år, hvor der blev annonceret partnerskab med OpenAI, og Sam Altman kom med i keynoten gennem en videoforbindelse.
Sket en udvikling
Ændringen i retorik er sket som følge af den lynhurtige udvikling inden for teknologien.
Kunstig intelligens er blevet en mere kritisk del hos flere forretninger, lyder det.
”Vi flytter os fra, at AI laver content til, at AI tager beslutninger på vores vegne,” lyder det fra Paula Goldman.
Det er et alvorligt skifte - en copilot er ikke en autopilot, er et af budskaberne.
Brugerne af AI skal have en hånd på rettet for at undgå, at AI’en hallucinerer, svarer i en forkert tone eller giver misinformation.
Computerworld er inviteret til USA af Salesforce. Læs mere om Computerworld og rejser her.
