Efter et år med hastelanceringer af AI-løsninger stopper Salesforce op: ”Vi kan ikke altid forklare, hvorfor AI gør de ting, den gør"

Salesforce Trailblazer DX, San Francisco: Salesforce kører nogenlunde som forventet, og AI er stadig kongen af San Fransisco - men en ting har ændret sig siden sidste år.

Artikel top billede

(Foto: Kristoffer Ingemand)

Ved sidste års Salesforce-udviklerkonference, Trailblazer DX, San Francisco var der fuld fart på AI.

Det er der sådan set stadig, speederen er fortsat helt i bund og de nyeste AI-produktannonceringer køres afsted for fuld udblæsning - men i år med en væsentlig ændring.

I år er der nemlig fokus på, at AI ikke kan stå alene. Det er vigtigt, at der er mennesker til at styre det.

Det er muligt, at det mest er en kommunikationsmæssig ændring, men det fylder mere i år end sidste år.

Sidste års Trailblazer DX var i marts 2023, få måneder efter OpenAI havde lanceret ChatGPT, og tech-industrien havde travlt med at lancere AI-funktioner med stor hast.

Nu har Salesforce haft tid til at tænke over det og er kommet frem til, at der skal mere fokus på mennesket.

Alerrede 30 minutter efter ankomst er der en paneldebat i gang mellem de to Salesforce-ansatte Paula Goldman, Chief Ethical and Humane Use Officer og Silvio Savarese, EVP and Chief Scientist, hvor emnet blev diskuteret.

Temaet blev kaldt ’Human at the helm’ eller ’Et menneske ved roret’.

”Vi kan ikke altid forklare, hvorfor AI gør de ting, den gør - eller eliminere enhver forekomst af unøjagtighed, toksicitet eller misinformation,” lyder det i en melding fra Paula Goldman.

”Der er risiko ved AI, for det er ikke perfekt,” siger hun ved paneldebatten.

Clara Shih, som er CEO for Salesforce AI, er enig i, at teknologien ikke kan stå alene.

”AI og LLM’er er ikke troværdige direkte out of the box,” siger hun.

Og det var også et tema ved åbningskeynotetalen ved årets konference.

Muralidhar Krishnaprasad, EVP for Engineering hos Salesforce, er meget direkte i retorikken.

”Man er ansvarlig for det output, man får,” siger han fra scenen.

Pointen er, at men skal bruge sine data rigtigt, og at virksomheder har et ansvar for, at de rette data bliver brugt korrekt, når der er tale om AI.

Disse aspekter har muligvis altid været der, men de blev ikke italesat på denne måde ved konferencen sidste år, hvor der blev annonceret partnerskab med OpenAI, og Sam Altman kom med i keynoten gennem en videoforbindelse.

Sket en udvikling

Ændringen i retorik er sket som følge af den lynhurtige udvikling inden for teknologien.

Kunstig intelligens er blevet en mere kritisk del hos flere forretninger, lyder det.

”Vi flytter os fra, at AI laver content til, at AI tager beslutninger på vores vegne,” lyder det fra Paula Goldman.

Det er et alvorligt skifte - en copilot er ikke en autopilot, er et af budskaberne.

Brugerne af AI skal have en hånd på rettet for at undgå, at AI’en hallucinerer, svarer i en forkert tone eller giver misinformation.

Computerworld er inviteret til USA af Salesforce. Læs mere om Computerworld og rejser her.

Annonce

Navnenyt fra it-Danmark

Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation, har pr. 1. september 2026 ansat Alfredo Paladino, 32 år,  som Account Manager for det danske marked. Han skal især beskæftige sig med salg af Iduras MitID- og signaturløsninger i Danmark. Han kommer fra en stilling som Head of Business Development hos Goodwings. Han er uddannet kandidat i e-business. Han har tidligere beskæftiget sig med at opbygge Goodwings' kommercielle funktion og lede et internationalt BDR-team på 12 personer. Nyt job

Alfredo Paladino

Softwarevirksomheden Idura, som udvikler løsninger til digital identifikation og autentifikation,

T-Systems har pr. 11. november 2026 ansat Henrik Fugmann som Industry Lead, Public Sector. Henrik skal især beskæftige sig med forretningsudvikling indenfor den offentlige sektor med fokus på digital suverænitet, herunder cloud, AI og sikkerhed. Henrik kommer fra en stilling som Business Director hos DXC Technology. Nyt job

Henrik Fugmann

T-Systems

IFS Danmark A/S har pr. 1. november 2026 ansat Emma Karlsson som Solution Architect. Emma skal især beskæftige sig med at forstå kundernes behov og vise, hvordan løsninger fra IFS kan skabe værdi for dem. Emma kommer fra en stilling som Industry Lead Solution Engineer & AI Champion hos Oracle. Emma er uddannet MSc Industrial Engineering and Management, MBA. Emma har tidligere beskæftiget sig med ERP-systemer på tværs af industrier, forretningsprocesser, implementering og presales. Nyt job

Emma Karlsson

IFS Danmark A/S

Netip A/S har pr. 1. november 2026 ansat Jacob Vendelbo som Finance Business Partner ved netIP Aalborg. Han kommer fra en stilling som CFO hos SmartVan.dk. Nyt job

Jacob Vendelbo

Netip A/S