Marius Sandbu i Sopra Steria mener det er spennende at ChatGPT Enterprise snart kan brukes mot bedriftens egne datakilder - men det er utfordringer.
OpenAI har lansert ChatGPT Enterprise, som er en versjon av ChatGPT spesielt rettet mot bedrifter. Den skal blant annet ha bedre sikkerhet og personvern, ubegrenset GPT-4-tilgang med høyere hastighet, samt et admin-dashbord for bruksinnsikt.
Marius Sandbu er Cloud Evangelist i Sopra Steria, og er spent på de nye mulighetene.
– Jeg tror de med denne lanseringen treffer et punkt mange virksomheter etterspør, sier Sandbu til kode24.
Trener ikke på bedriftens data
En av forskjellene mellom vanlig ChatGPT og ChatGPT Enterprise, er at OpenAI med enterpriseversjonen lover at de ikke vil trene maskinlæringsmodellene på bedriftens data eller chat-historikk. Modellene vil heller ikke lære av hvordan du bruker dem.
Ifølge OpenAI krypterer ChatGPT Enterprise alle data med AES 256 og TLS 1.2+ når du "prater" med den. Tjenesten tilfredsstiller kravene i SOC 2.
«Det har vært en kjempekostnad for selskapet å kjøre denne infrastrukturen for så mange brukere i denne perioden.»
Sandbu sier han hadde forventet at en enterprise-utgave skulle dukke opp før eller senere, siden det har gått nesten 10 måneder siden ChatGPT ble gjort tilgjengelig for allmennheten.
– Det har vært en kjempekostnad for selskapet å kjøre denne infrastrukturen for så mange brukere i denne perioden. Så introduserte de ChatGPT Plus for å måle behovet, før de nå kom med enterprise-utgaven.
Han mener mange virksomheter har sett gevinsten med bruk av språkmodeller, og at mange nå ser på hvordan de kan bruke det mot interne data.
Trenger bedre responstid
– En av de store utfordringene som har vært med bruk av GPT-4 frem til nå har vært responstiden, sier Sandbu.
Han sier hastigheten har vært en utfordring selv om GPT-4 ble bedre enn 3.5, og håper og tror det blir bedre med ChatGPT Enterprise.
– Med Enterprise ser vi jo at OpenAI lover at de vil doble hastigheten, samt åpne for uendelig bruk. Som selvsagt har vært en utfordring for større virksomheter som nå har brukt OpenAI/GPT for å lage for eksempel egne applikasjoner og systemer.
Utover det er det ikke så veldig mye revolusjonerende nytt i ChatGPT Enterprise, mener han – kanskje med unntak av det at det vil bli mulighet til å få bedre innsikt i bruken gjennom analyse-dashbord.
– Ikke at man ser hva brukerne spør om, men ser antall operasjoner i en organisasjon. I dag er det mange som bruker ChatGPT uten at organisasjonen nødvendig er klar over det.
Spent på bruk mot egne datakilder
Noe av det Sandbu mener er mest spennende med lanseringen, er at OpenAI har sagt de jobber med at man skal kunne bruke ChatGPT Enterprise mot egne datakilder.
– Det at man kan spørre mot egne datakilder er spennende, selv om det er veldig uklart hvor langt unna den funksjonaliteten er. Nå har man kun for eksempel mulighet i ChatGPT Plus med addons til å integrere mot enkeltfiler.
For øyeblikket er det få slike kommersielle løsninger.
– Det gjør at man ofte må bygge noe på egenhånd med komponenter fra økosystemet, hvor man bruker integrasjonsplattformer som for eksempel Langchain eller Semantic Kernel fra Microsoft.
Foreløpig kun USA
Inntil videre er ChatGPT Enterprise kun tilgjengelig i USA, og prisen er også ukjent.
– Derfor tror jeg mange norske virksomheter kommer til å fortsette å benytte andre alternativer når de skal bygge løsninger enten for sluttbrukere eller internt i egen organisasjon, sier Sandbu.
Som eksempel nevner han Azure OpenAI som tilbyr deler av samme funksjonalitet, men fra datasentre innenfor EU. Selv om funksjonaliteten henger litt etter OpenAI, så mener han dette ikke har vært en utfordring ennå.
– Vi ser at de fleste bruker Azure OpenAI eller andre språkmodeller som LLama 2 som kan kjøre hvor som helst, gitt at man har tilgjengelig infrastruktur, avslutter Sandbu.
Denne artikkelen ble først publisert på Kode24 i august 2023