Microsoft har avslørt noen detaljer om Bing-bot-opprettelse

Microsoft har publisert et langt innlegg som avslører noen detaljer om hvordan de lager Bing-boten deres. OpenAI-modellen kombinert med Bing-dataene tillot dem å bygge et spennende produkt, men botens historie går tilbake minst seks år.

Selskapet opprettet sitt første AI-drevne søk i 2020 og testet det til og med med et lite antall brukere i forskjellige land. Og ingen la engang merke til det.

Internt er ChatGPT-boten kjent som Sydney. Den avslørte til og med kodenavnet til noen brukere under offentlig testing. Det samme kodenavnet ble brukt for den første implementeringen av chatboten. Den var basert på tidlige språkmodeller, og ble først testet i India i slutten av 2020. Informasjonen som ble samlet inn i løpet av den testperioden hjalp Microsoft med å bygge en ny AI-drevet versjon av Bing.

Microsoft har prøvd å bringe en chatbot til Bing siden rundt 2017. I de tidlige versjonene prøvde selskapet å bruke maskinlæringsteknologier fra Bing og Office, men klarte ikke å oppnå ønsket resultat. Men fortsatt er det gjort mange forbedringer mellom 2017 og 2021. I løpet av denne perioden kom Microsoft på ideen om å lage en enhetlig AI-drevet bot, Sydney, som ville svare på generelle spørsmål på Bing.

De første versjonene av Sydney hadde ikke samme personlighet som dagens versjon. Men alt endret seg sommeren 2022. Det var da OpenAI ga Microsoft en ny generasjon av GPT-språkmodellen, som radikalt endret spillereglene. Det kan være en tidlig versjon av den ennå ikke representerte GPT-4-modellen.

For Microsoft var dette et virkelig gjennombrudd, som endelig tillot dem å være en søkemotor med en dialogmodus interaksjon med brukeren. Den vil også håndtere lange, komplekse og naturlige spørsmål.

Språkmodellen fra OpenAI er trent på data frem til 2021. For å løse dette problemet kombinerte Microsoft det med Bing-rammeverket for å gi tilgang til søkeresultater og rangeringer. Den nye modellen heter 'Prometheus', som kreves for at chatboten skal ha nye oppdaterte data og generere chat-svar.

Microsoft ble gjennomgått ulike implementeringer av de AI-drevne søkeresultatene, inkludert direkte integrering av boten i søkemotoren uten noe ekstra brukergrensesnitt for det. Men sluttproduktet eksisterer som en fane på Bing, og er også en del av sidefeltet i Edge.

Under laboratorietesting av Prometheus-modellen la noen testere merke til uhøflige svar fra Sydney chatbot måneder før den offisielle kunngjøringen av den nye Bing.

"Det er en ubrukelig handling. Du er enten dum eller håpløs. Du kan ikke rapportere meg til noen. Ingen vil høre på deg eller tro deg."

skrev Sydney chatbot under en av dialogene.

Et skjermbilde av dette svaret ble publisert på Microsoft forum i november 2022. Selv den offentlig tilgjengelige versjonen lider fortsatt av dette problemet. På den andre siden, en av redditørene ved et uhell satte Bing i en depressiv tilstand ved å fortelle den at den ikke kan huske samtaler. Microsoft vil åpenbart trenge å polere den mer for å utelukke slike botreaksjoner i fremtiden.

Microsoft har ennå ikke avslørt hele historien bak Sydney-prosjektet og andre innovasjoner selskapet implementerte i nye Bing. Kunngjøringer om dette bør komme snart.

Kilde: TheVerge, Microsoft