Förra veckan lanserade det Alphabet-ägda AI-labbet DeepMind sitt nya chatbot-erbjudande, kallat Sparrow. 

Designad som ett konversations- och informativt verktyg, utbildades Sparrow med DeepMinds språkmodell Chinchilla och är integrerad med ett liveverktyg från Google så att den snabbt kan söka för att svara på användarnas frågor. Förstärkningsinlärning användes också för att finslipa Sparrows kapacitet, med feedback från användare integrerad i utvecklingen av verktyget.  

Den nya chatboten är tänkt som ett svar på pågående problem med att skapa konversations-AI:er som söker igenom internet efter information utan att vidarebefordra potentiellt skadligt innehåll, samtidigt som de behåller en nivå av konversationsautonomi. Som Sparrow-teamet skrev i en blogginlägg, att skapa autonom dialog är en komplex uppgift eftersom den innehåller "flexibel och interaktiv kommunikation."

"Men", tillade de, "kan dialogagenter som drivs av stora språkmodeller uttrycka felaktig eller påhittad information, använda diskriminerande språk eller uppmuntra till osäkert beteende." 

Genom att använda mänskliga svar för att utveckla sitt verktyg hoppas DeepMind ha minskat mängden värdelös eller skadlig information som förmedlas av boten. För att testa detta presenterade teamet mänskliga deltagare med flera potentiella svar på en fråga och lät dem välja det mest relevanta eller hjälpsamma svaret, och använde detta för att träna AI-systemet i vilken typ av svar det skulle ge. 

Att skapa en chatbot som drar in information från externa källor också, säger teamet, ökar dess noggrannhet, och teamet säger att Sparrow korrekt citerade bevis 78% av tiden för faktafrågor. 

Rädslan för de potentiella farorna med intelligenta språkverktyg har ökat i takt med att dessa enheter har gjorts smartare, med efterfrågan på förklarlig AI som nu driver marknaden. Utvecklingen kommer också i kölvattnet av kontroverser kring Googles chatbot som hävdas som kännande av en nu sparkad ingenjör. Även om det utgör en annan typ av potentiell fara, är effekten fortfarande att öka efterfrågan på säkrare AI-konversationsmodeller.