Vorige week lanceerde het AI-lab DeepMind, eigendom van Alphabet, zijn nieuwe chatbot-aanbod, genaamd Sparrow. 

Sparrow is ontworpen als een conversatie- en informatief hulpmiddel en is getraind met behulp van DeepMind's taalmodel Chinchilla en is geïntegreerd met een live Google-tool, zodat het snel kan zoeken om vragen van gebruikers te beantwoorden. Reinforcement learning werd ook gebruikt om de mogelijkheden van Sparrow aan te scherpen, waarbij gebruikersfeedback werd geïntegreerd in de ontwikkeling van de tool.  

De nieuwe chatbot is bedoeld als een antwoord op lopende problemen bij het creëren van conversatie-AI's die internet scannen op informatie zonder potentieel schadelijke inhoud door te geven, terwijl een niveau van conversatie-autonomie behouden blijft. Zoals het Sparrow-team schreef in a blogpost, is het creëren van een autonome dialoog een complexe taak omdat het "flexibele en interactieve communicatie" omvat.

"Maar," voegden ze eraan toe, "dialoogagenten aangedreven door grote taalmodellen kunnen onnauwkeurige of verzonnen informatie uitdrukken, discriminerende taal gebruiken of onveilig gedrag aanmoedigen." 

Door menselijke reacties te gebruiken om zijn tool te ontwikkelen, hoopt DeepMind de hoeveelheid nutteloze of schadelijke informatie die door de bot wordt doorgegeven, te hebben verminderd. Om dit te testen, presenteerde het team menselijke deelnemers meerdere mogelijke antwoorden op een vraag en liet hen het meest relevante of nuttige antwoord selecteren, om het AI-systeem te trainen in het soort antwoorden dat het zou moeten geven. 

Het team zegt dat het creëren van een chatbot die informatie uit externe bronnen haalt ook de nauwkeurigheid ervan vergroot, waarbij het team zegt dat Sparrow 78% van de tijd correct bewijs heeft aangehaald voor feitelijke vragen. 

De angst voor de potentiële gevaren van intelligente taaltools is toegenomen naarmate deze apparaten slimmer zijn gemaakt, met de vraag naar verklaarbare AI die nu de markt aanstuurt. De ontwikkeling komt ook in het kielzog van controverses rond de chatbot van Google die door een inmiddels ontslagen ingenieur als bewust wordt geclaimd. Hoewel het een ander soort potentieel gevaar vormt, is het effect nog steeds dat de vraag naar veiligere AI-gespreksmodellen wordt gestimuleerd.