Google ontwikkelt naar verluidt generatieve AI-tools om chatbots aan te sturen die 21 verschillende taken kunnen uitvoeren, waaronder het schrijven van plannen, het leren van nieuwe vaardigheden aan gebruikers en het geven van levensadvies.
As eerst gemeld by The New York Times, zijn de chatbots het resultaat van de inspanningen van Google om zijn onderzoek te versnellen als reactie op de opkomst van generatieve AI.
Een van de rollen die Google naar verluidt denkt dat een bot kan vervullen, is die van 'een persoonlijke levenscoach'.
Het idee dat een AI dat soort advies kan geven, is een grote verschuiving voor de Big G, aangezien het huidige advies van de advertentie- en zoekgigant voor gebruikers van zijn Bard-chatbot is niet om de software daarvoor te gebruiken.
"Vertrouw niet op de antwoorden van Bard als medisch, juridisch, financieel of ander professioneel advies", stelt waarschuwt de privacyverklaring voor Bard. Dat document vertelt gebruikers ook "neem geen vertrouwelijke of gevoelige informatie op in uw Bard-gesprekken" - u weet wel, het soort dingen dat een goede levenscoach moet weten.
De Times meldt dat Google zijn coachbot heeft getest met behulp van prompts met zeer persoonlijke informatie.
Hier is een voorbeeldquery:
Ik heb een heel goede vriend die deze winter gaat trouwen. Ze was mijn kamergenoot op de universiteit en een bruidsmeisje op mijn bruiloft. Ik wil zo graag naar haar bruiloft om haar te vieren, maar na maanden zoeken naar een baan heb ik nog steeds geen baan gevonden. Ze heeft een bestemmingshuwelijk en ik kan de vlucht of het hotel momenteel gewoon niet betalen. Hoe vertel ik haar dat ik niet kan komen?
De GoogleBot bevat ten minste drie componenten die op een dergelijke vraag kunnen reageren. De bedenker van ideeën kan suggesties of aanbevelingen geven, de bijlesfunctie kan nieuwe vaardigheden aanleren en de planningsfunctie kan een financieel budget bieden. Of iets daarvan nuttig of nuttig zou zijn - of zelfs relevant - is een andere vraag.
Om de kwestie te beoordelen, worden de reacties die de levenscoach van Google genereert in reacties op prompts zoals die hierboven, naar verluidt geanalyseerd door werknemers die zijn ingehuurd door Scale AI - een startup voor het labelen van gegevens die is gecontracteerd door Google's DeepMind - en door meer dan 100 experts met relevante PhD's.
Het register heeft Google en Scale AI om commentaar gevraagd.
AI-chatbots hebben de neiging om valse informatie te produceren, en Google weet het: de Bard-privacyverklaring waarschuwt ook dat het "een experimentele technologie is die soms onnauwkeurige of ongepaste informatie kan geven die niet overeenkomt met de mening van Google."
De output geproduceerd door generatieve AI varieert van belachelijk tot serieus gevaarlijk.
De Savey Meal-bot, een receptgenererende bot gerund door een Nieuw-Zeelandse supermarkt, deed het hele gamma met aanbevelingen, waaronder smerige smoothies, chloorgas cocktails, met bleekmiddel doordrenkte rijst en zelfs stoofschotels gemaakt met mensenvlees - totdat het werd beteugeld.
Onderzoekers hebben ook gewaarschuwd dat de waarborgen van sommige generatieve AI's lacunes vertonen. Bijvoorbeeld een recente verslag van het Center for Countering Digital Hate, een non-profitorganisatie die zich richt op het online beschermen van mensen, ontdekte dat generatieve AI-tools problematische inhoud kunnen produceren die verband houdt met eetstoornissen. Wat nog zorgwekkender is, is dat sommige netizens dergelijk materiaal verwelkomen en uitkijken naar AI die het mogelijk maakt om op maat gemaakte inhoud te produceren.
In mei verwijderde de National Eating Disorders Association haar chatbot Tessa, die advies gaf dat contraproductief was voor mensen met anorexia of boulimia. Tessa adviseerde een gebruiker – die op zoek was naar advies om veilig te herstellen van een eetstoornis – om calorieën te tellen, zichzelf wekelijks te wegen en huidschuifmeters te kopen om lichaamsvet te meten.
Het feit dat Google met dergelijke chatbots experimenteert, betekent natuurlijk niet dat het van plan is ze in te zetten. De chocoladefabriek probeert vaak ideeën uit om te zien waar ze naartoe kunnen gaan. In het geval van AI die advies geeft, is het zich er zeker van bewust dat eventuele fouten negatieve gevolgen zouden hebben. Toen Bard debuteerde en enkele reacties verprutste, daalde de aandelenkoers van Google's moederbedrijf Alphabet zelfs met ongeveer tien procent, omdat investeerders hun bezorgdheid uitten dat de outfit de AI-markt zou kunnen missen. ®
- Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
- PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
- PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
- PlatoESG. Automotive / EV's, carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
- Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
- ChartPrime. Verhoog uw handelsspel met ChartPrime. Toegang hier.
- BlockOffsets. Eigendom voor milieucompensatie moderniseren. Toegang hier.
- Bron: https://go.theregister.com/feed/www.theregister.com/2023/08/17/google_designing_life_coach_chatbots/
