Introductie

Terwijl AI de wereld overneemt, is er in de technologie een enorme vraag naar grote taalmodellen. Grote taalmodellen genereren tekst op een manier zoals een mens dat doet. Ze kunnen worden gebruikt om zich te ontwikkelen natuurlijke taalverwerking (NLP) toepassingen variërend van chatbots en tekstsamenvattingen tot vertaalapps, virtuele assistenten, etc.

Google heeft zijn volgende generatie model uitgebracht, genaamd Palm 2. Dit model blinkt uit in geavanceerde wetenschappelijke en wiskundige bewerkingen en wordt gebruikt bij redeneren en taalvertalingen. Dit model is getraind in meer dan 100 gesproken woordtalen en 20+ programmeertalen.

Omdat het in verschillende programmeertalen is getraind, kan het worden gebruikt om de ene programmeertaal naar de andere te vertalen. Als u bijvoorbeeld Python-code naar R of JavaScript-code naar TypeScript, enz. wilt vertalen, kunt u Palm 2 eenvoudig voor u gebruiken. Daarnaast kan het idiomen en uitdrukkingen genereren en een complexe taak gemakkelijk in eenvoudiger taken opsplitsen, waardoor het veel beter wordt dan de vorige grote taalmodellen.

leerdoelen

• Inleiding tot de Palm-API van Google
• Leer hoe u toegang krijgt tot de Palm API door een API-sleutel te genereren
• Leer hoe u met Python eenvoudige tekst kunt genereren met behulp van een tekstmodel
• Leer hoe u een eenvoudige chatbot maakt met Python
• Ten slotte bespreken we hoe u Langchain met Palm API kunt gebruiken.

Dit artikel is gepubliceerd als onderdeel van het Data Science-blogathon.

Palm-API

Met behulp van de Palm API heeft u toegang tot de mogelijkheden van de generatieve AI-modellen van Google en kunt u interessante, op AI gebaseerde applicaties ontwikkelen. Als u echter rechtstreeks vanuit de browser met het Palm 2-model wilt communiceren, kunt u de browsergebaseerde IDE “MakerSuite” gebruiken. Maar u kunt toegang krijgen tot het Palm 2-model met behulp van de Palm API om grote taalmodellen in uw applicaties te integreren en AI-gestuurde applicaties te bouwen met behulp van de gegevens van uw bedrijf.

Er zijn drie verschillende promptinterfaces ontworpen, en u kunt met elk daarvan aan de slag met behulp van de Palm API. Zij zijn:

• Tekstprompts: U kunt het model genaamd “text-bison-001” gebruiken om eenvoudige tekst te genereren. Met behulp van tekstprompts kunt u tekst genereren, code genereren, tekst bewerken, informatie ophalen, gegevens extraheren, enz.
• Gegevensprompts: Hiermee kunt u aanwijzingen in tabelvorm samenstellen.
• Chatprompts: chatprompts worden gebruikt om gesprekken op te bouwen. U kunt het model genaamd “chat-bison-001” gebruiken om chatdiensten te gebruiken.

Toegang tot de Palm-API

Navigeer naar de website https://developers.generativeai.google/ en sluit je aan bij de makersuite. U wordt op de wachtlijst geplaatst en krijgt waarschijnlijk binnen 24 uur toegang.

Genereer een API-sleutel:

1. Om de API te gebruiken, heeft u uw eigen API-sleutel nodig. 
2. U kunt uw applicatie verbinden met de Palm API en toegang krijgen tot de services ervan met behulp van de API-sleutel. 
3. Zodra uw account is geregistreerd, kunt u deze genereren.
4. Ga vervolgens door en genereer uw API-sleutel, zoals weergegeven in de onderstaande schermafbeelding:

Bewaar de API-sleutel, want we zullen deze verder gebruiken.

De omgeving instellen

Om de API met Python te gebruiken, installeert u deze met behulp van de opdracht:

pip install google-generativeai Next, we configure it using the API key that we generated earlier. import google.generativeai as palm
palm.configure(api_key=API_KEY) To list the available models, we write the below code: models = [model for model in palm.list_models()] for model in models: print(model.name)

Output:

models/chat-bison-001 models/text-bison-001 models/embedding-gecko-001

Tekst genereren 

We gebruiken het model “text-bison-001” om tekst te genereren en GenerateTextRequest door te geven. De functie genereren_text() neemt twee parameters op, namelijk een model en een prompt. We geven het model door als “text-bison-001” en de prompt bevat de invoertekenreeks.

Uitleg:

• In het onderstaande voorbeeld geven we de variabele model_id door met de modelnaam en een promptvariabele die de invoertekst bevat.
• Vervolgens geven we de model_id door als model en de prompt als prompt aan de methode generator_text().
• De temperatuurparameter geeft aan hoe willekeurig de reactie zal zijn. Met andere woorden: als u wilt dat het model creatiever is, kunt u het een waarde van 0.3 geven.
• Ten slotte geeft de parameter “max_tokens” het maximale aantal tokens aan dat de uitvoer van het model kan bevatten. Een token kan ongeveer 4 tokens bevatten. Als u dit echter niet opgeeft, wordt er een standaardwaarde van 64 aan toegewezen.

Voorbeeld 1

model_id="models/text-bison-001"
prompt='''write a cover letter for a data science job applicaton. Summarize it to two paragraphs of 50 words each. ''' completion=palm.generate_text( model=model_id, prompt=prompt, temperature=0.99, max_output_tokens=800,
) print(completion.result)

uitgang:

We definiëren een while-lus die om invoer vraagt ​​en een antwoord genereert. De response.last-instructie drukt het antwoord af.

model_id="models/chat-bison-001" prompt='I need help with a job interview for a data analyst job. Can you help me?' examples=[ ('Hello', 'Hi there mr. How can I be assistant?'), ('I want to get a High paying Job','I can work harder')
] response=palm.chat(messages=prompt, temperature=0.2, context="Speak like a CEO", examples=examples)
for messages in response.messages: print(messages['author'],messages['content']) while True: s=input() response=response.reply(s) print(response.last)

Output:

Palm API gebruiken met LangChain

LangChain is een open-sourceframework waarmee u grote taalmodellen aan uw applicaties kunt koppelen. Om de Palm API met langchain te gebruiken, importeren we GooglePalmEmbeddings uit langchain.embeddings. De langchain heeft een embedding-klasse die een standaardinterface biedt voor verschillende modellen voor het insluiten van tekst, zoals OpenAI, HuggingFace, enz.

We geven de aanwijzingen door als een array, zoals weergegeven in het onderstaande voorbeeld. Vervolgens roepen we de functie llm._generate() aan en geven de prompts-array door als parameter.

from langchain.embeddings import GooglePalmEmbeddings
from langchain.llms import GooglePalm llm=GooglePalm(google_api_key=API_KEY)
llm.temperature=0.2 prompts=["How to Calculate the area of a triangle?","How many sides are there for a polygon?"]
llm_result= llm._generate(prompts) res=llm_result.generations
print(res[0][0].text)
print(res[1][0].text)

Output:

Prompt 1 1. **Find the base and height of the triangle. ** The base is the length of the side of the triangle that is parallel to the ground, and the height is the length of the line segment that is perpendicular to the base and intersects the opposite vertex. 2. **Multiply the base and height and divide by 2. ** The formula for the area of a triangle is A = 1/2 * b * h. For example, if a triangle has a base of 5 cm and a height of 4 cm, its area would be 1/2 * 5 * 4 = 10 cm2. Prompt 2 3

Conclusie

In dit artikel hebben we het nieuwste Palm 2-model van Google geïntroduceerd en hoe dit beter is dan de vorige modellen. Vervolgens leerden we hoe we de Palm API konden gebruiken met de programmeertaal Python. Vervolgens bespraken we hoe we eenvoudige applicaties konden ontwikkelen en tekst en chats konden genereren. Ten slotte hebben we besproken hoe je het kunt insluiten met behulp van het Langchain-framework.

Key Takeaways

• Met Palm API kunnen gebruikers applicaties ontwikkelen met behulp van grote taalmodellen
• Palm API biedt meerdere services voor het genereren van tekst, zoals een tekstservice om tekst te genereren en een chatservice om chatgesprekken te genereren.
• Google generatieve-ai is de Palm API Python-bibliotheek en kan eenvoudig worden geïnstalleerd met behulp van de pip-opdracht.

Veelgestelde Vragen / FAQ

De in dit artikel getoonde media zijn geen eigendom van Analytics Vidhya en worden naar goeddunken van de auteur gebruikt.

Verwant

• Door SEO aangedreven content en PR-distributie. Word vandaag nog versterkt.
• PlatoData.Network Verticale generatieve AI. Versterk jezelf. Toegang hier.
• PlatoAiStream. Web3-intelligentie. Kennis versterkt. Toegang hier.
• PlatoESG. carbon, CleanTech, Energie, Milieu, Zonne, Afvalbeheer. Toegang hier.
• Plato Gezondheid. Intelligentie op het gebied van biotech en klinische proeven. Toegang hier.
• Bron: https://www.analyticsvidhya.com/blog/2023/10/getting-started-with-googles-palm-api-using-python/