Beskrivning

När AI tar över världen är stora språkmodeller efterfrågade inom tekniken. Stora språkmodeller genererar text på ett sätt som en människa gör. De kan användas för att utveckla naturlig språkbearbetning (NLP) applikationer som varierar från chatbots och textsammanfattningar till översättningsappar, virtuella assistenter, etc.

Google släppte sin nästa generations modell med namnet Palm 2. Denna modell utmärker sig i avancerade vetenskapliga och matematiska operationer och används i resonemang och språköversättningar. Denna modell är tränad över 100+ talade ordspråk och 20+ programmeringsspråk.

Eftersom den är tränad i olika programmeringsspråk kan den användas för att översätta ett programmeringsspråk till ett annat. Om du till exempel vill översätta Python-kod till R eller JavaScript-kod till TypeScript, etc., kan du enkelt använda Palm 2 för att göra det åt dig. Förutom dessa kan den generera idiom och fraser och enkelt dela upp en komplex uppgift i enklare uppgifter, vilket gör den mycket bättre än de tidigare stora språkmodellerna.

Inlärningsmål

• Introduktion till Googles Palm API
• Lär dig hur du kommer åt Palm API genom att generera en API-nyckel
• Använd Python, lär dig hur du genererar enkel text med hjälp av textmodell
• Lär dig hur du skapar en enkel chatbot med Python
• Slutligen diskuterar vi hur man använder Langchain med Palm API.

Denna artikel publicerades som en del av Data Science Blogathon.

Palm API

Genom att använda Palm API kan du få tillgång till funktionerna hos Googles generativa AI-modeller och utveckla intressanta AI-drivna applikationer. Men om du vill interagera direkt med Palm 2-modellen från webbläsaren kan du använda den webbläsarbaserade IDE "MakerSuite". Men du kan komma åt Palm 2-modellen med Palm API för att integrera stora språkmodeller i dina applikationer och bygga AI-drivna applikationer med ditt företags data.

Tre olika snabbgränssnitt är utformade, och du kan komma igång med vilken som helst av dem med Palm API. Dom är:

• Textmeddelanden: Du kan använda modellen som heter "text-bison-001 för att generera enkel text. Med hjälp av textuppmaningar kan du generera text, generera kod, redigera text, hämta information, extrahera data, etc.
• Datameddelanden: Dessa låter dig skapa prompter i ett tabellformat.
• Chattmeddelanden: Chattmeddelanden används för att skapa konversationer. Du kan använda modellen som heter "chat-bison-001" för att använda chatttjänster.

Få åtkomst till Palm API

Navigera till webbplatsen https://developers.generativeai.google/ och gå med i skaparsviten. Du kommer att läggas till på väntelistan och ges tillgång troligen inom 24 timmar.

Generera en API-nyckel:

1. Du måste skaffa din egen API-nyckel för att använda API:n. 
2. Du kan ansluta din applikation till Palm API och komma åt dess tjänster med hjälp av API-nyckeln. 
3. När ditt konto är registrerat kommer du att kunna skapa det.
4. Fortsätt sedan och generera din API-nyckel, som visas i skärmdumpen nedan:

Spara API-nyckeln eftersom vi kommer att använda den vidare.

Att ställa in miljön

För att använda API:t med Python, installera det med kommandot:

pip install google-generativeai Next, we configure it using the API key that we generated earlier. import google.generativeai as palm
palm.configure(api_key=API_KEY) To list the available models, we write the below code: models = [model for model in palm.list_models()] for model in models: print(model.name)

Produktion:

models/chat-bison-001 models/text-bison-001 models/embedding-gecko-001

Skapa text 

Vi använder modellen "text-bison-001" för att generera text och skicka GenerateTextRequest. Generera_text()-funktionen tar in två parametrar, dvs en modell och en prompt. Vi skickar modellen som "text-bison-001", och prompten innehåller inmatningssträngen.

Förklaring:

• I exemplet nedan skickar vi variabeln model_id med modellnamnet och en promptvariabel som innehåller inmatningstexten.
• Vi skickar sedan model_id som modell och prompten som prompt till gener_text()-metoden.
• Temperaturparametern anger hur slumpmässigt svaret kommer att vara. Med andra ord, om du vill att modellen ska vara mer kreativ kan du ge den ett värde på 0.3.
• Slutligen anger parametern "max_tokens" det maximala antalet tokens som modellens utdata kan innehålla. En token kan innehålla cirka 4 tokens. Men om du inte anger kommer ett standardvärde på 64 att tilldelas den.

Exempelvis 1

model_id="models/text-bison-001"
prompt='''write a cover letter for a data science job applicaton. Summarize it to two paragraphs of 50 words each. ''' completion=palm.generate_text( model=model_id, prompt=prompt, temperature=0.99, max_output_tokens=800,
) print(completion.result)

Produktion:

Vi definierar en while-loop som ber om input och genererar ett svar. Response.last-satsen skriver ut svaret.

model_id="models/chat-bison-001" prompt='I need help with a job interview for a data analyst job. Can you help me?' examples=[ ('Hello', 'Hi there mr. How can I be assistant?'), ('I want to get a High paying Job','I can work harder')
] response=palm.chat(messages=prompt, temperature=0.2, context="Speak like a CEO", examples=examples)
for messages in response.messages: print(messages['author'],messages['content']) while True: s=input() response=response.reply(s) print(response.last)

Produktion:

Använder Palm API med LangChain

LangChain är ett ramverk med öppen källkod som låter dig ansluta stora språkmodeller till dina applikationer. För att använda Palm API med langchain importerar vi GooglePalmEmbeddings från langchain.embeddings. Langkedjan har en inbäddningsklass som tillhandahåller ett standardgränssnitt för olika textinbäddningsmodeller som OpenAI, HuggingFace, etc.

Vi skickar uppmaningarna som en array, som visas i exemplet nedan. Sedan anropar vi funktionen llm._generate() och skickar promptmatrisen som en parameter.

from langchain.embeddings import GooglePalmEmbeddings
from langchain.llms import GooglePalm llm=GooglePalm(google_api_key=API_KEY)
llm.temperature=0.2 prompts=["How to Calculate the area of a triangle?","How many sides are there for a polygon?"]
llm_result= llm._generate(prompts) res=llm_result.generations
print(res[0][0].text)
print(res[1][0].text)

Produktion:

Prompt 1 1. **Find the base and height of the triangle. ** The base is the length of the side of the triangle that is parallel to the ground, and the height is the length of the line segment that is perpendicular to the base and intersects the opposite vertex. 2. **Multiply the base and height and divide by 2. ** The formula for the area of a triangle is A = 1/2 * b * h. For example, if a triangle has a base of 5 cm and a height of 4 cm, its area would be 1/2 * 5 * 4 = 10 cm2. Prompt 2 3

Slutsats

I den här artikeln har vi presenterat Googles senaste Palm 2-modell och hur den är bättre än de tidigare modellerna. Vi lärde oss sedan hur man använder Palm API med Python Programming Language. Vi diskuterade sedan hur man utvecklar enkla applikationer och genererar text och chattar. Slutligen täckte vi hur man bäddar in det med hjälp av Langchain-ramverket.

Key Takeaways

• Palm API tillåter användare att utveckla applikationer med hjälp av stora språkmodeller
• Palm API tillhandahåller flera textgenereringstjänster, såsom texttjänst för att generera text och en chattjänst för att generera chattkonversationer.
• Google generative-ai är Palm API Python Library och kan enkelt installeras med kommandot pip.

Vanliga frågor

Medierna som visas i den här artikeln ägs inte av Analytics Vidhya och används efter författarens gottfinnande.

Relaterad

• SEO-drivet innehåll och PR-distribution. Bli förstärkt idag.
• PlatoData.Network Vertical Generative Ai. Styrka dig själv. Tillgång här.
• PlatoAiStream. Web3 Intelligence. Kunskap förstärkt. Tillgång här.
• Platoesg. Kol, CleanTech, Energi, Miljö, Sol, Avfallshantering. Tillgång här.
• PlatoHealth. Biotech och kliniska prövningar Intelligence. Tillgång här.
• Källa: https://www.analyticsvidhya.com/blog/2023/10/getting-started-with-googles-palm-api-using-python/