Einleitung

Da KI die Welt erobert, sind große Sprachmodelle in der Technologie sehr gefragt. Große Sprachmodelle erzeugen Text auf eine Art und Weise, wie es ein Mensch tut. Sie können zur Entwicklung genutzt werden Verarbeitung natürlicher Sprache (NLP) Anwendungen, die von Chatbots und Textzusammenfassungen bis hin zu Übersetzungs-Apps, virtuellen Assistenten usw. reichen.

Google hat sein Modell der nächsten Generation mit dem Namen veröffentlicht Palm 2. Dieses Modell zeichnet sich durch fortgeschrittene wissenschaftliche und mathematische Operationen aus und wird beim Denken und bei Sprachübersetzungen verwendet. Dieses Modell trainiert über 100 gesprochene Wortsprachen und über 20 Programmiersprachen.

Da es in verschiedenen Programmiersprachen trainiert ist, kann es zur Übersetzung einer Programmiersprache in eine andere verwendet werden. Wenn Sie beispielsweise Python-Code in R oder JavaScript-Code in TypeScript usw. übersetzen möchten, können Sie dies problemlos mit Palm 2 erledigen. Darüber hinaus kann es Redewendungen und Phrasen generieren und eine komplexe Aufgabe problemlos in einfachere Aufgaben aufteilen, was es viel besser macht als die vorherigen großen Sprachmodelle.

Lernziele

• Einführung in die Palm-API von Google
• Erfahren Sie, wie Sie durch Generieren eines API-Schlüssels auf die Palm-API zugreifen
• Erfahren Sie, wie Sie mit Python einfachen Text mithilfe eines Textmodells generieren
• Erfahren Sie, wie Sie mit Python einen einfachen Chatbot erstellen
• Abschließend besprechen wir die Verwendung von Langchain mit der Palm-API.

Dieser Artikel wurde als Teil des veröffentlicht Data Science-Blogathon.

Palm-API

Mithilfe der Palm-API können Sie auf die Funktionen der generativen KI-Modelle von Google zugreifen und interessante KI-gestützte Anwendungen entwickeln. Wenn Sie jedoch direkt aus dem Browser heraus mit dem Palm-2-Modell interagieren möchten, können Sie die browserbasierte IDE „MakerSuite“ verwenden. Sie können jedoch über die Palm-API auf das Palm 2-Modell zugreifen, um große Sprachmodelle in Ihre Anwendungen zu integrieren und KI-gesteuerte Anwendungen mithilfe der Daten Ihres Unternehmens zu erstellen.

Es wurden drei verschiedene Eingabeaufforderungsschnittstellen entwickelt, und Sie können mit jeder davon über die Palm-API loslegen. Sie sind:

• Texteingabeaufforderungen: Sie können das Modell mit dem Namen „text-bison-001“ verwenden, um einfachen Text zu generieren. Mithilfe von Texteingabeaufforderungen können Sie Text generieren, Code generieren, Text bearbeiten, Informationen abrufen, Daten extrahieren usw.
• Datenaufforderungen: Damit können Sie Eingabeaufforderungen in einem Tabellenformat erstellen.
• Chat-Eingabeaufforderungen: Chat-Eingabeaufforderungen werden zum Aufbau von Gesprächen verwendet. Für die Nutzung von Chat-Diensten können Sie das Modell „chat-bison-001“ verwenden.

Greifen Sie auf die Palm-API zu

Navigieren Sie zur Website https://developers.generativeai.google/ und treten Sie der Maker-Suite bei. Sie werden zur Warteliste hinzugefügt und erhalten voraussichtlich innerhalb von 24 Stunden Zugang.

Generieren Sie einen API-Schlüssel:

1. Sie benötigen Ihren eigenen API-Schlüssel, um die API nutzen zu können. 
2. Sie können Ihre Anwendung mit der Palm-API verbinden und über den API-Schlüssel auf deren Dienste zugreifen. 
3. Sobald Ihr Konto registriert ist, können Sie es erstellen.
4. Als Nächstes generieren Sie Ihren API-Schlüssel, wie im Screenshot unten gezeigt:

Speichern Sie den API-Schlüssel, da wir ihn weiter verwenden werden.

Einstellen der Umgebung

Um die API mit Python zu verwenden, installieren Sie sie mit dem folgenden Befehl:

pip install google-generativeai Next, we configure it using the API key that we generated earlier. import google.generativeai as palm
palm.configure(api_key=API_KEY) To list the available models, we write the below code: models = [model for model in palm.list_models()] for model in models: print(model.name)

Ausgang:

models/chat-bison-001 models/text-bison-001 models/embedding-gecko-001

Text generieren 

Wir verwenden das Modell „text-bison-001“, um Text zu generieren und GenerateTextRequest zu übergeben. Die Funktion „generate_text()“ benötigt zwei Parameter, nämlich ein Modell und eine Eingabeaufforderung. Wir übergeben das Modell als „text-bison-001“ und die Eingabeaufforderung enthält die Eingabezeichenfolge.

Erläuterung:

• Im folgenden Beispiel übergeben wir die Variable „model_id“ mit dem Modellnamen und eine Eingabeaufforderungsvariable, die den Eingabetext enthält.
• Anschließend übergeben wir die model_id als Modell und den Prompt als Prompt an die Methode generic_text().
• Der Temperaturparameter gibt an, wie zufällig die Reaktion sein wird. Mit anderen Worten: Wenn Sie möchten, dass das Modell kreativer ist, können Sie ihm einen Wert von 0.3 zuweisen.
• Schließlich gibt der Parameter „max_tokens“ die maximale Anzahl an Token an, die die Ausgabe des Modells enthalten kann. Ein Token kann ca. 4 Token enthalten. Wenn Sie jedoch keine Angabe machen, wird ihm der Standardwert 64 zugewiesen.

Beispiel 1

model_id="models/text-bison-001"
prompt='''write a cover letter for a data science job applicaton. Summarize it to two paragraphs of 50 words each. ''' completion=palm.generate_text( model=model_id, prompt=prompt, temperature=0.99, max_output_tokens=800,
) print(completion.result)

Output:

Wir definieren eine While-Schleife, die nach Eingaben fragt und eine Antwort generiert. Die Anweisung „response.last“ gibt die Antwort aus.

model_id="models/chat-bison-001" prompt='I need help with a job interview for a data analyst job. Can you help me?' examples=[ ('Hello', 'Hi there mr. How can I be assistant?'), ('I want to get a High paying Job','I can work harder')
] response=palm.chat(messages=prompt, temperature=0.2, context="Speak like a CEO", examples=examples)
for messages in response.messages: print(messages['author'],messages['content']) while True: s=input() response=response.reply(s) print(response.last)

Ausgang:

Verwendung der Palm-API mit LangChain

LangChain ist ein Open-Source-Framework, mit dem Sie große Sprachmodelle mit Ihren Anwendungen verbinden können. Um die Palm-API mit Langchain zu verwenden, importieren wir GooglePalmEmbeddings aus langchain.embeddings. Die Langchain verfügt über eine Einbettungsklasse, die eine Standardschnittstelle für verschiedene Texteinbettungsmodelle wie OpenAI, HuggingFace usw. bereitstellt.

Wir übergeben die Eingabeaufforderungen als Array, wie im folgenden Beispiel gezeigt. Dann rufen wir die Funktion llm._generate() auf und übergeben das Prompts-Array als Parameter.

from langchain.embeddings import GooglePalmEmbeddings
from langchain.llms import GooglePalm llm=GooglePalm(google_api_key=API_KEY)
llm.temperature=0.2 prompts=["How to Calculate the area of a triangle?","How many sides are there for a polygon?"]
llm_result= llm._generate(prompts) res=llm_result.generations
print(res[0][0].text)
print(res[1][0].text)

Ausgang:

Prompt 1 1. **Find the base and height of the triangle. ** The base is the length of the side of the triangle that is parallel to the ground, and the height is the length of the line segment that is perpendicular to the base and intersects the opposite vertex. 2. **Multiply the base and height and divide by 2. ** The formula for the area of a triangle is A = 1/2 * b * h. For example, if a triangle has a base of 5 cm and a height of 4 cm, its area would be 1/2 * 5 * 4 = 10 cm2. Prompt 2 3

Zusammenfassung

In diesem Artikel stellen wir das neueste Palm 2-Modell von Google vor und erklären, warum es besser ist als die Vorgängermodelle. Anschließend lernten wir, wie man die Palm-API mit der Programmiersprache Python verwendet. Anschließend besprachen wir, wie man einfache Anwendungen entwickelt und Texte und Chats generiert. Abschließend haben wir erläutert, wie man es mithilfe des Langchain-Frameworks einbettet.

Key Take Away

• Mit der Palm API können Benutzer Anwendungen mithilfe großer Sprachmodelle entwickeln
• Palm API bietet mehrere Dienste zur Textgenerierung, z. B. einen Textdienst zum Generieren von Text und einen Chat-Dienst zum Generieren von Chat-Konversationen.
• Google generative-ai ist die Palm-API-Python-Bibliothek und kann einfach mit dem Befehl pip installiert werden.

Häufig gestellte Fragen

Die in diesem Artikel gezeigten Medien sind nicht Eigentum von Analytics Vidhya und werden nach Ermessen des Autors verwendet.

Verbunden

• SEO-gestützte Content- und PR-Distribution. Holen Sie sich noch heute Verstärkung.
• PlatoData.Network Vertikale generative KI. Motiviere dich selbst. Hier zugreifen.
• PlatoAiStream. Web3-Intelligenz. Wissen verstärkt. Hier zugreifen.
• PlatoESG. Kohlenstoff, CleanTech, Energie, Umwelt, Solar, Abfallwirtschaft. Hier zugreifen.
• PlatoHealth. Informationen zu Biotechnologie und klinischen Studien. Hier zugreifen.
• Quelle: https://www.analyticsvidhya.com/blog/2023/10/getting-started-with-googles-palm-api-using-python/