ovos play nutzt die LLMs (Large Languag Models), die von OpenAI für KI-unterstützten Funktionen erstellt wurden, und du kannst zwischen regulären OpenAI oder OpenAI on Azure Servern wählen. OpenAI on Azure ermöglicht die Nutzung von Servern in Europa. (für weitere Details zum Datenschutz / GDPR siehe https://learn.microsoft.com/en-us/legal/cognitive-services/openai/data-privacy).
Die Region, in der der Dienst gehostet wird, hat keinen Einfluss darauf, ob die Daten für das Training der LLMs verwendet werden. Nach Angaben von OpenAI werden keine gesendeten Daten für das Training der LLMs verwendet, wenn die bereitgestellte API verwendet wird.
OpenAI konfigurieren
1. Einrichten eines OpenAI-API-Accounts
Um OpenAI zu konfigurieren, musst du dich bei OpenAI API anmelden. Ein ChatGPT-Abonnement kann nicht für ovos play verwendet werden. Um ein Konto für OpenAI API einzurichten, gehe zu https://platform.openai.com/ und registriere dich.
2. Erstelle einen API-Key
Sobald du dein Konto erstellt hast, kannst du API-Keys auf https://platform.openai.com/api-keys erstellen. Um die ovos play-Funktion zu nutzen, benötigen wir einen API-Key deines Accounts.
3. Konfiguriere eine Abrechnungsmethode
Für die Nutzung der OpenAI-API musst du eine Abrechnungsmethode für dein Konto konfigurieren. Wir empfehlen die Abrechnung nach dem Pay-as-you-go-Verfahren mit einem monatlichen Limit von 350$. Du kannst Zahlungswarnungen und Limits unter https://platform.openai.com/settings/organization/limits anpassen.
Die Kosten für eine OpenAI Anfrage sind je nach Typ und Kontextlänge unterschiedlich. Ungefähre Richtlinien sind:
Erstellung eines Bildes: ~0,08$
Erstellung einer Bibliotheksstruktur: ~0,04$
Erstellung von Karten: ~0,02$
Voice-Over Erstellung: ~0,0015$ für 100 Zeichen
Einfache Such-Anfrage: ~0,0002$
4. Füge mindestens 5$ Guthaben hinzu
Die OpenAI API-Konten funktionieren in Tiers, die für dein Konto in Abhängigkeit von der Zahlung hochgestuft werden. Um die Modelle, die ovos play benötigt, nutzen zu können, musst du mindestens 5$ Guthaben auf dein Konto einzahlen, um loslegen zu können.
5. Sende deinen API-Key
Sobald alles konfiguriert ist, sende bitte deinen API-Key auf sichere Weise (z.B. über einen Passwort-Manager) an deinen Customer Success Manager. Die KI-Nutzung wird dann in ovos play konfiguriert und wir werden dich informieren, sobald du die KI-Funktionen nutzen kannst.
Azure OpenAI konfigurieren
Es ist möglich, Azure OpenAI Service mit den ovos play Features zu nutzen. DU kannst dann (fast) frei wählen, welchen Serverstandort du für die ovos play AI-Funktionen nutzen möchtest. Nicht alle Regionen unterstützen alle Modelle. Die Unterstützung ist daher begrenzt.
1. Einrichten einer Azure OpenAI Services-Instanz
Als Erstes musst du eine Azure OpenAI Services-Instanz einrichten. Du kannst das tun, indem du deine Azure OpenAI Services-Seite aufrufst. (oder über https://portal.azure.com/#view/Microsoft_Azure_ProjectOxford/CognitiveServicesHub/~/OpenAI)
In diesem Schritt musst du die zu verwendende Region auswählen. Die leistungsfähigste Region in der EU ist derzeit Schweden.
Nicht alle Regionen unterstützen alle Modelle. Die Unterstützung ist daher begrenzt. Weitere Informationen findest du unter https://learn.microsoft.com/en-us/azure/ai-services/openai/concepts/models#model-summary-table-and-region-availability. Allerdings sind auch die Informationen auf dieser Seite nicht immer auf dem neuesten Stand.
2. Modellbereitstellungen erstellen
Für jedes Modell, das verwendet werden soll, musst du eine separate Bereitstellung einrichten.
Dies wird im Azure OpenAI Studio für deine Instanz durchgeführt.
Auch wenn du alle verfügbaren Modelle siehst, werden diese nicht unbedingt in der von Ihnen gewählten Region unterstützt. Du erhältst eine Fehlermeldung von Azure, wenn du versuchst, die Bereitstellung zu speichern, wenn das Modell in der Region nicht unterstützt wird.
Du musst die folgenden Modelle (mit diesen Namen) konfigurieren:
'gpt-4o'
'gpt-4o-mini'
'gpt-4o-2024-08-06'
'tts-1-hd' (zur Erzeugung von Voice-Overs für Inhalte)'tts-1“ (zur Erzeugung von Voice-Overs für Inhalte)
'whisper' (wird für die Audiotranskription bei Verwendung der KI-Aufgabenvorlage verwendet)
dall-e-3“ (wird für die Bilderzeugung verwendet)
3. Konfigurieren Sie jedes Modell für ovos play
Bitte stelle deinem Customer Success Manager die folgenden Informationen zur Verfügung:
Den Instanznamen für jedes Modell (Du kannst Modelle auf verschiedenen Instanzen einsetzen)
Den Bereitstellungsnamen für jedes Modell
Den API-Schlüssel für jede Bereitstellung/Instanz (Du kanst denselben Schlüssel für dieselbe Instanz verwenden)
(optional) Benutzerdefinierter Endpunkt für jedes Modell