Observability: Neue Überwachungslösung für OpenAI GPT

Anbieter zum Thema

CADFEM Germany GmbH

Esker Software Entwicklungs-und Vertrieb

Yorizon GmbH & Co. KG

OpenAI führte kürzlich das Upgrade GPT-4 des KI-Modells durch. New Relic hat jetzt die branchenweit erste Observability-Lösung für OpenAI GPT mit vollständiger Ende-zu-Ende-Monitoring vorgestellt.

• Die neue Observability-Lösung von New Relic ist die erste MLOps-Lösung, die Entwickler bei der Überwachung von OpenAI GPT unterstützt.

• Neue KI-Lösungen wie ChatGPT können so noch effizienter eingesetzt werden.

• Der Einstieg ist kostenlos und erfordert nur ein minimales Setup. Zudem unterstützt New Relic die aktuellen GPT-Versionen, einschließlich der GPT-4.

Der Observability-Anbieter New Relic führt die branchenweit erste Observability-Applikation für OpenAI GPT ein. Damit ist diese die erste MLOps-Lösung, die Entwickler die Überwachung von OpenAI GPT ermöglicht. Damit unterstützt New Relic alle aktuellen OpenAI GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4. Mit nur zwei Codezeilen können Entwicklungsteams OpenAI-Completion Queries überwachen und gleichzeitig Leistungs- und Kostenmetriken in Echtzeit in einer einzigen Ansicht mit New Relic verfolgen.

Mit der neuen Integration trägt New Relic der immer stärker werdenden Entwicklung von KI-Lösungen wie ChatGPT Rechnung: Sie soll Unternehmen dabei helfen, die Leistung neuer KI-Technologien noch besser für sich nutzbar zu machen, um Entwicklung und die Erreichung von Geschäftszielen zu beschleunigen. IT-Ingenieur:innen können den OpenAI-Schnellstart von New Relic Instant Observability kostenlos und mit minimalem Setup-Aufwand nutzen, indem sie sich für ein dauerhaft kostenloses New Relic-Konto anmelden.

Observability ist Wegbereiter bei der GPT-Nutzung

„Dies ist eine aufregende Zeit für Unternehmen, die GPT und andere moderne Anwendungen, die mit generativer Intelligenz entwickelt sind, nutzen", erklärt Manav Khurana, Chief Growth Officer und GM Observability bei New Relic. „Observability ist ein Wegbereiter, wenn es darum geht, Unternehmen bei der Nutzung von GPT zu unterstützen. Wir machen es möglich, dass Entwickler:innen, die GPT nutzen, ihre Ausgaben und Leistung einfach und kostenlos überwachen können. Damit werden wir unserem erklärten Ziel gerecht: Die großen Möglichkeiten von Observability in die Hände eines jeden Ingenieurs und jeder einzelnen Ingenieurin zu legen.“

Unternehmen auf der ganzen Welt setzen GPT ein, um Helpdesk-Tickets und Live-Chat-Protokolle zu überwachen, Inhalte und Bilder zu entwickeln oder semantische Suchen zu beschleunigen. Das Monitoring von New Relic für OpenAI ist schnell, einfach zu bedienen und liefert Echtzeit-Metriken, die Ingenieure helfen können, die Nutzung zu optimieren, Kosten zu reduzieren und bessere Ergebnisse zu erzielen.

Observability-Lösung mit allen wichtigen Funktionen

Die Observability-Applikation für OpenAI GPT enthält folgende Funktionen:

• Kostenfreier Zugang: Der Zugang zu New Relic Instant Observability und der sofort einsatzbereiten GPT-Observabilty-Lösung ist der erste seiner Art und ohne zusätzliche Kosten für alle Nutzer der vollen New-Relic-Plattform enthalten.

• Einfache Installation: Mit zwei Zeilen Code können Anwender das Monitor-Modul aus der nr_openai_monitor-Library importieren und automatisch ein Dashboard generieren. Dies zeigt eine Vielzahl von wichtigen GPT-Leistungsmetriken an.

• Monitoring-Kosten: Die Nutzung des Davinci-Modells von OpenAI kann Kosten verursachen, die sich schnell summieren können und den Betrieb so im großen Maßstab erschweren. New Relic bietet Entwicklungsteams einen Echtzeit-Kostenüberblick ihrer GPT-Nutzung.

• Verbesserte Leistung: New Relic gibt den Entwicklungsteams einen Einblick in die durchschnittliche Response-Zeit und andere wichtige Leistungsmetriken rundum GPT-Anfragen, so dass Ingenieure die Nutzung optimieren und bestmögliche Antwortzeiten sicherstellen können.

• Analyse von Prompts und Antworten: New Relic liefert wertvolle Informationen über die Nutzung, die Geschwindigkeit und die Effektivität von GPT, um den Entwicklungsteams zu helfen, bessere Ergebnisse mit ihren ML-Modellen zu erzielen.

Integration von OpenAI-GPT ohne weitere Kosten

Die OpenAI-GPT-Integration von New Relic ist für Nutzer der New Relic Plattform ohne zusätzliche Kosten enthalten. New Relic unterstützt alle aktuellen OpenAI GPT-Versionen, einschließlich der kürzlich veröffentlichten GPT-4. Weitere Informationen zur Einrichtung von New Relic MLOps oder zur Integration von GPT-Anwendungen in die Observability-Infrastruktur finden Sie hier in der New Relic-Dokumentation oder in diesem Blog-Beitrag.

New Relic ist Anbieter von Observability-Technologien und unterstützt Engineering-Teams mit einer datenfundierten Methodik für das gesamte Software Lifecycle – von der Konzeptphase bis zur operativen Umsetzung. Die Plattform erfasst sämtliche Telemetriedaten, wie Metrics, Events, Logs und Traces. (sg)

Lesen Sie auch: ChatGPT: Ist diese Technologie die bessere Suchmaschine?