DB Podcast

Lage Language Models KI-Lösungen: T-Systems startet AI Foundation Services

Verantwortliche:r Redakteur:in: Stefan Girschner 2 min Lesedauer

Anbieter zum Thema

Mit den AI Foundation Services stellt T-Systems über 15 Large Language Models nach europäischen Standards überwiegend in Deutschland bereit. Die sofort einsetzbaren Services unterstützen eine souveräne und unternehmensweite Skalierung von KI-Lösungen und sind damit eine Alternative für regulierte Branchen wie die Gesundheitsbranche oder öffentliche Verwaltung. 

Die AI Foundation Services bilden die Grundlage für KI im betrieblichen Einsatz.(Deutsche Telekom, iStock/Amiak; Bearbeitung: Evelyn Ebert Meneses)
Die AI Foundation Services bilden die Grundlage für KI im betrieblichen Einsatz.
(Deutsche Telekom, iStock/Amiak; Bearbeitung: Evelyn Ebert Meneses)

Large Language Models (LLM) kommen immer häufiger zum Einsatz und werden zum entscheidenden Wettbewerbsfaktor. Dabei stellen sich vor allem Unternehmen die Frage, wie sie KI-Modelle schnell und vor allem sicher einsetzen können. Als Reaktion auf diese Entwicklung bietet T-Systems jetzt die AI Foundation Services. Die Services stellen Unternehmen eine private und sichere Entwicklungs-, Test- und Produktionsumgebung für KI-Lösungen bereit, die strengste Anforderungen an Datensicherheit und Datenschutz erfüllt.

Dabei sind KI-Modelle und Dienste bereits vorkonfiguriert, sofort einsatzbereit und bieten somit die Grundlage für eine unternehmensweite Skalierung von KI-Lösungen über verschiede Geschäftsbereiche und Regionen hinweg. Die Plattform erfüllt regulatorische Vorgaben und Sicherheitsstandards und ermöglicht so den sicheren Einsatz auch in sensiblen Bereichen wie Gesundheitswesen, Verteidigung oder öffentlicher Verwaltung.

Erweiterung von KI-Lösungen um interne Datenquellen

Neben einem kontinuierlich wachsenden Portfolio von aktuell über 15 Sprachmodelle – darunter die neuesten Open Source-Modelle wie Meta Llama 3.3, Mistral Small 3 oder DeepSeek R1 – gehören vorkonfigurierte Services für Retrieval-Augmented Generation (RAG) und Modell-Finetuning dazu. Damit lassen sich die KI-Lösungen um unternehmensspezifische Datenquellen erweitern und so genauere, kontextbezogene Antworten erzeugen sowie präzise auf interne Anforderungen anpassen. 

Ergänzend stehen Machine Learning -Operations, Datenmanagement und verschiedene Bereitstellungsoptionen (Public, Private Cloud, On-Premises) zur Verfügung. Durch das breite Portfolio von Modellen und Services und die damit verbundene Flexibilität vermeiden Kunden zusätzlich die Abhängigkeit von einem einzigen Technologieanbieter oder -unternehmen.

AI Foundation Services unterstützen effektiven Einsatz von LLMs

Dr. Ferri Abolhassan ist CEO der T-Systems und Vorstandsmitglied Deutsche Telekom AG(Bild:  T-Systems)
Dr. Ferri Abolhassan ist CEO der T-Systems und Vorstandsmitglied Deutsche Telekom AG
(Bild: T-Systems)

Dr. Ferri Abolhassan, CEO der T-Systems und Vorstandsmitglied der Deutschen Telekom AG, kommentiert: „Wir machen KI einfach und sicher nutzbar: Mit den AI Foundation Services auf unseren sicheren und souveränen Cloud-Plattformen bieten wir unseren Kunden einen effektiven Einsatz von LLMs an – selbst in sensiblen Unternehmensumgebungen. Damit bieten wir Unternehmen aus allen Branchen die Möglichkeit, KI-Innovationen zu nutzen, ohne dabei ihre Unabhängigkeit und Souveränität zu gefährden. Eine höhere Souveränität bei der Nutzung von KI lässt sich kaum erreichen.“

KI-Lösungen gemäß europäischen Richtlinien

Die AI Foundation Services werden auf der Open Telekom Cloud bereitgestellt und unterliegen damit den souveränen, sicheren und rechtskonformen Vorgaben der Europäischen Union. Es wird die DSGVO-Konformität und Datenhoheit gewährleistet. Für regulierte Branchen wie das Gesundheitswesen und den öffentlichen Sektor gewährleistet die Bereitstellung der Large Language Models aus den Foundation Services branchenspezifische Compliance-Anforderungen. Alle Modelle und Services werden auf Telekom-Rechenzentren in Deutschland, der Schweiz und den Niederlanden betrieben. Sie können alternativ auch auf der kundeneigenen Infrastruktur bereitgestellt werden.

Auch beliebte Modelle von OpenAI und Anthropic sind optional über T-Systems Partner wie Microsoft, AWS oder Google Cloud verfügbar – in der gleichen Schnittstelle wie die Open-Source-Modelle. Vor der Inbetriebnahme werden sämtliche Services einem sorgfältigen Security-Scan unterzogen und durchlaufen ein Produkt-Sicherheitsscreening der Telekom nach ISO/IEC 27001. Die KI-Modelle können direkt über den Open Telekom Cloud Marketplace bezogen und sofort getestet werden.

Jetzt Newsletter abonnieren

Verpassen Sie nicht unsere besten Inhalte

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung