Vorhang auf für den SuperPod, wobei es streng genommen nur ein halber ist.Bild: Swisscom
Die Swisscom ist bei ihrer KI-Offensive einen wichtigen Schritt weiter. Im eigenen Rechenzentrum läuft nun ein sogenannter «SuperPOD» und ermöglicht erste praktische Anwendungen.
28.11.2024, 11:0728.11.2024, 11:18
Ein halbes Jahr nach der offiziellen Ankündigung ist es so weit: Die Swisscom nimmt die ersten Nvidia-Superrechner für KI-Anwendungen in der Schweiz in Betrieb.
Dank des sogenannten «SuperPOD» können sich Firmenkunden nach Bedarf Rechenleistung für eigene Anwendungen der künstlichen Intelligenz (KI) mieten, wie am Donnerstag informiert wurde.
Wie sieht der SuperPod aus?
Von aussen sehen die 16 Rechnereinheiten des amerikanischen Grafikchipgiganten aus wie die Edelvariante eines Serverblocks: Wo normalerweise Lämpchen um die Wette blinken, hat Nvidia eine quadratische Edelstahlabdeckung angebracht, wie eine Besichtigung eines Rechenzentrums der Swisscom zeigt.
Blick auf den Server-Schrank und die Edelstahlabdeckung.Bild: Swisscom
Die 16 Rechnereinheiten von Nvidia brauchen relativ wenig Platz. Über drei Viertel des Raums im Rechenzentrum des «blauen Riesen» stehen noch leer.
Die Module von Nvidia haben es aber in sich: Jedes sei 130 Kilogramm schwer und habe mit einem kleinen Kran ins Servergestell gehoben werden müssen, sagte der Leiter des Rechenzentrum bei einer Führung.
Auch der Strombedarf sei enorm und die Kapazitäten pro Serverraum darum begrenzt.
Mit den 16 Rechnereinheiten von Nvidia hat die Swisscom einen halben SuperPod des US-Konzerns in Betrieb genommen. Damit ist die Schweiz halb so gut ausgerüstet wie Italien. Die Mailänder Swisscom-Tochterfirma Fastweb hat bereits einen ganzen SuperPod in Betrieb, der aus 32 Modulen besteht.
Wofür braucht es die immense Rechenleistung?
Die Swisscom verwendet die brandneue IT-Power für ihre Schweizer KI-Plattform für Unternehmen, welche am (heutigen) Donnerstag offiziell lanciert wurde.
Dank der hohen Rechenleistung des SuperPods können Firmenkunden grosse Datenmengen verarbeiten zum Beispiel für das Trainieren, Feintunen und Betreiben von KI-Modellen (dazu unten mehr).
Die Rückseite des 130 Kilogramm schweren Moduls.Bild: Swisscom
Was bringt das konkret?
Die Swisscom testet bereits erste Anwendungen auf der KI-Plattform: So prüft sie zusammen mit der Thurgauer Kantonalbank einen Chatbot für Bankangestellte. Damit können sie interne Weisungen abfragen, statt sie mühsam aus PDFs zusammensuchen zu müssen.
Zudem erarbeitet der Telekomkonzern mit der Thurgauer KB eine Lösung für die automatisierte Beantwortung von Online-Anfragen von Kunden.
Daneben prüft die Swisscom die automatische Verschriftlichung von Anrufen bei Notfallorganisationen. Sie transkribiert die Anrufe auf Hochdeutsch und erspart damit den Angestellten der Notfallzentralen viel Dokumentationsarbeit. Auch für sich selber arbeitet die Swisscom an einer automatisierten Beantwortung von Anfragen von Firmenkunden.
Die Schweizer KI-Plattform der Swisscom biete den Kunden nebst dem Zugang zu den Nvidia-Supercomputern verschiedene Dienstleistungen rund um KI:
- Mit «GPU als Service» erhalten Unternehmen Zugang auf das erste SuperPOD-System der Schweiz in Swisscom-Rechenzentren.
- Der «AI Work Hub» richte sich an Data Scientists und Machine Learning Engineers, die Modelle erstellen und trainieren und somit grosse Datenmengen analysieren und verarbeiten.
- Ab Frühjahr 2025 steht das «GenAI Studio» zur Verfügung. Dieses soll Unternehmen via API-Schnittstellen einen einfachen Zugang zu generativer KI ermöglichen, um eigene Anwendungen zu entwickeln.
- Als Zwischenschritt sollen Kunden auf verschiedene von Swisscom betriebene grosse Sprachmodelle (LLM) von OpenAI und Co. zugreifen können, etwa für die Umsetzung eines firmeneigenen Chatbots.
Und der Datenschutz?
Die neue Swisscom-Plattform garantiere die Verarbeitung und Speicherung der Daten in der Schweiz. Die Firmen könnten selber entscheiden, welche Daten sie auf die Plattform übertragen, sagte Geschäftskundenleiter Urs Lehner vor den Medien.
Man könne grundsätzlich nur in der Schweiz auf die entsprechenden Daten zugreifen, wobei Unternehmen ihre Daten mit ihren internationalen Einheiten teilen könnten. Auch Nvidia selber habe gar keinen Zugriff auf die Daten der Firmenkunden.
Zufrieden mit Nachfrage
Mit dem Interesse von Unternehmenskunden an der KI-Plattform zeigte sich Geschäftsleitungsmitglied Lehner zufrieden. Mit über 50 Firmen und Organisationen sei die Swisscom in sehr fortgeschrittenen Gesprächen und implementiert bereits Testprojekte. Die Nachfrage sei vor allem aus der Finanzbranche und dem öffentlichen Sektor stark.
Anfang 2024 hatte Swisscom die KI-Offensive angekündigt und verlauten lassen, man wolle 100 Millionen Franken in entsprechende Technologie investieren.
Quellen
(dsc/sda/awp)
