Wir alle haben den Hype um künstliche Intelligenz (KI) erlebt, und die Finanzdienstleistungsbranche hat sicherlich ihren Anteil daran gehabt. Doch obwohl KI für Finanzdienstleister sicherlich großes Potenzial bietet, ist die Bereitstellung von KI im großen Maßstab mit zahlreichen Herausforderungen verbunden. Gefordert ist das Leistungs- und Ausführungsniveau von Supercomputern – eine Aufgabe, der die vorhandene Standard-IT einfach nicht gewachsen ist.

Um hier erfolgreich zu sein, ist es erforderlich, sich sehr gut mit KI und den technischen Anforderungen an die Infrastruktur auszukennen, die das geplante KI-Projekt mit sich bringt. Im Folgenden finden Sie die wichtigsten Erkenntnisse aus unseren bisherigen Erfahrungen:

  1. Unterschätzen Sie nicht die Daten-Challenge!

Das Training von KI-Algorithmen erfordert gewaltige Datenmengen, und eine der wichtigsten Herausforderungen für Unternehmen besteht unvermeidlich darin, Zugriff auf die Daten zu erhalten, die für das Training des Algorithmus benötigt werden. Infolgedessen erleben wir es immer wieder, dass die interne Datenbeschaffung wesentlich länger dauert als erwartet. Wir empfehlen, mit diesem Prozess so bald als möglich zu beginnen.

  1. Seien Sie flexibel, was Tools angeht!

Nur zu leicht wird man von proprietären Tools und Systemen vereinnahmt, aber es sollte zu Ihren wichtigsten architektonischen Prinzipien gehören, offene Standards einzuführen und die Abhängigkeit von einem Hersteller zu vermeiden. Außerdem möchten Sie sicher auch von aktuellen Innovationen bei Open-Source-Analysen und KI-Domänen profitieren können.

  1. Legen Sie sich auf eine strategische oder taktische Initiative fest!

Falls Sie sich für eine taktische Initiative entscheiden, sollten Sie bedenken, dass ein späterer Wechsel zu einer strategischen Lösung bedeuten könnte, dass das bisherige Setup verworfen und von vorn begonnen werden muss. Bei einer strategischen Initiative sollten Sie in bewährte Grundlagen investieren, die Leistung und Skalierbarkeit bieten.

  1. KI birgt Herausforderungen für Wirksamkeitsnachweise (POC)!

Im kleinen Maßstab (eines Grafikprozessors) können KI-Experimente auf jeder Hardware ausgeführt werden, doch ändert sich das bei zunehmendem Maßstab sehr schnell. Folgendes sind die Herausforderungen:

  • Rechenleistung: Testumgebungen fehlt es häufig an den nötigen Ressourcen, um große KI-Workloads effektiv simulieren und testen zu können.
  • Daten: Der Zugriff auf aussagekräftige Datensätze ist problematisch und zeitaufwändig. Unternehmen greifen häufig auf kleinere Datensätze zurück, doch bringt dies beträchtliche Risiken mit sich. Wenn Sie eigentlich einen 1-PB-Datensatz benötigen, sollten Sie keine Tests mit einem 1-TB-Datensatz durchführen. Verwenden Sie möglichst reale Daten und Anwendungsfälle.
  • Synthetische Tests: Unternehmen können häufig keine genauen Angaben über KI-Workload-Anforderungen machen. Testen Sie eine große Bandbreite an Datentypen und -größen. Einige Infrastrukturen eignen sich gut für große Dateien, aber nicht für kleine Dateien, und das ist ein Problem. Halten Sie Ausschau nach flexiblen Lösungen, die unabhängig von den sich ändernden Geschäftsanforderungen funktionieren.
  1. Identifizieren Sie kritische Funktionen im Vorfeld!
  • Kapazität: Wie sehen die Anfangsanforderungen aus? Welchen Umfang an Trainingsdaten erwarten Sie in einem, zwei oder in drei Jahren?
  • Grafikprozessoren (GPUs): Wo möchten Sie anfangen? Auf welche Anzahl von GPUs wollen Sie skalieren?
  • KI as a Service: Verfügen Sie über einen einzelnen definierten Trainingsdatensatz? Oder bauen Sie eine Infrastruktur auf, die mehrere undefinierte KI-Workloads unterstützen kann – KI als Service?
  1. Vorbereitung ist alles!

KI besteht zu rund 80 Prozent aus der Vorbereitung der Daten und zu 20 Prozent aus Training – was viele Unternehmen nicht davon abhält, sich aufs Training zu konzentrieren. Mit dem Resultat, dass die nötige Vorbereitung vernachlässigt wird. Der Infrastruktur werden die Daten bereitgestellt, kopiert und dupliziert, die gerade zur Verfügung stehen. Nutzen Sie die Chance, eine robuste, effiziente, skalierbare und konsolidierte Infrastruktur beziehungsweise einen „Datenhub“ zu erstellen.

  1. Machen Sie sich klar, dass nur wenige die End-to-End-Lösung verstehen!

Die Bereitstellung eines integrierten Systems, das die Leistung eines Supercomputers liefern kann, ist keine IT-Standardaufgabe. Datenwissenschaftler kennen die Tools und Rahmenbedingungen, wissen aber nur selten um die Auswirkungen auf die Infrastruktur. Ebenso kennen sich Infrastrukturexperten in erster Linie in einem bestimmten Technologiebereich aus. Nur wenige Personen verfügen über die erforderlichen fundierten Kenntnisse in allen Bereichen – Computing, Datenspeicher und Netzwerke. Personen mit umfassendem Wissen in KI und Datenwissenschaft sind äußerst selten.

Finanzdienstleister haben zwei Möglichkeiten eine leistungsfähige Infrastruktur zur Unterstützung von KI-Initiativen zu schaffen. Eine Möglichkeit besteht darin, diese selbst aufzubauen. Dieser Do-it-yourself-Ansatz mag abschreckend klingen, doch kann die Einbeziehung von Scale-out-Speicherlösungen als Grundlage einen Teil der Komplexität reduzieren. Die andere Möglichkeit besteht in der Nutzung einer speziell entwickelten Plattform, die Ihre KI-Initiativen beschleunigt und gleichzeitig das Risiko reduziert.

Für welche Möglichkeit Sie sich auch entscheiden, betrachten Sie zunächst das Gesamtbild jenseits von Mathematik, Modellen und Datenwissenschaft, um die Herausforderungen beim Aufbau von KI im großen Maßstab zu minimieren.