DataStax arbeitet mit ThirdAI zusammen, um große Sprachmodelle in seine Datenbankangebote aufzunehmen

DataStax, ein führender Anbieter verteilter Hybrid-Cloud-Datenbankverwaltungssysteme, hat eine Partnerschaft mit ThirdAI angekündigt, einem in Houston ansässigen Startup, das sich auf große Sprachmodelle (LLMs) spezialisiert hat. Ziel der Zusammenarbeit ist es, Funktionen der künstlichen Intelligenz (KI) in die Datenbankangebote von DataStax einzubringen, beispielsweise DataStax Enterprise und NoSQL Database-as-a-Service AstraDB.

Durch die Partnerschaft können Unternehmen, die DataStax Enterprise oder AstraDB betreiben, die in diesen Datenbanken enthaltenen Daten sowie die Technologie und LLMs von ThirdAI nutzen, um ihre eigenen generativen KI-Anwendungen zu erstellen. Die Basismodelle von ThirdAI können trainiert werden, um Daten zu verstehen und Fragen zu beantworten, beispielsweise welche Produktempfehlung auf der Grundlage der Kundenhistorie wahrscheinlich zu einem Verkauf führen würde.

Hier die wichtigsten Details der Partnerschaft:

ThirdAI kann im selben Cluster installiert werden, in dem DataStax ausgeführt wird

ThirdAI kann im selben Cluster, vor Ort oder in der Cloud, installiert werden, in dem DataStax läuft, da es mit einer kleinen Bibliothek geliefert wird und die Installation mit Python abgewickelt werden kann. Dies bedeutet, dass die Daten nicht von DataStax in eine andere Umgebung verschoben werden müssen, was vollständige Privatsphäre und Geschwindigkeit gewährleistet, da bei der Datenübertragung über ein Netzwerk keine Zeit verloren geht.

ThirdAI-LLMs nutzen Bolt-Technologie für eine bessere KI-Trainingsleistung

Durch die Integration der LLMs von ThirdAI wird DataStax die Bolt-Technologie des Startups übernehmen, die bei relativ kleineren Modellen eine bessere KI-Trainingsleistung auf CPUs im Vergleich zu GPUs erzielen kann. Dies hat den Vorteil, dass CPUs im Allgemeinen günstiger sind als GPUs, die normalerweise für KI- und maschinelle Lernaufgaben verwendet werden. Laut ThirdAI kann die Bolt-Engine, ein algorithmischer Beschleuniger zum Trainieren von Deep-Learning-Modellen, die Berechnungen exponentiell reduzieren.

Bolt kann durch „nur wenige“ Zeilenänderungen in vorhandenen Python-Pipelines für maschinelles Lernen aufgerufen werden

Laut ThirdAI kann Bolt auch durch „nur wenige“ Zeilenänderungen in bestehenden Python-Pipelines für maschinelles Lernen aufgerufen werden. Der Algorithmus erreicht das Training neuronaler Netze mit 1 % oder weniger Gleitkommaoperationen pro Sekunde (FLOPS), im Gegensatz zu Standardtricks wie Quantisierung, Bereinigung und strukturierter Sparsity, die nur eine geringfügige Verbesserung des konstanten Faktors bieten.

DataStax richtet ein Partnerschaftsprogramm mit KI-Startups ein

Die Ankündigung mit ThirdAI ist die erste in einem neuen Partnerschaftsprogramm, das DataStax einrichtet, um mehr Technologie von KI-Startups einzuführen, die Unternehmen mit Daten in Datastax-Datenbanken bei der Entwicklung generativer KI-Anwendungen unterstützen können.

Die Partnerschaft zwischen DataStax und ThirdAI dürfte die Welt der Datenbankverwaltungssysteme und der KI grundlegend verändern. Es stellt Unternehmen die Tools zur Verfügung, die sie benötigen, um ihre Daten zu nutzen und leistungsstarke generative KI-Anwendungen zu erstellen.