Blog
FractalNet
Spatial Dropout und FractalNet sind fortgeschrittene Regularisierungs- und Architekturkonzepte für tiefe neuronale Netze
Quantization
Um das ONNX-Modell auf einer CPU um bis zu 4x zu beschleunigen, ist eine statische oder dynamische Quantisierung in das INT8-Format erforderlich.
FractalNet in Production
Wir kombinieren einen asynchronen Webserver mit FastAPI mit einer Multithread-fähigen ONNX Runtime-Inferenz-Engine.
Freund oder Feind?
Bloom Filter - es ist kompakt, funktioniert sofort und speichert nicht die Identifikatoren selbst, sondern nur deren „Fingerabdrücke“.
Migration
Schneller Transfer großer Binärdaten durch Interpolation über ein Netzwerk von Torrent-Knoten. Die Übertragungsgeschwindigkeit hängt von der Anzahl der Knoten ab.
Notifications
Ein hochperformanter Message Broker, der nur minimale Ressourcen benötigt. Anstatt jeden Benutzer einzeln zu abonnieren, abonniert der Server eine Maske.
Documents (NLP)
Sie müssen die Zusammenfassung mit der Anzeige vergleichen, oder Sie müssen Verträge vergleichen – okay, das ist mit KI überhaupt nicht schwierig.
Tschüss Maria, hallo Cassandra
Die Integration der Geschäftslogik, ohne sich mit dem Kern des Projekts auseinanderzusetzen, für den Übergang zu Cassandra aufgrund des Unternehmenswachstums
Hocheffizienter Tokenisierer
Der Algorithmus eliminiert 99,9% der reinen Abfragen in Bruchteilen einer Nanosekunde direkt in den Registern des Prozessors und im L1-Cache, ohne dass dabei aufwändige Baumverzweigungen erforderlich sind.
RAG - Retrieval-Augmented Generation
Es ist ein Verfahren der KI, bei dem große Sprachmodelle (LLMs) vor der Antwortgenerierung externe Wissensquellen um präzisere und aktuelle Auskünfte zu liefern.