Die »KI-Engine für Vertrieb« von Kicksckale revolutioniert das persönliche Verkaufsgespräch
17. April 2024
»Kanalführung für Blutserum« – weniger spooky, dafür innovativer, als es klingt
18. April 2024
»Innovations- und Forschungspreis des Landes Kärnten 2024«
Nominierung Kategorie
Kleinstunternehmen
Innovation
»Trusted LLM Search – Vertrauenswürdige TrendSuche mit generativer KI«
Neptun Data Processing GmbH
Die Neptun Data Processing GmbH, als »neptun.ai« bekannt, ist ein Spin-off der Universität Klagenfurt und entwickelt mit »HeadlineHunter« das weltweit erste, auf vertrauenswürdiger generativer KI basierende Trendanalyse-Webservice. HeadlineHunter ermöglicht Unternehmenskunden das automatisierte Erfassen, das durch KI unterstützte Auswerten sowie das objektive Reporten von aktuellen Trends.
Ein für Anwenderinnen und Anwender zentrales Feature von HeadlineHunter ist die Such-Funktion »Global News Search«. Mit dieser können in hunderten Millionen aktueller Daten, die das firmenintern entwickelte Crawling- und Scraping-System von Online-Quellen auf der ganzen Welt sammelt, relevante Trend-Informationen gefunden werden. Bereits in der Vergangenheit gab es hier durch jahrelange universitäre F&E technologische Durchbrüche, die das Durchsuchen von über 100 Sprachen mit englischen Suchbegriffen und somit wirklich internationale Recherchen möglich gemacht haben.
Eingereichtes Projekt
Nun ist im Rahmen des Innovationsprojekts »Trusted LLM Search – Vertrauenswürdige Trend-Suche mit generativer KI« abermals ein großer Technologiesprung gelungen. Erstmals konnte ein Verfahren in den Produktivbetrieb gebracht werden, das durch die neuartige Integration eines speziell feingetunten Large Language Models (LLM) basierend auf ganz alltäglich formulierten Suchanfragen aktuelle und thematisch zu den Suchbegriffen passende Trend-Informationen im vertrauenswürdigen HeadlineHunter-Datenbestand finden kann. Wird beispielsweise nach dem Begriff »semiconductors« gesucht, werden durch die neue KI aktuelle und thematisch relevante Nachrichten etwa zu Unternehmen & Technologien aus der Halbleiterbranche gefunden – ohne, dass der Suchbegriff als solcher erwähnt sein muss. Sollen die Ergebnisse auf den Forschungsbereich eingeschränkt werden, genügt etwa die intuitive Suchanfrage »semiconductors research«. Thematisch sind hierbei keine Grenzen gesetzt.
Im Gegensatz zu Internetsuchmaschinen werden Suchen nicht durch intransparente Algorithmen manipuliert, die ungewollt auf persönliches Profiling oder die Optimierung von Werbeumsätzen abzielen. Die Innovation von neptun.ai liefert immer nachvollziehbare und nach der Publikationszeit sortierte Trend-Informationen aus dem eigenen, vertrauenswürdigen Datenbestand. Um dies zu ermöglichen, waren große technische Herausforderungen zu bewältigen, da LLMs nicht direkt für die Echtzeit-Verarbeitung von hunderten Millionen Datensätzen geeignet sind. Trotz der technischen Komplexität konnte höchster Datenschutz gewährleistet werden, da das System auf Servern innerhalb der EU läuft und keine externen Dienste eingebunden sind.
Kunden können die gefundenen Informationen direkt für weitere Trendanalysen verwenden. Auch das aktuell im Rahmen eines FFG-Basisprogrammprojekts in Entwicklung befindliche »AI Trend Report«-System wird auf der neuen, vollständig skalierbaren Suchtechnologie aufbauen. Regionale Kooperationen etwa mit dem Silicon Alps Cluster, der Stadt Villach oder dem KWF unterstützten die Entwicklung.
Besonderheit des Projektes
Die vertrauenswürdige Nutzung von LLMs – Stichwort »Trustworthy AI« – stellt ein zentrales gesellschaftliches Brennpunktthema dar und wird in Zeiten von Fake News, Filterblasen und der KI-Dominanz aus Übersee stets an Relevanz gewinnen. Das spricht für die Nachhaltigkeit der Innovation.
(c) alle Fotos: Johannes Puch