Das französische Unternehmen Mistral hat das Tool Agentic Search veröffentlicht, das künstlicher Intelligenz dabei hilft, Unternehmensdokumente ähnlich wie ein Mensch zu durchsuchen. Bisherige Suchmaschinen durchsuchten ein Archiv nur einmal, extrahierten einige Textausschnitte und das Modell musste ausschließlich auf deren Grundlage antworten. Das neue Tool kann jedoch wiederholt suchen, ein bestimmtes Dokument öffnen, zu einer ausgewählten Seite oder Tabelle wechseln und diese eingehend untersuchen. In einem Test auf Basis von US-Börsenberichten stieg die Erfolgsquote der Antworten dadurch von knapp 27 Prozent auf 86.
Wo die einmalige Suche an ihre Grenzen stößt
Die heutige Unternehmenssuche mit künstlicher Intelligenz funktioniert meist recht einfach. Das System findet mehrere scheinbar relevante Textabschnitte und legt sie dem Modell zusammen mit der Frage vor. Wenn die Antwort tatsächlich darin enthalten ist, fällt das Ergebnis korrekt aus. Befindet sich die benötigte Angabe jedoch in einer übersehenen Tabelle oder in einem völlig anderen Dokument, kann das Modell nicht darauf zugreifen. Es antwortet ausschließlich auf Grundlage der ursprünglichen Unterlagen und kann weder einen anderen Bericht noch zusätzlichen Kontext anfordern.
Laut Mistral hat dieser Ansatz drei Schwächen. Das Modell kann nicht selbst entscheiden, dass die ersten Ergebnisse nicht ausreichen. Es kann auch kein komplexeres Dokument öffnen und darin die richtige Tabelle finden, obwohl das System das betreffende Dokument korrekt identifiziert hat. Außerdem fehlt ihm die Möglichkeit, einen zweiten Versuch zu unternehmen, die gefundene Zahl zu überprüfen oder zwei verschiedene Quellen miteinander zu vergleichen.
Fünf einfache Befehle
Agentic Search baut auf dem bestehenden Index des Unternehmens auf und ergänzt ihn um fünf Tools mit verständlichen Namen: search findet Dokumente im gesamten Archiv, open öffnet ein bestimmtes davon, navigate führt das Modell zu einer Seite oder einem Abschnitt, read extrahiert den Inhalt der jeweiligen Stelle und grep sucht im geöffneten Dokument nach dem angegebenen Muster.
Mistral veranschaulicht dies anhand eines Beispiels aus US-amerikanischen Regierungsbulletins. Die Frage nach der Summe der monatlichen Verteidigungsausgaben im Jahr 1953 blieb bei einer einmaligen Suche auf halbem Weg stecken, weil die gefundenen Dokumente nur einen Teil des Jahres abdeckten. Mit dem neuen Verfahren stieß das Modell dank einer zweiten, umformulierten Suchanfrage auf ein Bulletin vom Februar 1954, öffnete die fünfzehnte Seite, untersuchte die Tabelle mit allen zwölf Monaten und berechnete das Ergebnis.
Ein wesentliches Detail ist, dass diese Tools weder ein zusätzliches Training des Modells noch Anpassungen für einzelne Modellreihen erfordern. Die Qualität der Suche soll daher laut Mistral in dem Maße steigen, wie sich die Modelle beim logischen Denken und beim Umgang mit Tools verbessern, ohne dass das Unternehmen in seine Infrastruktur eingreifen muss.
Wofür sich der neue Ansatz eignet und wann er überflüssig ist
Das Unternehmen erläutert, in welchen Fällen der Einsatz des neuen Tools sinnvoll ist. Dazu gehören lange Dokumente wie Verträge, Berichte, Handbücher oder technische Spezifikationen, außerdem Anfragen, die den Vergleich mehrerer Quellen erfordern, Antworten, bei denen eine konkrete Stelle im Text belegt werden muss, und nicht zuletzt Tabellen oder gescannte Dateien, deren Bedeutung von Zeilen, Spalten und dem umgebenden Kontext abhängt.
Bei kurzen und übersichtlichen Dokumenten, bei denen die Antwort mit großer Wahrscheinlichkeit bereits im ersten gefundenen Ausschnitt enthalten ist, bei einer breit angelegten Suche nach Passagen oder bei Anfragen, bei denen genau bekannt ist, wo die Antwort zu finden ist, bleibt der klassische Index hingegen die bessere Wahl. Für eine unnötige Durchsuchung des Textes zu bezahlen, verursacht lediglich Kosten ohne zusätzlichen Nutzen.
Doch auch bei komplexen Dokumenten ändert sich nichts an der Verantwortung des Menschen. Eine Erfolgsquote von 86 Prozent bedeutet, dass ungefähr jede siebte Antwort falsch ist. Wenn das Ergebnis in eine Prüfungsdokumentation oder eine behördliche Einreichung einfließen soll, handelt es sich weiterhin nur um einen guten ersten Entwurf und nicht um eine fertige Arbeit.
Wo es läuft und was es kostet
Agentic Search ist über das Mistral Search Toolkit für Teams verfügbar, die ihre eigene Suchpipeline aufbauen, sowie über die in die Produkte Studio und Vibe integrierte Funktion Libraries, wo das Tool direkt genutzt werden kann. Der schnellste Weg zum Ausprobieren ist die Starter-App auf GitHub, die aus einem eigenen Dokumentenarchiv anhand der Standardeinstellungen einen lokalen Index erstellt.
Der Betrieb kann sowohl in der Cloud als auch vollständig auf den eigenen Servern des Kunden erfolgen, was für europäische und britische Unternehmen mit strengen Anforderungen an den Speicherort ihrer Daten einen wesentlichen Unterschied gegenüber Angeboten darstellt, die ausschließlich auf US-amerikanischer Infrastruktur basieren. Dabei handelt es sich allerdings um eine Beschreibung der technischen Grundlage und nicht um ein unabhängiges Audit oder eine konkrete Zertifizierung, sodass den Unternehmen eine eigene Prüfung der Einhaltung der Vorschriften nicht erspart bleibt. Die Indexierung über die Funktion Libraries kostet laut Preisliste einen Dollar pro Million Token, einzelne Anfragen einen Cent, die Texterkennung in Dokumenten drei Dollar pro tausend Seiten und der Tarif Vibe Pro knapp fünfzehn Dollar monatlich.
