Es gibt einen Spruch, den die Leute ständig in Gesprächen über KI verwenden: "Ich vertraue darauf." Aber ich habe angefangen zu hinterfragen, was das eigentlich bedeutet.
Letztes Jahr stellte ich einer KI eine spezifische Frage zu einer rechtlichen Klausel. Die Antwort kam zurück, poliert, strukturiert und selbstbewusst. Ich verwendete sie ohne einen weiteren Gedanken. Das taten auch drei andere Personen, mit denen ich sie teilte. Keiner von uns fragte, wie sie zu diesem Schluss gekommen war.
Das hat mich später gestört. Nicht, weil die Antwort falsch war. Sondern weil ich merkte, dass mein Vertrauen nichts mit Genauigkeit zu tun hatte. Es hatte mit dem Ton zu tun. Ein gut geschriebener Absatz fühlt sich wahr an, auf eine Art und Weise, wie es ein Fußnoten verweisender, unsicherer nicht tut.
Wir haben Jahre damit verbracht, KI flüssiger zu machen. Aber Flüssigkeit ist nicht dasselbe wie Ehrlichkeit. Und Selbstbewusstsein ist kein Beweis.
Die interessante Veränderung, die gerade passiert, geht nicht darum, Modelle intelligenter zu machen. Es geht darum, ihr Denken überprüfbar zu machen. Das hat meine Aufmerksamkeit auf @OpenGradient gezogen, die Idee, dass eine Schlussfolgerung ihren eigenen Beweis tragen sollte, der verifiziert wird, bevor das Ergebnis überhaupt zählt.
Aber hier ist, womit ich immer noch konfrontiert bin. Wenn die Überprüfung mühelos wird, werden wir tatsächlich anfangen zu überprüfen? Oder werden wir einfach eine neue Sache finden, der wir vertrauen, ohne zu schauen?
$OPG #OPG
$LAB $BSB