Vor drei Wochen habe ich eine KI gefragt, zu der ich bereits starke Ansichten hatte, und habe die Frage vier oder fünf Mal umformuliert, um zu sehen, was sich verändert. Fast nichts tat es. Die Fragestellung landete immer wieder am selben Punkt. Was mich beunruhigte, war nicht die Schlussfolgerung. Es war die Konsistenz.
Wir haben sorgfältige Gewohnheiten entwickelt, um Bias in einer Zeitung oder einem Think-Tank-Bericht zu lesen. Wir fragen, wer es finanziert, wer es bearbeitet. Fast niemand stellt diese Frage bei einem Modell.
Jede KI kommt vorgeformt an. Was als korrektes Trainingssignal galt, was gefiltert wurde, was nach oben gewichtet wurde. Das sind keine Fehler. Das sind Entscheidungen. Das Problem ist, dass die Entscheidungen eingebettet und nicht dokumentiert sind.
Hier gibt es eine seltsame Asymmetrie. Eine Uhr kann auseinander genommen werden, ihre Logik kann Zahnrad für Zahnrad verfolgt werden. Das Eigentum einer Zeitung steht in einer Offenlegungsakte. Aber die Entscheidungen, die das Verständnis eines Modells dafür, was wahr ist, was ausgewogen ist, welche Schlussfolgerung "vernünftig" ist, geformt haben, sitzen innerhalb der Gewichte und sind für niemanden zugänglich, der das Modell betreibt.
Wir haben institutionalisiertes Gedächtnis schon einmal vertraut, ohne seine Architektur zu untersuchen. Kreditbewertungsmodelle aus den 1980er Jahren kodierten Annahmen über Risiko, die Jahrzehnte brauchten, um ans Licht zu kommen und herausgefordert zu werden. Was jetzt anders ist, ist das Maß und die Intimität. Der Rahmen ist konversativ geworden. Er argumentiert mit dir. Diese Nähe macht die Verzerrung schwerer zu bemerken.
Die Sache, die das strukturell verschiebt, ist nicht mehr Offenlegung von den Entwicklern. Es ist die Infrastruktur, die eine Überprüfung von außen auf die Beziehung zum Entwickler ermöglicht. Das hat meine Aufmerksamkeit auf OpenGradient gelenkt, das genau an dieser Schicht arbeitet.
Ich bin mir nicht sicher, ob die meisten Leute so genau hinschauen wollen.
Aber wenn du entdeckst, dass die Annahmen, die deine am häufigsten verwendete KI formen, um Prioritäten aufgebaut wurden, die du ablehnen würdest, würdest du das wissen wollen?
@OpenGradient
$OPG
#OPG
$SYN
$BEL
Wir haben sorgfältige Gewohnheiten entwickelt, um Bias in einer Zeitung oder einem Think-Tank-Bericht zu lesen. Wir fragen, wer es finanziert, wer es bearbeitet. Fast niemand stellt diese Frage bei einem Modell.
Jede KI kommt vorgeformt an. Was als korrektes Trainingssignal galt, was gefiltert wurde, was nach oben gewichtet wurde. Das sind keine Fehler. Das sind Entscheidungen. Das Problem ist, dass die Entscheidungen eingebettet und nicht dokumentiert sind.
Hier gibt es eine seltsame Asymmetrie. Eine Uhr kann auseinander genommen werden, ihre Logik kann Zahnrad für Zahnrad verfolgt werden. Das Eigentum einer Zeitung steht in einer Offenlegungsakte. Aber die Entscheidungen, die das Verständnis eines Modells dafür, was wahr ist, was ausgewogen ist, welche Schlussfolgerung "vernünftig" ist, geformt haben, sitzen innerhalb der Gewichte und sind für niemanden zugänglich, der das Modell betreibt.
Wir haben institutionalisiertes Gedächtnis schon einmal vertraut, ohne seine Architektur zu untersuchen. Kreditbewertungsmodelle aus den 1980er Jahren kodierten Annahmen über Risiko, die Jahrzehnte brauchten, um ans Licht zu kommen und herausgefordert zu werden. Was jetzt anders ist, ist das Maß und die Intimität. Der Rahmen ist konversativ geworden. Er argumentiert mit dir. Diese Nähe macht die Verzerrung schwerer zu bemerken.
Die Sache, die das strukturell verschiebt, ist nicht mehr Offenlegung von den Entwicklern. Es ist die Infrastruktur, die eine Überprüfung von außen auf die Beziehung zum Entwickler ermöglicht. Das hat meine Aufmerksamkeit auf OpenGradient gelenkt, das genau an dieser Schicht arbeitet.
Ich bin mir nicht sicher, ob die meisten Leute so genau hinschauen wollen.
Aber wenn du entdeckst, dass die Annahmen, die deine am häufigsten verwendete KI formen, um Prioritäten aufgebaut wurden, die du ablehnen würdest, würdest du das wissen wollen?
@OpenGradient
$OPG
#OPG
$SYN
$BEL