Blind für künstliche Systeme

31.12.2020

In seinem bekannten Buch "Schnelles Denken, langsames Denken" schreibt Daniel Kahnemann u.a. über den Halo-Effekt, der eine kognitive Ver­zer­rung ist und dafür sorgt, dass wir Menschen, die für uns positiv in Er­schei­nung getreten sind, weitere davon un­ab­hän­gi­ge positive Ei­gen­schaf­ten zu­schrei­ben und umgekehrt. Nicht nur das, auch wird die Be­ur­tei­lung neuer In­for­ma­tio­nen, die wir über eine Person bekommen, von den In­for­ma­tio­nen be­ein­flusst, die wir bereits hatten:

In einem klas­si­schen psy­cho­lo­gi­schen Ex­pe­ri­ment, das nichts von seiner Relevanz eingebüßt hat, prä­sen­tier­te Solomon Asch seinen Probanden Be­schrei­bun­gen von zwei Menschen und bat sie, ihre Per­sön­lich­keit zu be­ur­tei­len. Was halten Sie von Alan und Ben?

Alan: in­tel­li­gent – fleißig – impulsiv – kritisch – ei­gen­sin­nig – neidisch
Ben: neidisch – ei­gen­sin­nig – kritisch – impulsiv – fleißig – in­tel­li­gent

Wenn Sie wie die meisten von uns sind, haben Sie eine viel güns­ti­ge­re Meinung von Alan als von Ben. Die ersten Merkmale in der Liste verändern die Bedeutung der später auf­tau­chen­den Merkmale. Der Eigensinn einer in­tel­li­gen­ten Person wird ver­mut­lich als ge­recht­fer­tigt beurteilt und ruft viel­leicht sogar Respekt hervor, aber In­tel­li­genz bei einer nei­di­schen und ei­gen­sin­ni­gen Person macht sie ge­fähr­li­cher.

Kahnemann war auch Professor und hatte sich zu Beginn seiner Laufbahn darüber Gedanken gemacht, dass dieser Effekt auftreten könnte, wenn er Prüfungen von Studenten benotet. Was ist, wenn ein Student die erste Frage besonders gut be­ant­wor­tet hat, aber die weiteren Antworten eher mit­tel­mä­ßig oder sogar schlecht waren. Würde man als Prüfer alles objektiv bewerten oder sich eher von seinem ersten Eindruck be­ein­flus­sen lassen?

Schließ­lich fiel mir auf, dass meine Be­no­tun­gen der Aufsätze in jedem Heft ver­blüf­fend ein­heit­lich waren. Mich beschlich der Verdacht, dass meine Benotung von einem Halo-Effekt be­ein­flusst wurde und dass die erste Frage, die ich zensierte, sich un­ver­hält­nis­mä­ßig stark auf die Ge­samt­no­te auswirkte. Der Me­cha­nis­mus war einfach: Wenn ich den ersten Aufsatz gut benotet hatte, gab ich dem Studenten einen Ver­trau­ens­bo­nus, wenn ich später auf eine vage oder zwei­deu­ti­ge For­mu­lie­rung stieß. Das schien ver­nünf­tig zu sein. Ein Student, der einen so guten ersten Aufsatz ge­schrie­ben hatte, würde doch im zweiten keinen dummen Fehler machen! Aber meine Vor­ge­hens­wei­se war höchst pro­ble­ma­tisch. Wenn ein Student zwei Arbeiten ge­schrie­ben hatte, von denen eine gut und eine schlecht war, käme ich, je nachdem, welche Arbeit ich zuerst las, zu un­ter­schied­li­chen Endnoten. Ich hatte den Studenten gesagt, die beiden Aufsätze zählten gleich, aber das stimmte nicht – der erste wirkte sich viel stärker auf die Endnote aus als der zweite. Das war un­an­nehm­bar.

Weiter heißt es:

Ich entschied mich für eine neue Vor­ge­hens­wei­se. Statt die Hefte nach­ein­an­der von Anfang bis Ende zu lesen, las und benotete ich zunächst die ersten Aufsätze aller Studenten und nahm mir dann die zweiten vor. Ich schrieb die Punkt­zah­len jeweils auf die In­nen­sei­te der Rückseite, damit ich nicht (nicht einmal unbewusst) vor­ein­ge­nom­men wäre, wenn ich den zweiten Aufsatz las. Bald nachdem ich auf die neue Methode um­ge­stellt hatte, machte ich eine be­fremd­li­che Ent­de­ckung: Ich vertraute meiner Benotung jetzt viel weniger als früher. Der Grund dafür war, dass ich jetzt häufig ein Unbehagen verspürte, das ich bis dahin nicht gekannt hatte. Wenn ich ent­täuscht war über den zweiten Aufsatz eines Studenten und die Rückseite des Heftes aufschlug, um eine schlechte Zensur ein­zu­tra­gen, fiel mir hin und wieder auf, dass ich den ersten Aufsatz dieses Studenten sehr gut bewertet hatte. Mir fiel auch auf, dass ich versucht war, die Dis­kre­panz zu ver­rin­gern, indem ich die Note, die ich noch nicht hin­ge­schrie­ben, änderte, und es fiel mir schwer, der einfachen Regel zu folgen, nie dieser Ver­su­chung nach­zu­ge­ben. Meine Zensuren für die Aufsätze eines be­stimm­ten Studenten schwank­ten oftmals erheblich. Diese mangelnde Kohärenz ver­un­si­cher­te und frus­trier­te mich.

Was mich an der ganzen Sache verblüfft hatte, war dass er so ana­ly­tisch und selbst­re­flek­tiert an die Sache her­an­ge­gan­gen ist und darauf bedacht war alles zu tun, um den Halo-Effekt zu umgehen, ohne zu un­ter­strei­chen, dass dieser Effekt seine Da­seins­be­rech­ti­gung hat und die Natur nicht umsonst so ein­ge­rich­tet hat. Dass die alleinige Tatsache, dass der Effekt einer ob­jek­ti­ven und fairen Benotung im Weg steht, nicht gegen ihn spricht, sondern gegen die Benotung. Dass nicht der Effekt schlecht ist, sondern das System, das so künstlich ist, dass es versucht einen na­tür­li­chen mentalen Me­cha­nis­mus zu umspielen, um überhaupt ver­nünf­tig zu funk­tio­nie­ren.

Nun erwarte ich natürlich nicht von einem Uni­pro­fes­sor, dass er seine eigenen eigenen Beruf hin­schmeißt und dann anfängt öf­fent­licht Uni­ver­si­tä­ten zu bekämpfen, weil sie un­na­tür­lich sind, aber wenn man schon in so einer ana­ly­ti­schen Phase ist, in der man nach Umwegen sucht, um ein Problem zu lösen, kann man viel­leicht auch erwarten, dass man sich fragt, wieso dieses Problem ei­gent­lich existiert, was die wirkliche Ursache ist. Es müsste auffallen, dass der Halo-Effekt nichts schlech­tes ist, sondern jeder Umstand, in dem er schlecht ist. Aber ver­mut­lich sieht man in solchen Si­tua­tio­nen einfach den Wald vor lauter Bäumen nicht. Wenn man mit­ten­drin ist und alles um einen herum so war, seit man denken kann, herrscht für Systeme eine gewissen Blindheit, ganz egal wie künstlich sie auch sein mögen.