C16: Verantwortung in der Informatik
Bruno Blissenbach
in der Chalisti Nummer 16 unter der Ueberschrift:
> Eine neue Verantwortung in der Informatik ?
>
> Von der Reimplementation der Technokratie durch Moral
eine ganze Menge, Dinge, mit denen ich recht weitgehend
uebereinstimme, jedoch ruft eine Aussage meinen Widerspruch
hervor, und zwar entschieden:
> Nun schreitet der
> Einsatz von Computertechnik jedoch schnell voran - es werden
> taeglich neue Einsatzmoeglichkeiten entdeckt, und die Systeme
> selbst entwickeln einen Grad der Komplexitaet, der fuer den
> Menschen nicht mehr ueberschaubar ist.
Sicher schreitet die Computerisierung unserer Welt schnell fort,
aber dass Systeme einen Grad der Komplexitaet entwickeln wuerden
halte ich schon fuer Unsinn. Nicht die EDV, sondern die Menschen
entwickeln diese Komplexitaet und bauen sie in Systeme ein, schalten
EDV-System zusammen. Dass der Grad der Komplexitaet (praeziser muss
das wohl heissen, die Komplexitaet selber) "fr den Menschen" nicht
mehr ueberschaubar sei moechte ich entschieden bestreiten. Dass die
meisten Menschen nicht durchblicken mag ja sein, bedeutet aber auch,
dass wenigstens einige wenige die Komplexitaet der System uebersehen.
Im Zweifelsfalle biete ich mich gerne als Versuchskaninchen an, jedes
beliebige komplexe System zu ueberschauen.
Aber da gibt es in der Tat ein Problem.
Es gibt nur relativ wenige, die in der Lage sind, komplexe
EDV-System zu ueberblicken, Experten natuerlich, und weil es davon
nur wenige gibt, Experten heranzubilden aber recht langwierig und
teuer ist, sind auch Experten nur teuer zu haben. Darin liegt
sicher ein grosses Problem. Die System sind ueberblickbar, die
Uebersicht im Einzelfalle aber wirklich zu behalten, ist of so
unoekonomisch, dass niemand dafuer vorgehalten werden kann. Und
wenn man Fachwissen nachtraeglich aufbauen muss, kostet das in aller
Regel erst recht, mehr, oder scheitert an der Kuerze der im Einzelfall
verfuegbaren Zeit. Damit gibt es viele komplexe Systeme, die von
niemandem wirklich ueberblickt werden. Die Frage ist: Sollten wir
uns das wirklich leisten?
> Die moeglicherweise
> katastrophalen Folgen sind kaum absehbar. Angesichts solcher
> Zustaende nimmt es nicht Wunder, dass sich auch unter Informa-
> tikern Ratlosigkeit ausbreitet.
Eben.
> Die Frage nach der Verant-
> wortung wird entweder ignoriert oder oftmals mit hilflosen
> Forderungen nach einer neuen Moral beantwortet.
Ja, und sie muss sich in einigen kleinen, aber wirksamen Punkten
von der derzeit herschenden unterscheiden, denn zum Beispiel:
> Legen wir uns auf die Einsicht fest, dass diese Bewusstseins-
> spaltung einem Menschen nicht zum Vorwurf zu machen ist, [...]
Da haben wir ein ganz nuetzliches Beispiel. Wie Frank Moeller
zeigt, fuehrt diese "Einsicht" in bekannte Sackgassen. Was nun,
wenn es sich nicht um Einsicht, sondern um ein Vorurteil handeln
wuerde, das aus der derzeitigen, erweiterungbeduerftigen Moral
resultiert? Veraendern wir doch probehalber unsere Moral in
Gedanken dahingehend, dass wir sehr wohl den Vorwurf erheben koennen!
Klar, dass der Vorwurf vom Betroffenen, dem er gamacht wird,
zunaechst als unberechtigt angesehen wird. Das hat nichts zu sagen,
ist es doch nur eine Folge der bisherigen Uebung. Bleibt der
Betroffene dabei nicht stehen, wird er sich mit moeglichen Gruenden
auseinandersetzen, die den Vorwurf berechtigt erscheinen lassen.
Damit kommt er unter den im Beispiel von Frank Moeller gemachten
Voraussetzungen notwendig an den Punkt, sich zumindesten mit dem
Sinn seines Handelns und den Konsequenzen seiner moderaten
"Bewusstseinsspaltung" zu befassen und erhaelt eine erweiterte
oder zusaetzliche Chance zur Einsicht, dass er (in diesem Beispiel)
auch mit der Bahn haette reisen koennen. Wenn das dazu fuehrt, dass
er das gelegentlich auch tut, wird sich sein Verhalten tendenziell
eher zur Integration der Anteile seine "Bewusstseinsspaltung" hin
entwickeln. (Die Alternative, er bleibt beim PKW und schraenkt seine
proklamierten oekologischen Ziele in der Lehre ein, fuehrt brigens
ebenso zu einer besseren Integration der Teile seines Selbst)
Dem obigen Gedanken mag man entgegenhalten, dass es sich um ein
"Korrigieren an Symptomen" handelt. Das ist sicher richtig.
Jedoch, was wollen wir? Es sind in diesem Beispiel eindeutig die
Symptome, die uns stoeren (Der oekologisch Bewusste verhaelt sich
nicht entsprechend seiner Einsicht, bzw. der sich daraus ergebenden
Maximen, wenn er selbst als individuell Handelnder nach einer
oekonomischen Richtlinie entscheidet, anstatt einer oekologischen)
und obwohl es durchaus von Bedeutung ist, wie diese zustandekommen,
wie wir gleich sehen werden, bedeutet es einen erheblichen
pragmatischen Gewinn, sie zum moralisch Gewollten hin zu veraendern.
Der Vorwurf an den Betroffenen wirkt aber weiter. Es wird ja der
Vorwurf der "Bewusstseinsspaltung" erhoben, und nur mittelbar der
Vorwurf praktischen Fehlverhaltens. Nicht so einfach erfassbar fuer
denjenigen, der sich seiner "Bewusstseinsspaltung" in aller Regel
nicht bewusst ist. Wer sich jedoch einem solchen Vorwurf ausgesetzt
sieht und sich auch nur annaeherungsweise damit auseinandersetzt und
an dieser Auseinandersetzung nicht einfach zerbricht oder in
offenkundigen Wahnsinn fluechtet, womit er als gesellschaftlich
Handelnder wegfallen wuerde, was gluecklicherweise nur sehr selten
vorkommt, der erlangt aus einer solchen Auseinandersetzung nach
einer gewissen Zeit, die so ein therapeutischen Prozess
erfahrungsgemaess braucht, eine hoehere Inegration der Teile seines
Selbst, oder baut die beklagte "Bewusstseinsspaltung" ab, wie uns
die empirische Sozialpsychologie lehrt. Es stehen uns keine
Vorhersagen ueber die praktischen Verhaltensfolgen oder -Aenderungen
zur Verfuegung, ob Personen infolge dieses Integrationsprozesses bei
offensichtlichen Zielkonflikten, wie in unserem Beispiel, eher zur
einen oder zur anderen Seite neigen werden, oder gar gaenzlich neue
Wege und Zielvorstellungen entwickelt werden, steht ausserhalb des
vorab bestimmbaren Erwartungshorizonts.
Interessant ist aber eine Implikation oder Parallele, die dem
Informatiker unmittelbar ins Auge springen muss: Gehen wir davon
aus, dass sich ein jeder in den gewoehlich verwendeten Mustern
seiner eigenen Psyche "auskennt", so zeigt uns der vorstehende
Gedanke, dass sich zwei relativ getrennte System (Die Erkenntnis
der Trennung fuehrte uns ja zu der Beschreibung als einer "Bewusst-
seinsspaltung") durch eine kleine Aenderung an der geltenden Moral
eher, und wahrscheinlicher, miteinander verbinden, mithin zu einem
vermutlich komplexeren Gesamtsystem werden. Das soll uns, so
war der gedankliche Ansatz, besser in die Lage versetzen, komplexe
Systeme zu ueberblicken und zu beherrschen. Das ist wahrscheinlich,
da die "Uebung", taeglich mit einem komplexeren System "Selbst"
umzugehen, die oben als unzureichend beklagte Expertise tendenziell
verbessern, mindestens aber nicht verschlechtern duerfte.
Noch ein paar Anmerkungen zu weiteren Passagen des Artikels
moechte ich mir gestatten.
Informatik-Studenten werden mit Uebungsaufgaben ueberschwemmt,
sagt Frank Moeller, und faehrt fort:
> Wenn sie ihre Aufga-
> ben bewaeltigen wollen, so sind sie zum Pfuschen gezwungen,
> denn es bleibt kaum Zeit, ueber Problemloesungen eingehend
> nachzudenken. Dies fuehrt zu einer Mentalitaet, die program-
> miertechnischen Wildwuchs zutage foerdert. Die Appelle der
> Lehrenden, einen gut dokumentierten und ueberschaubaren Ent-
> wurf abzuliefern, muss da als Alibi-Absonderung im Winde
> verhallen.
Ein Argument das mir vor bald zwanzig Jahren in der Physik
von einem Ausbilder auf eine gleichlautende Beschwerde hin
engegengebracht wurde:
"Sie sollen hier nicht mehr lernen, ordentlich zu arbeiten.
Das kann jeder, und Sie muessten es schon lange koennen.
Nein!
Sie sollen pfuschen muessen, und nur wenn die Ergebnisse
Ihrer Pfuscharbeit immer richtig sind, koennen wir es
verantworten, dass Sie einen Abschluss machen mit dem
Risiko, dass Sie das Gelernte anwenden."
> Es bedarf eines offenen und fuer jeden
> Interessierten zugaenglichen Forums, das Personen zunaechst
> informell zusammenfuehren kann. Kommunikation, die - dem
> Platzen einer Sporenkapsel gleich - auf das zufaellige
> Erreichen passender Adressaten setzt, muss durch andere
> Konzepte ergaenzt werden.
Einverstanden.
> Die Technik der Mailboxen bietet die Moeglichkeit dazu.
Nein, jedenfalls nicht derzeit.
Ich bin dieser Meinung, trotz regelbestaetigender Ausnahmen,
und obwohl ich deswegen noch lange nicht auf Mailboxen
verzichten moechte.
Mailboxen unterscheiden sich systematisch-funktionell nicht
von der herkoemmlichen Presse und der herkoemmlichen Post,
ja, sie sind derzeit nicht mal wirklich schneller, besser oder
effektiver.
Ich halte den Artikel von Frank Moeller fuer einen sehr wichtigen
Diskussionsbeitrag und wuensche ihm weite Verbreitung.
B.Blissenbach
- Domain: bru...@purodha.GUN.de GeoNet: MBK1:B.Blissenbach OshoNet: 49/52.
-- X.400: G=Bruno; S=Blissenbach; O=B.Blissenbach; PRM=GeoNet; ADM=DBP; CO=DE.
--- "Ich gebe hier NUR meine Meinung wieder." (C) Copyright B.Blissenbach '91.
Frank Simon
bru...@purodha.GUN.de (Bruno Blissenbach) writes:
>> Nun schreitet der
>> Einsatz von Computertechnik jedoch schnell voran - es werden
>> taeglich neue Einsatzmoeglichkeiten entdeckt, und die Systeme
>> selbst entwickeln einen Grad der Komplexitaet, der fuer den
>> Menschen nicht mehr ueberschaubar ist.
>Sicher schreitet die Computerisierung unserer Welt schnell fort,
>aber dass Systeme einen Grad der Komplexitaet entwickeln wuerden
>halte ich schon fuer Unsinn.
Ein hartes Wort. :-) Allerdings bin ich auch nicht deiner Meinung.
Es ist tatsaechlich so, dass die EDV heute ein sehr komplexes Gebilde,
was auch fuer den Spezialisten bei seiner Arbeit Folgen hat.
Du brauchst die nur ansehen, dass es heute faktisch immer noch unmoeglich
(wohl gemerkt unmoeglich und nicht nur "sehr schwer") ist ein Programm
zu verifizieren. Was heisst das den in letzter Konsequenz ? Doch
das ich ein groesseres Programm oder ein Betriebssystem nicht ueber-
glicken kann. Es ist zu komplex um ueberschaubar zu sein. Noch heute
kann die Informatik viele Fragen nicht beantworten, die mit Terminierung,
Korrektheit, etc zusammenhaengen. Aber trotzdem setzen wir Programme
und Rechner auch an Stellen ein, wo das nicht nur bedenklich sondern gar
unverantwortlich ist.
Dabei liegt das Problem schon darin, dass der Herr von Neumann (damals
als er den Rechner erfand. :-) ) eine Fehlannahme verwendet hat. Er hat
gesagt, dass das Prinzip des Rechner (Speicher, Recheneinheit, etc)
das menschliche Gehirn nachbildet. Diese Annahme ist falsch. Das Gehirn
arbeitet total anders. Und das war schon paar Jahre vor den Thesen von
Herr von Neumann bekannt. Neumann schloss daraus, dass der Mensch den
Computer begreifen und damit beherrschen kann, weil er ihn eben Art-
verwandt ist. Nun ist er das genau nicht. Und wieviel Menschen haben
heute Probleme sind in andere Denkmuster z.B. anderer Kulturen reinzu-
denken, geschweige den der voellig "verschiedenen" Art von Logik des
Computers.
>mehr ueberschaubar sei moechte ich entschieden bestreiten. Dass die
>meisten Menschen nicht durchblicken mag ja sein, bedeutet aber auch,
>dass wenigstens einige wenige die Komplexitaet der System uebersehen.
>Im Zweifelsfalle biete ich mich gerne als Versuchskaninchen an, jedes
>beliebige komplexe System zu ueberschauen.
Es geht hier nicht darum, dass wir heutzutage alle einen Fernsehen ein-
schalten und dann eigentlich nur nicht ansatzweise wissen, wie das Teil
funktioniert. Selbiges gilt natuerlich auch fuer Rechner, Programme, etc.
Es geht darum, dass du noch bei deinem Hello World Programm sagen kannst,
was passiert, aber du bei einem 100.000 zeiligen komplexen Programm
eben auf Grund der Eingabe nicht mehr 100% alle Ausgabemoeglichkeiten
feststellen kann. Bitte genau beachten: Es ist nicht zu viel Aufwand, es
ist nicht moeglich. Ok. Es gibt Verifizierungsmoeglichkeiten, wie z.B.
Fixpunktsatz oder wp-Semenatik. Aber die Theorie sagt auch, dass ein
Programm ab einer bestimmten Groesse damit nicht mehr verifiziert werden
kann. (Aeh ... ist in unseren Script in der Naehe des "Satz von Rice"
gezeigt).
Uebrigens kannst du daraus auch ableiten, dass kein Programm "Sicher" sein
kann und das es kein "ultimates VIrenerkennungsprogramm" geben kann, aber
das nur nebenbei.
>sicher ein grosses Problem. Die System sind ueberblickbar, die
>Uebersicht im Einzelfalle aber wirklich zu behalten, ist of so
>unoekonomisch, dass niemand dafuer vorgehalten werden kann.
Das ist leider ein Denkfehler, die viele Programmierer (und aus dem
"Ingenieursdenken" kommt) machen. Sie sagen sich, dass - wenn es ein
wirklich wichtiges Programm waere - dann wuerde mensch es beweisen und
damit sei der "Verantwortung" genuege getan. Dem ist aber mitnichten so.
>verfuegbaren Zeit. Damit gibt es viele komplexe Systeme, die von
>niemandem wirklich ueberblickt werden. Die Frage ist: Sollten wir
>uns das wirklich leisten?
Bevor ich versuche das fuer mich zu beantworten, noch ein paar
Ueberlegungen:
Ein Computer arbeitet von Natur aus mit Wahr/Falsch Logik. Es gibt viele
Aufgaben im taeglichen Leben, die sich damit loesen lassen. Diese sind
dann auch vollstaendig mit einem Computer "berechenbar" (was noch nicht
heisst, dass das Programm ueberschaubar ist).
Es gibt aber auch viele Probleme, da geht es um ein Abwegen von Vor- und
Nachteilen oder Meinungen. Beispielsweise im Krankenhaus bei der Diagnostik.
Dort werden zum Teil aber auch sogenannte Expertensysteme eingesetzt und
da fragt mensch sich einfach: Ist das verantwortbar ?
Der Mensch sollte so "frei" sein auch zu sagen, dass an bestimmten Stellen
eben KEIN Computer eingesetzt wird. Und diese Entscheidung muss von vielen
Leuten getroffen werden. DAS solche Entscheidungen notwendig sind, sollten
besonders die Informatiker sagen.
>resultiert? Veraendern wir doch probehalber unsere Moral in
>Gedanken dahingehend, dass wir sehr wohl den Vorwurf erheben koennen!
[..]
>erfahrungsgemaess braucht, eine hoehere Inegration der Teile seines
>Selbst, oder baut die beklagte "Bewusstseinsspaltung" ab, wie uns
>die empirische Sozialpsychologie lehrt.
Also von der verwendeten Formulierungsart reicht das glatt an Karl Marx
Schriften ran. (Formulierung. Nicht Inhalt. Wollte damit sagen, dass da
ganz schoene Bandwurmsaetze sind, die das nachvollziehen deiner Gedanken
schwierig machen - einfacher waere hier wohl auch "mehr" gewesen. :-) ).
>Es stehen uns keine
>Vorhersagen ueber die praktischen Verhaltensfolgen oder -Aenderungen
>zur Verfuegung, ob Personen infolge dieses Integrationsprozesses bei
>offensichtlichen Zielkonflikten, wie in unserem Beispiel, eher zur
>einen oder zur anderen Seite neigen werden, oder gar gaenzlich neue
>Wege und Zielvorstellungen entwickelt werden, steht ausserhalb des
>vorab bestimmbaren Erwartungshorizonts.
Das ist dasselbe wie der Laplace's Demon, der alles und daher die Zukunft
von allen kennt. Wir wissen inzwischen, dass ein solcher Daemon unmoeglich
ist und aus den selben Gruenden ist die Vorhersage von Ereignissen oder
Verhalten unmoeglich.
(Dabei gilt hier "wissen" immer als "wissen nach heutigen Stand").
[..]
>der Trennung fuehrte uns ja zu der Beschreibung als einer "Bewusst-
>seinsspaltung") durch eine kleine Aenderung an der geltenden Moral
>eher, und wahrscheinlicher, miteinander verbinden, mithin zu einem
>vermutlich komplexeren Gesamtsystem werden. Das soll uns, so
>war der gedankliche Ansatz, besser in die Lage versetzen, komplexe
>Systeme zu ueberblicken und zu beherrschen. Das ist wahrscheinlich,
[..]
Dann gehst du aber davon aus, dass unser Problem nur unsere Annahmen oder
wie du es sagst, unsere "Moral" ist. Natuerlich heisst das schlussendlich,
das du Frank Moeller widersprichen musst, bei einer solchen Ansicht. :-)
Die Frage ist nur, ob du richtig vorgehst. Die Fragen, die in dem
Text von Frank aufgeworgen sind, sind eben auch keine Frage die mit
Ja/Nein beantwortet werden kann. Daher kannst du nicht irgendwo indirekt
sagen, dass da von falschen BEhauptungen ausgegangen wird. Nicht mal,
dass sie unvollstaendig waren oder nur durch eine bestimmte Moral vor-
gegeben werden. Es sind Sichtweisen und Meinungen, die eben nicht wahr,
falsch, unvollstaendig oder absolut sind. Du kannst daher zwar
versuchen zu analyisieren, welche "Moral" Frank annahm. Schlussendlich
existiert aber diese eine Sichtweise mit der du dich auseinandersetzen
musst.
>Ein Argument das mir vor bald zwanzig Jahren in der Physik
>von einem Ausbilder auf eine gleichlautende Beschwerde hin
>engegengebracht wurde:
[..]
Hmmm. Also dein Text wuerde sich schon allein wegen dem Zitat lohnen.
Hoffentlich haben nicht alle vorher aufgehoert zu lesen. Diese Sicht-
weise ist mir neu und rueckt sicher einiges was an der Uni geschieht
in ein anderes Licht. Allerdings bin ich davon ueberzeugt, dass es
an der Uni eben nicht wirklich konsequent solche Gedanken und Hinter-
gruende gibt. Ebenso wie gesagt wird, an der Uni lernen wir nicht das
fuer die Praxis wichtige wissen, sondern das methodische und wissen-
schaftliche Arbeit (was zu deinen Zitat sogar im Widerspruch zu stehen
scheint).
>> Die Technik der Mailboxen bietet die Moeglichkeit dazu.
>Ich bin dieser Meinung, trotz regelbestaetigender Ausnahmen,
>und obwohl ich deswegen noch lange nicht auf Mailboxen
>verzichten moechte.
>Mailboxen unterscheiden sich systematisch-funktionell nicht
>von der herkoemmlichen Presse und der herkoemmlichen Post,
>ja, sie sind derzeit nicht mal wirklich schneller, besser oder
>effektiver.
Korrekt. Die Benutzungsoberflaechen der Mailboxen sind nicht dafuer
ausgelegt mit grossen Datenmengen, der Informations-Recherche, etc
umzugehen. Auch der gute Ansatz vom GeoNet ist mit der Informations-
flut nicht gewachsen. Die beste Perversion ist dann dabei noch, dass
- anders als am Anfang die GeoShell - viele Systeme (z.B. Zerberus) die
Oberflaeche genommen und erweitert haben und der Meinung war: "Was am
Anfang ergonomisch sinnvoll ist, kann durch Erweiterungen ja nicht
unsinnvoll waeren".
Desweiteren haben wir eine fuer Mailboxen (und Netze) veraltete
Kommunikationsmodelle. Wir sind alle mit dem Gedanken aufgewachsen, dass
irgendwo Informationen herkommen, wir sie aufnehmen (evntl. verarbeiten)
und das wars. Jetzt sind wir ploetzlich gleichberechtigt mit allen anderen
und es gibt eine riesige "natuerliche" Datenbank aus Millionen von Benutzern
mit ihren Wissen und persoenlichen Erfahrungen. Ein Potential was die
Datenbankanbieter pleite machen koennte und von keinen richtig genutzt
wird. Sogar eine "natuerliche" Fehlerkorrektur waere dabei: Jemand gibt
eine Antwort (und damit Information). Ist diese falsch oder unvollstaendig,
dann wird schon jemand darauf reagieren. Auch heute ist es noch die beste
Methode eine Antwort im Netz zu bekommen, indem mensch eine Frage stellt und
unter anderen Account diese Frage "falsch" beantwortet.
Auch fuer die Meinungsbildung ist das Netz optimal. Waehrend ich bei anderen
Medien z.B. Zeitungen verschiedener Richtungen kaufen muss, um moeglichst
viele verschiedene Sichtweisen zu bekommen, kriege ich hier das thematisch
und geballt (und sind dann bei dem Problem, dass wir die Freizeit in Zukunft
zum Teil fuer "Meinungsbildung" einzusetzen bereit sein muessten, damit das
ganze auch positive Auswirkung auf Gesellschaft und Demokratie hat).
Das so als Anmerkung von mir ... mal sehen, was noch so kommt ... :-)
Terra
--
-------------------------------------------------------------------------------
! Frank Simon (Terra), Ammerlaender Heerstr. 389, D-2900 Oldenburg, FRG !
! te...@sol.ccc.de, te...@sol.zer, ext/si...@kmx.gmd.dbp.de, +49 441 76206 !
! Ich bin ein .signature Virus. Mach mit und kopiere mich in Deine .signature !
-------------------------------------------------------------------------------