[Game Over Overture] Digital Overkill - "Geistes(abschaffungs)automation in der Digitalsoziologie"(?/!) -

'RESOLUTION' 'Entgegen dem Glauben, dass Computersysteme unfehlbar sind, ist es eine Tatsache ,dass Computersysteme fehlerhaft arbeiten können und dies auch tun. Es ist daher nicht möglich, die Zuverlässigkeit eines von Computern abhängigen Systems als gewährleistet zu betrachten. Dies gilt für alle computerabhängigen Systeme, in besonders kritischer Weise jedoch für Systeme, deren fehlerhaftes Verhalten ein grosses Risiko für die Öffentlichkeit darstellt. In zunehmendem Masse hängt menschliches Leben von der Sicherheit solcher Systeme ab. Gedacht ist dabei an Kontrollsysteme für Luftverkehr und schnelle Bodentransportmittel, Waffenleitsysteme und Systeme der Verteidigung oder Systeme in der Gesundheitsfürsorge und Diagnostik. Wenngleich es nicht möglich ist, Fehler in computerabhängigen Systemen vollständig auszuschalten, so glauben wir doch, dass es möglich ist, die Risiken für die Öffentlichkeit auf ein annehmbares Mass zu senken. Um dies zu erreichen, müssen Systemingenieure Fragen der Zuverlässigkeit stärkere Aufmerksamkeit schenken und sie vermehrt berücksichtigen. Die Öffentlichkeit hat das Recht zu verlangen, dass Systeme nur dann installiert werden, wenn geeignete Schritte unternommen worden sind, ihre Zuverlässigkeit in ausreichendem Masse zu garantieren. Die Themen und Fragen zur Zuverlässigkeit, die gestellt werden müssen, sind unter anderem folgende: 1. Welche Risiken und Auswirkungen entstehen bei fehlerhaftem Verhalten des Computersystems? 2. Was ist ein vernünftiger und realistischer Grad der Zuverlässigkeit, den man verlangen kann, und wird dieser Grad der Zuverlässigkeit vom System erreicht? 3. Welche Hilfsmittel werden verwendet, den Grad der Zuverlässigkeit zu bestimmen und zu verifizieren? Sind diejenigen, die den Grad der Zuverlässigkeit bestimmt haben, andere als diejenigen, die ihn verifiziert haben? Und sind diese wiederum unabhängig von denen, die ein ökonomisches oder politisches Interesse am System besitzen?' (ACM, 1985)