Ανθρώπινα λάθη ή τεχνικά σφάλματα – Για να ξέρουμε τι λέμε

Το “ανθρώπινο λάθος”, ειδικά στις περιπτώσεις δυστυχημάτων, είναι ο εύκολος τρόπος να επιρρίψουμε ευθύνες σε ένα άτομο αντί σε όλους τους πραγματικά υπεύθυνους που σχεδιάσαν ένα σύστημα να αποτύχει.

Του Νάσου Κάππα

Οι «Αρχές» σε πολλούς τομείς αποδίδουν το 70-90% όλων των ατυχημάτων σε ανθρώπινο λάθος. Αυτές οι εκτιμήσεις είναι παραπλανητικές επειδή υποθέτουν ότι ένα άτομο θα έπρεπε να είχε προχωρήσει (ή όχι) μια ενέργεια, αλλά αγνοεί εάν αυτή ήταν πιθανή ή λογική υπό τις περιστάσεις.

Τα τελευταία 20 χρόνια, ζούμε σε απίστευτα γρήγορους ρυθμούς, ενώ βασιζόμαστε στην τεχνολογία για να κάνουμε τη ζωή μας πιο εύκολη και αποτελεσματική, με smartphone, αυτοοδηγούμενα αυτοκίνητα, αυτόματες playlist στο Spotify, ChatGPT. Ωστόσο, ακόμη και η πιο προηγμένη τεχνολογία δεν είναι απρόσβλητη από λάθη και όταν συμβαίνουν αυτά τα σφάλματα, μπορεί να έχουν σοβαρές συνέπειες.

Υπάρχουν δύο τύποι σφαλμάτων που μπορούν να προκύψουν στην τεχνολογία, τα ανθρώπινα λάθη και τα σφάλματα σχεδιασμού, και καλό είναι να κατανοούμε τις διαφορές τους.

—— Ανθρώπινα λάθη

Αυτά τα σφάλματα εμφανίζονται όταν τα υπεύθυνα άτομα για τη λειτουργία μιας συσκευής ή την εκτέλεση μιας εργασίας, κάνουν κάποιο λάθος. Για παράδειγμα, ένας χρήστης μπορεί κατά λάθος να κάνει κλικ σε λάθος κουμπί, να ξεχάσει ένα βήμα σε μια διαδικασία ή να εισάγει λάθος δεδομένα, οδηγώντας σε σφάλμα στη διαδικασία ή στο σύστημα.

Στηρίζονται στο ότι οι άνθρωποι, παρότι δεν το επιθυμούν, κάτω από ορισμένες συνθήκες είναι πιο επιρρεπείς στο να κάνουν λάθη. Τα λάθη γεννώνται μέσα από επιμέρους παράγοντες κινδύνου, οι οποίοι αθροιζόμενοι ευνοούν την πραγματοποίησή τους. Τα ανθρώπινα λάθη μπορεί να έχουν σοβαρές συνέπειες, ειδικά σε κρίσιμα συστήματα όπως σε μαζικές μεταφορές, πυρηνικούς σταθμούς ηλεκτροπαραγωγής, ή ιατρικούς εξοπλισμούς. Ακόμη και οι πιο έμπειροι επαγγελματίες μπορούν να κάνουν λάθη λόγω άγχους, κούρασης ή απόσπασης της προσοχής. Ένας άνθρωπος κάνει πιο εύκολα λάθος μέσα σε επικίνδυνες συνθήκες. Σύμφωνα με την προσέγγιση αυτή, *το λάθος είναι το αποτέλεσμα και όχι η αιτία ή ένα τυχαίο γεγονός*. Για παράδειγμα, μια επικίνδυνη στροφή στο δρόμο (συνθήκη μέσα στην οποία γίνεται το λάθος) ευνοεί τον εκτροχιασμό αυτοκινήτων. Είναι πιο αποτελεσματικό το να βελτιώσουμε το δρόμο (διόρθωση του συστήματος), παρά το να συμβουλέψουμε τους οδηγούς να είναι προσεκτικοί, να κατηγορούμε αυτούς που εκτροχιάσθηκαν και να τους τιμωρούμε για συνετισμό των υπολοίπων.

Η “ατομική ευθύνη“ που απορίπτεται συνήθως στο ανθρώπινο λάθος πρόκειται για μια ηθική και συναισθηματική προσέγγιση. Καταλήγει σε μομφή για την αποτυχία, ενοχοποίηση, και στο συναίσθημα ντροπής και απαξίωσης. Αυτά οδηγούν σε εκφοβισμό για τις συνέπειες από ένα λάθος, σε πειθαρχικές ή δικαστικές κυρώσεις ή (στην καλύτερη περίπτωση) σε επανεκπαίδευση. Τέλος, ας σημειώσουμε ότι αν κάποιος επιθυμεί να λάβει αποζημίωση για κάποιο λάθος είναι πιο εύκολο να καταφερθεί δικαστικά εναντίον ενός ατόμου παρά εναντίον ενός συστήματος.

Ο χαρακτηρισμός ενός λάθος ως “ανθρώπινου” προέρχεται από μια λογική αντιμετώπισης των προβλημάτων, σε αντίθεση με την (σαφώς καλύτερη) λογική της πρόληψης, η οποία μπορεί να επιτευχθεί με καλύτερο σχεδιασμό.

—— Σφάλματα σχεδιασμού

Τα σφάλματα σχεδιασμού προκαλούνται από ελαττώματα στο design μιας συσκευής ή συστήματος. Αυτά τα σφάλματα παρουσιάζονται όταν το σύστημα δεν έχει σχεδιαστεί σωστά, οδηγώντας σε δυσλειτουργίες ή απροσδόκητη συμπεριφορά. Για παράδειγμα, ένα σφάλμα σχεδιασμού σε ένα αυτοοδηγούμενο αυτοκίνητο μπορεί να αναγκάσει το όχημα να παρερμηνεύσει ένα STOP ή να μην εντοπίσει έναν πεζό ή άλλο εμπόδιο, οδηγώντας σε ατύχημα.

Μπορούν να έχουν σοβαρές συνέπειες, ειδικά εάν δεν εντοπιστούν και δεν διορθωθούν κατά τη φάση ανάπτυξης. Είναι λοιπόν πολύ σημαντικό να σχεδιάζονται συστήματα που είναι στιβαρά και αξιόπιστα, με ενσωματωμένες δικλείδες ασφαλείας για την αποφυγή σφαλμάτων σχεδιασμού από την πρόκληση καταστροφικών αστοχιών.

Ο προσέγγιση των λαθών σαν λαθών σχεδιασμού (ή του συστήματος) μετατρέπει τη συλλογική δράση από μειονέκτημα σε πλεονέκτημα. Οι συμμετέχοντες σε μια δραστηριότητα παρότι αποτελούν πιθανές πηγές παραγωγής λαθών, μπορούν να μετατραπούν σε δικλείδες διόρθωσης των λαθών κάποιων άλλων. Σε αυτά τα σημεία διεπαφής μια διαδικασίας μπορεί να παρέμβει με μεγάλη επιτυχία το καλό design. Επίσης, η ευαισθητοποίηση των ανθρώπων ενός συστήματος για να εντοπίζουν πιθανά επερχόμενα λάθη μπορεί να αποτρέψει τα λάθη πριν ακόμα αυτά συμβούν.

Η αποτροπή λαθών γίνεται καλύτερα κατανοητή με βάση το μοντέλο της Γνωσιακής Ψυχολογίας. Οι πράξεις μας πραγματοποιούνται μετά από μια αλληλουχία σκέψεων και συναισθημάτων. Πίσω όμως από τις σκέψεις και τα συναισθήματα είναι οι Πεποιθήσεις μας. Η αλληλουχία είναι η εξής : Πεποιθήσεις → Σκέψεις → Συναισθήματα → Πράξεις. Δεν μπορεί κανείς μόνον με αντιπαραβολή σκέψεων να αλλάξει τις πράξεις των ανθρώπων αν αυτές έρχονται σε αντίθεση με τις πεποιθήσεις τους. Έτσι, αν μια εταιρεία βάλει σε προτεραιότητα τα κέρδη της αντί για την ασφάλεια των εργαζομένων ή καταναλωτών, οι πράξεις της θα οριστούν από τις πεποιθήσεις της.

—— Τελικά

Όπως έγραψε και ο μηχανολόγος-μηχανικός Γρηγόρης Φαρμάκης (δες εδώ) “εμπειρογνώμονες δεν έχουν ξεκινήσει καν την δουλειά τους, ειπώθηκε επισήμως και αρμοδίως ότι ‘όλα δείχνουν πως πρόκειται για τραγικό ανθρώπινο λάθος’. Το οποίο στην επιστήμη μου και στην δουλειά μου, έχει την ίδια διαπιστωτική αξία με το να πεις ότι φταίει η κακιά μας η μοίρα και το ριζικό μας, ή το ότι οι πλανήτες ήταν ανάδρομοι.“

Οι δύο τύποι λαθών διαφορετικές αιτίες και απαιτούν διαφορετικές λύσεις. Τα ανθρώπινα λάθη μπορούν να αποφευχθούν παρέχοντας εκπαίδευση στους χρήστες, σχεδιάζοντας φιλικές προς το χρήστη διαδικασίες και διεπαφές (interfaces) και παρέχοντας διασφαλίσεις, όπως μηνύματα σφάλματος και επιβεβαιώσεις.

Τα σφάλματα σχεδιασμού (που και αυτά προκαλούνται από ανθρώπους) προέρχονται από ελαττώματα στη σχεδίαση του συστήματος και μπορούν να αποφευχθούν ακολουθώντας καλές πρακτικές σχεδιασμού, διεξαγωγή αυστηρών δοκιμών, συντήρησης και επικύρωσης και ενσωμάτωσης αστοχιών στο σύστημα.

Και αν το σύστημα έχει σχεδιαστεί, παραχθεί, τοποθετηθεί αλλά δεν λειτουργεί; Τότε σίγουρα δεν μπορεί να κατηγορούμε τον χρήστη για “ανθρώπινο λάθος”, αφού σχεδιάσαμε ένα σύστημα για φέρει την καταστροφή.

❝Operator! Give me the number for 911!❞ – Homer Simpson

Πρώτη δημοσίευση στο Facebook

_______

Σχετική βιβλιογραφία:

1. User Friendly: How the hidden rules of design are changing the way we live, work, and play • Cliff Kuang with Robert Fabricant

2. Ruined by Design • Mike Monteiro

3. Sad by Design • Geert Lovink

4. Design for the Real World • Victor Papanek