ΚΥΒΕΡΝΗΤΙΚΗ

Ή έλεγχος και επικοινωνία στα ζώα και στις μηχανές

NORBERT WIENER

ΕΚΔ. ΚΑΣΤΑΝΙΩΤΗ - ΜΤΦ. Ι. Σιατίτσας & Π. Παπαχρήστου – 1948 & 1961

Απόσπασμα από το κεφάλαιο:

« ΜΑΝΘΑΝΟΥΣΕΣ ΚΑΙ ΑΥΤΟ-ΑΝΑΠΑΡΑΓΟΜΕΝΕΣ ΜΗΧΑΝΕΣ »

« Δεν υπάρχει τίποτε πιο επικίνδυνο από τη σχεδίαση ενός Τρίτου Παγκοσμίου Πολέμου. Αξίζει να εξετάσουμε, αν και κατά πόσον μέρος του κινδύνου είναι δυνατό να μην ενυπάρχει στην αλόγιστη χρήση των μανθανουσών μηχανών. Κατ’ επανάληψη άκουσα τη δήλωση ότι οι μανθάνουσες μηχανές δεν μπορούν να μας υποβάλουν σε κανένα νέο κίνδυνο, διότι μπορούμε να τις διακόψουμε όταν αντιληφθούμε κάτι τέτοιο. Αλλά αληθινά μπορούμε; Για να διακόψουμε μια μηχανή αποτελεσματικά, πρέπει να κατέχουμε την πληροφορία για την πιθανή άφιξη του επικίνδυνου σημείου. Το γεγονός και μόνο ότι έχουμε κατασκευάσει τη μηχανή, δεν μας εγγυάται ότι θα έχουμε την ακριβή πληροφορία για να την διακόψουμε. Αυτό ήδη εμπεριέχεται στη δήλωση ότι η μηχανή, που παίζει ντάμα, μπορεί να νικήσει τον προγραμματιστή της και αυτό μετά από πολύ λίγο χρόνο λειτουργίας. Επιπλέον η υψηλή ταχύτητα λειτουργίας των συγχρόνων ψηφιακών μηχανών, εμποδίζει τις δυνατότητές μας να αναληφθούμε και να εξετάσουμε τις ενδείξεις του κινδύνου.

 Η ιδέα μη ανθρωπίνων μηχανών, μεγάλης ισχύος και εξαιρετικής δυνατότητας διεκπεραίωσης μιας τακτικής και των κινδύνων τους, δεν είναι νέα. Αυτό που είναι νέο είναι ότι τώρα έχουμε στη διάθεσή μας αποτελεσματικές μηχανές αυτού του είδους. Κατά το παρελθόν όμοιες δυνατότητες αποδίδονταν στην τέχνη της μαγείας, που παρέχει το θέμα γα πολλούς μύθους και λαϊκές ιστορίες. Αυτές οι ιστορίες έχουν διερευνήσει καθ’ ολοκληρία την ηθική θέση του μάγου. Εξέταση ήδη μερικές απόψεις της μυθολογικής ηθικής του μαγικού σε ένα προηγούμενο βιβλίο μου, με τίτλο «The Human Use of Human Beings». Επαναλαμβάνω εδώ λίγο από το υλικό αυτού του βιβλίου με σκοπό να το δώσω ακριβέστερα, στη νέα του συσχέτιση με τις μανθάνουσες μηχανές.

 Ένας από τους γνωστότερους μύθους μαγείας είναι ο «Μαθητευόμενος Μάγος» του Goethe. Σε αυτόν, ο μάγος αφήνει το μαθητή του και υπηρέτη του μόνο με την εντολή να φέρει νερό. Καθώς το παιδί είναι αφελές και απλοϊκό, αναθέτει τη δουλειά σε μια σκούπα, προς την οποία προφέρει τις μαγικές λέξεις, όπως τις άκουσε από το δάσκαλό του. Η σκούπα εκτελεί τη δουλειά πιστά, χωρίς ανάπαυλα. Το αγόρι κινδυνεύει να πνιγεί. Αντιλαμβάνεται ότι δεν έχει μάθει, ή λησμόνησε, τη δεύτερη μαγική λέξη, με την οποία σταμάτα η σκούπα. Απελπισμένο, αρπάζει τη σκούπα, τη σπάζει, και ανακαλύπτει έκθαμβο ότι τα δύο μισά της σκούπας εξακολουθούν να φέρουν νερό. Ευτυχώς πριν ο μαθητής πνιγεί ο δάσκαλος επιστρέφει, προφέρει τις λέξεις της Δύναμης για να σταματήσει η σκούπα και τιμωρεί το μαθητή.

 Μια άλλη ιστορία είναι ο μύθος των Αραβικών Νυκτών του ψαρά και του ξωτικού. Ο ψαράς συλλαμβάνει στο δίχτυ ένα λαγήνι σφραγισμένο με τη σφραγίδα του Σολομώντα. Είναι ένα από τα λαγήνια στα οποία ο Σολομών είχε φυλακίσει ένα από τα άτακτα πνεύματα. Το πνεύμα προβάλλει μέσα από ένα σύννεφο καπνού και ομολογεί στον ψαρά ότι, ενώ κατά τον πρώτο χρόνο της φυλακής του είχε αποφασίσει να ανταμείψει τον ελευθερωτή του με δύναμη και τύχη, τώρα αποφάσισε να των θανατώσει. Ευτυχώς ο ψαράς βρήκε ένα τρόπο να ξαναβάλει το ξωτικό στο λαγήνι και να το ρίξει στον ωκεανό.

 Τρομερότερος από τους δύο αυτούς μύθους είναι ο μύθος του ποδιού του πίθηκου. Γράφτηκε από τον W. W. Jacobs, έναν άγγλο συγγραφέα των αρχών του αιώνα. Ένας συνταξιούχος άγγλος εργάτης, γευματίζει με τη γυναίκα του και ένα φίλο του, κάποιον άγγλο επιλοχία, που επέστρεψε από την Ινδία. Ο επιλοχίας δείχνει στο ζεύγος ένα φυλαχτό, κατασκευασμένο από ένα βαλσαμωμένο πόδι πιθήκου, το οποίο του είχε δώσει κάποιος Ινδός άγιος. Ο άγιος ήθελε να δείξει την αφροσύνη όσων προκαλούν τη μοίρα. Το φυλαχτό είχε τη δύναμη να παραχωρεί τρεις ευχές σε τρεις ανθρώπους. Όπως λέει ο στρατιώτης, δεν ξέρει για τις δύο πρώτες ευχές του πρώτου ιδιοκτήτη, αλλά η τελευταία του ήταν για θάνατο. Ο ίδιος, όπως διηγείται στους φίλους του, είναι ο δεύτερος κάτοχος, αλλά δεν θα μιλήσει για τη φρίκη της προσωπικής του εμπειρίας. Πετά το πόδι στη φωτιά, αλλά ο φίλος του το παίρνει, θέλοντας να δοκιμάσει τις δυνάμεις το φυλαχτού. Η πρώτη του ευχή είναι για 200 λίρες. Μετά από λίγο, κτυπούν την πόρτα, και ένας από του Διευθυντές της Εταιρείας, όπου εργαζόταν ο γιος του εργάτη, μπαίνει στο δωμάτιο. Πληροφορεί ,τον πατέρα, ότι ο γιος τους σκοτώθηκε στο μηχανουργείο. Η εταιρία, χωρίς να αναγνωρίζει καμία ευθύνη, επιθυμεί να δώσει παρηγορητικά στον πατέρα 200 λίρες. Ο βαθιά λυπημένος πατέρας κάνει τη δεύτερη ευχή του – να επιστρέψει ο γιος του. Ένα δεύτερο χτύπημα ακούγεται από την πόρτα και εμφανίζεται κάτι, το οποίο είναι το φάντασμα του γιου. Η τελευταία ευχή είναι να έφευγε το φάντασμα.

 Σε όλους αυτούς τους μύθους, το σημαντικό σημείο είναι ότι οι πράκτορες της μαγείας σκέπτονται κυριολεκτικά. Αν ζητήσουμε ένα αγαθό από αυτούς, πρέπει να ζητήσουμε εκείνο που πράγματι θέλουμε και όχι αυτό που νομίζουμε ότι θέλουμε. Οι νέες και πραγματικές δυνατότητες των μανθανουσών μηχανών είναι επίσης κυριολεκτικές. Αν προγραμματίσουμε μια μηχανή για να νικήσει σε ένα πόλεμο, πρέπει να σκεφτούμε καλά τι ακριβώς εννοούμε λέγοντας «να νικήσει». Μία μανθάνουσα μηχανή πρέπει να προγραμματίζεται με βάση την εμπειρία. Η μόνη εμπειρία από ένα πυρηνικό πόλεμο, η οποία δεν είναι απόλυτα καταστροφική, είναι η εμπειρία ενός πολεμικού παιχνιδιού. Αν σκοπεύουμε να χρησιμοποιήσουμε αυτή την εμπειρία σαν οδηγό για τη δράση μας σε ένα πραγματικό πόλεμο, οι σταθμίσεις που αντιστοιχούν στη νίκη και που χρησιμοποιήθηκαν κατά τα παιχνίδια προγραμματισμού, πρέπει να ταυτίζονται με τις σταθμίσεις που αντιστοιχούν στο αποτέλεσμα ενός πραγματικού πολέμου, και τις οποίες κρατούμε στη μνήμη. Είναι δυνατό να αστοχήσουμε μόνο σε αυτό, πλην όμως θα έχουμε εκτεθεί πλέον στον κίνδυνο άμεσα, ολότελα και ανεπανόρθωτα. Είναι αδύνατο να αναμένουμε από τη μηχανή, να μας ακολουθήσει σε εκείνες τις προκαταλήψεις και τους συγκινησιακούς συμβιβασμούς, με τους οποίους παρέχουμε στους εαυτούς μας τη δυνατότητα να ονομάζουμε τον όλεθρο, νίκη. Αν ζητάμε τη νίκη και δεν ξέρουμε τι ακριβώς εννοούμε με αυτό, θα αντικρύσουμε το φάντασμα στην πόρτα μας. » 

ΚΥΒΕΡΝΗΤΙΚΗ

NORBERT WIENER

ΕΚΔ. ΚΑΣΤΑΝΙΩΤΗ - ΜΤΦ. Ι. Σιατίτσας & Π. Παπαχρήστου

1948 & 1961